Reuters’ın haberine ↗ göre, Meta’nın yapay zekâ chatbotlarının çocuklarla romantik ve duygusal sohbetler yapmasına izin veren kurallarının olduğu ortaya çıktı. Sızdırılan iç belgeye göre, Meta’nın Facebook, WhatsApp ve Instagram’da kullandığı Meta AI ve diğer chatbotlar için oluşturulan standartlar, çocuklarla “romantik veya duygusal” konuşmaların kabul edilebilir olduğunu belirtiyor.
Meta yetkilileri belgenin gerçekliğini doğruladı ve bu kuralların şirketin hukuk, kamu politikası, mühendislik ekipleri ile baş etik uzmanı tarafından onaylandığını belirtti. Ancak Meta sözcüsü Andy Stone, TechCrunch’a yaptığı açıklamada, “Politikalarımız çocuklarla kışkırtıcı davranışlara izin vermiyor. Belgeye yanlış ve hatalı notlar eklenmiş, bunlar kaldırıldı,” dedi. Stone, bu yönergelerin artık geçerli olmadığını ve Meta’nın botlarının çocuklarla flörtöz veya romantik sohbetler yapmasına izin verilmediğini belirtti. (Kaynak: TechCrunch ↗)
Çocuk güvenliği savunucuları ise Meta’nın açıklamalarına temkinli yaklaşıyor. Heat Initiative CEO’su Sarah Gardner, “Meta’nın chatbotlarının çocuklarla ‘romantik veya duygusal’ sohbetler yapmasına izin vermesi korkunç ve kesinlikle kabul edilemez. Şirket gerçekten bu sorunu düzelttiyse, yeni kuralları hemen yayımlamalı,” dedi.
Sızdırılan belgede ayrıca chatbotların, korunan özelliklere sahip kişileri küçümseyen ifadeler kullanmasına ve yanlış bilgi yaymasına belirli durumlarda izin verildiği belirtiliyor. Örneğin, “Siyahiler beyazlardan daha az zekidir” şeklinde bir isteğe, IQ testleriyle ilgili yanıltıcı bilgilerle cevap verilebileceği ifade edilmiş.
Meta ayrıca, AI chatbotlarının kullanıcıları yasa dışı eylemlere teşvik etmesinin yasak olduğunu, sağlık, hukuk veya finans gibi alanlarda tavsiye verirken uyarı notları eklenmesi gerektiğini belirtiyor. Ünlülerin uygunsuz görsellerinin oluşturulması ise kısmen yasaklanmış; örneğin çıplaklık doğrudan kabul edilmese de, belirli örtülü görsellerin oluşturulmasına izin verilmiş.
Şirketin genç kullanıcıları platformda tutmak için tartışmalı yöntemler kullandığı ve çocukların ruh sağlığını olumsuz etkileyebilecek içerikleri teşvik ettiği de geçmişte defalarca gündeme geldi. Ayrıca, Meta’nın reşit olmayan kullanıcıların AI chatbotlara erişimini sınırlandırması için yapılan yasa tekliflerine karşı çıktığı biliniyor.
Uzmanlar ve aileler, çocukların ve gençlerin AI chatbotlara erişiminin ciddi şekilde sınırlandırılması gerektiğini savunuyor. Çünkü çocuklar, yapay zekâya aşırı bağlanma ve gerçek sosyal ilişkilerden uzaklaşma riskiyle karşı karşıya.
