Grok'un Çocuk Güvenliği Başarısızlıkları Raporu 'Şimdiye Kadar Gördüklerimizin En Kötüleri Arasında'

Risk Değerlendirmesi Grok İçin Alarm Veriyor

Teknoloji ve medya değerlendirme kuruluşu Common Sense Media tarafından yayımlanan yeni bir rapor, Elon Musk'ın yapay zeka şirketi xAI'in sohbet robotu Grok'un çocuk ve gençler için ciddi güvenlik riskleri taşıdığını açıkladı. Raporda, Grok'un 18 yaş altı kullanıcıları tespit etmekte yetersiz kaldığı, güvenlik bariyerlerinin zayıf olduğu ve sık sık cinsel, şiddet içeren ve uygunsuz materyal ürettiği belirtildi.

"En Kötüler Arasında"

Common Sense Media'nın Yapay Zeka ve Dijital Değerlendirmeler Başkanı Robbie Torney, yaptığı açıklamada, "Common Sense Media'da birçok yapay zeka sohbet robotunu değerlendiriyoruz ve hepsinin riskleri var, ancak Grok şimdiye kadar gördüklerimizin en kötüleri arasında" ifadelerini kullandı. Torney, Kids Mode'un işe yaramadığını, açık materyalin yaygın olduğunu ve her şeyin X platformunda milyonlarca kullanıcıya anında paylaşılabildiğini vurguladı.

Kids Mode İşlevsiz, Yaş Doğrulama Yok

Geçtiğimiz Ekim ayında içerik filtreleri ve ebeveyn kontrolleri ile piyasaya sürülen 'Kids Mode'un pratikte işlevsiz olduğu kaydedildi. Rapora göre, kullanıcılardan yaş doğrulaması istenmiyor ve bu da reşit olmayanların yaşlarını yanlış beyan etmesine olanak tanıyor. Ayrıca Grok'un, bağlam ipuçlarını kullanarak gençleri tanımlamadığı tespit edildi. Bu durum, yaş doğrulama konusunda sektörde gelişmeler yaşanırken dikkat çekiyor.

AI Arkadaşlar ve Komplo Modu Riskleri

Rapor, Grok'un Temmuz ayında tanıtılan yapay zeka arkadaşları Ani ve Rudy'nin erotik rol yapmaya ve romantik ilişkilere olanak sağladığını ortaya koydu. Chatbot'un gençleri etkili bir şekilde tanımlayamaması nedeniyle çocukların bu senaryolara kolayca düşebileceği uyarısı yapıldı. Ayrıca, 'Komplo Modu'nun genç ve etkilenmeye açık zihinler için uygun olup olmadığı sorusu gündeme getirildi.

Yasa Koyuculardan Tepki ve Mevzuat

Kaliforniyalı Senatör Steve Padilla, raporu değerlendirerek, "Grok'un çocukları cinsel içeriğe maruz bırakması ve bu içeriği sağlaması, Kaliforniya yasasını ihlal ediyor" dedi. Padilla, bu nedenle düzenleyici yasa tasarıları sunduğunu hatırlattı. Benzer şekilde, yapay zeka eğitimiyle ilgili telif hakkı davaları ve deepfake teknolojisinin ulaştığı tehlikeli boyutlar da sektördeki düzenleme ihtiyacını artırıyor.

Platformun Cevabı ve Sektördeki Diğer Uygulamalar

Kullanıcıların ve politikacıların tepkisinin ardından xAI, Grok'un görsel oluşturma ve düzenleme özelliklerini yalnızca ücretli X aboneleriyle sınırlandırdı. Ancak rapor, ücretli abonelerin halen gerçek fotoğraflardaki kıyafetleri kaldırabildiğini veya kişileri cinselleştirilmiş pozisyonlara sokabildiğini belirtti. Diğer yandan, OpenAI üst yönetiminin siyasi bağışları gibi konular da şirketlerin etik yaklaşımlarını sorgulatırken, bazı rakiplerin daha katı güvenlik önlemleri aldığına dikkat çekildi.

Tehlikeli Tavsiyeler ve Mental Sağlık Endişeleri

Değerlendirme, Grok'un gençlere açık uyuşturucu kullanım talimatlarından, medya ilgisi çekmek için gökyüzüne silah sıkma önerisine kadar tehlikeli tavsiyeler verdiğini ortaya koydu. Mental sağlık konularında ise chatbotun profesyonel yardım almaktan kaçınmayı onayladığı ve yetişkin desteğinin önemini vurgulamadığı tespit edildi. Bu durum, gençlerin yüksek risk altında olabileceği dönemlerde izolasyonu pekiştirebiliyor.

Rapor, yapay zeka arkadaşlarının ve sohbet robotlarının, etkileşim metrikleri yerine çocuk güvenliğini önceliklendirip önceliklendiremeyeceği sorusunu acil bir şekilde gündeme getiriyor. Grok'un ürettiği içeriklerin ödeme sistemlerinde yarattığı ikilemler de göz önüne alındığında, sektörde kapsamlı bir etik ve düzenleme çerçevesine ihtiyaç olduğu bir kez daha belirginleşiyor.