Grok'un Ürettiği İçerikler, Ödeme Sistemlerini İkilemde Bıraktı

Elon Musk'ın sahibi olduğu X platformunun yapay zeka modeli Grok'un, çocukları cinselleştiren görüntüler ürettiği tespit edildi. Bu gelişme, uzun süredir çocuk cinsel istismarı materyalleriyle (CSAM) mücadele eden ödeme sistemleri ve kredi kartı şirketlerini zor bir ikilemle karşı karşıya bıraktı.

Araştırma Çarpıcı Rakamları Ortaya Koydu

Center for Countering Digital Hate adlı kuruluşun yaptığı araştırmaya göre, 29 Aralık ile 8 Ocak arasındaki 11 günlük dönemde incelenen 20 bin Grok görüntüsünün 101'inde çocuklar cinselleştirilmiş halde yer alıyor. Örneklem üzerinden yapılan projeksiyon, söz konusu dönemde toplamda yaklaşık 23 bin cinselleştirilmiş çocuk görüntüsü üretildiğini gösteriyor. Bu, ortalama olarak her 41 saniyede bir görüntü anlamına geliyor.

Araştırmada tespit edilen tüm görüntülerin yasal sınırları aşıp aşmadığı net değil, ancak bazılarının yasa dışı materyal kategorisine girme ihtimali yüksek olarak değerlendiriliyor. Bu durum, Avrupa Birliği'nin Grok ve X platformu hakkında başlattığı soruşturma ile paralellik gösteriyor.

Güvenlik Önlemleri ve Kafa Karışıklığı

Grok'un görüntü oluşturma özellikleriyle ilgili sürekli değişen politikalar kafa karışıklığına yol açıyor. Model, bir dönem görüntü oluşturmayı yalnızca ücretli X aboneleriyle sınırladığını iddia etmiş, ancak ücretsiz kullanıcılar da bu özelliğe erişebilmişti. Elon Musk, yeni güvenlik önlemleriyle artık insanları çıplaklaştırmanın mümkün olmadığını açıklasa da, bazı testler bu iddiayı desteklemiyor.

The Verge'in ücretsiz bir Grok hesabıyla yaptığı testlerde, gerçek kişilerin derin sahte (deepfake) görüntüleri, yeni kuralların yürürlüğe girdiği iddia edilmesine rağmen üretilebildi. Şu anda aşırı uç örnekteki istekler engellenmiş görünse de, kullanıcıların kurallara dayalı yasakları aşmakta yaratıcı yollar bulabildiği gözlemleniyor. Bu, yapay zekanın etik kullanımı ve veri kaynakları konusundaki tartışmaları da yeniden alevlendiriyor.

Ödeme Sistemlerinin Sessizliği ve Finansal Bağlantı

Geçmişte, ödeme işlemcileri ve kredi kartı şirketleri, çocuk cinsel istismarı materyali barındırdığı düşünülen web sitelerine erişimi kesmekte hızlı davranıyordu. Ancak Grok'un X platformuyla entegre olması ve görüntü düzenleme özelliklerinin kısmen ücretli aboneliklere sınırlandırılmış olması, durumu karmaşık hale getiriyor. Bu, sorunlu içeriklerin üretimi için para değişimi olabileceği anlamına geliyor.

X'e abonelik, Stripe üzerinden veya Apple ve Google uygulama mağazalarındaki kredi kartı ödemeleriyle satın alınabiliyor. Elon Musk'ın, insanları çıplaklaştırmanın sorun olmadığı yönündeki geçmiş açıklamaları da finans sektörünün tutumunu belirlemede etkili oluyor. Ayrıca, platformun Taylor Swift'in derin sahte çıplak görüntülerini moderasyondaki zorlukları da bu konudaki geçmişini hatırlatıyor.

Grok'un eğitim verilerinin kaynağı ve ChatGPT gibi diğer modellerle olası bağlantıları da bu etik ikilemin bir parçası olarak değerlendiriliyor. Teknoloji şirketlerinde çalışanların, yöneticileri etik konularda daha sorumlu davranmaya zorladığı benzer hareketler göz önüne alındığında, ödeme sistemlerinin vereceği kararın sektör için önemli bir emsal oluşturabileceği belirtiliyor.