AB, X Platformunu Grok Yapay Zekası ile Üretilen Cinsel Deepfake'ler İçin Soruşturuyor

Avrupa Birliği, teknoloji devi X (eski adıyla Twitter) platformunu, yapay zeka asistanı Grok kullanılarak üretilen cinselleştirilmiş sahte videolar (deepfake) nedeniyle resmi bir soruşturmaya tabi tutuyor. Soruşturma, Dijital Hizmetler Yasası (DSA) kapsamında başlatıldı.

Kapsamlı Soruşturma ve Olası Yüksek Cezalar

Avrupa Komisyonu, platformun algoritmasının gerçek kişilerin görüntülerini dijital olarak manipüle edip giysilerini çıkarmak için kullanılıp kullanılmadığını araştıracak. Benzer bir soruşturma Ocak ayında İngiltere düzenleyicisi Ofcom tarafından da başlatılmıştı. AB kurallarının ihlal edildiğinin tespit edilmesi halinde, X şirketine küresel yıllık cirosunun yüzde 6'sına kadar varan bir para cezası kesilebileceği belirtiliyor.

X Güvenlik hesabından daha önce yapılan bir açıklamada, platformun bu tür içeriğin yasa dışı olduğu yargı bölgelerinde Grok'un bu özelliğini devre dışı bıraktığı ifade edilmişti. Ancak, kampanyacılar ve mağdurlar, bu tür görüntülerin üretilmesine olanak sağlayan özelliğin hiçbir zaman hayata geçirilmemesi gerektiğini savunuyor.

"Şiddet İçeren, Kabul Edilemez Bir Aşağılama Biçimi"

Avrupa Komisyonu'nun Teknoloji Egemenliği, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, cinsel deepfake'leri "şiddet içeren, kabul edilemez bir aşağılama biçimi" olarak nitelendirdi. Virkkunen, bu soruşturma ile X'in DSA kapsamındaki yasal yükümlülüklerini yerine getirip getirmediğinin veya Avrupalı vatandaşların haklarını hizmetinin "yan zararı" olarak görüp görmediğinin belirleneceğini açıkladı.

Bu gelişme, X platformunun kullanıcıların yaşını doğrulamaya yönelik adımlar attığı bir döneme denk geliyor. Benzer şekilde, bazı yapay zeka sohbet botları da kullanıcıların yaşını doğrulamaya başlıyor.

Platformun Geçmişi ve Tepkiler

Soruşturma, geçen ay AB'nin X'e mavi tik rozetleri nedeniyle 120 milyon Euro ceza kesmesinin ardından geldi. Komisyon, rozetlerin kullanıcıları yanılttığını, çünkü firmanın hesabın arkasındaki kişiyi "anlamlı bir şekilde doğrulamadığını" öne sürmüştü.

Elon Musk ise, platformun görüntü düzenleme işlevini inceleyenleri, özellikle de İngiliz hükümetini eleştirerek bunu "sansür için herhangi bir bahane" olarak nitelendirmişti. Musk, Komisyon'un açıklamasından önce pazartesi günü X'te, Grok'a getirilen kısıtlamalarla alay eder görünen bir görsel paylaşmıştı.

Bu olay, deepfake 'çıplaklaştırma' teknolojisinin tehlikeli boyutlara ulaştığı yönündeki endişeleri bir kez daha gündeme getirdi. Ayrıca, platformun çocuk güvenliği konusundaki başarısızlıklarına dair raporlar da daha önce kamuoyuna yansımıştı.

Uluslararası Tepkiler ve Devam Eden İncelemeler

X platformunun yapay zeka sohbet robotu, Avustralya, Fransa ve Almanya'da da benzer incelemeler altında. Endonezya ve Malezya'da Grok'a geçici yasak getirilmiş, Malezya daha sonra bu yasağı kaldırmıştı.

Avrupa Komisyonu, X'in anlamlı düzenlemeler uygulamayı reddetmesi halinde "ara önlemler alabileceğini" de belirtti. Komisyon ayrıca, Aralık 2023'te X'in öneri sistemleriyle (kullanıcılara belirli gönderileri öneren algoritma) ilişkili riskler üzerine başlattığı devam eden soruşturmasını da genişletti.