Google ve Apple, Politikalarına Rağmen Onlarca 'Nudify' Uygulaması Barındırdı

Uygulama Mağazalarında Derin Sahte İçerik Krizi

Teknoloji dünyasının iki devi Google ve Apple'ın uygulama mağazaları, kullanıcıları koruma politikalarına rağmen, rızasız çıplak görüntüler oluşturan yapay zeka uygulamalarına ev sahipliği yaptı. Tech Transparency Project tarafından yayınlanan yeni bir araştırma, bu durumun boyutlarını gözler önüne serdi.

Araştırmanın Çarpıcı Bulguları

Rapora göre, Google Play Store'da 55, Apple App Store'da ise 47 adet 'nudify' olarak adlandırılan uygulama tespit edildi. Bu uygulamaların 38'i her iki mağazada da ortak olarak bulunuyordu. Araştırmacılar, mağazalarda 'nudify' ve 'undress' (soyundur) gibi anahtar kelimelerle arama yaparak onlarca sonuca ulaştı.

Söz konusu uygulamalar, kullanıcıların metin girdileriyle çıplak görüntüler veya videolar üreten ya da bir kişinin yüzünü başka bir bedene yerleştiren ('yüz değiştirme') yapay zeka araçları olarak işlev görüyor. Örneğin, DreamFace adlı uygulamanın, kullanıcıların açık saçık metin girdilerine karşı herhangi bir filtreleme yapmadığı ve çıplak kadın görüntüleri oluşturduğu belirtildi. Bu uygulamanın 1 milyon dolar gelir elde ettiği ve halen Google Play Store'da mevcut olduğu kaydedildi.

Platformların Politikaları ve Gelir Paylaşımı

Hem Google Play Store hem de Apple App Store, cinsel çıplaklık tasvir eden uygulamaları yasaklayan politikalar yürütüyor. Ancak rapor, bu politikaların açık ihlaline rağmen uygulamaların dağıtım kanalı olarak mağazaların kullanıldığını ortaya koydu. Daha da dikkat çekici olan, bu uygulamaların uygulama içi satın alımlardan elde ettiği gelirden platformların %30'a varan bir kesinti aldığı gerçeği.

Benzer şekilde, AB'nin X platformunu soruşturması da yapay zeka ile üretilen cinsel içerikli derin sahtelikler konusunda artan küresel endişeyi yansıtıyor. Ayrıca, Grok yapay zekasının çocuk güvenliği başarısızlıklarına dair raporlar, konunun ne kadar kritik bir boyutta olduğunu gösteriyor.

Uygulamaların Bir Kısmı Kaldırıldı

Raporun Google ve Apple ile paylaşılmasının ardından, şirketlerin harekete geçtiği bildirildi. Google 31, Apple ise 25 uygulamayı mağazalarından kaldırdı. Ancak, RemakeFace gibi bazı yüz değiştirme uygulamalarının raporun yayınlandığı tarihte halen her iki mağazada da mevcut olduğu belirtildi. Bu tür uygulamalar, kullanıcıların tanıdığı kişilerin yüzlerini izinsiz bir şekilde çıplak bedenlerle birleştirmek için kolayca kullanılabiliyor.

Teknoloji Devlerinin Sorumluluğu ve Gelecek Adımlar

Olay, uygulama mağazalarının, kullanıcıların rızası olmadan insanları 'soyundurabilen' yapay zeka destekli derin sahte uygulamaların yayılmasının önüne geçmekte yetersiz kaldığını gösteriyor. Platformların kullanıcıları koruma sorumluluğu bulunuyor. Uzmanlar, şirketlerin yönergelerini sıkılaştırmasını ve bu tür uygulamaları tespit etmek için reaktif değil, proaktif bir izleme sistemine odaklanması gerektiğini vurguluyor.

Bu gelişme, teknoloji devlerinin artan yasal sorumlulukları bağlamında da değerlendiriliyor. Konuyla ilgili yorum talebine Google ve Apple'dan henüz bir yanıt alınamadığı ifade edildi.