“Nudify”, “undress” gibi anahtar kelimelerle arama yapıldığında, gerçek kişileri çıplak gösterebilen veya onları pornografik videolara yerleştirebilen uygulamalara kolayca ulaşılabiliyor. Rapora göre bu platformlar, gerçek insanları cinselleştirilmiş görüntülere dönüştürebilen yapay zeka araçlarının yayılmasında aktif rol oynuyor. Hatta uygulama mağazalarının, arama sonuçlarında benzer uygulamaların reklamlarını gösterdiği de iddia ediliyor.

38 adet uygulama tespit edildi

TTP, Apple App Store’da 18, Google Play’de ise 20 adet bu tür uygulama tespit etti. Bazıları doğrudan cinsel içeriklerle tanıtılırken, bazıları bu şekilde pazarlanmasa da deepfake üretimi için kullanılabiliyor. Rapora göre bu uygulamalar toplamda yaklaşık 122 milyon dolar gelir elde etti ve 483 milyon kez indirildi.

TTP direktörü Katie Paul, "Şirketlerin bu uygulamaları gerektiği gibi incelemekte başarısız olup onaylamaya ve bunlardan kâr elde etmeye devam etmeleri bir yana, kullanıcıları doğrudan bu uygulamalara yönlendiriyorlar." ifadelerini kullandı.

Ayrıca Bkz.Android 17, rehber ve konuma erişimi sınırlayacak!

Hem Apple hem de Google, cinsel veya pornografik içerikleri yasaklayan politikalara sahip. Google ayrıca bu tür uygulamalara karşı özel bir yasak da uyguluyor. Apple, raporda belirtilen 15 uygulamayı kaldırdığını belirtirken, Google da bazılarını askıya aldığını açıkladı. Örneğin raporda yer alan “Video Face Swap AI: DeepFace” adlı uygulama, bir oyuncunun yüzünü başka birinin bedenine yerleştiren görsellerle tanıtılıyor ve kullanıcıların gerçek kişilerin yüzlerini yarı çıplak bedenlere eklemesine olanak tanıyor. Buna rağmen uygulama “Herkes için uygun” olarak derecelendirilmiş.

Bu tür deepfake ve çıplaklaştırma uygulamalarının yaygınlaşması, bazı hükümetleri yasal düzenlemeler yapmaya yöneltti. ABD ve diğer bazı ülkeler de müstehcen deepfake içeriklere karşı yasalar hazırladı veya yürürlüğe koydu. Ayrıca, Kaliforniya Başsavcısı, X platformuna, Grok üzerinden üretilen açık deepfake içerikler nedeniyle ihtar gönderdi.