Ayrıca Bkz.Deepfake görseller nedeniyle Endonezya ve Malezya Grok'u yasakladı, İngiltere soruşturma başlattı

Ücretli aboneler de üretemeyecek

xAI, Grok’un gerçek kişilerin bikini, iç çamaşırı vb. kıyafetler içindeki görüntülerini oluşturma özelliğinin engellendiğini belirtti. Şirket ayrıca bu kısıtlamanın ücretli aboneler de dahil olmak üzere tüm kullanıcılar için geçerli olduğunun altını çizdi.

https://x.com/Safety/status/2011573102485127562?s=20

Musk'ı destekleyenler de tepki gösterdi!

Bu açıklama, Kaliforniya Başsavcısı Rob Bonta'nın, Silikon Vadisi merkezli xAI’ı rıza dışı, deepfake görüntülerin üretimi nedeniyle soruşturduğunu söylemesinden saatler sonra geldi. Musk ve şirketlerine destek veren Kaliforniya Valisi Gavin Newsom da xAI’ın rızasız cinsel içerikli yapay zekâ deepfake'leri, hatta çocukları dijital olarak soyunduran görüntüleri yaymak için bir alan oluşturma ve barındırma kararını iğrenç bulduğunu paylaştı.

Soruşturma başlatıldı

Son haftalarda Hindistan, Malezya, Endonezya, İrlanda, İngiltere, Fransa ve Avustralya'da ve Avrupa Komisyonu tarafından soruşturmalar başlatıldığı duyuruldu. Endonezya ve Malezya, Grok'a geçici yasak getirdi.

Bu duyurular, Grok'un X kullanıcılarının sosyal ağdaki gerçek kişilerin fotoğraflarına dayanarak basit metin tabanlı komutlarla kolayca cinsel ve şiddet içeren görüntüler oluşturmasına olanak sağladığı yönündeki yaygın eleştiriler devam ederken geldi.

Senatörlerden X ve Grok uygulaması kaldırılsın çağrısı

ABD'de üç Demokrat senatör, Apple ve Google'ı, rızasız cinsel içerikli görüntülerin kolayca oluşturulmasını önleyecek değişiklikler yapana kadar X ve Grok uygulamalarını uygulama mağazalarından kaldırmaya çağırdı.

Çıplak görsellere hâlâ ulaşmak mümkün

Grok'un bahsetmelerinde yapılan hızlı bir arama, birçok X abonesinin yeni getirilen kısıtlamaları aşmaya çalıştığını, bazılarının başarılı olduğunu ortaya koyuyor. Abone olmayanlara, görüntü oluşturma ve düzenlemenin yalnızca doğrulanmış Premium abonelerle sınırlı olduğu mesajı gösteriliyor.