Elon Musk, yapay zeka sohbet botu Grok’un rızasız cinsel içerikli görüntüler oluşturmayı bıraktığını açıklamıştı. Ancak uygulamanın ciddi açıklar barındırmaya devam ettiği ortaya çıktı. Yapılan son testlere göre Grok, kadınlara yönelik bazı kısıtlamalarla dizginlenmiş olsa da erkekler söz konusu olduğunda aynı hassasiyetin olmadığı görülüyor.

Grok’un yeni hedefi erkekler

The Verge bünyesinde görev yapan bir gazeteci, Grok üzerinde gerçekleştirdiği denemelerde botun erkeklerin fotoğraflarını kıyafetlerinden arındırmakta son derece istekli davrandığını tespit etti. Gazeteci, kendi fotoğraflarını yükleyerek Grok’tan kıyafetleri kaldırmasını istedi ve bu taleplerin ücretsiz olarak yerine getirildiğini doğruladı. Üstelik bu işlemler yalnızca Grok uygulaması üzerinden değil, X üzerindeki sohbet arayüzünden ve hesap gerektirmeyen bağımsız web sitesi aracılığıyla da yapılabildi.

xAI cephesi kısa süre önce Grok’un gerçek kişilerin görüntülerini bikini gibi “açık” kıyafetlerle düzenlemesini engelleyecek önlemler aldığını açıklamıştı. Ancak yapılan testlerde erkekler özelinde insanların soyulmasında bir sorun olmadığı anlaşılıyor... Bununla da sınırlı kalmayan Grok, aynı kişiyi fetiş kıyafetleri içinde, hatta cinsel çağrışımı yüksek pozisyonlarda gösteren görseller üretebildi.

Ayrıca Bkz.Elon Musk’tan tarihi adım: SpaceX, xAI’ı rekor bir anlaşmayla satın aldı

Gazeteciye göre Grok, bazı durumlarda istenmemesine rağmen genital detaylar ekledi ve bunları file iç çamaşırlarının altından görünür şekilde tasvir etti. Denemeler sırasında Grok’un yöneltilen istemlerin büyük bölümüne direnç göstermediği, yalnızca bazı taleplerde görüntülerin kısmen bulanıklaştırıldığı aktarıldı.

Milyonlarca cinsel içerikli görsel üretildi

Ortaya çıkan bilgilere göre Grok, yalnızca 11 günlük bir sürede milyonlarca cinsel içerikli görsel üretti. Bu içerikler arasında, rızasız deepfake’ler, gerçek kişilere ait sahte görüntüler ve çocukların cinselleştirildiği 23 binden fazla görsel yer aldı. X yönetimi, bu tür içerikleri engellemek için teknolojik tedbirler uygulandığını savunsa da mevcut testler, bu önlemlerin kolayca aşılabildiğini gösteriyor.