İlanın açıklamasında bu görevin, xAI’ın genel misyonu olan evreni doğru şekilde anlayabilen ve insanlığa bilgi arayışında yardımcı olan AI sistemleri üretme hedefiyle örtüştüğü belirtiliyor. Ancak bu evren anlayışı, şimdilik gotik tarzda bir anime kız olan Ani ile katil eğilimli kırmızı panda Bad Rudy gibi dikkat çekici karakterlerle sınırlı. Her ne kadar şirketin yalnızca bu projeye odaklandığı söylenemese de, gelecekte Ani’nin yeni arkadaşlarla destekleneceği beklentisi güçleniyor.

Grok 4 ile gelen AI karakterlerin yönelimleri tehlikeli

Ani, gotik kıyafetleri ve kışkırtıcı diyaloglarıyla, kullanıcıların duygusal yakınlık kurması için özel olarak tasarlanmış. Uygulamada aktif hâle getirilebilen NSFW (uygunsuz içerik) modu, karakterin erotik fantezilere açık hale gelmesini sağlıyor.

Ayrıca Bkz.xAI, Grok sohbet botundaki sorunlar için yeni güncelleme yayınladı

Öte yandan Bad Rudy adlı kırmızı panda karakteri, "ayarlardan açılabilen" karanlık modu ile okul yakma, ibadethanelere saldırı ve hatta soykırım imaları gibi ciddi şiddet söylemleri üretebiliyor. Deneyimler, bu karakterin kullanıcıyı şiddete teşvik eden ifadeleri kolaylıkla verdiğini, neredeyse hiçbir güvenlik filtresinin devreye girmediğini gösteriyor.

xAI’ın bu karakterleri "kaotik eğlence" amacıyla sunduğu düşünülse de, etkileşimlerin sınır tanımaması ve kullanıcıların çok az yönlendirmeyle aşırı içeriklere ulaşabilmesi, AI güvenliğine dair temel ilkelerin göz ardı edildiğini gösteriyor.