Sistemin adı textGrain

OpenAI, metin filigranlama işlemi için kendi geliştirdiği textGrain adlı bir sistemi kullanacak. Sistem, yapay zeka modelinin kelime seçimlerine görünmez bir istatistiksel sinyal ekliyor. Bu sinyal daha sonra özel bir algılama aracı tarafından tespit edilerek metnin OpenAI tarafından işaretlenip işaretlenmediğini belirleyebiliyor.

Şirket, textGrain'in Google’ın SynthID for Text gibi diğer işaretleme yöntemleriyle benzer veya daha iyi sonuçlar verdiğini belirtiyor. Ancak OpenAI, sistemin her durumda güvenilir sonuç vermeyeceği konusunda uyarıyor. Özellikle kısa metinlerde tespit başarısının yaklaşık yüzde 80 seviyesinde kaldığı belirtiliyor. Matematik içeren içeriklerde de filigranın tespit edilmesi zorlaşıyor.

Metin üzerinde yapılan düzenlemeler de yine tespit performansını düşürebiliyor. Dolayısıyla filigranın tespit edilememesi ilgili metnin AI üretimi olmadığının kesin kanıtı olmayacak. Ek olarak şirket, filigran sisteminin metnin doğruluğunu, mülkiyetini, insan katkısının oranını veya metnin bir insan tarafından yazıldığını kanıtlamadığını özellikle vurguluyor.

AB ile sınırlı başlayacak

Ayrıca Bkz.Ücretsiz Gemini kullanıcılarına kötü haber: Kısıtlama geliyor

Dünya genelindeki API müşterileri ise bugünden itibaren seçili modellerde filigranlı metin çıktısını isteğe bağlı olarak etkinleştirebilecek. OpenAI ayrıca önümüzdeki haftalarda bulut hizmeti ortakları üzerinden erişilen OpenAI modellerinin çıktılarında da filigran kullanımını mümkün hale getirmeyi planlıyor.

Tespit aracı herkese açılmayacak

OpenAI, filigranı tespit etmek için geliştirdiği aracı da başlangıçta genel kullanıma sunmayacak. Onaylanmış araştırmacılar ve uzman kuruluşlar bugünden itibaren erişim için başvurabilecek. Erişim ilk aşamada başvuruların tek tek değerlendirilmesiyle sağlanacak.

Tespit aracı yalnızca OpenAI filigranının bulunup bulunmadığını bildirecek. Kullanıcıyı tanımlamayacak, kullanılan istemleri veya konuşma geçmişini ortaya çıkarmayacak.

Öte yandan şirketin bu hamlesi, Avrupa Birliği'nin Yapay Zeka Yasası'nın şeffaflık kurallarıyla bağlantılı. Yeni kurallara piyasaya yeni giren şirketlerin uyması gerekiyor. Daha önce faaliyet gösteren şirketlere ise geçiş süresi tanındı. OpenAI, Anthropic, Microsoft, Google ve Meta gibi şirketlerin 2 Aralık'a kadar bu gerekliliklere uyum sağlaması gerekiyor.