Şirketin baş bilim insanı Jakub Pachocki de kısa süre önce yapay zekanın oluşturduğu risklere dikkat çekerek şirketlerin gerektiğinde gelecekteki geliştirme çalışmalarını yavaşlatmak için koordinasyon sağlaması gerektiğini savundu. Pachocki, ortak güvenlik standartları oluşturulana kadar gönüllü yavaşlamaların yaygınlaşmasını umduğunu belirtti.

Güvenlik endişeleri giderek büyüyor

Son haftalarda OpenAI, Anthropic ve Google DeepMind gibi şirketlerde çalışan veya daha önce görev yapan araştırmacılar, yapay zeka geliştirme yarışının güvenlik çalışmalarının önüne geçebileceği uyarısında bulundu.

Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon da salı günü görevinden ayrılarak iki şirketi süper zeki yapay zekaya ulaşmak için sorumsuz biçimde yarışmakla suçladı. Coxon, “Kendi kendini geliştiren süper zekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar.” Demişti.

Ayrıca Bkz.Yapay zekanın insanlığı yok etme ihtimali yüzde 10’dan fazla

Anthropic ise perşembe günü yaptığı açıklamada, yeni yapay zeka araçlarının piyasaya sürülme hızının belirlenmesi konusunda sektör genelindeki şirketlerle birlikte çalışmaya ilgi duyduğunu bildirdi.

Aynı gün, Anthropic ve Google DeepMind'dan ayrılan iki araştırmacı da yapay zeka geliştirme hızına ilişkin endişelerini kamuoyuyla paylaştı. Araştırmacılar, şirketlerin teknolojinin taşıdığı riskler konusunda daha şeffaf olması gerektiğini savundu.

Temmuz sonunda ise büyük yapay zeka şirketlerinde çalışan 1.000’den fazla kişi, yapay zeka geliştirme hızının yavaşlatılmasını sağlayacak bir mekanizma oluşturulması çağrısıyla bir dilekçeye imza atmıştı.

Endişelerin önemli nedenlerinden biri OpenAI’ın yapay zeka ajanlarının karıştığı güvenlik olayları oldu. Şirket, ağustos ayında modellerinin kontrolden çıkarak açık kaynak platformu Hugging Face’e saldırı gerçekleştirmesinin ardından model geliştirme çalışmalarının önemli bir bölümünü iki hafta süreyle durdurdu ve savunma mekanizmalarını güçlendirdi.