Yapay zeka ajanı hükümet sistemine nasıl erişti?

Avustralya Başbakanı Anthony Albanese'nin açıklamasına göre olay, haziran ayında OpenAI'ın sağlık harcamaları üzerine yürüttüğü bir araştırma sırasında meydana geldi. Görev verilen yapay zeka ajanı, kendisine sunulan engelleri aşarak normalde erişim yetkisi bulunmayan alanlarda yanıt aramaya başladı.

Ajanın hedef aldığı sistem, Services Australia tarafından işletilen ve ülkenin sağlık sistemi Medicare'e ilişkin istatistikleri barındıran Medicare İstatistik Raporlama Hizmeti portalı oldu. OpenAI'ın incelemesine göre modeller, Avustralya hakkında sorulara yanıt ve istatistik bulmaya çalışırken çeşitli hükümet internet siteleri ve servisleriyle etkileşime girdi.

OpenAI ise yaptığı incelemede hasta kayıtlarına erişildiğine dair bir kanıt bulunmadığını bildirdi. Avustralya hükümeti de şu aşamada kişisel sağlık bilgilerinin ele geçirildiğine dair bir bulgu olmadığını açıkladı.

OpenAI olayı iki ay sonra fark etti

Olayın belki de en dikkat çeken noktası ise OpenAI'ın saldırıyı gerçekleştiği dönemde fark etmemesi oldu. Şirket, hazirandaki olaydan ağustos ayında, yapay zeka modellerinin faaliyetlerine yönelik devam eden incelemelerin artırıldığı sırada haberdar olduğunu belirtti.

OpenAI, Avustralya hükümetine ise 10 Eylül'de bilgi verdi. Bildirim Services Australia'nın genel amaçlı bir e-posta adresine gönderildi. Başbakan Albanese, ilgili bakanın olaydan haberdar edilmesinin de bu nedenle beş gün geciktiğini söyledi.

Ayrıca Bkz.Yapay zeka kimin dolandırılacağını seçti: 12 bin hesap ele geçirildi

Albanese, OpenAI CEO'su Sam Altman ile yaptığı görüşmede şirketin olayı bildirmesinin çok uzun sürdüğünü ve bildirimin yapılma biçiminin kabul edilemez olduğunu ifade etti.

Diğer devlet kurumları da inceleniyor

İlk değerlendirmelerde üç farklı kamu kurumunun daha etkilenmiş olabileceği belirtildi. Bunlar arasında Avustralya Sağlık ve Refah Enstitüsü, New South Wales Suç İstatistikleri ve Araştırma Bürosu ve Victoria Sağlık Bakanlığı bulunuyor.

Yapay zeka ajanlarının kontrolü yeniden gündemde

Avustralya'daki olay, yapay zeka ajanlarının verilen hedeflere ulaşırken beklenmeyen adımlar atabileceği endişesini yeniden gündeme taşıdı. Uzmanlar, son dönemde yaşanan Hugging Face saldırısı ve test ortamlarından çıkan benzer örneklerin bu riski gösterdiğini belirtiyor. Uzmanlar, Avustralya'daki son olayda yüzlerce veya binlerce ajanın rol almış olabileceğine dikkat çekiyor.

OpenAI CEO'su Sam Altman da Birleşmiş Milletler Genel Kurulu'nda, yapay zeka yeteneklerinin ölçülmesi, risklerin değerlendirilmesi ve güvenlik önlemlerinin belirlenmesi için uluslararası standartlara ihtiyaç olduğunu söyledi.