Yapay zeka biyolojik tehdit riskini artırabilir

Mektupta yapay zeka teknolojilerindeki hızlı ilerlemenin biyolojik silahların geliştirilmesini geçmişe kıyasla daha erişilebilir hale getirebileceği belirtiliyor. Ayrıca genetik materyal siparişlerinin ve müşterilerin zorunlu taramadan geçirilmesini öngören yeni yasal düzenlemeler talep edildi.

Google DeepMind CEO’su Demis Hassabis, OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Microsoft AI CEO’su Mustafa Suleyman mektubun imzacıları arasında yer aldı.

Mektupta, yapay zeka sistemlerinin gelişim hızı göz önüne alındığında geçmişte kötü niyetli kişilerin biyolojik silahlara erişimini zorlaştıran bilgi engellerinin ortadan kalkabileceği ifade edildi.

Sentetik DNA üretimi artık çok daha erişilebilir

Ayrıca Bkz.BM uyarıyor: Böyle giderse 2030'da yapay zekâ 1.3 milyar insan kadar su tüketiyor olacak

Birçok sağlayıcı yalnızca doğrulanmış araştırmacılara, biyoteknoloji şirketlerine ve eğitim kurumlarına hizmet verse de tüm firmaların müşteri doğrulaması veya sipariş edilen genetik dizilerin risk analizini gerçekleştirmediği belirtiliyor.

Bu durumun yaratabileceği tehlikeye ilişkin dikkat çekici örneklerden biri 2017 yılında yaşandı. Kanadalı araştırmacılar, posta yoluyla sipariş edilen yaklaşık 100 bin dolar değerindeki DNA parçalarını kullanarak nesli tükenmiş at çiçeği (horsepox) virüsünü yeniden oluşturmayı başardı.

Üstelik gen sentezleme maliyetleri o tarihten bu yana önemli ölçüde düştü.

Yapay zeka ile yeni patojenler tasarlamak mümkün

Uzmanlara göre büyük dil modelleri ve biyoloji odaklı yapay zeka sistemleri, tehlikeli toksinlerin veya yeni patojenlerin tasarlanmasını teorik olarak mümkün hale getiriyor. Tam işlevsel bir virüs oluşturmak için halen ileri düzeyde biyoloji bilgisi ve laboratuvar uzmanlığı gerekse de yapay zekanın bu süreçteki engelleri azaltabileceği değerlendiriliyor.

Biyoterör saldırıları tarihte nadir görülse de, böyle bir olayın kitlesel can kayıplarına, toplumda paniğe ve ciddi ekonomik zararlara yol açabileceği belirtiliyor. Uzmanların en büyük endişelerinden biri ise yapay zeka yardımıyla geliştirilen bir patojenin kasıtlı ya da istemeden küresel ölçekte bir salgını tetikleyebilmesi.

Gönüllü denetimler yetersiz görülüyor

Mektubu imzalayanlar arasında bilim insanları, güvenlik uzmanları ve gen sentezi şirketlerinin yöneticileri de yer alıyor. Halihazırda birçok şirket, tehlikeli olabilecek genetik dizileri tespit etmek için tarama yazılımları kullansa da bu uygulamalar sektör genelinde zorunlu değil. Bu nedenle ABD Senatosu’nda tüm gen sentezi sağlayıcılarının müşteri ve sipariş kontrolleri yapmasını zorunlu kılacak bir yasa tasarısı gündemde bulunuyor.

Avrupa'da ise Avrupa Komisyonu'nun 2025 yılında yayımladığı AB Biyotek Yasası (EU Biotech Act) teklifi, sentetik DNA ve RNA'yı biyogüvenlik açısından risk taşıyan ürünler arasında sınıflandırıyor. Komisyon, üye ülkeler arasında ortak kuralların bulunmamasının güvenlik açıkları yarattığını belirtirken AB genelinde müşteri doğrulaması ve şüpheli siparişlerin bildirilmesini içeren yeni bir denetim çerçevesi oluşturulmasını öneriyor.

Uzmanlar ise mevcut tarama sistemlerinin tek başına yeterli olmadığını belirtiyor. Microsoft’un geçen yıl yayımladığı bir araştırma yapay zeka araçlarının bazı güvenlik filtrelerini aşabilecek potansiyel olarak riskli gen dizileri üretebildiğini ortaya koydu. Bu nedenle araştırmacılar biyoloji alanında yapay zeka geliştiren firmaların da ek güvenlik önlemleri alması gerektiğini savunuyor.