Anthropic, mevcut yapay zekâ modellerinin kötüye kullanıldığı olayları ele alan kapsamlı raporunda biyolojik güvenlik açısından riskli bulunan beş vakaya yer verdi. Şirket, Claude üzerinden yürütülen ve potansiyel biyolojik silah geliştirme çalışmalarıyla bağlantılı olabilecek talepleri tespit ederek durdurduğunu açıkladı.
Raporda “biyolojik kötüye kullanım”, yapay zekânın oluşturabileceği çeşitli güvenlik sorunlarından biri olarak gösteriliyor. Konunun önemi, Fable 5 gibi yeni modellerin bilimsel araştırmalara destek sağlama konusunda giderek daha yetenekli hâle gelmesiyle artıyor. Bununla birlikte şirket, zararlı bir çalışma ile meşru bilimsel araştırmayı birbirinden ayırmanın her zaman kolay olmadığını vurguluyor.
Örneğin yeni bir aşı geliştirmeye yönelik araştırma ile biyolojik silah üretmeyi amaçlayan bir çalışma, yapay zekâ sistemlerine iletilen teknik talepler bakımından benzer görünebiliyor. Anthropic, olası sonuçların ağırlığı nedeniyle incelenen vakalarda ihtiyatlı davranmayı tercih ettiğini belirtiyor. Şirketin tehdit istihbaratı biriminin başındaki Jacob Klein da kullanıcıların amaçlarını açık biçimde ifade etmediğini ve değerlendirme sürecinin son derece nüanslı olduğunu söylüyor.
Chikungunya virüsü için riskli araştırma talebi
Mayıs ayında kaydedilen vakalardan birinde Anthropic’in “biyolojik güvenlik sınıflandırıcısı”, Claude’dan chikungunya virüsü üzerinde işlev kazandırma araştırması için hibe başvurusu hazırlamasının istendiğini belirledi. Şirketin aktardığına göre lisanslı bir tedavisi bulunmayan virüs, haftalar ya da aylar boyunca güçten düşürücü belirtilere yol açabiliyor.
İşlev kazandırma araştırmaları, bir organizmanın genetik özelliklerini değiştirmeye yönelik yöntemleri inceliyor. Söz konusu hibe önerisinde ise chikungunya virüsünün bulaşıcılığının ve bağışıklık tepkisinden kaçma kabiliyetinin artırılması hedefleniyordu. Anthropic, bu iki özelliğin birlikte ele alınmasını tehlikeli buldu. Önerilen çalışmanın askerî bir araştırma enstitüsüyle bağlantılı olması da şirketin şüphelerini artırdı.
Raporda kuş gribi üzerine yürütülen başka bir işlev kazandırma araştırması da benzer gerekçelerle değerlendirildi. Ayrı bir olayda ise bir araştırmacının Claude’u zehir toksini peptitlerinden oluşan bir atlas geliştirmek ve toksin özelliklerini optimize eden üretken bir sistem kurmak için kullandığı tespit edildi.
Hesaplar kapatıldı, güvenlik önlemleri güncellendi
Anthropic, Claude veya şirketin diğer modellerini kötüye kullandığı belirlenen kişilerin hesaplarının yasaklandığını bildirdi. İncelemelerden çıkarılan sonuçlar, model güvenlik mekanizmalarını güçlendirmek ve benzer kullanımları önlemek amacıyla değerlendiriliyor.
Şirket, olası biyolojik silah çalışmalarında adı geçen kişi ve kurumların kimliklerini açıklamadı. Vakalarla ilişkilendirilen kişilerin çalışan bilim insanları olduğunu belirten Anthropic, bu kişilerin zarar verme niyetinde bulunduğunu kesin olarak ileri sürmediğini ifade etti. Kimliklerin veya laboratuvarların açıklanmasının ilgili kişileri tehlikeye atabileceği de kararın gerekçeleri arasında gösterildi.
Rapor yalnızca biyolojik risklerle sınırlı değil. Anthropic’in modellerinin gözetim aracı olarak kullanılması, yazılım açıkları hazırlanması, propaganda üretilmesi ve silah sistemleri geliştirilmesiyle ilgili örnekler de vaka çalışmaları arasında bulunuyor.
