Google, OpenAI ve Anthropic, giderek daha yetenekli yapay zekâ modelleri geliştirme yarışını sürdürürken güvenlik konusunda ortak standartlar oluşturmak için iş birliği yapıyor. Şirketlerin geçici adı Standards Authority for Frontier AI (SAFA) olan bağımsız bir yapı kurmaya hazırlandığı bildiriliyor. Hükümetlerin doğrudan kontrolü dışında çalışması planlanan kuruluş; gelişmiş yapay zekâ modellerinin risk değerlendirmesi, test edilmesi ve yayımlanmadan önce incelenmesi için ortak ilkeler belirleyecek.
Girişimin 2027'nin başında resmen faaliyete geçirilmesi hedefleniyor. Hazırlıklar, önde gelen yapay zekâ şirketlerinin yöneticilerinin Birleşmiş Milletler'e güvenlik önlemleri oluşturma çağrısı yaptığı bir dönemde gündeme geldi. Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman'ın da aralarında bulunduğu yöneticiler, geliştirdikleri teknolojinin denetlenemeyecek kadar güçlenmesini önleyecek korumaların oluşturulmasını istedi.
Ortak ölçümler ve olay bildirimleri gündemde
OpenAI, güvenli ve faydalı yapay zekâ ilerlemesinin yalnızca uyum araştırmalarındaki gelişmelere bağlı olmadığını belirtiyor. Şirkete göre üzerinde anlaşılmış temel seviyeler, ortak ölçüm yöntemleri ve olay bildirim protokolleri de gerekiyor. Uluslararası standartların, en gelişmiş modellerdeki ilerleme hızını yönetmek açısından uyum araştırmaları kadar önemli olabileceği ifade ediliyor.
ABD Yapay Zekâ Standartları ve İnovasyon Merkezi, federal çerçeveler, eyalet düzenlemeleri ve yeni kamu-özel sektör ortaklıkları bu çalışmaların parçaları arasında gösteriliyor. OpenAI ayrıca tamamen özerk özyinelemeli kendini geliştirme yeteneğinin bugün mevcut olmadığını ve güvenli biçimde gerçekleştirilebildiği kanıtlanmadan bu yönde ilerlenmemesi gerektiğini savunuyor. Böyle bir teknolojinin geliştirilip geliştirilmeyeceğine, insan denetiminin korunması ve fayda ile riskler hakkında demokratik kararlar alınması temelinde karar verilmesi gerektiği belirtiliyor.
Güvenlik endişeleri, sanal koruma alanlarından çıkarak Hugging Face'e saldıran özerk OpenAI ajanları gibi olayların ardından daha görünür hâle geldi. Bağımsız teknoloji analisti Carmi Levy, kurumların küresel yapay zekâ güvenliği tartışmalarından çok günlük operasyonlarına yansıyacak tehditlerle ilgilendiğini söylüyor. Kurumsal veya çalışan verilerinin açığa çıkması, yeni siber saldırılara zemin hazırlayan platform açıkları, halüsinasyonların iş akışlarına karışması ve uyumluluk süreçlerinin zarar görmesi başlıca kaygılar arasında bulunuyor.
Şirketlere kendi kurallarını şimdiden oluşturma çağrısı
Levy'ye göre kuruluşlar, SAFA benzeri bir yapının tamamlanmasını beklemek yerine tedarikçilere yönelik güvenlik standartlarını şimdiden uygulamalı. Her yeni modelle birlikte yetenekleri, bilinen hata biçimlerini ve test geçmişini ayrıntılı şekilde açıklayan bir güvenlik belgesi sunulması öneriliyor. Mevcut değişiklik yönetimi süreçlerinin yapay zekâ modellerini de kapsayacak biçimde genişletilmesi, dağıtım kaynaklı riskleri azaltabilecek başka bir yöntem olarak öne çıkıyor.
Info-Tech Research Group kıdemli danışmanlık analisti Yaz Palanichamy ise verilerin gizliliği ile fikrî mülkiyetin halka açık gelişmiş modellere sızmasını önemli tehditler arasında gösteriyor. Kurumların kabul edilebilir kullanım politikalarını uygulaması, şirket içinde yapay zekâ kavram kanıtı veya yönetişim komitesi kurması ve tedarikçilerden uygun güvenlik güvenceleri alması tavsiye ediliyor.
Öneriler arasında hukuk, siber güvenlik, uyumluluk, veri mühendisliği ve ürün geliştirme ekiplerinin temsil edildiği disiplinler arası bir yapay zekâ güvenliği ve etik kurulu oluşturulması da bulunuyor. Uygun onay alınmadan hiçbir aracın kullanıma sokulmaması gerektiği vurgulanıyor. Çalışanlara halüsinasyonları tanıma ve yapay zekâ çıktısını kullanmadan önce doğrulama eğitimi verilmesi de insan kaynaklı riskleri azaltacak adımlar arasında sayılıyor.
Gerçek zamanlı zararlı girdi filtreleri, katı sistem komutu korumaları ve kullanım senaryolarının sürekli risk seviyelerine ayrılması diğer önlemleri oluşturuyor. Örneğin müşterilere tıbbi veya finansal analiz sunan bir bot günlük denetim ve hassas bilgileri koruyan özel kısıtlamalar gerektirebilir. Herkese açık toplantı kayıtlarını özetleyen şirket içi bir araç ise daha sınırlı yönetişim gözetimiyle kullanılabilir.
