OpenAI CEO’su Sam Altman, Raj Shamani’nin podcast programında yapay zekâ alanındaki rekabeti, güvenlik kaygılarını ve gücün kimlerin elinde toplandığı tartışmasını değerlendirdi. Kendi kariyerinden OpenAI’ın güçlü yönlerine kadar farklı konuların ele alındığı görüşmede Altman, Elon Musk ve eski çalışma arkadaşlarının bağımsız girişimlerini de bu çerçevede yorumladı.
Altman’a göre bu isimlerin kendi ürünlerini ve laboratuvarlarını geliştirmesinde, yapay zekânın sonuçlarının çok büyük olacağı düşüncesi etkili. Riskleri böylesine yüksek gören kişilerin, teknolojiyi geliştirme konusunda yalnızca kendilerine güvenebildiğini söyledi. Böylece ayrı şirketlerin ortaya çıkmasını, farklı yaklaşımların yanı sıra güven meselesiyle de ilişkilendirdi.
Kontrolün kaybedilmesi ve tek tarafın güçlenmesi
Altman, yapay zekânın ciddi biçimde yanlış bir yöne ilerlemesini iki temel senaryo üzerinden anlattı. İlkinde insanlar, kendilerinden çok daha yetenekli sistemler üzerindeki kontrolü kaybediyor. Bu kontrolün kazara ya da başka gelişmelerin sonucunda sistemlere geçmesi ve insanların onu geri alamaması, tarif ettiği tehlikenin merkezinde yer alıyor.
İkinci senaryoda ise sorun, bir kuruluşun veya tarafın diğerlerine kıyasla aşırı güç kazanması. Altman, bu nedenle farklı yaklaşımlarla çalışan birden fazla yapay zekâ girişiminin bulunmasını dünya açısından daha olumlu görüyor. Birbirleriyle rekabet eden ekiplerin ürünlerini farklı biçimlerde sunmasını da bu görüşünün bir parçası olarak değerlendirdi.
Bu iki risk, konuşmada birbirinden ayrı başlıklar olarak ele alındı. İlki insanların gelişmiş sistemler karşısındaki konumuyla, ikincisi ise yapay zekâyı geliştiren taraflar arasındaki güç dengesiyle ilgiliydi. Altman’ın birden fazla laboratuvarı destekleyen açıklaması, özellikle ikinci tehlikeye verdiği yanıtı oluşturdu.
Musk’ın yaklaşımında güven ve güç kaygısı
Programın sunucusu, Musk dahil farklı isimlerin laboratuvar kurmasının, gücün tek kişinin elinde toplanmasını engelleme isteğiyle bağlantılı olup olmadığını sordu. Altman bu bağlantıya katıldı. Başkasının yaklaşımını yanlış bulan bir kişinin, gücün de o kişinin elinde yoğunlaşmasına karşı çıkabileceğini ifade etti.
Bu değerlendirme, Musk’ın motivasyonuna ilişkin Altman’ın yorumunu yansıtıyor. Altman, başkalarının kendi şirketlerini kurmasını yalnızca ürün geliştirme tercihi olarak açıklamadı; başka bir ekibin kararlarına güvenmeme ve yüksek risk taşıyan bir teknolojide söz sahibi olma isteğini de tartışmaya dahil etti.
OpenAI’ın eski çalışma arkadaşlarından Dario Amodei ve Mira Murati de kendi yapay zekâ laboratuvarlarını yönetiyor. Amodei’nin şirketi Anthropic, alandaki önde gelen laboratuvarlar arasında bulunuyor. Musk ise satın almalar yoluyla SpaceX’i, fırlatma hizmetlerinin ötesinde yapay zekâ için hesaplama kapasitesi ve yazılım sağlayan bir yapıya dönüştürdü.
Musk ile Altman, OpenAI’ın yapısı ve hedefleri konusunda açık anlaşmazlıklar yaşasa da gelişmiş yapay zekânın tehlikeleri hakkında benzer kaygılar dile getirdi. Musk, ekim ayında süper zekâya kötü muamele edilmesinin, sistemin intikam almaya yönelmesine neden olabileceği uyarısında bulunmuştu.
Uzaydaki yapay zekâ uyduları da tartışma konusu
İkilinin görüş ayrılıkları, SpaceX’in uzay tabanlı yapay zekâ uydusu planlarına da uzanıyor. Bu başlık, yapay zekâdaki kontrol ve güç tartışmalarının yanında, teknolojinin hangi altyapı üzerinde çalıştırılması gerektiğine ilişkin anlaşmazlıklarını da ortaya koyuyor.
Altman, bu planlara yönelik eleştirilerinin tonunu düşürerek yapay zekâ uydularını daha uzun vadeye uygun bir seçenek olarak değerlendirdi. Musk ise uyduların ısı yayım standartlarının uzayda kullanım için uygun olduğunu savunuyor. Böylece iki isim, gelişmiş yapay zekânın risklerine ilişkin ortak kaygılarına rağmen uygulanacak yöntemler konusunda farklı tutumlar sergiliyor.
