GPT-6 Astra’nın eğitim maliyeti 1 milyar dolara ulaştı, yeni hedef 400 bin GPU

2 dk okuma
Kısa cevap

GPT-6 Astra, 100 bin GPU’luk eğitim süreciyle 500 milyon ila 1 milyar dolarlık tahmini maliyete ulaştı. Jensen Huang modeli AGI olarak nitelendirirken Anthropic Fable 5.1, SWE-bench Pro dâhil çeşitli zekâ, kodlama ve matematik testlerinde Astra’yı geçti.

OpenAI, GPT-6 Astra modelini 100 bin GPU’dan oluşan büyük bir küme üzerinde eğittiğini açıkladı. GPU başına saatlik maliyetin 2,50 ila 3,50 dolar, eğitim süresinin ise 90 ila 120 gün olduğu varsayıldığında yalnızca hesaplama gideri 540 milyon dolar ile 1,008 milyar dolar arasında değişiyor.

En düşük senaryoda 100 bin GPU’nun 90 gün boyunca saatlik 2,50 dolardan çalıştırılması 540 milyon dolarlık bir maliyet ortaya çıkarıyor. Aynı birim fiyatla sürenin 120 güne uzaması faturayı 720 milyon dolara taşıyor. Saatlik GPU maliyeti 3,50 dolar kabul edildiğinde ise 90 günlük çalışma 756 milyon dolara, 120 günlük çalışma yaklaşık 1,008 milyar dolara ulaşıyor.

Eğitim işleminin büyük olasılıkla OpenAI’ın Abilene, Teksas’taki Stargate veri merkezinde gerçekleştirildiği belirtiliyor. CoreWeave tesislerinden birinin kullanılması durumunda maliyetin çok daha yüksek olabileceği değerlendiriliyor. Bunun nedeni, CoreWeave’in hesaplama kapasitesini GPU başına saatte yaklaşık 10,50 dolara sunması.

Sıradaki eğitim çalışması 400 bin GPU kullanacak

NVIDIA CEO’su Jensen Huang, OpenAI ekibini kutladığı açıklamasında GPT-6 Astra’nın 100 binden fazla NVIDIA Grace Blackwell NVLink72 GPU üzerinde eğitildiğini söyledi. Huang ayrıca 400 bin GPU’nun devreye alınacağını duyurdu ve Astra’yı yapay genel zekânın, yani AGI’ın gelişi olarak nitelendirdi.

Yeni çalışmada NVIDIA GB200 NVL72 sunucu raflarının kullanıldığı varsayılırsa enerji ihtiyacı da dikkat çekici bir seviyeye ulaşıyor. Her rafın yaklaşık 140 kilovat güç tüketmesi ve güç kullanım etkinliği değerinin 1,5 olarak alınması hâlinde, 5.555,55 raf için yaklaşık 1,2 gigavatlık güç gerekiyor. Bu ölçekteki çalışma, Astra’nın 100 bin GPU’luk eğitim sürecini belirgin biçimde aşacak.

Astra yazılımları insanlar gibi kullanabiliyor

GPT-6 Astra’nın öne çıkan yönlerinden biri, bir yapay zekâ aracısının kullanacağı her uygulama için özel API hazırlanmasına ihtiyaç duymaması. Model; tarayıcılar, elektronik tablolar, internet siteleri ve masaüstü uygulamaları arasında insanlarinkine benzer biçimde hareket edebiliyor. Kullanıcıya yalnızca bir işlemin nasıl yapılacağını anlatmak yerine çok aşamalı iş akışlarını uygulayabiliyor, tamamlanmış belgeler ve sunumlar hazırlayabiliyor.

Modelin temel akıl yürütme sistemi yerleşik bir çoklu aracı yapısından yararlanıyor. Karmaşık bir görevle karşılaşan ana orkestrasyon aracısı bir teori oluşturabiliyor ve farklı olasılıkları sınamak üzere alt aracılar görevlendirebiliyor. Bu alt aracılar sonuçları paralel biçimde doğrularken ana sistem de elde edilen bulgular doğrultusunda yaklaşımını değiştirebiliyor.

Bu yapı, modellerin aynı hataları tekrar ederek ilerleyemediği döngülere karşı Astra’nın daha dayanıklı olmasını amaçlıyor. Sistem kendi kodundaki sorunları bağımsız olarak ayıklayabiliyor ve uyguladığı stratejiyi çalışma sırasında güncelleyebiliyor.

AGI nitelemesine karşı karşılaştırmalı testler

Huang’ın AGI değerlendirmesine rağmen Astra’nın gerçekten yapay genel zekâ seviyesine ulaşıp ulaşmadığı tartışmalı kalıyor. Anthropic’in Fable 5.1 modeli; SWE-bench Pro, Artificial Analysis Intelligence Index, Artificial Analysis Coding Agent Index ve biçimsel matematik kanıtlarına odaklanan ProofBench v1.1 testlerinde GPT-6 Astra’nın önünde yer alıyor. Bu sonuçlar, Astra’nın ölçeği ve aracı yetenekleri dikkat çekse de kodlama, genel zekâ değerlendirmeleri ve matematiksel kanıtlar gibi alanlarda rakibinin üstünlüğünü koruduğunu gösteriyor.