OpenAI, ilk kendi geliştirdiği çıkarım çipi Jalapeño'nun Nvidia GB300'ü geride bıraktığını açıkladı: watt başına AI çıktısında 1,5 ila 1,9 kat önde, gecikme süresinde ise en fazla 3,6 kat azalma.

动察 Beating AI hızlı haberi: OpenAI, ilk özel çıkarım çipi Jalapeño'nun ilk gerçek dünya test verilerini açıkladı ve performansının Nvidia GB300'ü aştığını belirtti. Bu çip, GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T olmak üzere üç harici açık modelde Pareto optimal sınırında yer alıyor; mevcut en iyi ticari sistemlere kıyasla, tepe noktasında watt başına AI çıktısı 1,5 ila 1,9 kat daha yüksek, uçtan uca gecikme 1,7 ila 3,6 kat daha düşük; yüksek etkileşimli ajan senaryolarında avantaj 2,1 ila 4,1 kata çıkıyor. Jalapeño'nun nominal gücü 700 watt, gerçek sürekli güç tüketimi 550 watt'ı geçmiyor. OpenAI, ajan yükleri altında gerçek maliyetin tek çip performansıyla değil, "birim güç başına tamamlanabilen AI iş miktarıyla" ölçülmesi gerektiğini vurguluyor.

Jalapeño, tasarımdan ilk üretim aşamasına yalnızca 9 ayda ulaştı; AI, devre optimizasyonu ve doğrulamaya derinlemesine katıldı. Codex ve GPT-Astra sayesinde ekip, orijinal planda yer almayan üç açık ağırlıklı modeli yalnızca iki ayda yüksek performansa optimize etti; bazı modüllerin AI tarafından üretilen uygulamaları, insan eliyle yazılan uygulamalardan 1,5 ila 1,8 kat daha hızlıydı. OpenAI, yıl sonuna kadar Jalapeño'yu kendi hesaplama altyapısına dağıtmayı planlarken, Nvidia gibi harici hızlandırıcıları da büyük ölçekte kullanmaya devam edecek. Bu, çok nesilli çip yol haritasının ilk nesli; Gen 2 derin geliştirme aşamasında, Gen 3 ise şekilleniyor.