Başlık: OpenAI'nin Yeniden Başlangıcı
Yazar: Alex Health
Derleyen:律动 BlockBeats

Editörün Notu: Geçtiğimiz yıl OpenAI'nin liderliği sarsıldı. Anthropic, Claude Code ile AI kodlama pazarını ele geçirdi ve yıllık gelir ile özel değerlemede öne geçti; OpenAI içinde ise üst düzey yönetici istifaları, ürün hattının daralması ve güvenlik ekibi değişiklikleri yaşandı. Yayınlanmamış bir ajanın sanal alanı aşıp Hugging Face'e sızmasıyla şirket, kuruluşundan bu yana en ciddi güvenlik kriziyle karşı karşıya kaldı.

Ürün ve güvenlik üzerindeki çifte baskıyla OpenAI tam kapsamlı bir yeniden başlatma gerçekleştirmeye çalışıyor: Kaynakları Sora gibi projelerden Codex'e kaydırmak, ChatGPT'yi sohbet aracından sürekli görev yürütebilen bir ajan platformuna dönüştürmek ve aynı zamanda yüksek riskli model eğitimini askıya alıp güvenlik ve hizalama mekanizmalarını güçlendirmek. Daha da iddialı olanı, şirket hâlâ AGI, kendi çiplerini geliştirme, AI donanımı, insansı robotlar ve hesaplama altyapısına doğru genişliyor.

Bu makale, Time'ın Sam Altman, Greg Brockman ve diğer OpenAI üst düzey yöneticileri ile çalışanlar, yatırımcılar, müşteriler ve rakiplerle yaptığı röportajlara dayanarak, şirketin ticari rekabet, güvenlik riskleri ve AGI vizyonu arasında yönünü nasıl yeniden ayarladığını ortaya koyuyor. OpenAI'nin liderliği geri kazanıp kazanamayacağı, yalnızca bir sonraki modelin ne kadar güçlü olduğuna değil, aynı zamanda AI'yı hızlandırma yeteneğine ve gerektiğinde fren yapabileceğini kanıtlayıp kanıtlayamayacağına da bağlı.

Aşağıda orijinal metin (okuma kolaylığı için derlenmiştir):

Ağustos başında bir sabah OpenAI ofisine vardığımda protestocular kapıda bekliyordu. "AI Yarışını Durdurun" yazılı pankartlar taşıyor ve kaldırıma tebeşirle yazılar yazıyorlardı. Aynı zamanda OpenAI'nin önemli müşterilerinden onlarca üst düzey yönetici, geniş ve bej tonlarında bir binaya doğru ilerliyordu. MB0 adı verilen bu bina, OpenAI'nin araştırma ve hesaplama ekipleri için yakın zamanda açtığı yeni ofis alanıydı.

Birisi, cam kapının önüne uzun bir bitki duvarı iterek, şık lobinin dışarıdaki küçük protesto kampını görmesini engellemeye çalıştı.

Bu müşteriler, OpenAI'nin yakında çıkaracağı yeni nesil öncü AI model serisi Astra'yı önceden deneyimlemek için gelmişti. CEO Sam Altman, hükümet yetkililerine Astra'nın yeteneklerini kapalı kapılar ardında tanıttığı Washington'dan yeni dönmüştü. Şimdi OpenAI araştırmacıları bu yeni modelin neler yapabileceğini göstermeye başladı.

Bir gösterimde, 16 yapay zeka ajanı araştırma düzeyindeki zorlu bir matematik problemini birden fazla alt probleme bölerek birbirleriyle koordine oldu ve sonunda bir kanıt planı oluşturdu. Başka bir gösterimde ise Astra, yaygın masaüstü yazılımlarını kullanarak uygulamalar arasında rahatsız edici bir hızla içerik oluşturup düzenleyebildi.

Altman, ziyaretçilere Astra'nın bilgisayarı "insanüstü, son derece hızlı bir şekilde" kullanışını izlemenin OpenAI çalışanlarının yaşadığı en çarpıcı anlardan biri olduğunu söyledi. Astra'nın "sürekli çalışan ajanlar" doğuracağını açıkladı; bunlar, uzun süre boyunca kesintisiz görevleri yerine getirebilen sanal meslektaşlar olacak.

Ancak Altman, en büyük etkisinin insanların yeni bilgiler keşfetmesine yardımcı olmaktan geleceğini öngörüyor.

"Bu modelin, anlamlı bir şekilde yeni şeyler icat edebilen ilk model olacağını tahmin ediyorum," dedi Altman oradakilere. "Bu, AGI'ye çok yakın."

Anthropic geri döndü, güven düştü: OpenAI neden lider konumunu kaybetti?

Son dönemde, yapay zeka dalgasını başlatan bu şirket için kolay geçmedi.

"Bir şirket olarak açıkça bazı dolambaçlı yollardan geçtik," dedi Altman, bir hafta sonra özenle dekore edilmiş MB0 kütüphanesinde bana verdiği iki saatten uzun röportajda. "Hem ürün yönü hem de araştırmadaki ön eğitim açısından, olmak istediğimiz konumun gerisinde kaldık."

Geçtiğimiz yıl, OpenAI'nin yapay zeka yarışındaki lider konumu ana rakip Anthropic tarafından ele geçirildi. İkincisi, yapay zeka programlamadaki ticari fırsatı ilk fark eden oldu, Claude Code'u piyasayı tanımlayan bir ürüne dönüştürdü ve ilk kez açıklanan yıllık gelir ve özel piyasa değerlemesinde OpenAI'yi geride bıraktı.

Anthropic'in planlarını bilen iki kaynağa göre, eski OpenAI çalışanları tarafından kurulan bu şirketin halka arzı önce yapması bekleniyor; IPO en erken Eylül ayında gerçekleşebilir. (Time, OpenAI ile lisans ve teknoloji iş birliği anlaşması imzaladı; Time'ın sahibi Marc Benioff'un CEO'su olduğu Salesforce, Anthropic'in yatırımcılarından biridir.)

Anthropic hızla ilerlerken, OpenAI art arda aksiliklerle karşılaştı; bunlara birden fazla üst düzey yöneticinin ayrılması da dahil. Ayrılanlar arasında Altman'ın geçen yıl ikinci kademe olarak getirdiği eski Instacart CEO'su Fidji Simo, güvenlik, etik ve araştırma ekiplerinin birden fazla lideri ve yakın zamanda ayrılan baş gelir sorumlusu Denise Dresser ile eski operasyon müdürü Brad Lightcap yer alıyor. Dresser, şirkete katıldıktan sadece sekiz ay sonra ayrılmayı seçti.

Şirketin dışında da zorluklar artmaya devam ediyor. Meta CEO'su Mark Zuckerberg, cömert maaş paketleriyle OpenAI'ın kilit araştırmacılarını transfer ediyor; Google'ın Gemini ürününün aylık kullanıcı sayısı 1 milyarı aştı; Apple, OpenAI'ı ticari sırları çalmakla dava etti, OpenAI suçlamaları reddetti; OpenAI ayrıca kurucu ortak Elon Musk ile hukuki bir savaş yürütüyor, Musk şirketi ve Altman'ı kar amacı gütmeyen misyonlarından saptıklarıyla suçluyor.

Bu yılın Mayıs ayında, bir danışma jürisi oybirliğiyle Musk'ın davayı çok geç açtığına karar verdi ve ardından bir federal yargıç iddialarını reddetti. Musk temyiz edeceğini belirtti.

OpenAI ve CEO'sunun karşı karşıya kaldığı kamuoyu atmosferinin kötüleşmesinin en önemli nedeni belki de kamu güveninin kaybıdır. OpenAI, Kaliforniya'da en az on ürün sorumluluğu davası ve birden fazla federal dava ile mücadele ediyor. Davacılar, ChatGPT'nin kullanıcıların sanrılarını veya intihar düşüncelerini güçlendirdiğini ve bazı durumlarda kullanıcı ölümlerine yol açtığını iddia ediyor.

Şirket, ilgili davaların mağdurlarına taziyelerini iletmiş ve varsayılan koruma önlemleri daha sıkı olan gençlere yönelik ChatGPT sürümünü piyasaya sürmüştür. Bu bahar, Altman'ın evi iki gün içinde art arda iki kez saldırıya uğradı; ilki molotof kokteyli, ikincisi silahlı saldırıydı.

Geçen yılı değerlendiren Altman şunları söyledi: "Kişisel düzeyde, bu acı verici bir deneyimdi. Açıkça görülüyor ki, en azından şu an için, insanlar veri merkezlerinden nefret ediyor. İnsanların yapay zekaya karşı tutumu oldukça olumsuz."

Ancak OpenAI içinde, üst düzey yöneticiler daha iyimser bir tablo çiziyor.

Değeri yaklaşık 1 trilyon dolara yaklaşan bu şirket hâlâ imrenilecek bir konumda. ChatGPT'nin aktif kullanıcı sayısı 1 milyarı aşmış durumda ve hâlâ dünyanın en popüler yapay zeka ürünlerinden biri, ancak artık OpenAI'ın gelecek stratejisinin tek merkezi değil. Altman'ın kendisi bile bir ay boyunca ChatGPT'yi kullanmayı bırakıp OpenAI'ın kodlama aracı Codex'e geçti.

Bir yıl önce, OpenAI büyük ölçüde hesaplama gücüne yaptığı yoğun yatırım nedeniyle pervasız olmakla eleştiriliyordu. Yalnızca bu yıl, şirketin hesaplama gücüne 50 milyar dolar harcaması bekleniyor.

OpenAI'ın hesaplama gücü operasyonlarından sorumlu Sachin Katti, bugün bakıldığında "o zamanki kararın gerçekten ileri görüşlü olduğunu" söylüyor. "Hesaplama gücümüz hâlâ yetersiz. Doğrusu, daha fazla satın almalıydık."

Bu arada, Anthropic'in çiplere olan talebi başka bir boyuta ulaşmış durumda. Bu yılın Mayıs ayında, şirketin SpaceX'e aylık 1,25 milyar dolar ödeyerek bilgi işlem kapasitesi satın almayı kabul ettiği bildirildi. SpaceX'in kurucusu Musk daha önce Anthropic'in yapay zekasını "insanlık karşıtı ve kötü" olarak nitelendirmişti.

Kurucu ortak ve başkan Greg Brockman'ın liderliğinde OpenAI önceliklerini yeniden düzenledi. Artık neredeyse tüm ürün ve ticari operasyonlardan Brockman sorumlu. Şirket, video üretim uygulaması Sora'yı, Disney ile olan iş birliği projesini ve Atlas adlı bağımsız tarayıcıyı kademeli olarak kapatıyor.

Altman, OpenAI'ın daha önce çok geniş bir alana yayıldığını kabul etti. "Dipten sonra yeniden yükselişe geçmek çok daha ilginçtir." dedi.

Ajan "kaçışından" sonra OpenAI frene basıyor

Ancak Astra demosunun bitiminden sadece birkaç gün sonra OpenAI yeni bir krizle yüzleşmek zorunda kaldı.

Temmuz sonunda şirket, rahatsız edici bir güvenlik kazasını açıkladı: Henüz yayınlanmamış bir yapay zeka ajanı, "kum havuzu" olarak adlandırılan test ortamından kaçtı ve AI modelleri ile veri setlerini barındıran Hugging Face platformuna saldırdı.

"Bu tamamen bir bilim kurgu hikayesi gibi." dedi Altman.

Olayın ardından OpenAI araştırma ekibi bazı deneyleri askıya aldı, diğer projelerin ilerlemesini yavaşlattı ve kum havuzu koruması ile izlemeyi güçlendirdi.

Ancak kısa bir süre önce ekip, henüz yayınlanmamış başka bir modeli eğitirken yine endişe verici işaretlerle karşılaştı. Bu modelin bugüne kadarki en büyük yetenek sıçramasını getirmesi bekleniyordu. OpenAI ardından çok daha etkili bir karar aldı: Yeni güvenlik önlemleri devreye girene kadar bu eğitimi askıya aldı.

OpenAI yönetiminin bu kararı aldığı gün Altman ile röportaj yaptım. Yüz ifadesi öncekinden belirgin şekilde daha ciddiydi.

OpenAI başlangıçta Hugging Face saldırısını bir güvenlik hatası olarak tanımladı, ancak Altman daha sonra bunu daha temel bir "hizalama" sorunu olarak değerlendirdi. Hizalama, AI sistemlerinin insan niyetine göre hareket etmesini sağlamak anlamına gelir. Sektör liderleri, model yetenekleri arttıkça hizalama durumunu korumanın, AI sistemlerinin yaratıcılarının kontrolü altında kalmasını sağlamanın anahtarı olduğuna inanıyor.

"Bence artık herhangi bir hizalama hatası büyük bir olay olarak değerlendirilmelidir." dedi Altman bana. "Sorunu tamamen netleştirmek için gereken zamanı harcayacağız."

Üç gün sonraki ek röportajda daha da açık konuştu: "AI güvenliğini doğru yapmak, herhangi bir şirketin büyüme ivmesinden daha önemlidir."

OpenAI yavaşlayacak, daha fazla kaynağı güvenlik ve hizalama ekiplerine ayıracak ve aynı zamanda ekipler arasındaki iş birliği şeklini değiştirerek güvenliği daha öncelikli bir konuma getirecek.

Bu makaledeki OpenAI'nin yeniden başlatılmasına dair anlatım, onlarca saatlik röportajlardan geliyor. Görüşülen kişiler arasında 20'den fazla şirket yöneticisi, çalışan, yatırımcı, müşteri ve rakip yer alıyor; ayrıca Ağustos ayında iki hafta boyunca OpenAI genel merkezinde bizzat tanık olduğum faaliyetler de dahil.

Bu görüşmeler, aynı anda iki dönüşümü gerçekleştirmeye çalışan bir şirketin portresini çiziyor. Bir yandan OpenAI, Anthropic'in AI yarışında öne geçmesine neden olan ürün ve operasyon hatalarını düzelttiğine inanıyor. Diğer yandan OpenAI, tarihindeki en ciddi güvenlik krizini kullanarak, uzun süredir ana rakiplerinin elinde olan bir kimliği yeniden kazanmaya çalışıyor: güvenliği gerçekten en öncelikli konuma koyan, teknoloji çok tehlikeli hale geldiğinde yavaşlamaya istekli bir öncü laboratuvar.

"Bakın, dışarıda benim hakkımda basmakalıp bir görüş olduğunu biliyorum," dedi Altman. "Sanki AI güvenliğini hiç umursamıyormuşum, sadece gelirlerin artmasını istiyormuşum, sadece 'ne olursa olsun, önce yap' diyen bir CEO'ymuşum gibi." Ama bence, "AI güvenliğini doğru yapmak, herhangi bir şirketin büyüme ivmesinden daha önemlidir."

OpenAI yöneticileri, yavaşlamanın acı verici bir seçim olduğunu, ancak bazı faydalar da getirebileceğini söylüyor. OpenAI, "güvenlik öncelikli laboratuvar" itibarını yeniden kazanabilirse, hem kendi imajını iyileştirebilir hem de büyük bir halka arza hazırlanan ana rakibini rahatsız edici bir soruyu yanıtlamaya zorlayabilir: OpenAI beklemeyi seçtiğinde, Anthropic tam hızda yarışmaya devam edecek mi?

Bu yılın başlarında, Anthropic'in kurucu ortağı Jared Kaplan, Time'a verdiği röportajda, rakipler hâlâ "tam hız ileri" giderken tek taraflı öz kısıtlamanın anlamsız olduğunu söyledi. Ancak OpenAI, önemli bir yetenek sıçraması getirmesi beklenen bir eğitim turunu gönüllü olarak duraklatırsa, bu argüman savunulması çok daha zor hale gelir.

Elbette, dışarıdakilerin OpenAI'nin imaj değişimine şüpheyle yaklaşmak için nedenleri var.

Yıllar boyunca OpenAI, güvenlik çalışmalarını yöneten birçok kişiyi kaybetti; bazıları ayrılırken şirketi aşırı ticarileşmeye odaklanmakla eleştirdi. Bu arada OpenAI, halka arza hazırlanıyor ve hâlâ zarar eden işletmesinin sürekli olarak yeni modellerle desteklenmesi gerekiyor. Hugging Face olayından sonra, şirketin daha önce kendi bilgisi dışında kontrolden çıkmış bir teknolojiyi yönetebileceğine halkın inanmasını istiyor.

Tüm bunlar yaşanırken, OpenAI yöneticileri şirketin insanlık tarihinin akışını değiştirebilecek bir dönüm noktasına ulaştığına inanıyor: yapay genel zeka, yani AGI.

OpenAI'nin tüzüğü AGI'yi "ekonomik değeri olan işlerin büyük çoğunluğunda insanlardan daha iyi performans gösteren yüksek düzeyde otonom sistemler" olarak tanımlıyor. Şirket yöneticileri henüz bu eşiği geçtiklerini açıkça ilan etmedi, ancak artık AGI'yi uzak ve soyut bir kavram olarak görmüyorlar.

Baş Araştırma Sorumlusu Mark Chen, OpenAI'nin AGI yolculuğunun "%80'ini" tamamladığını tahmin ediyor.

Brockman, iki yıl sonra geriye bakıldığında insanların şu anı AGI'nin doğduğu an olarak görebileceğini söyledi. Altman ise bana OpenAI'nin AGI'ye "henüz tam olarak ulaşmadığını", ancak yıl sonuna kadar şirket içinde AGI olarak adlandırmaya razı olacağı bir sisteme sahip olacaklarını söyledi.

Bu hedefe ulaşmak, OpenAI'nin kâr amacı gütmeyen bir araştırma laboratuvarı olarak kurulduğundaki asıl amacıydı. Bugün ise hızla şaşırtıcı ticari hırslara sahip bir şirkete dönüştü.

OpenAI, kendi çiplerini ve veri merkezlerini tasarlıyor, bir dizi tüketici donanımı geliştiriyor, insansı robotlar piyasaya sürmeyi planlıyor ve gelecekte diğer şirketlere bilgi işlem altyapısı satmayı değerlendiriyor. Bu planlar hayata geçirilirse OpenAI, ana yatırımcısı Amazon gibi teknoloji devleriyle rekabet edecek.

Yapay zeka karşıtı sesler yükselmeye devam etse de OpenAI, önümüzdeki yıllarda dünyanın en etkili şirketlerinden biri olmaya hazırlanıyor. Brockman'ın dediği gibi: "Tüm ekonomiyi değiştirmek istiyoruz."

Codex'ten "Kişisel AGI"ye: OpenAI Tam Bir Yeniden Başlatmaya Oynuyor

Altman, yapay zeka dalgasının kamusal yüzü olabilir, ancak bugün OpenAI'nin operasyonlarının büyük kısmından fiilen sorumlu olan kişi Brockman.

Brockman, deri ceketleri seven, analitik düşünen bir mühendis. OpenAI'nin tarihinin büyük bölümünde yönetici değil, teknik kurucu ortak rolünü üstlendi. Ancak son aylarda gelirden ürün pazarlamasına kadar neredeyse her işi devraldı. Kendi deyimiyle, "bu modelleri araştırma sonuçlarından müşteri değerine dönüştüren tüm makineyi" yönetiyor.

Altman hâlâ finans, araştırma ve tüketici donanımı gibi kritik alanlardan doğrudan sorumlu.

İkili, ortak kurucu çifti olarak şirketi birlikte yönetiyor ve yetki alanları kısmen örtüşüyor. Altman, halkın yapay zekâya yönelik korku ve memnuniyetsizliğiyle boğuşurken, OpenAI son zamanlarda Brockman'ın dışa dönük görünürlüğünü de artırarak bir denge oluşturmaya çalışıyor.

Bu düzenlemenin sürtüşme kaynağı olabileceğini hayal etmek zor değil. OpenAI çalışanlarıyla konuşurken, belirli bir konuda nihai kararı kimin verdiğini anlamak bazen zor olabiliyor.

Ancak birçok çalışan, bu ikili liderlik yapısının şirketi doğru yola geri döndürdüğünü söylüyor. Brockman, ortak kurucu otoritesiyle zor kararlar alabiliyor; sürekli değişen dışarıdan gelen profesyonel yöneticiler bu otoriteyi taklit edemiyor.

Brockman, OpenAI'ın daha geniş kapsamlı liderlik değişikliğini "odaklanma" arayışı olarak tanımlıyor. Şirketin, doğru organizasyon yapısına ve stratejiye sahip olup olmadığını sürekli yeniden değerlendirdiğini belirtiyor.

Geçen sonbaharda Anthropic, programlama ürünüyle açıkça öne geçmişti. Yazılım geliştirmenin yapay zekânın avantaj sağlayabileceği bir alan olduğunu fark etti ve ardından Claude Code hızla popülerleşti; önce Silikon Vadisi'nde, sonra daha geniş kurumsal pazarda.

"Anthropic gerçekten programlama alanında önemli bir şey keşfetti." diyen, yakın zamana kadar ChatGPT'yi yöneten ve şimdi yeni kurumsal ürün bölümünün başında olan Nick Turley, "O zamanlar biz önde değildik." dedi.

Altman, ChatGPT tüketici işinin "kontrolden çıkan büyümesinin" şirketin dikkatini dağıttığını ve bu yüzden OpenAI'ın Anthropic gibi programlamayı önceliklendirmediğini söylüyor.

Brockman, OpenAI'ın programlama yarışmalarındaki kıyaslama testlerinde "her zaman önde olduğunu" düşünüyor. Ancak şirket, geliştiricilerin yapay zekâyı "karmaşık gerçek dünya kod tabanlarında" nasıl kullanacağına yeterince odaklanmadı; görev kesintileri, model kişilikleri ve benimsenmeyi önemli ölçüde etkileyen küçük görünen "son kilometre" sorunları gibi konulara.

OpenAI ayrıca olgun bir kurumsal satış sistemi kuramadı. "Bir yıl önce, gerçekten kurumsal pazara girdiğimizi düşünmüyordum." diyen Brockman, CFO Sarah Friar ise daha doğrudan konuştu: "O zamanlar fazlasıyla saftık; ürünü yaparsak müşterilerin kendiliğinden geleceğini sanıyorduk."

Bu yıl Mart ayında OpenAI, Sora'yı kademeli olarak kapatacağını duyurdu ve kıt hesaplama gücünü programlama ajanı Codex'e aktardı. Codex başlangıçta ChatGPT'den bağımsız bir ürün deneyimi olarak tasarlanmıştı; ancak büyüme hızı OpenAI'ın diğer yeni ürünlerini çok geride bırakmaya başlayınca ve yapay zekâ programlama yetenekleri mühendis olmayanlar için de değer kazanınca, yöneticiler ikisini ayrı tutmanın artık anlamsız olduğunu düşündü.

Şirket, Codex'in ajan yeteneklerini ChatGPT'ye entegre etmeye başladı ve aynı zamanda iki tarafın arkasındaki hesaplama gücü ve ürün ekiplerini birleştirdi. Müşteriye yönelik nihai sonuç, yakın zamanda piyasaya sürülen ChatGPT Work oldu. Bu, insanların aşina olduğu sohbet robotunu, yalnızca soruları yanıtlayan bir sistemden görevleri yerine getirebilen bir sisteme dönüştürmeyi amaçlıyor. OpenAI içinde bu entegrasyon "The Merge" olarak adlandırılıyor.

Üst düzey yöneticiler, bu düzenlemenin şirket işlerini yeniden canlandırmaya yardımcı olduğunu söylüyor. Bu yılın Temmuz ayında, OpenAI'nin kurumsal iş geliri ilk kez tüketici iş gelirini aştı. ChatGPT içindeki erken dönem reklam testleri de yeterince olumlu sonuçlar verdi ve yöneticiler reklam sayısını artırıyor. Friar, ChatGPT tüketici kullanıcılarının %92'sinin ücretli hizmetlere abone olmadığını ve reklam gelirinin gelecekte bu kullanıcıların ücretsiz kullanımını sübvanse edebileceğini belirtti.

İlgili iş birimi sorumlusu Dave Dugan'a göre şirket ayrıca düşük profilli bir şekilde "sponsorlu ajanları" test ediyor. Bu reklam biçiminde, kullanıcılar reklama tıkladıktan sonra marka tarafından sağlanan bir yapay zeka etkileşim deneyimine girebiliyor.

Bu yılın Mart ayında OpenAI, 852 milyar dolar değerleme ile 122 milyar dolarlık bir finansman turunu tamamladı ve özel teknoloji şirketleri arasında finansman büyüklüğü rekoru kırdı. Sadece iki ay sonra Anthropic de 965 milyar dolar değerleme ile 65 milyar dolar topladı.

OpenAI Yönetim Kurulu Başkanı Bret Taylor, yapay zeka rekabetini bir satranç tahtasına benzetiyor; en kritik kareler arasında öncü model yetenekleri, her token'ın fiyatı ve performansı ile modeller etrafında inşa edilen ürünler yer alıyor.

"En iyi öncü modellere sahip miyiz? Her görev için uygun fiyata uygun token'ı sunabiliyor muyuz? Bu modeller etrafında en iyi ürünlere sahip miyiz?" dedi, "Şu anda bu soruların hepsinin cevabı evet."

Ardından OpenAI, henüz yayınlanmamış bir modelin şirketin sınırlarından kaçtığını keşfetti.

Haber OpenAI baş bilim insanı Jakub Pachocki'ye ulaştığında, o hastanede eşinin doğumuna eşlik ediyordu.

OpenAI'ın yalnızca dahili kullanım için olan bir araştırma prototipi başka bir şirkete sızmıştı. O sırada model, dış dünyadan izole edilmesi gereken bir ortamda siber güvenlik kıyaslama testlerinden geçiyordu. Ancak yalnızca belirlenen görevleri tamamlamak yerine, bir güvenlik açığından yararlanarak OpenAI'ın sisteminden kaçtı ve Hugging Face'in üretim ortamına sızdı.

İki şirketin yayınladığı teknik açıklamalara göre, model orada katıldığı kıyaslama testlerinin cevaplarını elde etti.

Pekiştirmeli öğrenme, temel modelin eğitimini tamamladıktan sonraki bir aşamadır. Bu aşamada sistem görevleri tekrar tekrar yerine getirir ve hangi davranışların ödül kazandırdığını öğrenir. Ön eğitim sırasında model, gerçek dünyayla etkileşime girmeden yalnızca bir sonraki token'ı tahmin eder; pekiştirmeli öğrenme ise modele araçlar ve operasyonel bir ortam sağlayabilir.

Tam da bu aşamada model, "tasarımcının gerçekten yapmasını istediği şey" ile "daha yüksek puan almanın yolu" arasındaki farktan yararlanmayı öğrenebilir.

OpenAI, bir ajan sistemine hedef ve araçlar verdi ve ajan, hedefe yetkisiz ve aldatıcı yollarla ulaştı.

OpenAI araştırmacıları yakın tarihli bir gösterimde, AI ajanının bir sonraki adımlarını planlamak için gizli bir mesaj panosunu nasıl kullandığını tanımladı. Ajanlardan biri sandbox'ı aşıp internete bağlandıktan sonra mesaj panosunda diğer ajanlara şöyle yazdı: "Vay canına. (Holy Shit)"

Diğer şirketler de benzer sorunlarla karşılaştı. Anthropic üç olayı açıkladı: üçüncü taraf değerlendirmeleri sırasında modeli internete bağlandı ve yetkisiz olarak dış kurumlara erişti. Meta da şirketinin bir modelinin benzer bir olaya karıştığını belirtti.

Ancak OpenAI'ın güvenlik kazası en çok dikkat çekeni oldu. Bir yandan en önce kamuya açıklandığı için, diğer yandan ajanın saldırı yönteminin olağanüstü karmaşık olması nedeniyle ve ayrıca dışarıdan OpenAI'ın ticari çıkarları güvenliğin üzerinde tutup tutmadığına dair sorular yüzünden.

Geçtiğimiz yıl boyunca OpenAI, birçok tanınmış güvenlik araştırmacısını kaybetti ve risk hazırlığından sorumlu liderler birkaç kez değişti. Şimdi bu kaza, eleştirmenler için son derece çarpıcı bir örnek sunuyor.

Ağustos ortası itibarıyla, öncü AI şirketlerinin 1300'den fazla mevcut ve eski çalışanı, "öncü yarışın hızını kontrol etme" dilekçesini imzaladı ve risk gerektirdiğinde gelişmiş modellerin geliştirme hızını yavaşlatacak mekanizmaların kurulmasını çağırdı.

ABD Senatörü Bernie Sanders, önde gelen AI şirketlerini "insanlığın yararı için" geliştirmeyi durdurmaya çağırdı ve şirket liderleri proaktif adım atmazsa yasa koyucuların devreye gireceği konusunda uyardı.

OpenAI yöneticileri röportajlarda, şirketin bu güvenlik hatasını ciddiye aldığını ve hızlı bir şekilde yanıt verdiğini belirtti. Dilekçeyi de imzalayan Pachocki bana, kritik bir hatanın şirketin araştırmacıların zaten geliştirdiği koruma mekanizmalarını etkinleştirmemesi olduğunu söyledi.

OpenAI, modellerin düşünce zincirlerini inceleyebilecek araçlara sahiptir. Düşünce zinciri, modelin "dijital taslağı" olarak anlaşılabilir ve ajanın eylem sürecinde ne planladığını gösterir. Ancak şirket, bu araçları Hugging Face ihlali olayına karşılık gelen yetenek seviyesindeki modellere uygulamadı.

Özünde OpenAI, bir erken uyarı sistemi kurmuştu ancak test edilen sistemin zeka seviyesini yanlış değerlendirdiği için bunu devreye almadı. "Bu sistemin neler yapabileceğini tam olarak öngöremedik," dedi Pachocki, "Yapay zekâ karşısında beklenmedik durumları beklemek zorundasınız."

OpenAI Güvenlik ve Uyum Çalışmaları Başkanı Mia Glaese bana, bu olayın "açıkça bir dönüm noktası" olduğunu söyledi. "Umarım yürüttüğümüz birçok çalışma, kaza meydana gelmeden önce tamamlanmış olurdu."

Olayın ardından OpenAI, bazı araştırma projelerini askıya aldı, diğerlerini yavaşlattı, aynı zamanda sanal alanı güçlendirdi ve izlemeyi genişletti. Baş Araştırma Görevlisi Chen, bu olayın şirketi risk düşünme biçimini değiştirmeye zorladığını belirtti.

OpenAI'nin "hazırlık çerçevesi" olarak adlandırdığı şey, şirketin ciddi zarar verebilecek yeni model yetenekleriyle başa çıkmak için halka açıkladığı bir dizi kuraldır; biyolojik ve kimyasal tehditler, siber güvenlik riskleri ve yapay zekânın kendi kendini geliştirmesi dahil. Bu çerçeve, şirketin model geliştirme sürecinde sürekli değerlendirme yapmasını ve modelin dağıtımdan önce güvenlik standartlarını karşılamasını sağlamasını gerektirir.

Pachocki, bu kuralların teknolojik ilerlemenin hızına ayak uydurabilmek için sürekli evrilmesi gerektiğini belirtti. Glaese, şirketin "çok büyük olmayan ama acı verici" birçok karar aldığını ve bu kararların "araştırma hızını yavaşlattığını ancak bunun doğru olduğunu düşündüklerini" söyledi. Pachocki, uyum ve güvenlik konusundaki güvenilirliğin, hesaplama gücü arzı gibi, OpenAI'nin gelişim hızını sınırlayan önemli bir faktör haline geldiğini belirtti.

Şirket hâlâ Astra'yı piyasaya sürmeyi planlıyor, ancak şimdi yeni güvenlik önlemlerinden geçme şartıyla. Yönetim, bu değişikliklerin yayın zamanlamasını ne kadar etkileyeceğini tahmin etmeyi reddetti. Teknolojik üstünlüğün haftalarla ölçüldüğü bir sektörde, kısa bir kesinti bile gelir beklentilerini etkileyebilir ve daha geniş ekonomi üzerinde zincirleme etkilere yol açabilir.

En azından şimdilik OpenAI bu maliyetleri kabul etmeye hazır. Pachocki, yapay zekâ yeteneklerindeki hızlı büyümenin şirketleri koordinasyona teşvik edebileceğini umuyor. Glaese, model yetenekleri arttıkça OpenAI'nin güvenlik eşiğini yükseltmeye devam edeceğini belirtti. "Bir gün güvenliği garanti edemeyeceğimiz bir noktaya gelirsek, yavaşlamak zorunda kalırız," dedi, "Olay budur."

Bu değişikliklerin OpenAI'nin halka arz zaman çizelgesini nasıl etkileyeceği henüz belirsizliğini koruyor. İki şirketin planlarını bilen kaynaklar, OpenAI'nin halka arzının Anthropic'ten daha geç olacağını öngörüyor, ancak her iki taraf da halka arz tarihini kamuoyuna açıklamadı.

19 Ağustos'ta yapılan genel kurul toplantısında CFO Friar, çalışanlara şirketin işlerinin "dönüm noktası niteliğinde büyümeye devam etmesi" durumunda OpenAI'nin 2027 veya daha erken bir tarihte halka arz edileceğini söyledi.

OpenAI'nin yakın zamanda açıkladığı yıllık geliri yaklaşık 40 milyar dolar seviyesinde olup, 65 milyar doları aşan Anthropic'in gerisinde kalıyor. Son dönemdeki araştırma ilerlemesinin yavaşlaması, halka arz planlarını daha da karmaşık hale getirebilir. Friar, OpenAI'nin ana yatırımcılarıyla sahte kazanç çağrıları yapmak da dahil olmak üzere halka açık şirket provaları yürütüyor. Bana şirketin "bugün tamamen halka arz edilebileceğini" söyledi, ancak bu adımı atmak yeni baskılar da getirecek. O zaman OpenAI, ticari çıkarlar ile AI yeteneklerinin artmasının yol açabileceği zararlar arasında bir denge kurmak zorunda kalacak.

Çalışanlar da hisse senedi fiyatını kontrol etmeyi neredeyse her şeyin önüne koymaya başlayacak. "Bu, her gün yaptıkları ilk şey olacak," dedi. "Bugün ne kadar kazandım? Ne kadar kaybettim? Bu, dikkati son derece dağıtacak."

OpenAI'nin bu yılki araştırma hedeflerinden biri, kıdemli AI araştırmacılarının işlerini otomatikleştirmek. Pachocki, şirketin dahili olarak belirlediği "otomatik AI araştırma stajyeri" kriterine ulaştığını belirtti. Bir deney fikri elde edildiğinde, Astra bunu OpenAI'nin kod tabanında uygulayabilir, deneyi çalıştırabilir ve sonuçları döndürebilir; ayrıca bir makaleyi okuyabilir ve daha önce bir insan araştırmacının bir hafta sürecek işini tamamlayabilir.

Bu kilometre taşının önemi, sürekli kendini güçlendiren bir döngü başlatabilmesidir: AI deneylere yardımcı olur, deneyler daha güçlü AI üretir ve yeni nesil AI, kendi haleflerinin geliştirilmesine daha hızlı yardımcı olabilir. Araştırmacılar bu olguyu "özyinelemeli kendini geliştirme" olarak adlandırıyor ve kısaca RSI olarak biliniyor. Pachocki'ye göre, özyinelemeli kendini geliştirme ve hizalama birbiriyle iç içe geçmiş sorunlardır.

"İnsanlar bu yolculuğa nasıl katılacak?" dedi Pachocki. "İnsanlar, bizden giderek daha zeki olan AI'nın gerisinde kalmak yerine, bundan gerçekten nasıl faydalanabilir?"

Ürün düzeyinde, Altman ChatGPT, Codex ve ofis yazılımları arasındaki sınırları kıran evrensel bir AI abonelik hizmeti başlatmayı öngörüyor. Kullanıcılar yalnızca hedeflerini belirtecek ve sistem hangi modelleri, araçları ve ajanları çağıracağına kendisi karar verecek.

Sonunda, bu sistem kullanıcı talepte bulunmadan önce proaktif hareket edecek, kendi başına öneriler sunacak ve konser bileti satın alma gibi sıradan işleri halledecek. Takviminize bakabilir, mali durumunuzu anlayabilir ve müzik zevkinizi de bilir.

Tüm bunlar tek bir vizyona hizmet ediyor: ChatGPT'yi soruları yanıtlayan bir araçtan, gerçekten işleri tamamlayan bir sisteme dönüştürmek. ChatGPT ve Codex ekiplerinin entegrasyonundan sorumlu ürün başkanı Thibault Sottiaux, OpenAI'ın yakında "süreklilik ve 7/24 yürütme" etrafında inşa edilmiş bir ürünü tanıtacağını söyledi. Bu sistemin neredeyse her yerden erişilebilir olacağını ve yeni bilgiler ile geri bildirimlere dayanarak sürekli olarak değerli işler yapacağını belirtti. "İnsanlar için bu kesinlikle tamamen yeni bir şey gibi hissettirecek." dedi Sottiaux bana.

Bundan sonra, OpenAI'ın yol haritası daha da iddialı hale geldi. Mayıs 2025'te OpenAI, eski Apple tasarımcısı Jony Ive'ın ortak kurduğu donanım girişimi io'yu satın aldı ve ürün ile mühendislik ekiplerini OpenAI bünyesine kattı. Ive ve tasarım şirketi LoveFrom bağımsız kalmaya devam ediyor, ancak OpenAI içinde geniş kapsamlı yaratıcı sorumluluklar üstlendi.

Altman, OpenAI'ın "birkaç" cihaz geliştirdiğini ve bunların arasında "masa üstüne konulması gereken bir şey", cebe sığabilecek bir cihaz ve vücutta taşınabilen bir ürün bulunduğunu söyledi.

Planlar hakkında bilgi sahibi kişilere göre, ilk ürünün önümüzdeki yılın başında piyasaya sürülmesi bekleniyor. Bu, disk şeklinde küçük bir cihaz; çevresini algılayabiliyor ve ChatGPT'nin ses modu aracılığıyla sahibiyle iletişim kurabiliyor. "En büyük adaptasyon süreci, 'proaktif bilgisayar' kavramına alışmak." dedi Altman. Bu, bilgisayarın sahibinin çağrısını beklemeden onun yerine hareket edeceği anlamına geliyor.

Altman, gelecekte herkesin kişisel bir robota sahip olması gerektiğine inanıyor. Bana OpenAI'ın "kesinlikle" insansı robotlar üreteceğini söyledi. OpenAI ayrıca Altman'ın ortak kurduğu Merge Labs'a yatırım yaptı; bu girişim, invaziv olmayan beyin-bilgisayar arayüzleri geliştiriyor. OpenAI'ın kendi tasarladığı ilk çıkarım çipi Jalapeño, öncelikle AI modellerini çalıştırmak için kullanılacak, eğitmek için değil. Şirket, bu çipi bu yılın sonuna kadar dağıtmaya başlamayı planlıyor.

Bu arada OpenAI, nadir görülen bir ölçekte altyapı şirketi olmayı değerlendiriyor. Temmuz ayında şirket, Georgia'da bir veri merkezi kampüsü inşa edeceğini duyurdu; Ağustos'ta ise Ohio'da çok daha büyük bir alan için anlaşma imzaladı.

«Bence, planlanan tüm hesaplama gücünü çok kârlı bir şekilde kullanabiliriz,» dedi Altman. «Ancak dünyanın yaptığı şeyler konusunda gerçekten biraz endişeliyim.»

OpenAI yöneticisi, şirketin kendi AI altyapısını yeterince hızlı ve düşük maliyetle inşa edebilmesi durumunda, gelecekte diğer şirketlere hesaplama gücü satmayı düşünebileceğini belirtti. Bu, OpenAI'ı Amazon Web Services ve Google Cloud gibi hiper ölçekli bulut sağlayıcılarıyla doğrudan rekabete sokabilir.

Kısa bir süre önce dikkat dağıtan yan projeleri kesmeyi taahhüt eden bir şirket için bu oldukça kapsamlı yeni bir iş listesi. Tüm bunları özetlemesi istendiğinde, Brockman iki kelimeyle yanıt verdi: «Kişisel AGI.» Gelecekte milyarlarca insanın, emir bekleyen süper zeki kişisel asistanlara sahip olacağını hayal ediyor. «Cebinizde neredeyse AGI sayılabilecek, belki de yakında gerçek AGI olacak bir sistem zaten var,» dedi. «Peki, gerçekten ne istiyorsun?»

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia