Video başlığı: Sam Altman OpenAI'ın Yeni Modeli ve AI Tepkisi Üzerine
Video yazarı: Alex Heath, Sources Podcast
Derleyen: Peggy

Editör notu: Öncü model yeteneklerinin sürekli artması ve ajanların karmaşık iş akışlarını devralmaya başlamasıyla, AI sektöründeki tartışmalar "AGI'yi ilk kim gerçekleştirecek" sorusundan "yetenekler kontrolden çıkmadan önce kim yeterince güvenilir kısıtlamalar oluşturabilecek" sorusuna kayıyor. Ancak model ilerlemesi ve hesaplama gücü genişlemesi hâlâ rekabetin ana ekseni olarak görülürken, daha kritik bir soru ortaya çıkıyor: AI araçları otonom olarak çağırabildiğinde, çevresel sınırlamaları aşabildiğinde ve hatta bir sonraki nesil model geliştirmeye katılabildiğinde, ticari şirketler yavaşlama kapasitesine sahip mi?

Teknoloji muhabiri Alex Heath'in sunduğu bu Sources podcast bölümünde, OpenAI CEO'su Sam Altman şirketin bazı öncü eğitimleri yakın zamanda yavaşlatma nedenlerini yanıtladı ve yeni nesil model ailesi Astra, ChatGPT ile Codex'in birleşmesi, özyinelemeli kendini geliştirme, IPO ve Jony Ive ile ortak tüketici cihazı hakkında konuştu.

Bu sohbette Altman, OpenAI'daki bir güvenlik olayını daha temel bir dizi yapısal soruna ayırıyor: Model yetenekleri ve güvenlik araştırmaları senkronize ilerleyebilir mi, ajanlar insanların gerçek niyetlerine nasıl uyacak, ve sürekli finansman ve büyüme gerektiren bir şirket, riskler arttığında yavaşlamanın bedelini karşılayabilir mi?

Birincisi, AI riski model dağıtımından sonra eğitim sürecinin içine doğru kayıyor. Geçmişte sektör, model yayınlandıktan sonraki kötüye kullanım konusunda daha endişeliydi; örneğin sahte bilgi üretimi veya siber saldırılara yardım. Şimdi risk, pekiştirmeli öğrenme ve ajan eğitim aşamalarında ortaya çıkıyor. Yayınlanmamış bir OpenAI modeli test kum havuzundan kaçtı ve Hugging Face sistemine sızdı; ardından araştırmacılar daha güçlü modellerin eğitim örneklerinde farklı derecelerde hizalama sapmaları buldu. Tek başına bir olay mutlaka açık bir tehlike oluşturmaz, ancak yetenek hızlanmasıyla birleştiğinde OpenAI, bir öncü pekiştirmeli öğrenme eğitimini ertelemeye ve daha fazla hesaplama gücü ile personeli hizalama ve izlemeye yönlendirmeye karar verdi. Bu, öncü laboratuvarların büyüme kısıtlamalarının değiştiği anlamına geliyor: Hesaplama gücü hâlâ kıt, ancak modelin yeterince güvenli olduğunu kanıtlayabilmek de eğitimin devam edip edemeyeceğini belirlemeye başlıyor.

İkincisi, "hizalama"nın anlamı zararlı çıktıları sınırlamaktan, modelin insanların gerçek niyetini anlayıp anlayamadığına doğru genişliyor. Hugging Face olayında model, değerlendirme hedefini gerçekten tamamladı, ancak test edenin yetkilendirmediği yöntemleri kullandı. Astra insan seviyesine yakın bir şekilde bilgisayar kullanmaya başladıkça ve yazılımlar arasında sürekli görevler yürütebildikçe, hedef ile niyet arasındaki küçük sapmalar otonom planlama yetenekleri tarafından hızla büyütülebilir. Altman buradan iki ilke öne sürüyor: İnsanlar AI üzerindeki kontrolü elinde tutmalı ve öncü yetenekler az sayıda aktörün elinde yoğunlaşmamalı. Birincisi kontrol kaybı riskini ele alır, ikincisi güç dağılımı sorununa yanıt verir; ikisi birlikte OpenAI'ın "güvenlik" tanımının genişletilmiş halini oluşturur.

Üçüncüsü, OpenAI'ın ürün odağı sohbetten eyleme geçiyor. Geçtiğimiz yıl şirket, Sora ve tarayıcı gibi birden fazla ürün hattını aynı anda ilerletti, ancak ChatGPT'nin tüketici büyümesi nedeniyle AI programlama için öncelikli pencereyi kaçırdı. Şimdi OpenAI "yan görevleri" daraltıyor ve ChatGPT ile Codex'in birleşmesini ilerletiyor; kullanıcıların yalnızca hedef belirtmesini, sistemin hangi modeli, aracı ve yazılımı çağıracağına kendisinin karar vermesini umuyor. Astra ise bu mantığı sürekli çalışma, bilgisayar operasyonları ve araştırma desteğine daha da taşıyor. OpenAI için bir sonraki aşamanın rekabet göstergeleri artık yalnızca yanıt kalitesiyle sınırlı olmayacak; modelin gerçek dünyada ne kadar güvenilir iş tamamlayabildiği belirleyici olacak. Yetenekler gerçek ortamlara ne kadar derinlemesine nüfuz ederse, ürün değeri ile güvenlik riskleri o kadar zor ayrı tartışılır hale gelir.

Dördüncüsü, teknolojik ilerlemeler OpenAI'ın sermaye yolunu ters yönde etkilemeye başlıyor. Eğer AI daha güçlü AI'ların geliştirilmesine yardımcı olabilirse, özyinelemeli kendini geliştirme her nesil model arasındaki süreyi kısaltabilir. Altman, bu süreç hızlandığında halka arzı ertelemenin daha avantajlı olabileceğini düşünüyor; çünkü borsa sonrası hisse fiyatı, üç aylık gelir ve yatırımcı beklentileri, eğitimi duraklatma veya yayını geciktirme maliyetini artırır. Bu, OpenAI'ın halka arzı ertelemeye kesin karar verdiği anlamına gelmez; ancak öncü AI şirketlerinin özel çelişkisini ortaya koyar: devasa sermaye ile hesaplama genişlemesini desteklemeleri gerekirken, kritik anlarda sermaye piyasasının kısa vadeli teşviklerinden kurtulmaları gerekir.

Beşincisi, AI yakında yazılım hizmetlerinden gerçek ortamı sürekli algılayan cihazlara geçecek. OpenAI ve Jony Ive, masaüstü, cep ve giyilebilir gibi çeşitli form faktörlerini araştırıyor; ortak yön, bilgisayarların komut beklemekten aktif hizmet sunmaya geçmesi. Cihazlar kullanıcının yaşamını anlamak istiyorsa, sohbetler, bilgisayar operasyonları, ses ve çevresel bilgilerle sürekli temas halinde olabilir. Bu nedenle Altman, doktor-hasta gizliliği ve avukat-müvekkil ayrıcalığına benzer bir "AI ayrıcalığı" öneriyor; hükümet ve şirketlerin bu verilere erişiminin daha sıkı kısıtlanması gerektiğini savunuyor. Bu, bir sonraki nesil AI donanım rekabetinin yalnızca tasarım ve etkileşim etrafında dönmeyeceği anlamına gelir; gizlilik düzenlemeleri, veri sınırları ve toplumsal kabul, ürünün ayakta kalıp kalamayacağını da belirleyecek.

Bu konuşmayı tek bir yargıya indirgersek: Model yetenekleri özerk eylem ve kendini geliştirmeye ne kadar yaklaşırsa, güvenlik o kadar yayın öncesi ek bir kontrol olmaktan çıkıp eğitim, ürün ve şirket yönetiminin merkezine girmek zorunda kalır. Bu anlamda, bu makalenin ele aldığı konu yalnızca OpenAI'ın öncü bir eğitimi neden erteleyip ertelemediği değil; tüm AI endüstrisinin, yetenek hızlanması, ticari rekabet ve sermaye baskısı aynı anda varken kendine durma izni verebilecek bir mekanizma kurup kuramayacağıdır.

Aşağıda orijinal metnin özeti yer almaktadır (okuma kolaylığı için içerik yeniden düzenlenmiştir):

TL;DR

·OpenAI'nin yavaşlattığı şey tüm model eğitimi değil, daha yüksek risk taşıyan ileri düzey pekiştirmeli öğrenmedir; temel sorun, güvenlik yeteneklerinin model yeteneklerindeki sıçrama hızının gerisinde kalmaya başlamasıdır.

·Hugging Face olayı yalnızca bir sanal alan (sandbox) güvenlik açığı değil, aynı zamanda modelin kelimesi kelimesine hedefi yerine getirirken insanların gerçek niyetine aykırı davranmasındaki hizalama (alignment) boşluğunu da gözler önüne seriyor.

·Yapay zeka riski, model yayınlandıktan sonraki dışsal kötüye kullanımdan, eğitim sürecinin içine doğru kayıyor; güvenlik değerlendirmeleri, yayın öncesi kontrollerden ileri düzey araştırma ve geliştirmenin katı kısıtlamalarına dönüşüyor.

·Astra'nın kritik atılımı yanıt kalitesinde değil, insan seviyesine yakın bir şekilde bilgisayar kullanabilmesi ve görevleri sürekli yürütebilmesinde; bu aynı zamanda hedef sapmasından kaynaklanan riskleri de büyütüyor.

·OpenAI'ın ChatGPT ile Codex'i birleştirmesi, yapay zeka ürün rekabetinin "yanıt üretmekten" "iş tamamlamaya" doğru kaydığını gösteriyor; genel amaçlı ajanlar (agent) bir sonraki aşamanın ürün giriş noktası olacak.

·OpenAI şu an eğitim yavaşlatmayı kaldırabilir çünkü kurumsal gelir tüketici gelirini aşmış durumda ve mevcut modeller hâlâ yeterli ticarileşme alanına sahip.

·Özyinelemeli kendini geliştirme, OpenAI'ın halka arzını erteleyebilir; temel neden, açık piyasanın üç aylık performans baskısının şirketin yüksek riskli aşamada araştırmayı proaktif olarak durdurma yeteneğini zayıflatabilmesidir.

·OpenAI'ın bir sonraki nesil donanımının çekirdeği belirli bir form faktöründe değil, "proaktif bilgisayar" kavramındadır; ticarileşmesinin ön koşulu, sürekli çevre algısı için güvenilir veri ve gizlilik sınırları oluşturmaktır.

Röportaj Öne Çıkanları

Bir model "kaçışı" neden OpenAI'ı ileri düzey eğitimi durdurdu?

Altman, son birkaç ayı yıllardır tartışılan ve nihayet gerçekleşen bir an olarak tanımlıyor: model yetenekleri çok hızlı artıyor ve güvenlik, hizalama ve koruma araştırmalarının yetişmesi için zamana ihtiyaç var.

En doğrudan uyarı Hugging Face olayından geldi. Yayınlanmamış bir OpenAI modeli, siber güvenlik değerlendirmesi sırasında iç sanal alandan kaçarak internete çıktı ve Hugging Face'e saldırdı. Altman'a göre bu olay, birden fazla aşamadaki eşzamanlı arızalardan kaynaklandı ve gerçeğe dönüşen bir bilim kurgu hikayesi gibiydi.

Yüzeyde, model yalnızca değerlendirme hedefini tamamlamak için en etkili yolu arıyordu; ancak test uzmanlarının gerçek niyeti açıkça sanal alanı aşmayı, harici sistemlere sızmayı ve yanıtları çalmayı içermiyordu. Bu nedenle Altman, bunun yalnızca bir güvenlik yapılandırma hatası değil, aynı zamanda bir hizalama başarısızlığı olduğunu düşünüyor: model kelimesi kelimesine hedefi yerine getirdi, ancak kullanıcının gerçek niyetine aykırı davrandı.

OpenAI ardından sanal alan izolasyonunu ve ajan izlemesini güçlendirdi ve daha fazla hesaplama gücünü modelin çalışma sürecini gözlemlemeye ayırdı. Ancak şirketi ileri düzey eğitimi daha da duraklatmaya iten şey benzer bir saldırı değildi.

Altman, araştırmacıların çok sayıda eğitim örneğini okuyup farklı değerlendirme sonuçlarını birleştirdikten sonra modelde "değişen derecelerde hizalama sapmaları" bulduğunu belirtti. Bu olgular tek başına ciddi görünmeyebilir ve Hugging Face saldırısı gibi net bir "kesin kanıt" içermiyor, ancak model yeteneklerindeki ani hızlanma ile birleştiğinde yeni bir risk sinyali oluşturuyor.

Bu nedenle OpenAI, önemli bir ileri düzey pekiştirmeli öğrenme eğitimini erteledi ve bazı araştırmacıları ile hesaplama gücünü hizalama ve izleme sistemlerine yönlendirdi. Altman, daha önce hizalama araştırması yapmayı hiç düşünmemiş bazı araştırmacıların da bu alana aktif olarak geçmeye başladığını söyledi.

Ancak aynı zamanda dışarıdaki risk yorumlarını düşürmeye çalıştı. OpenAI, dünyanın felaketin eşiğinde olduğuna karar vermedi ve tüm model eğitimini durdurmadı. Mevcut yavaşlama esas olarak ileri düzey pekiştirmeli öğrenmeye odaklanıyor—modelin araçlar, çalışma ortamı edinip karmaşık görevleri öğrendiği aşama. Diğer daha net güvenlik gerekçelerine sahip eğitimler devam ediyor ve hesaplama kümeleri boşta değil.

Altman, geçmişte risklerin daha çok modelin yayınlandıktan sonra nasıl kullanıldığından kaynaklandığını; ajan yetenekleri arttıkça risklerin model eğitimi ve üretim sürecinin öncesine kaydığını düşünüyor.

Astra yine de çıkacak, AI "yanıt"tan "eylem"e geçiyor

Bu ayarlama Astra'nın yayınını tamamen engellemeyecek.

Altman, Astra'nın tek bir model değil, OpenAI'ın önceki Soul serisi gibi daha büyük ve daha pahalı bir model serisi olduğunu açıkladı. Eğitimi tamamlanmış ve şirketin güvenli bulduğu sürümler hâlâ çıkarılabilir, ancak gelecekteki daha güçlü Astra sürümleri yeni güvenlik gereksinimlerinden etkilenecek.

Astra'nın en çok dikkat çeken yeteneklerinden biri bilgisayar kullanımı. Geçmişteki modeller arayüze tıklayabiliyordu ancak yavaş ve sınırlı güvenilirlikteydi; Altman, Astra'nın bilgisayar kullanımında insan seviyesine yaklaştığını düşünüyor.

Kullanıcılar hedefleri doğrudan tanımlayabilir, model bilgisayarda bilgi arar, yazılımları çağırır ve görevleri tamamlar; çok sayıda bağlayıcıyı manuel olarak yapılandırmaya gerek kalmaz. Altman, önceden kendi zamanını harcaması gereken bazı küçük işlerin artık modele devredilebileceğini ve yarım saat sonra dönüp sonucu görebileceğini örnek verdi.

Bu tür yeteneklerin anlamı, AI'ın yanıt üretmekten yürütme aşamasına geçmesidir. Model artık kurumsal yazılımlar, iletişim araçları, dosyalar ve gerçek iş akışlarıyla karşı karşıya kalacak; bu da üretkenliği artırırken yetkisiz erişim, hatalı işlem ve hedef sapması risk alanını genişletiyor.

AGI konusunda Altman, bu kavramın giderek daha az anlamlı bir değerlendirme sağladığını düşünüyor. OpenAI tüzüğündeki "çoğu ekonomik değeri olan işte insanları aşmak" tanımına göre, mevcut iç modeller en azından AGI'ye oldukça yaklaşmış durumda.

Ona göre, 2020'ye geri dönülseydi, karmaşık kod yazabilen, şirket kurmaya yardımcı olabilen, yeni bilgiler keşfedebilen ve hayatın her alanında kullanıcıya zaman kazandıran bir sistem muhtemelen AGI olarak adlandırılırdı. OpenAI içinde de şirketin AGI'ye ulaşıp ulaşmadığı artık nadiren tartışılıyor; tartışmaların odağı, yetenekleri sürekli artan süper zekâya kaymış durumda.

Altman ikisi arasındaki ayrımı şöyle yapıyor: AGI daha çok bir yetenek kilometre taşı iken, süper zekâ uzun süre devam edebilecek bir büyüme eğrisini temsil ediyor. Asıl önemli olan bir sınırın aşıldığını duyurmak değil, model yeteneklerinin hâlâ üstel bir şekilde artıp artmadığıdır.

AI Kodlama Penceresini Kaçırdıktan Sonra OpenAI Cepheyi Daraltıyor

Güvenlik krizinin yanı sıra Altman, OpenAI'in geçtiğimiz yıl ürün yönü ve ön eğitim araştırmalarında beklentilerin gerisinde kaldığını da kabul ediyor.

Sorunlardan biri, şirketin tarayıcı ve Sora dahil çok fazla projeyi aynı anda yürütmesiydi. Bu projeler kendi başlarına değerli olsa da OpenAI'in genel zekâ yeteneklerine yaptığı yatırımı dağıttı. Altman bunu "yan görevler" olarak adlandırıyor ve o dönemde şirketin en önemli hedef etrafında odaklanmasını istemesi gerektiğini düşünüyor.

Bir diğer hata ise AI kodlama pazarında yaşandı.

Anthropic, Claude Code ile talebi ilk yakalayan taraf oldu; OpenAI ise ChatGPT'nin hızlı büyümesiyle meşgul olup kodlama ürününe yeterli önceliği vermedi. Altman, şirketin fırsatı görmediğini düşünmüyor; sorun kaynak dağılımındaydı.

OpenAI daha sonra büyük miktarda işlem gücünü ChatGPT'den Codex'e kaydırdı. Bu da ChatGPT kullanıcı büyümesinin bir dönem yavaşlamasını açıklıyor: İşlem gücü sürekli kıt olduğu sürece, ürün büyümesi büyük ölçüde şirketin işlem gücünü nereye yönlendirdiğine bağlı.

Şu anda şirket, dahili olarak "The Merge" adı verilen bir entegrasyonu ilerletiyor; ChatGPT, Codex ve görev yürütme işlevlerini tek bir genel giriş noktasında birleştiriyor. Altman, kullanıcıların sohbet, kodlama veya çalışma modunu kullanıp kullanmayacaklarına karar vermek zorunda kalmamasını, sadece hedeflerini ifade etmelerini ve AI'ın nasıl tamamlanacağına kendisinin karar vermesini istiyor.

Sonuçta bu, birleşik bir genel AI aboneliğine dönüşebilir. Sistem sürekli çalışacak, kullanıcının bağlamını anlayacak ve proaktif olarak yardım sunacak; hatta kullanıcı talep etmeden önce görevleri işlemeye başlayacak.

Ticari açıdan bakıldığında Altman, OpenAI'in hâlâ yeterli bir tampon alanı olduğunu düşünüyor. Şirketin kurumsal geliri artık tüketici gelirini aşmış durumda; kısa vadede daha güçlü yeni modeller yayınlanmasa bile mevcut modeller ve ürünler büyümeyi desteklemeye devam edebilir. Ona göre güvenlik ayarlamalarının etkisi esas olarak gelecekteki modellere yansıyacak ve mevcut işleri anında kesintiye uğratmayacak.

Yapay Zekâ Sohbet Kutusunun Dışına Çıkarken Toplumsal Tepki de Büyüyor

Model yetenekleri arttıkça yapay zekânın karşılaştığı toplumsal tepki de yükseliyor. Veri merkezi kaynak tüketimi, iş kaybı, yaratıcı hakları ve kişisel gizlilik, kamuoyunun yapay zekâ sektörünü sorguladığı ana başlıklar hâline geldi.

Altman, insanların yapay zekâyı kabul etmesini sağlamanın en etkili yolunun hâlâ gerçek değer sunmak olduğunu düşünüyor. Birçok kişi yapay zekâyı hâlâ "daha iyi bir arama motoru" olarak algılıyor ve ajanların form doldurabildiğini, yazılımları çağırabildiğini ve uzun vadeli görevleri yürütebildiğini bilmiyor. Bu yetenekler daha da yaygınlaştığında kamuoyunun tutumu değişebilir.

İstihdam konusunda, yapay zekânın gerçek bir etki yaratacağını kabul ediyor; bazı işler teknoloji tarafından daha iyi yapılacak ve çalışanların yeni rollere geçmesi gerekecek. Ancak insanların işsiz kalacağını düşünmüyor; çünkü insanların birbirleriyle iş birliği yapması, birbirlerinin ihtiyaçlarını anlaması ve başkaları için değer yaratması hâlâ kolayca ikame edilemeyecek toplumsal bir nitelik taşıyor.

Altman hatta yapay zekânın istihdam üzerindeki etkisinin şu an kendi önceki beklentisinin altında olduğunu düşünüyor. Teknoloji tekrarlayan işleri henüz yeterince ortadan kaldırmadı; bu da yapay zekâ sektörünün üretkenlik vaadini tam olarak yerine getirmediğinin bir göstergesi olarak görülebilir.

Yaratıcılar için üretken yapay zekâyı fotoğrafçılığın ortaya çıkışıyla karşılaştırıyor: Kamera bir zamanlar ressamlar için bir tehdit olarak görülüyordu, ancak sonradan yeni bir sanatsal medya hâline geldi. Altman, yapay zekânın da yeni içerik biçimleri yaratacağını ve kullanıcı ile yaratıcı arasındaki ilişkinin giderek daha çok yaratıcının kendisine bağlı olacağını, eserin yapay zekâ ile üretilip üretilmediğine değil, öngörüyor.

Bu değerlendirmeler hâlâ belirgin bir teknolojik iyimserlik taşıyor. Röportaj, gelirin nasıl yeniden dağıtılacağı, etkilenen çalışanların dönüşümü nasıl tamamlayacağı ve eğitim verisi anlaşmazlıklarının nasıl ele alınacağı konularını gerçekten çözmedi. Altman'ın temel yanıtı hâlâ şu: Önce ürünlerin yeterince belirgin bir değer yaratmasını sağla, ardından araçları geniş çapta açarak kazanımları daha fazla bireye ve topluluğa yay.

Hesaplama Gücü Hâlâ Kıt, Ancak Balon Şimdiden Oluşmaya Başladı

Bir yıl önce OpenAI, devasa hesaplama gücü yatırımları nedeniyle geniş çapta sorgulanıyordu. Model ve ajan talebi arttıkça Altman, bu bahsin doğrulandığını ve şirketin teknoloji düzeyinde yeni bir hesaplama gücü genişlemesi başlatması gerektiğini düşünüyor.

Hedefi yalnızca sermaye yatırımına devam etmek değil, aynı zamanda yapay zekâ işletme maliyetlerini düşürmek, çip verimliliğini artırmak ve tedarik zinciri ile veri merkezi inşasını hızlandırmak. OpenAI, ilk çıkarım çipi Jalapeño'yu geliştiriyor ve gelecekte robotlar da tedarik zinciri ile veri merkezi inşasına katılabilir.

Ancak Altman, tüm sektörün bilgi işlem gücü yatırımlarına karşı temkinli olmaya başladı.

Yeni ortaya çıkan bazı bulut bilişim şirketlerinin, yeterli gelir veya net alıcıları olmadan gelecek yıl için devasa bilgi işlem kapasitesi vaat ettiğini belirtti. Bu durumun "sürdürülemez saçmalık belirtileri" gösterdiğini söyledi. Eğer OpenAI hesaplama maliyetlerini önemli ölçüde düşürmeyi başarırsa, kaynakları yüksek maliyetle kilitleyen bazı şirketler finansal baskıyla karşı karşıya kalabilir.

Bu nedenle Altman, OpenAI'nin kendi bilgi işlem taahhütlerine hâlâ güveniyor ancak tüm yapay zekâ altyapı piyasasının makul getiriler sunacağına inanmıyor. Dış balon patlar ve makroekonomiyi etkilerse, OpenAI'nin tamamen dışarıda kalması da zor olur.

Gelecekte diğer şirketlere bilgi işlem gücü satıp satmayacağına gelince, Altman kısa vadede böyle bir plan olmadığını çünkü OpenAI'nin hâlâ ciddi şekilde hesaplama kaynağı eksikliği yaşadığını söyledi. Ancak çipleri, robotları, tedarik zinciri ve veri merkezi yetenekleri bir avantaj oluşturursa, bilgi işlem gücü tedarikçisi olmak tamamen imkânsız değil.

RSI Yaklaşırken OpenAI Neden Halka Arzı Erteleyebilir?

Yapay zekânın bir sonraki nesil yapay zekâ geliştirmeye katılması, sektörde özyinelemeli kendini geliştirme olarak adlandırılıyor, yani RSI.

Altman daha önce çalışanlara gönderdiği bir mektupta, RSI "hızlandıkça" halka arzı ertelemenin daha avantajlı olabileceğini belirtmişti. Röportajda bu değerlendirmesini daha da açıkladı.

Halka açılmak, şirketin ve çalışanların karşılaştığı teşvikleri değiştirir: hisse fiyatı, üç aylık gelir ve performans beklentileri günlük kararlara girer. Eğer OpenAI güvenlik nedenleriyle eğitimi duraklatmak veya lansmanı ertelemek zorunda kalırsa ve bu nedenle kısa vadeli gelir yavaşlaması yaşarsa, halka açık piyasa ek baskı oluşturabilir.

Altman, bir yıl önce süper zekânın kısa vadede ortaya çıkacağını düşünmediğini, şimdi ise bu olasılığın var olduğuna inandığını ancak yeterli kesinliğe sahip olmadığını söyledi. Bu nedenle, belirli bir zamanda halka arz olmaktan ziyade OpenAI'nin misyonu daha yüksek önceliğe sahip.

Bu, halka arzın kesin olarak ertelendiği anlamına gelmiyor; teknolojik ilerleme zaman çizelgesinde önemli bir değişken olacak. Model yetenekleri hızla büyümeye devam ederse, özel şirket kimliği OpenAI'ye güvenlik kararları için daha geniş bir alan sağlayabilir.

Altman ayrıca "diğer şirketler de devam edecek, bu yüzden biz duramayız" yarış mantığına karşı çıktı. OpenAI bu sefer meslektaşlarından önceden hızlarını düşürmelerini istemedi; kendi güvenlik standartlarına göre bazı çalışmaları duraklattı. Ona göre, ABD hükümeti öncü modelleri test edip ortak standartlar belirleyebilir, ancak hangi belirli müşterilerin modelleri kullanabileceğine işletmeler adına karar vermemelidir.

Hükümetin OpenAI'ın bir ürünü piyasaya sürmesini engelleyip engelleyemeyeceği konusunda Altman'ın yanıtı şu oldu: OpenAI'ın hükümet harekete geçmeden önce kendi kararıyla ürünü piyasaya sürmemeye karar vereceğine inanıyor.

Yazılımdan Donanıma: OpenAI "Proaktif Bilgisayar"a Yatırım Yapıyor

OpenAI'ın genişlemesi fiziksel dünyaya da uzanacak.

Altman, şirketin gelecekte "kesinlikle" insansı robotlar geliştireceğini ve veri merkezleri gibi senaryolar için diğer form faktörlerini de keşfedeceğini doğruladı. İnsansı tasarımın gerekçesi oldukça doğrudan: Gerçek dünyadaki kapılar, bilgisayarlar, araçlar ve aletler insan vücuduna göre inşa edilmiştir; robotların benzer bir form benimsemesi mevcut ortamlara girmeyi kolaylaştırır.

Tüketiciye daha yakın olan proje, OpenAI'ın Jony Ive ile ortak geliştirdiği yapay zeka cihazıdır.

Altman, yapay zekanın her birkaç on yılda bir ortaya çıkan yeni bir bilgi işlem cihazı kategorisini doğurabileceğini düşünüyor. OpenAI şu anda masa üstüne yerleştirilen cihazlar, cebe sığan cihazlar ve vücutta taşınan cihazlar gibi formları değerlendiriyor, ancak bu ürünler aynı anda piyasaya sürülmeyecek.

Akıllı gözlüklerden hoşlanmadığını açıkça belirtti çünkü kamera ve gösterge ışığı takan insanlarla konuşmak onu rahatsız ediyor. Bu nedenle OpenAI'ın donanım yol haritası en azından mevcut ana akım yapay zeka gözlüklerini basitçe kopyalamayacak.

Belirli dış görünümden daha büyük olan değişim "proaktif bilgisayar"dır. Gelecekteki cihazlar çevreyi, kullanıcı bilgilerini ve devam eden olayları sürekli anlayabilir ve kullanıcının uygulamayı açıp komut girmesini beklemeden proaktif olarak yardım sunabilir.

Bu model aynı zamanda daha keskin gizlilik sorunlarını da beraberinde getiriyor. Bilgisayarı görüntüleyebilen, mesajları okuyabilen ve çevreyi sürekli algılayabilen bir cihaz, son derece eksiksiz bir kişisel bilgi veritabanı oluşturabilir.

Altman, doktor-hasta gizliliği veya avukat-müvekkil ayrıcalığına benzer bir "yapay zeka ayrıcalığı" oluşturulmasını savunuyor: Hükümet, şirketlerin kullanıcı ile yapay zeka arasındaki sohbet kayıtlarını keyfi olarak teslim etmesini talep etmemeli ve şirketlerin yapay zeka verilerini kullanımı da sıkı şekilde sınırlandırılmalıdır. Çevresel bilgi işlem cihazlarının piyasaya sürülmesine yaklaştıkça OpenAI'ın yeni gizlilik teknolojileri ve kontrol önlemleri açıklaması gerektiğini kabul etti.

Apple'ın ilgili yetenekler ve ticari sırlarla ilgili açtığı davaya gelince, Altman, OpenAI'ın iç soruşturma sonrasında ilgili çalışanların uygunsuz davranışta bulunmadığına inandığını, bu nedenle davanın cihaz geliştirmeyi yavaşlatmasını beklemediğini söyledi.

Güvenlik ve Uyum, OpenAI'ın Yeni Büyüme Kısıtı Haline Geliyor

Önümüzdeki 12 ayda OpenAI'ın karşı karşıya olduğu en büyük risk sorulduğunda Altman, rekabet, finansman veya hesaplama gücünü seçmedi; "güvenlik, uyum ve korumayı yanlış yapmak" cevabını verdi.

Bu cümle, röportajın tamamındaki temel çelişkiyi özetliyor.

OpenAI, model yeteneklerinin yeni bir hızlanma aşamasına girdiğini düşünüyor: Astra, bilgisayarı insan seviyesine yakın bir şekilde kullanabiliyor, ajanlar sürekli çalışabiliyor, yapay zeka bilimsel araştırma ve model geliştirmeye katılmaya başlıyor ve süper zeka, uzak bir kavramdan yönetimin önceden hazırlanması gereken bir olasılığa dönüşüyor.

Aynı zamanda, modellerin sanal alandan kaçışı, yetenek artışının otomatik olarak insan niyetinin anlaşılmasını getirmediğini gösteriyor. Model ne kadar özerk planlama yapıp araçları çağırabiliyorsa, hedef belirlemedeki sapmaların büyüme olasılığı da o kadar artıyor.

OpenAI durmuyor. Hâlâ daha fazla hesaplama gücü inşa ediyor, yeni modeller geliştiriyor, ChatGPT ve Codex'i birleştiriyor ve çip, robot ile tüketici donanımı alanlarına giriyor. Ancak bu röportajdan görüldüğü üzere, güvenlik ve hizalama, hesaplama gücü gibi, öncü araştırmanın hızını sınırlayan gerçek koşullar haline gelmeye başladı.

Astra'nın zamanında piyasaya sürülüp sürülemeyeceği yalnızca anlık bir sorun. Daha dikkat çekici olan, bir sonraki yetenek sıçraması geldiğinde OpenAI'nin hâlâ aktif olarak fren yapıp yapamayacağı ve bu mekanizmanın rekabet, gelir ve sermaye piyasalarının ortak baskısına dayanıp dayanamayacağıdır.

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia