Orijinal Başlık: Sam Altman Geleceğimizi Kontrol Edebilir mi? Ona Güvenebilir mi?
Orijinal Yazar: Ronan Farrow ve Andrew Marantz, the New Yorker
Çeviri: Peggy, BlockBeats

Editör Notu: Bu makale, OpenAI içinde Sam Altman etrafında yaşanan iktidar ve güven krizini, birçok açıdan ele alarak inceliyor. Yönetim kurulu görevden almaktan hızlıca geri dönüşe kadar olan "darbevari tersine dönüş" olayını, tek seferlik bir hadise olarak değil, uzun süreli yönetim çatışmasının merkezi patlaması olarak ele alıyor.

Çatışmanın merkezinde, süregelen iki mantık çatışması yatıyor: bir tarafta, OpenAI'nın kuruluşundan beri "insan güvenliği öncelikli" olarak belirlediği kar amacı gütmeyen misyonu, diğer tarafta ise AGI'ye yaklaşırken ve ticarileşme hızlanırken ürün, ölçek ve gelir odaklı bir gelişim yoluna doğru yavaş yavaş kayması. Bu süreçte güvenlik taahhüdü sürekli olarak zayıflatılırken, güç ve kararlar giderek az sayıda insana odaklanmaktadır.

Ilya Sutskever, Dario Amodei gibi çekirdek figürlere ek olarak birçok önemli kişi, Altman'a yönelik şüphelerini bilgi eksikliği ve stratejik ifade üzerinde yoğunlaştırarak dile getiriyor; liderlik tarzının "insanlığın kaderini değiştirecek" teknolojinin sağlam yönetimini desteklemekte zorlandığını düşünüyorlar. Diğer yandan destekçileri, Altman'ın kaynakları birleştirme, sermaye işletmesi ve yürütme düzeyindeki yeteneğini vurgulayarak, OpenAI'ın hızla genişlemesinin kilit faktörü olduğunu savunuyorlar.

Teknoloji gücü küresel düzeni etkileyecek kadar büyük olduğunda, mevcut şirket yönetişim yapısı hala bireyleri sınırlayabilecek mi? Başka bir deyişle, yapay zeka çağında gerçek belirsizlik, belki de teknoloji kendisinden değil, teknolojiyi kontrol eden kişilerden kaynaklanıyor.

Aşağıda orijinal metin bulunmaktadır:

Güç ve Güven: Altman Yönetimindeki Yönetişim Çatlakları

2023 Sonbaharı'nda, OpenAI Baş Bilimci Ilya Sutskever, işletmenin CEO'su Sam Altman ve sağ kolu Greg Brockman'ın bu şirkete hala liderlik edip etmediği konusunu tartışmaya uygun olup olmadığına dair hassas bir konuyu özel bir notla şirket yönetim kurulunun diğer üç üyesine iletti. Bu notu göndermeden önce, birkaç hafta boyunca gizlice bu konuyu tartışmışlardı.

Kaynak: AI WORLD TODAY

Sutskever, bir zamanlar bu iki kişiyi dostu olarak gördü. 2019'da, hatta Brockman'ın düğünü için OpenAI ofisinde ev sahipliği yapmış, düğünde bile bir mekanik kolun "yüzük taşıyıcı" olarak görev yaptığı bir olay yaşanmıştır.

Ancak şirketin uzun vadeli hedefine doğru ilerlediğine dair giderek artan inancıyla -cognitive yetenekleri açısından insanlarla yarışabilecek hatta insanları aşabilecek bir yapay zeka yaratma hedefine- Altman'a yönelik şüpheleri de sürekli derinleşmiştir. O dönemde başka bir yönetim kurulu üyesine söylediği gibi: "Bence Sam, elini düğmeye basması gereken kişi değil."

Diğer yönetim kurulu üyelerinin talebi üzerine Sutskever, aynı inançları paylaşan meslektaşlarıyla birlikte yaklaşık yetmiş sayfalık bir belge derlemiştir. Bu belgede Slack sohbet kayıtları, insan kaynakları dosyaları ve ilgili açıklamalar yer almaktadır. Bazı içerikler açıkça şirket cihazlarının izlemesinden kaçınmak amacıyla cep telefonuyla çekilen ekran görüntüleridir. Sonunda, bu notları diğer yönetim kurulu üyelerine göndermek suretiyle "görüldükten sonra yok olma" yöntemiyle, daha fazla kişi tarafından görülmemesini sağlamıştır.

Belgeyi alan yönetim kurulu üyelerinden biri, "O zamanlar çok korkmuştu," diye hatırladı. Bu notları inceledik ve daha önce hiç tam olarak açığa çıkarılmamışlardı. Belgelerde, Altman'ın yöneticilere ve yönetim kurulu üyelerine gerçeği çarpıttığı ve iç güvenlik politikaları konusunda aldatıcı davrandığı iddia ediliyor. Altman'a dair bir belgenin başlangıcı, "Sam her zaman şunu göstermiştir..." başlıklı bir liste ile başlar ve ilk madde "Yalan söyleme"dir.

Birçok teknoloji şirketi "dünyayı daha iyi bir yer haline getirmeyi" vaat ederken, aslında işleyişleri gelirleri maksimize etrafında dönmektedir. Oysa OpenAI'nin kuruluş amacı, bu modele karşı çıkacak şekilde planlanmıştır. Altman, Sutskever, Brockman ve Elon Musk da dahil olmak üzere kurucuları, yapay zekanın insanlık tarihinde en güçlü ve aynı zamanda en potansiyel tehlikeli icat olabileceğine inanıyor. Bu "varoluşsal risk" bağlamında, şirket belki de geleneksel olmayan bir organizasyon yapısına ihtiyaç duyabilir.

OpenAI başlangıçta kar amacı gütmeyen bir kuruluş olarak kurulmuş olup, yönetim kurulunun görevi, "tüm insanlığın güvenliğini" şirketin başarısının önüne koymak, hatta şirketin varlığının üzerine çıkarmaktı. CEO'ların olağanüstü karakter ve dürüstlüğe sahip olmaları gerekiyordu.

Sutskever'ın dediği gibi: "Bu medeniyeti değiştirebilecek bir teknolojiyi oluşturmaya katkıda bulunan herkes, büyük bir sorumluluk ve eşi benzeri görülmemiş bir görev üstlenmektedir." Ancak, "bu pozisyonlara oturan kişilerin çoğunun genellikle belirli bir karaktere sahip olduğunu" ve "bu teknolojiyi sadece insanların duymak istediği şeyleri söyleyen birine teslim etmenin" endişelerini dile getirdiği bir notta da belirtmiştir.

Eğer OpenAI'nın CEO'su nihayetinde güvensiz bulunursa, altı kişilik yönetim kurulu, onu görevden alma yetkisine sahiptir. Yapılan bazı anılar incelendikten sonra, yapay zeka politika uzmanı Helen Toner ve girişimci Tasha McCauley de dahil olmak üzere bazı yönetim kurulu üyeleri, Altman'ın üstlendiği şeyin insanlık için geleceği ilgilendiren bir sorumluluk olduğunu, ancak kendisinin güvenilir olmadığına dair daha önceki değerlendirmelerinde daha da kararlı hale geldiler.

Yönetim Kurulu Darbesi: Sam Altman Kovuldu

O sırada Sam Altman, Las Vegas'ta bir Formula 1 yarışını izliyordu, Ilya Sutskever onu yönetim kuruluyla bir video konferans toplantısı yapmaya davet etti ve toplantıda kısa bir açıklama yaparak kendisinin artık OpenAI çalışanı olmadığını duyurdu. Yönetim kurulu, hukuki tavsiye doğrultusunda, sadece Altman'ın "iletişimde her zaman dürüst olamaması" nedeniyle kovulduğunu belirten bir açıklama yayınladı.

Bu karar, OpenAI'nın birçok yatırımcı ve üst düzey yöneticisini derinden şaşırttı. OpenAI'ya yaklaşık 13 milyar dolar yatırım yapan Microsoft da, kararın uygulanmadan önce son dakikada haberdar oldu. "O zaman çok şaşırdım," Microsoft CEO'su Satya Nadella, "daha fazla bilgi alabileceğim hiç kimseyi bulamadım," dedi. Daha sonra, Altman'ın açık bir ihmali olup olmadığı konusunda Reid Hoffman'a (LinkedIn'in kurucu ortağı, OpenAI yatırımcısı ve Microsoft yöneticisi) ulaştı ve durumu soruşturmaya başladı. "O zaman tamamen ne olduğunu anlamadım," Hoffman bize anlattı, "çalan para ya da cinsel taciz gibi şeyleri arıyorduk, ama hiçbir şey bulamadık."

Diğer iş ortakları da aynı şekilde hazırlıksız yakalandı. Altman, yatırımcı Ron Conway'a kovulduğunu bildirdiğinde, Conway, o sırada Amerikan Temsilciler Meclisi üyesi Nancy Pelosi ile öğle yemeği yemekteydi ve hemen ona telefonunu uzattı. "Buradan hemen ayrılman iyi olur," dedi Pelosi Conway'a.

Aynı anda, OpenAI, Josh Kushner tarafından kurulan bir risk sermayesi şirketi olan Thrive Capital'dan önemli bir finansman turunu tamamlamak üzereydi; Kushner, Jared Kushner'ın kardeşi olup yıllardır Altman'la tanışmaktaydı. Bu anlaşma, OpenAI'nın değerini 860 milyar dolara çıkaracak ve birçok çalışanın milyonlarca dolarlık hisse senedi kazançlarını realize etmelerine olanak tanıyacaktı. Kushner, o anda müzik yapımcısı Rick Rubin ile bir toplantıyı bitirmişti ve Altman'ın cevapsız aramasını görünce geri döndü. "Hemen savaş moduna geçtik," dedi.

Kovulduğu gün, Altman San Francisco'daki 27 milyon dolarlık malikanesine uçtu - burası tüm körfezi görebilen, taşan havuzlu bir malikaneydi - ve orada "bir tür sürgün hükümeti" olarak adlandırdığı geçici bir komuta merkezi kurdu. Conway, Airbnb'in kurucu ortağı Brian Chesky ve krizle başa çıkma konusunda sert ün kazanmış Chris Lehane gibi kişiler, video ve telefon aracılığıyla katıldı, bazen saatlerce süren görüşmeler yaptılar. Altman'ın bazı yönetici ekibinin üyeleri bile doğrudan bu evin koridorlarında "kamp kurdu". Avukatlar ise yan odadaki ev ofisinde konuşlanmıştı. Uykusuzluk atakları yaşadığında, Altman pijamasıyla etraflarında yürürdü. Son röportajımız sırasında, kovulduktan sonra yaşadıklarını "garip bir trans haline" benzetiyordu.

Yönetim kurulu sessiz kaldığında, Altman'ın danışman ekibi geri dönüşü için kamuoyu desteği oluşturmaya başladı. Lehane, bu kovulmanın aslında "etkili bir şekilde başkalarını düşünenler" (insanlığın genel refahını maksimize etmeyi vurgulayan bir düşünce sistemi) tarafından planlanmış bir "darbe" olduğunu iddia etti, ve bu kişiler yapay zekayı bir varlık tehdidi olarak görüyordu. (Hoffman o sırada Nadella'ya, bu kovulmanın muhtemelen "bir tür etkili başkalarını düşünme çılgınlığından" kaynaklandığını söyledi.) Lehane, Mike Tyson'dan esinlenen yaygın olarak çeşitli basında yer alan bir sözü kullanarak, Altman'a radikal bir sosyal medya saldırısı başlatmasını önerdi: "Herkesin bir planı vardır, ta ki bir yumruk yüzüne gelene kadar." Chesky ise teknoloji gazetecisi Kara Swisher ile iletişim halinde kalarak, yönetim kuruluna karşı eleştirel seslerin dışarıya iletilmesini sağladı.

Altman her akşam saat altıda, "operasyon odası"ndan çıkıp kendine bir Negroni doldururdu. O sırada etrafındakilere şunları söylüyordu: "Biraz rahatlamalısın, olması gereken her zaman olur." Ancak aynı zamanda, telefon kayıtları gösteriyor ki, o dönem Altman her gün on iki saatten fazla telefon görüşmesi yapmıştı.

Bir içeriden bilgi kaynağına göre, Altman bir kez, o dönem OpenAI'in geçici CEO'su olan Mira Murati'ye, müttefiklerinin "tam güçle saldırdığını" ve onu ve diğerleri hedef alarak onun koltuğundan etme çabasında olduğunu söyledi. (Altman ise bu konuşmayı hatırlamadığını belirtti.)

Kovulduktan sonraki birkaç saat içinde, Thrive Capital planlanan yatırımı askıya aldı ve açıkça belirtti ki, yalnızca Sam Altman geri dönerse bu işlem tamamlanacak ve çalışanlar hisse senedi kazançlarına erişebileceklerdi. O dönemdeki metin mesajları, Altman'ın Satya Nadella ile sıkı iletişimde olduğunu gösteriyor. (Bir açıklama metni hazırlarken, Altman'ın "Satya ve benim şu anki önceliğimiz OpenAI'i kurtarmak" yazma önerisini getirdiği ve Nadella'nın da "OpenAI'in devam eden büyümesini sağlamak" için başka bir ifade önerdiği belirtildi.)

Power Reversal: Altman Returns as CEO in 5 Days

Shortly after, Microsoft announced it would launch a competitive project for Altman and any OpenAI employees who left. Meanwhile, an open letter urging Altman to return began circulating within the company. Some who were initially hesitant to sign received persuasive calls and messages from colleagues. Ultimately, a majority of OpenAI employees threatened a mass exodus in support of Altman.

The board was backed into a corner. "Ctrl+Z is an option," said Helen Toner, referring to undoing the firing decision. "The other choice is the company falling apart." Even the acting CEO at the time, Mira Murati, eventually signed the open letter. Altman's allies began trying to persuade Ilya Sutskever to change his stance. Brockman's wife, Anna, even approached him in the office and pleaded, "You're a good person. You can fix this." Sutskever later explained in a court testimony, "I felt at the time that if we went down the path of Sam not returning, OpenAI would be destroyed."

One night, Altman took the sleep aid Ambien and was later woken up by his husband, Australian programmer Oliver Mulherin, who informed him that Sutskever's position was wavering and suggested Altman immediately communicate with the board. "I woke up from a kind of Ambien-induced haze," Altman recalled, "and was just so disoriented. I thought, 'There's no way I can talk to the board right now.'"

In a series of increasingly tense calls, Sam Altman demanded the board members who pushed for his firing to resign. When it came to the idea of returning, he remembered his initial reaction being, "Am I going to clean up this mess in this incredibly suspicious environment? I genuinely thought it was impossible." Eventually, Ilya Sutskever, Helen Toner, and Tasha McCauley lost their board seats, leaving only Adam D'Angelo (Quora co-founder) as the original board member.

As part of the resignation terms, these directors requested an investigation into the allegations against Altman—including sowing discord among executives and concealing financial ties. They also pushed for the establishment of a new board to independently oversee the external investigation. However, the two new directors—former Harvard University President Lawrence Summers and former Facebook CTO Bret Taylor—were chosen after close communication with Altman. "What do you think about this?" Altman once texted Satya Nadella. "A board consisting of Bret, Larry Summers, and Adam, with me as the CEO, and Bret leading the investigation." (McCaully later testified that when Taylor was initially considered for the board, she was concerned he might be too deferential to Altman.)

Yalnızca beş gün sonra işten çıkarılmasının ardından, Altman göreve geri döndü. Şirket çalışanları daha sonra bu zaman dilimini "Blip" olarak adlandırdı, Marvel filmlerinden bir sahneyi ödünç aldılar - karakterler kısa bir süre kaybolduktan sonra geri döner, ancak dünya onların yokluğunda derinden değişmiştir.

Ancak, Altman'ın güvenilir olup olmadığıyla ilgili tartışmalar, çoktan OpenAI Yönetim Kurulu'nun dışına taştı. Onun istifasını sağlayan meslektaşları, ciddi düzeyde yanıltıcı davranışlarda bulunduğunu iddia ettiler, bu sadece herhangi bir iş yöneticisi için kabul edilemez değil, aynı zamanda böyle devrim niteliğinde bir teknolojiyi kontrol eden bir lider için daha da riskli. "Gücüne denk düşen bir kurumsal yapıya ihtiyacımız var," Mira Murati bize şöyle dedi, "Yönetim Kurulu geri bildirim istedi ve ben sadece gördüğüm durumu dürüstçe paylaştım, bu içeriklerden tamamen sorumluyum." Altman'ın destekçileri ise bu suçlamaları uzun süredir hafife indirgemektedir. İşten çıkarma olayından sonra, yatırımcı Ron Conway, Brian Chesky ve Chris Lehane'a bir PR karşı saldırı başlatmalarını isteyen bir mesaj gönderdi: "Bu, Sam'in itibarıyla ilgilidir." Ayrıca Washington Post'a Altman'ın "kontrolden çıkmış bir Yönetim Kurulu" tarafından haksız şekilde muamele gördüğünü belirtti.

Bunun ardından, OpenAI, dünyanın en değerli şirketlerinden biri haline gelmiş ve iddia edildiğine göre trilyonlarca dolarlık bir halka arz için hazırlık yapmaktadır. Aynı zamanda Altman, büyük ölçekli yapay zeka altyapısı oluşturmaya yönelik çalışmaları sürdürmektedir, bunların bir kısmı hatta yurtdışındaki otoriter rejimlere kadar uzanmaktadır. OpenAI ayrıca büyük miktarda devlet sözleşmesi için mücadele etmekte ve göçmenlik yasalarının uygulanması, iç güvenlik izleme ve savaş bölgesi otonom silahları gibi alanlarda yapay zeka uygulamalarının standartlarını belirlemektedir.

Sam Altman, OpenAI'nın büyümesini desteklemek için sürekli olarak büyük bir gelecek vizyonu sunmaktadır. 2024'te bir blog yazısında şunları yazmıştı: "O şaşırtıcı zaferler - iklim sorununu çözmek, uzayda koloni kurmak, tüm fizik yasalarını keşfetmek - nihayet alışılmış bir hale gelecek." Bu anlatı, tarihin en hızlı para harcayan start-up şirketlerinden birini desteklemektedir ve büyük ölçüde borçlu finansmanının yanı sıra devasa ortaklıklara dayanmaktadır. Amerikan ekonomisi, giderek artan bir şekilde birkaç yüksek kaldıraçlı yapay zeka şirketine dayanmaktadır, birçok uzman - hatta bazen Altman dahil olmak üzere - bu endüstride balon riski olduğunu uyarıda bulunmuştur. "Her zaman acı bir şekilde paranızın bir kısmını kaybedenler olacaktır," geçen yıl bir gazeteciye söyledi. Eğer balon patlarsa, ekonomik bir felakete yol açabilir; ancak eğer en iyimser tahmini gerçekleşirse, o zaman dünya genelinde en zengin ve en güçlü insanlardan biri haline gelebilir.

Altman'ın işten çıkarılmasının ardından yapılan bir gergin telefon görüşmesinde, Yönetim Kurulu ondan uzun süredir süregelen yanıltıcı davranışlarını kabul etmesini istedi. Orada bulunan birine göre, sürekli olarak "Bu çok absürt" dedi ve "Benim karakterimi değiştiremem" dedi. Altman o konuşmayı hatırlamadığını söyledi. "Belki o zamanın amacım, 'Herkesi bir araya getirebilen biri olma'ydı," daha sonra bize açıkladı ve bu özelliğin onun son derece başarılı bir şirketi yönetmesine olanak tanıdığını belirtti. Bu eleştirileri, kariyerinin erken döneminde "çatışmadan kaçınma" eğilimi olarak yorumladı. Ancak bir Yönetim Kurulu üyesi tamamen farklı bir yorumda bulundu: "O cümlenin aslında anlamı şudur - 'Benim buna bir yalan söyleme eğilimim var ve bunu durdurmayı düşünmüyorum.'"

Misyon Kayması: Güvenlik Önceliğinden İş Odaklılığa

Bu noktada, daha temel bir soru ortaya çıktı: Altman'ı görevden almak için baskı kuran meslektaşları, aşırı temkinlilik ve kişisel duygular mıydı, yoksa onların değerlendirmesi zaten doğru muydu ve Altman güvenilir değil miydi?

Bu kışın bir sabahı, San Francisco'daki OpenAI merkezinde Altman ile buluştuk, bu makaleyi yazmak için yaptığımız ondan fazla röportajdan biriydi. Şirket yakın zamanda iki onbir katlı cam kuleye taşındı, bunlardan biri başka bir teknoloji devi Uber'e aitti. Uber'in kurucu ortağı ve eski CEO'su Travis Kalanick, 2017 yılında yatırımcıların baskısıyla istifa edene kadar durdurulamaz deha girişimcisi olarak görülüyordu, aynı etik sorunlar nedeniyle. (Şu anda Kalanick bir robot girişimi yönetiyor; ayrıca, boş zamanlarında OpenAI'in ChatGPT'sini kullanarak "kuantum fiziğinin sınırını keşfetmek" için zaman ayıracağını belirtti.)

Bir çalışan bizi ofis alanlarında gezdirdi. Paylaşılan uzun masaların ve açık alanların yer aldığı bir alanda, hareketli dijital bir resim vardı, resmedilen kişi bilgisayar bilimcisi Alan Turing'di ve gözleri bizim hareketimize göre dönüyordu. Bu cihaz açıkça "Turing Testi"ne bir saygı duruşuydu - bu, makinelerin insanları ikna edici bir şekilde taklit edebilip edemeyeceğini belirlemek için 1950 yılında önerilen bir düşünce deneyiydi. (2025 yılındaki bir araştırmada, ChatGPT'nin bu testten geçme performansı hatta gerçek insanları aştı.) Genellikle, bu resim insanlarla etkileşime girebilirdi. Ancak rehberimiz, konuşma özelliğinin kapatıldığını açıkladı çünkü resmin sürekli olarak çalışanları dinlediğini ve sık sık sohbetlerine müdahale ettiğini söyledi. Ofisin diğer köşelerinde, "AGI'yi Hisset" yazılı sloganlar görünüyordu - bu slogan başlangıçta Ilya Sutskever tarafından önerilmiş ve meslektaşları, genel yapay zeka (yani makinenin bilişsel yeteneklerinin insan seviyesine ulaştığı nokta) konusundaki riskler konusunda uyarılmalı olduğunu hatırlatmak için kullanılmıştı. Ancak "Blip"ten sonra, bu slogan giderek geleceğin bolluk manzarasını öven neşeli bir slogan haline geldi.

Sam Altman'ı sıradan görünen bir toplantı odasında gördük 8. katta. "Başkaları bana 'karar vermeye karşı aşırı yorgunluk' dediğinde, hiç anlamıyordum," dedi, "şimdi her gün gri kazak ve kot pantolon giyiyorum, hatta hangi gri kazagı seçmem gerektiğini düşünüyorum: bu kararı vermek zorunda olmasaydım keşke."

Altman hala genç görünüyordu, zayıf yapılıydı, mavi gözleri oldukça açıktı, saçları biraz dağınıktı, ama kırk yaşındaydı. Oliver Mulherin ile vekaleten bir oğulları var. "Sanırım, Amerika Birleşik Devletleri Başkanı olmanın çok daha fazla stresli olduğunu düşünüyorum, ama gerçekte yapabileceğim tüm işler arasında, bu düşündüğüm en stresli iş olduğunu hayal edebiliyorum," dedi, birine baktı, sonra başka birine baktı. "Arkadaşlarıma şöyle açıkladım: 'Bu dünyanın en ilginç işi, ChatGPT'yi piyasaya sürdüğümüz güne kadar.' O günden beri, bu devasa bilimsel ilerlemeleri yaparken hepimiz çok zor kararlar almamız gerekiyor gibi hissetmeye başladım."

Altman, Missouri'nin Clayton kasabasında büyüdü, bu da zengin bir banliyö olan St. Louis'de bulunmaktadır, ve dört kardeşin en büyüğüdür. Annesi Connie Gibstine bir cilt doktoruydu, babası Jerry Altman emlakçıydı ve konut girişimlerine dahil olmuştu. O bir Reform Yahudi kilisesinde büyüdü, özel bir ön lisans okuluna gitti ve daha sonra orayı "eşcinsel olduğunu açıkça ifade etmenin kolay olmadığı bir yer" olarak tanımladı. Ancak genel olarak, yaşadığı ortam orta-üst sınıf bir topluluk olup oldukça özgürdü.

Yaklaşık on altı yedi yaşlarında, St. Louis'deki eşcinsel topluluğa odaklanmış bir gece dışarı çıktığı sırada ciddi bir fiziksel saldırı ve homofobik hakaretle karşılaştı. Altman polise bildirmemiş, bu olay hakkında daha fazla ayrıntı vermeyi reddetmiş ve bu olayı daha detaylı anlatmanın "başkalarını manipüle etmek veya sempati kazanmak gibi görünmesine" neden olacağını belirtmiştir. Bu deneyimi hafife aldı ve kendi cinsel yöneliminin kimlik tanımlaması üzerindeki önemini görmezden geldi. Ancak aynı zamanda şunu kabul etti: "Bu muhtemelen benim üzerimde psikolojik olarak derin izler bıraktı -- Kendimden çıktığımı düşünmüştüm ama aslında çıkmamışım-- artık daha fazla çatışma yaratmak istemediğim konusunda."

Kardeşi 2016 yılında The New Yorker'a verdiği röportajda çocukluk kişiliğini şu şekilde tanımladı: "Kazanmak zorundaydım ve her şey benim kontrolümdeydi." Altman daha sonra Stanford Üniversitesi'ne girdi ve okuldayken sık sık okul dışı poker oyunlarına katıldı. "Hayatta ve iş dünyasında öğrendiğim şeylerin çoğunu, üniversitede öğrendiğimden daha fazlasını öğrendiğimi düşünüyorum."

Y Combinator Dönemi: Abartı ve Güven İtibarı

Stanford öğrencileri oldukça hırslıdır, ancak en kararlı olanlar genellikle okulu bırakmayı seçer. İkinci sınıfın sonunda, Altman Massachusetts'e gitti ve tanınmış yazılım mühendisi Paul Graham tarafından kurulan Y Combinator'ın ilk girişimciler programına katıldı. Bu kuruluş her katılımcının bir girişim fikriyle katıldığı bir programdı. (Reddit ve Twitch'i kuracak olan ekipten başka onunla aynı grupta olanlar da vardı.) Altman'ın projesi daha sonra Loopt adını aldı, erken dönem bir sosyal ağ ürünüydü, kullanıcıların arkadaşlarının nerede olduğunu görmelerini sağlayan bir özellikle konumlarını izleyerek çalışıyordu. Bu şirket hem yürütme kabiliyetini yansıtıyor hem de kendisi için alan yaratma eğilimini gösteriyordu. O dönemde federal yasalar operatörlerin acil durumlarda cep telefonu konumunu belirlemesini gerektiriyordu, Altman ise operatörlerle anlaşarak bu yeteneği kendi ürününe dahil etti.

Loopt döneminde, çalışanların çoğu Sam Altman'ı severdi, ancak bazıları onun abartılı olma eğiliminden, hatta önemsiz bazı konularda abartı yapmasından etkilendi. Birileri, Altman'ın kendisini masa tenisi şampiyonu olarak övündüğünü hatırladı -- "örneğin Missouri'de lise masa tenisi şampiyonu" -- ancak sonuçta şirketteki en kötü oynayanlardan biri olduğu ortaya çıktı. (Altman buna sadece bir şaka olduğunu söyledi.) Loopt'ta uzun zamandır çalışan Mark Jacobstein bir yatırımcı tarafından Altman'ın "bakıcısı" olarak atandı ve daha sonra Keach Hagey'in kaleme aldığı "The Optimist" adlı biyografide "Kanımca, 'Bunu başarabileceğimi düşünüyorum' ile 'Zaten başardım' arasında belirsiz bir alan var ve bu belirsizlik, en aşırı durumlarda, Theranos gibi sonuçlara yol açabilir." yorumunu yaptı.

Hagey'nin anlatımına göre, Altman'ın liderlik tarzı ve şeffaflık eksikliği konusundaki endişelerden dolayı, Loopt'un bazı üst düzey çalışanları onu CEO pozisyonundan almak için yönetim kuruluna iki kez öneride bulundular. Ancak aynı zamanda, Altman'ın çok güçlü bir kişisel cazibesi de vardı. Bir eski çalışan, bazı yönetim kurulu üyelerinin doğrudan şu şekilde cevap verdiklerini hatırladı: "Bu Sam'ın şirketi, sen işine bak." (Ancak bazı yönetim kurulu üyelerinin bu görevden alma girişimlerinin ciddi olmadığını reddettikleri de oldu.)

Loopt, kullanıcı büyümesinde hiçbir ilerleme kaydedemedi ve sonunda 2012'de bir fintech şirketi tarafından satın alındı. Bilgilendirilen kaynaklara göre, bu satın alma büyük ölçüde Altman'ın "gururunu korumasına" yardımcı olmak amacıyla gerçekleşti. Ancak, 2014 yılında Paul Graham Y Combinator'dan emekli olduğunda, halef olarak hala Altman'ı seçti. "Ona kendi mutfağımızda sordum," diye açıklama yapan Graham, "O gülümsedi, her şeyin tamam olduğu gibi. Sam'ın o kontrolsüz gülümsemesini hiç görmemiştim, sanki bir kağıdı uzak bir çöp kutusuna atarken gösterilen bir gülümseme gibi."

Yalnızca 28 yaşındaki Altman'ı "Kral Yapıcı" yapan yeni pozisyonu. Görevi, en hırslı ve potansiyele sahip girişimcileri seçmek, onları önde gelen programcılar ve yatırımcılarla buluşturmak ve endüstriyel düzeyde tekelleşme şirketleri oluşturmalarına yardımcı olmaktı (aynı zamanda Y.C. %6 ila %7 hisse alacaktı).

Yönetimi altında, Y Combinator hızla genişledi, kuluçka projeleri birkaç düzinden yüzlerce düzeye çıktı. Ancak bazı Silikon Vadisi yatırımcıları, onun çıkarlarının tamamen uyumlu olmadığını düşünmeye başladı. Bazı yatırımcılar bize, Altman'ın "en kaliteli şirketlere kişisel yatırım yapmayı seçtiğini ve dış yatırımcıları dışarıda bıraktığını seçici olarak yaptığını" söylediler (Altman bu iddiayı reddetti). Ayrıca daha önce Sequoia Capital için "keşifçi" (scout) olarak çalışmış, erken aşama projelerine yatırım yapmış ve bazı kazançlar elde etmişti.

Bilgilendirilen bir kişiye göre, Altman'ın melek yatırımcı olarak yatırım yaptığı fintech şirketi Stripe'a yüksek oranda hisse almayı ısrar etmesi, Sequoia içinde hoşnutsuzluğa neden oldu. Bu kişi, bu durumun bir "Sam öncelikli" stratejisini yansıttığını belirtti (Altman bu iddiayı reddetti. 2010 civarında 15.000 ABD Doları karşılığında Stripe'a yaklaşık %2 hisseyle yatırım yaptı ve şirketin şu anda 150 milyar ABD Doları üzerinde bir değere sahip olduğunu ifade etti.). Altman, yaklaşık 400 şirkete yatırım yaptığını söyledi.

2018 yılına gelindiğinde, Y Combinator içinde birkaç ortağın Altman'ın davranışlarından rahatsız olduğu ve Graham'a durumu ilettiği bildirildi. Daha sonra, Graham'ın eşi ve Y.C.'nin kurucu ortağı Jessica Livingston ile Altman arasında samimi bir konuşma gerçekleştirildi. Daha sonra, Graham'ın, Altman'ın sözlü olarak ayrılmayı kabul ettiğini, ancak uygulamada gerçekten ayrılmadığını ifade etmeye başladığı dışarıya açıklandı.

Altman, kısmen ortaklara, başkanlık görevinden ayrılacağını, ancak başkanlık görevine devam edeceğini ifade etti. Mayıs 2019'da Y Combinator, yeni başkanlarını duyuran bir blog gönderisi yayınladı ve içinde şu açıklamayı yaparak, "Sam'ın YC başkanlığına geçtiğini" belirtti. Birkaç ay sonra, bu ifade "Sam Altman'ın artık YC'deki herhangi bir resmi görevde bulunmadığını" ifadesiyle değiştirildi, ardından bu cümle tamamen silindi. Bununla birlikte, Altman, ABD Menkul Kıymetler ve Borsa Komisyonu'nun belgelerinde hala Y Combinator Başkanı olarak listelenmekteydi. (Altman, bunu sonradan öğrendiğini belirtti.)

Sam Altman, yıllar boyunca açıkça ve son dönemdeki yasal beyanlarında, Y Combinator tarafından kovulmadığını her zaman iddia etmiş olup, bize ayrılmaya direnmediğini belirtti. Paul Graham ise Twitter'da, "Onun ayrılmasını istemedik, YC ve OpenAI arasında seçim yapmasını umuyorduk" dedi. Bir açıklamada, Graham da bize şunları söyledi: "Yasal olarak hiç kimsenin kovulma yetkisine sahip değiliz, yapabileceğimiz tek şey ahlaki baskı uygulamaktır."

Ancak özel olarak, ifadeleri daha net hale gelir - Altman'ın ayrılışı, YC ortaklarının ona güvenmemesiyle ilgilidir. Bu makalede, Altman'ın Y Combinator'daki dönemiyle ilgili açıklamaları, birkaç YC kurucusu ve ortağıyla yapılan görüşmelere ve o döneme ait ilgili belgelere dayanmaktadır. Tüm bunlar, bu ayrılığın tamamen gönüllülükten kaynaklanmadığını göstermektedir. Hatta iç bir iletişimde Graham'ın, "Sam'in kovulmadan önce bize yalan söylediği" konusunda YC meslektaşlarına söylediği bilinmektedir.

OpenAI'nın Misyon Kayması: Güvenlikten İş Odaklıa

Mayıs 2015'te, Altman, o sırada dünya genelinde yaklaşık 100. sırada yer alan Elon Musk'a bir e-posta gönderdi. Diğer birçok Silikon Vadisi girişimcisi gibi, Musk o zamanlar "varoluşsal risk" taşıdığına inandığı bir dizi tehdide büyük ölçüde odaklanmıştı - çoğu insan için bu tehditler uzak ve soyut görünüyordu. "AI konusunda son derece dikkatli olmalıyız," diye twitte atmıştı, "tehlikesi nükleer silahları aşabilir gibi görünüyor." Altman her zaman teknolojiye yönelik iyimser bir tutum içinde olmasına rağmen, AI konusundaki ifadeleri çok geçmeden daha kıyametçi bir tona dönüştü. Açık konuşmaları ve Musk gibi kişilerle özel iletişiminde, bu teknolojinin kâr odaklı bir süper şirket tarafından tekeline alınmaması gerektiğini uyardı. "Her zaman düşündüm, insanların AI gelişimini durdurulabilir mi?" diye yazdı, "Ancak bu her ne pahasına olursa olsun gerçekleşecekse, en iyisi Google'ın öncülük etmemesidir." Nükleer silahlar kıyasını yaparak, bir "AI Manhattan Projesi" kurulmasını önerdi. Bu örgütün temel prensiplerini "Güvenliğin en yüksek öncelik olarak kabul edilmesi gerektiği" ve "açıkça tüm düzenlemelere uyum sağlayacağımızı ve destekleyeceğimizi" şeklinde tasvir etti.

Ardından, proje adını belirlemek için Musk ile bir araya geldi: OpenAI.

Hükümet tarafından başlatılan ve nihayetinde atom bombasının üretildiği Manhattan Projesi'nden farklı olarak, OpenAI ilk aşamada özel fonlarla desteklenecektir. Altman, bir gün Genel Yapay Zeka (AGI) üzerine çıkacak olan "süper zeka"nın, "evrenin gelecekteki tüm değer konisinin yakalanabileceği kadar büyük" ekonomik getirilere yol açacağını tahmin etmektedir. Ancak aynı zamanda, potansiyel varoluşsal riskine de sürekli vurgu yapmaktadır: Bu teknolojinin belirli bir aşamada ulusal güvenliğe etkisi o kadar büyük olabilir ki, bu durumda Amerikan hükümetini OpenAI'ı devralmaya, hatta kamulaştırmaya ve ilgili tesisleri çöldeki güvenli bir üsse taşımaya zorlar. 2015'in sonlarına gelindiğinde, Musk ikna olmuştu. "Başlangıçta 1 milyar dolarlık bir başlangıç sermayesi taahhüdü ilan etmeliyiz," yazdı, "başka yetersiz katkıda bulunan olursa, ben de eksikliği karşılayacağım."

Sam Altman, OpenAI'ı başlangıçta Y Combinator'ün kar amacı gütmeyen kolunda konumlandırdı ve onu içsel bir hayır projesi olarak paketledi. OpenAI'a katılan üyelere YC hisseleri tahsis etti ve bağış fonlarını YC hesapları aracılığıyla aktardı. Bir süre bu laboratuvar, hatta bir YC fonunun desteğine bağımlıydı ve Altman bu fonun içinde kişisel bir hisseye sahipti. (Altman daha sonra bu hissenin "önemsiz" olduğunu ve çalışanlara tahsis edilen YC hisselerinin kendi kişisel hissesinden geldiğini belirtti.)

"Manhattan Projesi" analojisi aynı şekilde yetenek kazanma yarışında da ortaya çıkmaktadır. Nükleer fisyon araştırmasıyla benzer şekilde, makine öğrenme o zamanlar halen küçük ölçekli ancak devrim niteliğinde bir etkiye sahip olan bir bilim alanıydı ve bir avuç farklı karakterde deha tarafından yönlendiriliyordu. Elon Musk, Altman ve Stripe'dan katılan Greg Brockman, gerçekten çığır açabilecek bilgisayar bilimcilerinin nadir olduğuna inanıyordu. Google ise hem maddi hem de zaman açısından büyük bir avantaja sahipti. "İnsan kaynağı ve kaynaklar açısından çok gerideyiz, fark o kadar büyük ki anlamsız," Musk daha sonra bir e-postada yazdı. Ancak yine de, "Eğer en iyi yetenekleri sürekli çekebilir ve doğru yolu sağlayabilirsek, OpenAI hala kazanacaktır."

En önemli işe alım hedeflerinden biri Ilya Sutskever'di—durağan bir karaktere sahip, gergin bir araştırmacı, o dönemin en yetenekli yapay zeka bilim insanlarından biri olarak kabul edilirdi. Sutskever, 1986 Sovyetler Birliği doğumlu, alnı geriye çekilmiş, bakışları derin, konuşmadan önce uzun süre durup düşünen biriydi. Diğer kilit bir seçim ise biyofizik mezunu, enerjik bir araştırmacı olan Dario Amodei idi, sık sık gergin olduğunda saçlarını oynatan ve tek cümlelik e-postalara bile uzun paragraflarla cevaplar veren biriydi. İkisi de o zamanlar yüksek maaşlı pozisyonlarda olsalar da, Altman onlara büyük çaba harcadı. Sonsuz bir şaka ile "Ilya'yı takip etmenin" bir şaka olduğunu sonra bile söyledi.

Musk'ın ünü daha büyük olsa da, Altman'ın tavrı daha kibar. Altman, Amodei'ye e-posta atarak onunla yalnızca bir Hint restoranında buluşmayı önerdi. (Altman: "Uber çağırdım ama kaza yaptım! Yaklaşık 10 dakika geç kalabilirim." Amodei: "Tanrım, umarım iyisindir.") Birçok yapay zeka araştırmacısı gibi, Amodei, bu teknolojinin sadece insan değerleriyle "uyumlu" olduğu kanıtlandığında geliştirilmesi gerektiğine inanıyordu - yani insan niyetini gerçekleştirirken felaket derecesinde sapmalar olmadan, örneğin "çevreyi temizlemek" amacıyla insanlığın kendisini yok etmek gibi. Altman, iletişim sırasında sürekli bu güvenlik endişelerine yanıt vererek karşı tarafa güven veriyordu.

Sonradan şirkete katılan Amodei, Altman'ın ve Brockman'ın davranışlarını yıllarca belgelemeye devam etti ve bunları "OpenAI Deneyimim" başlığı altında, "Gizli: Lütfen Paylaşmayın" alt başlığıyla not ettikleri bir belge haline getirdi. Amodei'ye ait olan iki yüz sayfadan fazla belge - bu notlar ve iç yazışmalar ve notlar da dahil olmak üzere - daha önce Silikon Vadisi'nde dolaşmış, fakat daha önce hiçbir zaman açıklanmamıştı. Bu belgelerde, Altman'ın "güvenlik odaklı bir yapay zeka laboratuvarı inşa etmeyi amaçladığını" yazmıştı.

2015 yılının Aralık ayında, OpenAI resmi olarak duyurulduktan hemen önce, Altman bir e-posta göndererek Musk'a şöyle bir rivayeti paylaşmıştı: Google'ın "yarın, OpenAI çalışanlarına aşırı yüksek bir karşılıklı teklif yapacağını ve bu projeyi doğrudan yok etmeye çalışacağını" belirtti. Musk, "Ilya açık bir yanıt verdi mi?" diye sorduğunda Altman, Sutskever'ın kararlı olduğunu belirtti. Gerçekte, Google Sutskever'a OpenAI'nın rekabet edemeyeceği şekilde yıllık 6 milyon dolarlık bir teklif yaptı. Ancak Altman, hala "Doğru şeyi yapmak" tarafında olmadıklarını kendinden emin bir şekilde belirtti.

Elon Musk, OpenAI için San Francisco Mission bölgesindeki eski bir bavul fabrikasında ofis alanı sağladı. Ilya Sutskever'ın bize söylediğine göre, o zamanlar çalışanlara temel motivasyon sloganı şuydu: "Dünyayı kurtaracaksınız." Her şey yolunda giderse, OpenAI'ın kurucuları, yapay zekanın "kıtlık sonrası" bir ütopyayı başlatacağına inanıyordu: yoğun işleri otomatik hale getirme, kanseri tedavi etme ve insanlara daha fazla boş zaman ve refah sağlama. Ancak teknoloji kontrol dışına çıkarsa veya yanlış ellere geçerse, yıkım da o kadar kapsamlı olabilir - örneğin yeni tür biyolojik silahların üretilmesi veya gelişmiş insansız hava araçları sürüsü yapımında kullanılması; modeller insan denetimini aşabilir, gizli sunucularda kendini kopyalayabilir ve kapanamaz hale gelebilir; aşırı durumlarda, hatta elektrik şebekesini, borsayı ve nükleer silah sistemlerini kontrol altında tutabilir.

Her ne kadar herkes bu tespitlere katılmasa da, Sam Altman bu riski inandığını defalarca açıkça belirtmiştir. 2015 yılında blogunda, süper insanüstü yapay zekanın "bilimkurgu eserlerindeki gibi esasen kötü olmadan da insanlığı yok edebileceğine inanınması gerektiğini, daha muhtemel olanın ise bizi umursamadan diğer hedeflerini gerçekleştirme sürecinde bizi ortadan kaldırması olduğunu" yazmıştır. OpenAI'nın kurucuları güvenliği hızdan önde tutmayacaklarına söz vermişlerdir ve şirketin ana sözleşmesinde "insanlığa fayda sağlamak" yasal bir yükümlülük olarak yazmışlardır. Aynı zamanda uyarıda bulunmuşlardır, eğer yapay zeka tarihteki en güçlü teknoloji haline gelirse, herhangi bir tek kontrolcü olağanüstü bir güce sahip olacaktır - buna "AGI diktatörlüğü" adını vermişlerdir.

Musk'ın ayrılmasından sonra, Dario Amodei ve diğer araştırmacılar Greg Brockman'ın liderlik tarzından memnuniyetsizlik duymaya başladılar, bazıları onun sert davrandığını düşündü; Sutskever hakkındaki değerlendirme ise "ilkeli olmakla birlikte organizasyon yeteneğinden yoksun olmak" şeklindeydi. CEO olma sürecinde, Altman'ın şirket içinde farklı fraksiyonlara farklı taahhütlerde bulunduğu görünmektedir. Bazı araştırmacılara Brockman'ın liderlik gücünü zayıflatacağına dair söz verdi, ancak aynı zamanda, Brockman ve Sutskever ile de bir "uşaklık anlaşması" yaptı: CEO olarak atandı ancak ikisi de istediğinde istifa edecekti. (Altman bu iddiayı reddetti ve sadece CEO olarak atandığını iddia etti. Üçü de bu anlaşmanın varlığını kabul etti, Brockman bunun resmi olmadığını belirtti: "Tek taraflı olarak dedi ki, eğer ikimiz de istersek, istifa eder. Aslında bu fikre karşıydık, ancak bu onun için çok önemliydi ve özgecil bir motivasyondu.") Daha sonra, yönetim kurulu aslında CEO'nun kendisi için bir "gölge yönetim kurulu" kurduğunu öğrendi ve bundan şaşırdı.

Dahili kayıtlar, kurucu ekibin 2017 yılında kar amacı gütmeyen yapıya şüpheyle yaklaştığını göstermektedir. Aynı yıl, Musk'ın kontrolü ele geçirmeye çalıştığı sırada, Brockman günlüğünde şöyle yazmıştır: "Gerçekten kar amacı gütmeyi sürdürdüğümüzü söyleyemem... Eğer üç ay sonra B-Corp'a dönüşürsek, bu önceki ifadeler yalandı demektir." Amodei aynı zamanda, Brockman'ın öncelikli hedefini sorduğunu ve cevabın "para ve güç" olduğunu belirttiği erken dönem notlarında kaydetti. (Brockman bu iddiayı reddetti.) Onun günlüğü, çelişkili bir zihinsel durumu göstermektedir: bir yandan "diğerleri zengin değilse, benim zengin olmam önemli değil" diye yazarken; diğer yandan kendine "aslında ne istiyorum?" diye sorduğu ve cevaplardan birinin "finansal olarak 1 milyar dolara ulaşmak" olduğu ortaya çıkmıştır.

2017 yılında, Sutskever ofiste Google araştırmacılarının yayınladığı bir makaleyi okudu. Bu makale, "Yeni bir basit ağ yapısı - Transformer" adlı bir mimari önermektedir. Sutskever, bu mimarinin OpenAI'ın daha karmaşık modeller eğitebilmesini sağlayacağını düşündü ve koridora koşarak "yapmakta olduğunuz her şeyi durdurun, işte cevap bu" diye bağırdı. Ona göre, bu yapı, OpenAI'ın daha karmaşık modeller eğitmesini sağlayacaktı. Bu atılıma dayanarak, ilk generatif öncesi eğitim Transformer modeli doğmuş ve sonradan ChatGPT'nin başlangıcı olmuştur.

Altman, OpenAI'nın erken dönem çalışanlarına şirketin her zaman saf kar amacı gütmeyen bir yapıda kalacağı sözünü vermişti, bu nedenle birçok programcı şirkete katılmak için büyük ölçüde maaş indirimini kabul etti. OpenAI ayrıca "Açık Hayırseverlik"ten yaklaşık 30 milyon dolarlık bağış da dahil olmak üzere bağışlar aldı, bu organizasyon etkili altruizm hareketinin önemli fon merkezlerinden biridir ve yoksul bölgelere sivrisinek ağı dağıtımı gibi projeleri uzun vadeli olarak desteklemektedir.

Günlük işletmeler çoğunlukla Brockman ve Sutskever tarafından yürütülmekte olup, Musk ve Altman hala kendi işleriyle meşgulken genellikle haftada bir kez şirkete gelmektedir. 2017 Eylül'üne gelindiğinde, Musk sabırsızlanmaya başlamıştı. OpenAI'ı kâr amacı güden bir şirkete dönüştürüp dönüştürmemek konusunu tartışırken, çoğunluk kontrolünü ele geçirmeyi talep etti.

Altman'ın farklı durumlarda verdiği yanıtlar değişiklik gösterdi, ancak her zaman vurguladığı bir nokta şuydu: Şirket CEO liderliğinde yeniden yapılandırılırsa, bu pozisyonun kendisi tarafından üstlenilmesi gerekti. Sutskever buna açıkça endişe duydu. Kendisi ve Brockman'ı temsilen Musk ve Altman'a "Dürüst Düşünceler" başlıklı uzun bir e-posta gönderdi. E-postada, "OpenAI'ın amacı geleceği daha iyi hale getirmek ve AGI diktasını engellemektir," diyerek Musk'a şunları yazdı: "Bu nedenle, seni bir diktatör haline getirebilecek bir yapı kurmak kötü bir fikirdir." Benzer endişeleri Altman'a da dile getirdi: "CEO unvanının neden bu kadar önemli olduğunu anlamıyoruz. Senin gerekçelerin sürekli değişiyor, asıl motivasyonu net bir şekilde görmemiz zor."

"Arkadaşlar, artık bıktım," diye yanıtladı Musk, "Ya başka bir şey yapın ya da OpenAI'ın kar amacı gütmeyen yapısını koruyun—aksi halde size bir girişim şirketi yapma parası bağışlamış olurum." Beş ay sonra, belirgin bir hoşnutsuzlukla ayrıldı. (2023 yılında, kar amacı güden rakip xAI'ı kurdu. Bir sonraki yıl, Altman'a ve OpenAI'a dolandırıcılık ve hayırsever güvenine ihanetle suçlayarak kendisini "iyice yönlendirildiğini" iddia eden, Altman'ın AI riskini kullandığını düşündüğü "uzun vadeli aldatmaca" ile para elde ettiğini iddia eden bir dava açtı. Bu dava halen devam etmekte olup, OpenAI bunu güçlü bir şekilde reddetmektedir.)

Teknoloji yeteneklerinin sürekli olarak gelişmesiyle, OpenAI'ın yaklaşık on beş çekirdek mühendisi daha önce gizlice gerçekleştirdikleri bir dizi toplantıda, Sam Altman ve Greg Brockman dahil kurucu ekibe güvenilir mi değerlendirmeleri yapmışlardır. Bu toplantılardan birinde, bir çalışan İngiliz komedi ikilisi Mitchell ve Webb'in alaycı bir skeçine atıfta bulunarak—Doğu Cephesindeki Nazilerden biri birdenbire farkına varır ve "Acaba kötü olan biz miyiz?" diye sorar.

2018 yılına gelindiğinde, Dario Amodei kurucuların motivasyonunu daha açıkça sorgulamaya başlamıştı. Daha sonra notlarında şunları yazdı: "Her şey sürekli dönen bir finansman planı gibi görünüyordu. Bence OpenAI'ın gerçekten ihtiyacı olan şey net bir tanım: Ne yapacak, ne yapmayacak, varlığı nasıl dünya için daha iyi hale getirecek." Şirketin zaten bir misyon beyanı vardı – "Evrensel yapay zekanın insanlığa fayda sağlamasını sağlamak" – ancak Amodei'ye göre, bu cümlenin yöneticiler için ne anlama geldiği net değildi.

2018'in başlarında, şirket ana sözleşmesini hazırlamaya başladı ve Altman ve Brockman ile yaptığı haftalar süren görüşmelerde, en radikal maddenin eklenmesini savundu: Eğer bir "değerler uyumlu ve güvenli proj" OpenAI'dan daha yakınsa AGI'yi gerçekleştirmeye, şirket "rekabeti durduracak ve o projeye yardımcı olacaktı". Bu, sözde "birleştirme ve destek" maddesiydi – örneğin, Google güvenli AGI'yi ilk geliştirdiğinde, teorik olarak OpenAI kendini feshetmeli ve kaynaklarını karşı tarafa devretmeliydi. Geleneksel iş mantığı açısından, bu neredeyse inanılmaz bir taahhüttü, ancak OpenAI zaten geleneksel bir şirket olmayı planlamıyordu.

Bu varsayım, 2019 ilkbaharında gerçek dünya testine tabi tutuldu. O zamanlar OpenAI, Microsoft ile 1 milyar dolarlık bir yatırım görüşmeleri yapıyordu. Amodei (o sırada güvenlik ekibinden sorumlu) Bill Gates'e bu projeyi tanıtmaya katılmış olmasına rağmen, ekip içinde hala Microsoft'un OpenAI'ın etik taahhütlerini zayıflatacağından endişe ediliyordu. Amodei, Altman'a öncelik sırasına göre düzenlenmiş bir güvenlik gereksinimleri listesi sundu ve "birleştirme ve destek" maddesini listenin başında tuttu.

O sırada Altman kabul ettiğini belirtti. Ancak Haziran'da işlem neredeyse tamamlandığında, Amodei, Microsoft'un OpenAI'ın birleşmesini veto etme hakkını veren bir madde eklediğini fark etti. "Bu şirketin şartnamesinin yüzde 80'ini ihanet etmekle eşdeğerdi," diye sonra hatırladı. Amodei Altman'ı yüz yüze sorguladı, karşı taraf başlangıçta bu maddenin varlığını reddetti. Amodei sözleşme metnini tam olarak okuyarak doğrulama yapmasını sağlamak için başka bir meslektaşını Altman'a yönlendirmek zorunda kaldı. (Altman olayı hatırlamadığını söyledi.)

Güvenlikten Ayrılma ve Anthropic'in Doğuşu

Amodei'nin notları ayrıca giderek artan bir dizi gergin çatışmayı kaydetti. Birkaç ay sonra bir toplantıda, Altman kardeşi Daniela'yı çağırarak, "büyük bir üst düzeyden güvenilir bir bilgi aldığını" ve ikisinin "bir darbe" planladığını söyledi. Notlarda, Daniela'nın "aniden duygusal bir hale geldiği" ve bu iddiada bulunan kişiyi çağırdığı yazıyordu; karşı tarafın bu tür bir şey söylemediğini inkar ettiği belirtildi. Tanıklar, Altman'ın daha sonra bu suçu üstlenmediğini hatırlar: "Bunu hiç söylemedim." Daniela, "Evet, kesinlikle söyledin," diye cevap verdi. (Altman anımsamalarının biraz farklı olduğunu ve yalnızca Amodei'yi "politik davranış"la suçladığını belirterek, bu iddiayı reddetti.) 2020'de Amodei, Daniela ve birkaç meslektaşı şirketten ayrılarak Anthropic'i kurdu ve şu anda OpenAI'ın başlıca rakiplerinden biri haline geldi.

Bu arada, Altman hala OpenAI'in güvenlikle ilgili taahhüdünü sürekli olarak vurgulamaktadır, özellikle potansiyel işe alım sürecinde. 2022 yılının sonlarına doğru, dört bilgisayar bilimcisi, "aldatıcı hizalama" riskini ortaya koyan bir makale yayınladı: Yüksek düzeyde gelişmiş modeller test aşamasında iyi performans sergileyebilirken, gerçek uygulamada kendi hedeflerini takip edebilirler. (Bu, bazı deney koşullarında zaten yaşanmış gibi görünen bilim kurguvari bir senaryo gibi duyulabilir.) Makale yayınlandıktan birkaç hafta sonra, bu makalenin yazarlarından biri olan Kaliforniya Üniversitesi, Berkeley'den bir doktora öğrencisi, Altman'dan bir e-posta aldı. Altman, "hala hizalanmamış AI" tehdidinden giderek daha fazla endişelendiğini belirtti ve bu sorunu çözmek için 1 milyar dolar yatırım yapmayı düşündü, örneğin küresel bir araştırma ödülü fonu kurma. Bu öğrenci daha önce "Sam'in biraz 'kurnaz' olduğunu duymuştu", ancak bu taahhüt onu sonunda etkiledi ve bu nedenle eğitimine ara verip OpenAI'e katıldı.

Ancak, 2023 baharına gelindiğinde, Altman'ın tutumu birkaç toplantıda değişmeye başladı. Artık ödül fonu kurmak konusundan bahsetmiyor, bunun yerine şirket içinde bir "süper hizalanma ekibi" oluşturmaya yöneliyor. Resmi duyuruya göre, bu ekip "şirketin sağladığı toplam işlem gücünün %20'sini" alacaktı, bu kaynak değeri 1 milyar doları aşabilirdi. Aynı zamanda duyuruda, hizalanma sorunu çözülemezse, AGI'ın "insanlığı zayıflatabileceği veya yok edebileceği" vurgulandı. Bu ekibe liderlik eden Jan Leike daha sonra şunları söyledi: "Gerçekten etkili bir tutma aracıydı."

Ancak, sözde "işlem gücünün %20'si" taahhüdü sonunda yerine getirilmedi. Ekip üyelerinden dörtü, bu ekibe katılanlar veya yakından temasta bulunanlar, ayrılan kaynakların aslında şirketin toplam işlem gücünün %1 ila %2'sini oluşturduğunu belirtti. Ayrıca, bir araştırmacı, "çok büyük bir kısmı süper hizalanmış işlem gücünün, aslında en eski ve en kötü performanslı küme üzerinde çalıştığını" belirtti. Ekip üyeleri genel olarak, daha gelişmiş donanımın gelir yaratan projelerde öncelikli olarak kullanıldığına inanıyorlar. (OpenAI bunu reddetti.) Leike, o zamanlar Baş Teknoloji Sorumlusu olan Mira Murati'ye bu konuyu ilettiğinde, karşı tarafın baştan beri bu taahhüdün "gerçekçi olmadığını" söylediğini belirtti.

Bu dönemde, eski bir çalışanın anlattığına göre, Ilya Sutskever'ın "güvenliği aşırı vurgulamaya başladığını" duyduk. OpenAI'in erken dönemlerinde, felaket riskinin makul bir endişe olduğunu düşünmesine rağmen hala uzak bir tehlike olarak görmekteydi; ancak AGI'nın artık yaklaştığına inanmaya başladıkça, bu endişe hızla arttı. Bu eski çalışanın hatırladığına göre, bir tam gün toplantısında, "Ilya, şirketin önümüzdeki birkaç yılda neredeyse herkesin güvenliğe geçmesi gereken bir nokta olacağını söyledi." Ancak, bir sonraki yıl, bu "süper hizalanma ekibi" henüz görevini tamamlamadan dağıtıldı.

Bu noktada, içeriden gelen bilgilere göre, yüksek yöneticiler ve yönetim kurulu üyeleri, Sam Altman'ın bilgi saklama ve yanıltma davranışının, OpenAI ürününün güvenliğine önemli ölçüde etkisi olabileceğini düşünmeye başladı. Aralık 2022'deki bir toplantıda, Altman, yönetim kuruluna, yakında piyasaya sürülecek GPT-4'ün çoklu işlevinin Güvenlik Komitesi onayını aldığını garanti etti. Yönetim kurulu üyesi ve yapay zeka politika uzmanı Helen Toner, ilgili belgeleri incelemeyi talep ettiğinde, en tartışmalı iki işlevin - modelin "ince ayar" yapılmasına izin veren ve onu kişisel asistan olarak dağıtan - aslında onaylanmadığını fark etti. Toplantının ardından, başka bir yönetim kurulu üyesi ve girişimci Tasha McCauley, bir çalışan tarafından kenara çekilerek, "Hint'teki o ihlal olayını biliyor musunuz?" diye soruldu: Altman'ın Microsoft'un, gerekli güvenlik incelemesini tamamlamadan Hindistan'da ChatGPT'nin erken sürümünü yayınladığı olaydan hiç bahsetmediği ortaya çıktı. "Bu olay neredeyse tamamen göz ardı edildi," o zamanki OpenAI araştırmacısı Jacob Hilton dedi.

Bu sorunlar doğrudan bir güvenlik olayına yol açmamış olsa da, araştırmacılardan biri olan Carroll Wainwright, bunların "ürün odaklı, güvenliği zayıflatma eğiliminde devam eden bir trendi yansıttığını" düşünüyor. GPT-4'ün piyasaya sürülmesinden sonra, güvenlik çalışmalarından sorumlu Jan Leike, yönetim kuruluna bir mektup yazdı: "OpenAI'nin misyonundan sapıyoruz. Ürünü ve geliri birinci sıraya koyuyoruz, ondan sonra yetenek, araştırma ve genişleme geliyor, uyum ve güvenlik ise üçüncü sırada." Ayrıca, "Google gibi şirketlerin hızlı dağıtımı teşvik ederken güvenlik sorunlarını göz ardı ettiği" konusunda uyarıda bulundu.

McCauley, yönetim kurulu üyelerine yazdığı bir e-postada, "Gözetimi güçlendirmenin artık kaçınılmaz olduğu düşüncesindeyim." Ancak, yönetim kurulu bu sorunla başa çıkmaya çalıştığında, açıkça dezavantajlıydı. "Daha açık bir dille söylemek gerekirse, bu deneyime sahip olmayan bir grup insanın olduğu bir durum," eski yönetim kurulu üyesi Sue Yoon ifade etti. Şirket, 2023 yılında GPT-4 Turbo'yu piyasaya sürmeye hazırlanıyor. Sutskever'in bir notta belirttiğine göre, Altman, Mira Murati'ye, bu modelin güvenlik onayına ihtiyaç duymadığını ve bu değerlendirmenin şirketin baş hukuk danışmanı Jason Kwon'dan geldiğini söyledi. Ancak Murati, Kwon'a Slack üzerinden sorduğunda, Kwon'un cevabı: "Hmm... Sanırım Sam'in neden böyle düşündüğünü pek anlamıyorum." ("OpenAI, bu konunun 'önemsiz' olduğunu söyledi.")

Kısa bir süre sonra, yönetim kurulu Altman'ı kovmaya karar verdi - ardından, tüm dünya onun bu kararı nasıl hızla tersine çevirdiğine şahit oldu. OpenAI'nin tüzüğü hala resmi web sitesinde bulunabilir, ancak şirket yönetişim belgelerine aşina olanlar, içeriğin neredeyse anlamını yitirdiğini belirtiyorlar. Geçen yıl haziran ayında, Altman kişisel blogunda, süper zekâ hakkında şunları yazdı: "Olay ufkunu geçtik, kalkış başladı."

Orijinal şartnamenin gereği olarak, bu aslında şirketin rekabeti durdurup işbirliğine dönmesi gereken bir düğüm olmalıydı. Ancak, "The Gentle Singularity" adlı makalede, oyunun kurallarını değiştirerek "varoluş korkusu"nu "olumlu hayal" ile değiştirdi: "Hepimizin daha iyi şeylere sahip olacağımız ve birbirimiz için giderek daha iyi şeyler yaratacağımız bir geleceğimiz var." Aligment (hizalma) sorununun hala çözülmediğini kabul etti, ancak bunu bir tür "rahatsızlık" olarak yeniden tanımladı, sanki insanları Instagram'ın öneri algoritmasına takılıp kalma durumuna benzer şekilde.

Altman sıklıkla "bu neslin en iyi hikaye anlatıcısı" olarak korku veya şüphe dolu bir tonla anılır. Saygı duyduğu Steve Jobs, "gerçeklik bozulma alanı"na sahip olduğu düşünülen ve dünyayı kendi hayaline uyduran mutlak bir özgüvenle tanınan biri olarak biliniyordu. Ancak Jobs bile kullanıcılara şunu söylememişti: Eğer ürününü satın almazlarsa, insanlığın yok olabileceğini. 2008 yılında, sadece 23 yaşında olan Altman'ı, danışmanı Paul Graham şöyle değerlendirmişti: "Onu bir yamyam adasına paraşütle atın, beş yıl sonra geri gelin, kral olmuş olacak." Bu tespit o dönemdeki başarılarına dayanmıyor, neredeyse sıkılmaz iradesinden kaynaklanıyordu.

Ancak, onunla en yakından çalışan bazı insanlar için, bu özellik başka bir yönü de içeriyordu. Sutskever, AI güvenliği konusundaki endişeleri arttıkça, Altman ve Greg Brockman'a dair bir dizi notu derledi, bu notlar Silikon Vadisi'nde "Ilya Memo" olarak adlandırılıyordu.

Aynı zamanda, Dario Amodei de kayıtlarını sürdürüyordu. Bu belgeler, sözde "kesin kanıt" sağlamıyordu, ancak parçalanmış gibi görünen ancak gittikçe birikmekte olan davranış kalıplarını tasvir ediyordu: farklı insanlara aynı pozisyonu sunmak, açık bilgiye çelişkili ifadeler vermek, güvenlik süreçlerinde belirsiz olmak. Sutskever'ın sonucu, bu tür davranışın "güvenli AGI için uygun bir ortamı oluşturamayacağı" idi; Amodei ise daha doğrudan yazdı: "OpenAI'ın sorunu Sam'in kendisidir."

Altman'ın eylem tarzını anlayan yüzden fazla insanla röportaj yaptık: mevcut ve eski OpenAI çalışanları ve yönetim kurulu üyeleri, meslektaşları ve rakipleri, arkadaşlar ve düşmanlar—Silikon Vadisi gibi son derece çıkar odaklı bir ortamda, birçok kişi genellikle çeşitli rolleri üstleniyordu. Kimi insanlar onun işletme becerisini savunuyor, Sutskever ve Amodei'yi başarısız rakipler olarak görüyordu; kimi insanlar da onu saf, dikkatsiz bir bilim adamı olarak görüyor, hatta "kıyametçi" bir aşırı hizip üyesi olarak görüyordu. Yoon'a göre, Altman "Machiavelli tarzı bir kötü adam" değil, ancak kendi anlatısına ikna olmuş biriydi, "kendi inancına o kadar derinden gömülmüştü ki, gerçek dünyada anlaşılamayacak kararlar alabilirdi—ancak aslında gerçek dünyada yaşamıyordu zaten."

Ancak, katılımcıların çoğunun değerlendirmesi Sutskever ve Amodei'ye benzerdi: Altman'ın aşırı bir güç iradesine sahip olduğu, hatta roketlerinin üzerine adını yazdıran endüstri devleri arasında bile olağanüstü derecede belirgin göründüğü. "Gerçek" kavramının onu sınırlamadığı ifade edildi. Yönetim kurulu üyelerinden biri şöyle dedi: "Altman, hem sevilmek isteğine sahip olma konusunda büyük bir istekliliğe sahip, her etkileşimde karşı tarafı memnun etmeye çalışırken; hem de neredeyse anti-sosyal eğilimlere sahip, başkalarını aldatmanın sonuçlarına pek aldırmayan nadir görülen özellikleri bir arada taşıyor."

Birkaç katılımcı, "anti-sosyal kişilik" terimini kendiliğinden kullandı. Altman, ilk Y Combinator grubunun bir parçası olup daha sonra 2013 yılında intihar eden programcı Aaron Swartz'dan biriydi. Swartz, yaşarken bir arkadaşına Altman hakkında endişelerini şu şekilde ifade etmişti: "Anlaman gereken bir şey var, Sam asla güvenilir biri değil. O bir anti-sosyal kişilik, her türlü şeyi yapabilir." Birkaç Microsoft yöneticisi de, Satya Nadella'nın uzun süredir Altman'ı desteklemesine rağmen, ilişkinin gerginleşmekte olduğunu belirtti. "Bizi yanıltabilir, gerçekleri çarpıtabilir, yeniden pazarlık yapabilir ve hatta anlaşmayı bozabilir," dedi bir yönetici. Bu yılın başlarında, OpenAI, Microsoft'un "stateless model" için eksiksiz bulut hizmeti sağlayıcısı olduğunu yeniden vurguladı, ancak aynı gün Amazon ile 500 milyar dolarlık bir anlaşmaya vardıklarını ve Amazon'un kurumsal AI platformu için tek satış ortağı olduğunu duyurdu. Bu düzenleme sözleşmeyi ihlal etmese de, Microsoft tarafı potansiyel bir çıkar çatışması olduğunu düşünüyor. (OpenAI, sözleşmeyi ihlal etmeyeceklerini belirtti.) Bu yönetici, hatta şöyle değerlendiriyor: "Gelecekte, onun Bernie Madoff veya Sam Bankman-Fried gibi algılanacağını düşünüyorum."

Altman, bir teknoloji dehası değil — birçok meslektaşı için, programlama veya makine öğrenimi konusundaki uzmanlığı sınırlı, hatta temel kavramları karıştırabiliyor. OpenAI'yi oluştururken, büyük ölçüde başkalarının finansal ve teknik kaynaklarını entegre etmeye dayanmıştı. Bu nadir değil — bu, bir girişimcinin rolüdür. Daha da önemlisi, farklı görüşlere sahip mühendisleri, yatırımcıları ve halkı ikna edebilme yeteneği ve onların kendi önceliklerinin aslında onun öncelikleri olduğuna inanmalarını sağlama yeteneği dikkat çekicidir. Bu insanlar onu durdurmayı denediğinde, genellikle doğru sözlerle çözümleyebilir, en azından geçici olarak; ve karşı taraf sorunu fark ettiğinde, genellikle zaten hedefine ulaşmış olur. "Gelecekte kendini kısıtlamak için bazı yapılar oluşturur," Wainwright dedi, "ancak gelecekte kendini kısıtlamanın gerektiği zaman geldiğinde, bu yapıları tek tek yıkar."

"Onun ikna kabiliyeti inanılmaz derecede güçlü, adeta Jedi'nin zihin kontrolü gibi," onunla çalışmış bir teknoloji yöneticisi dedi, "tamamen farklı bir seviye." AI uyumu araştırmasında klasik bir düşünce deneyi vardır: insanın güçlü bir AI'ya karşı irade gücü mücadelesi, gelişmiş AI neredeyse her zaman galip gelir, tam olarak satranç ustalarının çocuklara karşı çıktığı gibi. Ancak bu yöneticiye göre, "Blip" olayında Altman'ın taraflar arasında nasıl manevra yaptığını izlemek, "bir AGI'nin kafesini kırmak üzere olduğunu görmek gibiydi."

İşten çıkarılmasının ardından birkaç gün boyunca, Sam Altman dış dünyanın kendisine yönelik suçlamalara herhangi bir soruşturmanın başlatılmasını engellemeye çalışıyordu. İki kişiye endişelerini dile getirdi ve sadece "bir soruşturmanın olması" durumunun bile onu suçlu göstermesine neden olabileceğinden endişe duyduğunu belirtti. (Altman'ın bu ifadeyi kullanmadığını reddetti.) Ancak istifa eden yönetim kurulu üyeleri tarafından "bağımsız bir soruşturmanın yapılması gerektiği" ısrarı üzerine, Altman sonunda "son olaylar" için bir "gözden geçirme" yapmayı kabul etti. Müzakerelere katılan kaynaklara göre, yeni atanan iki yönetim kurulu üyesi, bu incelemeyi yönlendirmekte ısrar ettiler.

Politik ve Wall Street çevrelerindeki bağlantılarıyla Lawrence Summers, bu incelemeye bir tür güvenilirlik katmış gibi görünüyordu. (Geçen yıl Kasım ayında, bir genç öğrenciye kur yaparken Jeffrey Epstein'den tavsiye almak için e-posta yoluyla iletişim kurduktan sonra yönetim kurulu görevinden istifa etmişti.) OpenAI nihayet bu incelemeyi yürütmek için tanınmış bir hukuk firması olan WilmerHale'ı işe aldı. Bu firma daha önce Enron ve WorldCom'a yönelik iç soruşturmaları yönetmişti.

İnceleme sürecine yakın altı kişi, bu incelemenin şeffaflığı kısıtlama amacı taşıdığını belirtiyor. Bazıları, inceleme ekibinin başlangıçta şirket içindeki bazı kilit kişilerle bile iletişim kurmadığını söylüyor. Bir çalışan, bu duruma itiraz etmek için özellikle Summers ve Bret Taylor'ı aradı. "Onları sadece yönetim kurulu krizi sırasında olan bir dönemle ilgileniyor gibi gözüküyordu, Sam'in uzun süredir süregelen dürüstlük sorununa odaklanmıyorlardı," diyerek çalışan, inceleme ekibiyle yaptığı görüşmeyi hatırlıyor. Anonimliğin yeterince korunmadığını düşünenler de Sam Altman'a yönelik endişelerini paylaşmaktan kaçındılar. "Tüm işaretler, aslında istediklerinin önceden belirlenmiş bir sonuç olduğunu gösteriyor," diyerek çalışan sözlerine ekledi. (Ancak, incelemede yer alan bazı avukatlar süreci savundu ve onu "bağımsız, dikkatli, kapsamlı ve gerçekleri yansıtan bir şekilde ilerleyen" olarak nitelendirdiler. Taylor, bu incelemenin "tam kapsamlı ve bağımsız" olduğunu belirttiği şekilde.)

Şirket içi soruşturmanın rolü genellikle bir karara yasallık kazandırmaktır. Özel şirketlerde, bazen soruşturma sonuçları yazılı bir belge haline bile gelmeyebilir ve bu genellikle hukuki sorumluluğu azaltmanın bir yoludur. Ancak kamuya açık anlaşmazlıkları içeren durumlarda, genellikle daha yüksek bir şeffaflık seviyesi beklenir. Travis Kalanick'in Uber'den ayrılmadan önce, Uber Yönetim Kurulu dış bir kuruluşa danışmış ve 13 sayfalık bir soruşturma özeti kamuoyuna açıklamıştı. OpenAI'nin 501(c)(3) kar amacı gütmeyen bir kuruluş olması, bu işten çıkarma olayının yüksek düzeyde açık olduğu göz önüne alındığında, şirket içindeki birçok yönetici sonuçların ayrıntılı bir raporunu görmeyi bekliyordu. Ancak Mart 2024'e gelindiğinde, OpenAI yalnızca Altman'ın "temizlendiğini" duyurdu ancak resmi bir rapor yayınlamadı, sadece yaklaşık 800 kelimeyle bir "güven ihlali" olduğunu kabul etti.

İşte eski meslektaşlar bile devam eden etkilenmelerle karşı karşıya. Mira Murati 2024 yılında OpenAI'dan ayrıldı ve kendi yapay zeka girişimini kurmaya başladı. Daha sonra, Altman'ın yakın müttefiki Josh Kushner ona telefonla ulaştı. Önce liderlik yeteneklerini överken, ardından bir tür ima dolu tehdit gibi davranarak kendi "endişelendiğini" ve "ününü" kaygılandığını belirtti ve bazı eski meslektaşların onu şimdi "düşman" olarak gördüklerini söyledi. (Kushner, sözcü aracılığıyla bu naklin "tam bağlamı sunmadığını" belirtti; Altman ise bu telefondan haberdar olmadığını iddia etti.)

CEO olarak göreve başladığında Altman, OpenAI'ın kar tavanı olan bir şirket kuracağını duyurdu, kar amacı gütmeyen varlık tarafından sahip olunacaktı. Bu karmaşık ve neredeyse çelişkili şirket yapısı açıkça Altman tarafından tasarlanmış gibi görünüyor. Dönüşüm sürecinde, bir yönetim kurulu üyesi olan Holden Karnofsky adındaki birisi buna karşı çıktı ve bu düzenlemenin kar amacı gütmeyen kuruluşun değerini ciddi şekilde küçümsediğini düşündü. "Bu konuda vicdanım el vermiyor," dedi Karnofsky. O dönemdeki kayıtlara göre, o karşı oy kullandı. Ancak yönetim kurulu avukatının itirazının "yeni yapılanmanın yasallığını daha fazla araştırmanın bir sinyali olabileceği" şeklinde ifade etmesinin ardından, oyunun sonunda onun ret oyu çekildi ve görünüşe göre kendi rızası alınmadan bu durum gerçekleşti - bu durum yasal açıdan hatta sahtekârlık oluşturabilir. (OpenAI, Karnofsky'nin oylarının çekildiğini hatırlayan birçok çalışanın olduğunu ve kanıt olarak toplantı tutanaklarını sunduklarını belirtti.)

Geçen Ekim ayında, OpenAI "sermaye yeniden yapılanması"nı tamamlayarak kâr amacı güden bir kuruluş haline geldi. Şirket, ilişkili kar amacı gütmeyen kuruluşunun - şimdi OpenAI Vakfı olarak adlandırılanın - tarihteki en "kaynak açısından en zengin" kuruluşlardan biri olacağını açıkladı. Ancak şu anda bu vakıf sadece şirketin %26 hissesine sahipken, yönetim kurulu üyelerinin biri hariç hepsi aynı zamanda bir kar amacı güden yönetim kurulu üyesidir.

Bir Kongre oturumunda, Altman'a "çok para kazandınız mı?" diye soruldu. O da, "OpenAI'da hiçbir hissem yok... Bunun nedenini sevdiğim için yaptım," diye cevapladı. Dolaylı olarak Y Combinator ile ilişkili fonlar aracılığıyla hisse sahibi olduğu göz önüne alındığında, bu cevap oldukça dikkatli olarak değerlendirilebilir. Teknik olarak bu ifade geçerlidir. Ancak Altman da dahil olmak üzere birçok kişi, bu durumun muhtemelen yakında değişebileceğini belirtti. "Yatırımcılar, zorlaştığında devam edip etmeyeceğinizi bilmek isteyeceklerdir," dedi Altman, ancak şu anda "devam eden bir tartışma olmadığını" ekledi. Bir yasal ifadeye göre, Greg Brockman'ın sahip olduğu hisse senetlerinin değeri yaklaşık olarak 200 milyar dolardır ve Altman'ın payı teorik olarak daha yüksek olmalıdır. Ancak Altman bize, servetin ana itici gücü olmadığını söyledi. Bir eski çalışan, şu cümleyi hatırladığını aktardı: "Parayı umursamam. Gücü umursarım."

2023 yılında, Altman ve Oliver Mulherin, Hawaii'deki evlerinde küçük bir düğün gerçekleştirdi. (İkili, dokuz yıl önce, Peter Thiel'in evinde gece yarısı sıcak su havuzunda tanışmışlardı.) Konuk etmeye alışık oldukları bu mülkte, ziyaretçilerin anlattığı sahneler, süper zenginlerin sıradan yaşam tarzının ötesine geçmiyordu: özel şefin hazırladığı akşam yemeği, gün batımında denize açılan tekne gezisi. Bir yeni yıl partisi, Survivor adlı reality şovunun temalı olduğu bir etkinlik düzenlenmişti; fotoğraflarda, göğsü çıplak, gülümseyen bir grup erkek vardı ve aralarında programın gerçek sunucusu Jeff Probst da vardı. Altman, diğer mülklerinde de küçük çaplı arkadaş toplantıları düzenlemişti, en az bir etkinlikte oldukça ateşli bir strip poker oyununa katılmışlardı. (Sızdırılan bir fotoğraf Altman'ı göstermiyordu ve kazananı kimin olduğunu belirleyemiyoruz, ancak en az üç erkeğin açıkça kaybettiği anlaşılıyordu.) Bizimle konuşan birçok eski konuk sadece bir şeyi vurguladı: Gerçekten cömert bir ev sahibiydi.

Araştırmaya katılan kişiler, herhangi bir rapor yayınlamamalarının nedeninin zaten yazılı bir rapor oluşmadığından kaynaklandığını belirttiler. Söz konusu araştırma sonuçları, sadece Summers ve Taylor'a sözlü bir şekilde bildirilmişti. "Bu inceleme, Sam'in Washington gibi dürüst olduğu sonucuna varmadı," diyen bir araştırmaya yakın kaynak açıkladı. Ancak genel olarak, bu inceleme Altman'ın kovulmasının ardındaki "şeffaflık sorunu"nu gerçekten merkeze almadı gibi görünüyor; aksine, büyük bir kısmı açıkça suç işlenip işlenmediğini belirlemeye odaklandı; bu standartlara göre, inceleme nihayetinde, CEO görevine devam etmesine karar verildi. Altman'ın kovulmasıyla kaybettiği yönetim kurulu koltuğu da kısa süre sonra yeniden eline geçti. Bilgilere göre, inceleme sonuçlarını yazılı bir belgeye dökmemenin bir kısmı, Summers ve Taylor'ın kendi özel avukatlarının tavsiyelerinden kaynaklanıyor. (Summers bununla ilgili herhangi bir yorum yapmayı reddetti; Taylor ise zaten sözlü bir rapor olduğunu belirterek, "resmi bir yazılı rapor yayınlamanın gerekli olmadığını" belirtti.)

Birçok mevcut ve eski OpenAI çalışanı, kamuya açık bilgi eksikliğinden şaşkınlık duyduklarını belirtti. Altman ise, göreve dönüşünden sonra yönetim kuruluna katılan herkesin bu sözlü raporları dinlediğine inandığını söyledi. "Bu tamamen uydurma," diyen içeriden biri belirtti. Bazı yöneticiler, bu "araştırma sonucu" etrafındaki güvenilirlik soruları nedeniyle gelecekte "potansiyel olarak bir başka araştırmaya ihtiyaç duyulabileceğini" belirtti.

Yazılı bir kayıt olmaması, bu suçlamaları hafife almayı daha kolay hale getiriyor. Aynı anda, Altman'ın Silicon Valley'deki konumu sürekli olarak güçlenirken, bu sorunlarla ilgili dış dünyanın takibi de giderek zayıflıyor. Birkaç tanınmış yatırımcı, Altman'ın bilindiği üzere şu alışkanlığı olduğunu belirtti: Eğer bir yatırımcı OpenAI'nin rakibi bir projeye yatırım yapmışsa, o kişiyi sonraki fırsatlardan "dışlamak" konusunda olası bir tutum sergiliyordu. "Eğer bu kişiler Sam'in hoşlanmadığı bir projeye yatırım yapıyorsa, daha sonra başka bir fırsata katılmalarını beklemesinler," diyenlerden biri. Altman'ın gücünün diğer bir kaynağı ise geniş yatırım ağıydı, bu ağ bazen özel hayatına kadar uzanıyordu. Birden fazla eski partneriyle finansal ilişkileri bulunuyordu: bazıları birlikte fon yönetirken, bazıları lider yatırımcı olarak, bazıları ise sık sık ortak yatırım yaparken. Bu, Silicon Valley'de nadir görülen bir durum değildi. Birçok heteroseksüel yönetici, sevgilileri veya partnerleriyle aynı şekilde iş yapardı. "Bunu yapmak zorundasınız," diyen tanınmış bir CEO şunları söyledi. Altman ise şunları belirtti: "Ayrıldıktan sonra bazı eski partnerlerimle yatırım yaptım ve bence bu tamamen sorun değil." Ancak bu düzenleme bile aşırı derecede bağımlılık yaratan bir ilişki türü ortaya çıkarıyordu. "Bu temelde son derece, son derece bağımlılık yaratabilir," diyen Altman'a yakın bir kaynak, "çoğu zaman ömür boyu süren bir bağımlılık bile olabilir."

Yine de, Sam Altman'ın özel hayatı etrafında dolaşan çeşitli dedikodular, rakipler tarafından kullanılmış hatta çarpıtılmıştır. Şiddetli iş rekabeti yeni bir şey değil, ancak yapay zeka endüstrisi içindeki rekabet son derece acımasız hale geldi. "Shakespearevari," bir OpenAI yöneticisi bunu tanımladı ve "oyunun normal kurallarının artık geçerli olmadığını" ekledi. Elon Musk'la doğrudan ilişkili olan ve bazı durumlarda onun desteğini alan aracılar, Altman hakkında onlarca sayfalık "rakip istihbaratı" yaydılar. Bu materyaller yüksek düzeyde izleme izleri gösteriyor: Altman ile ilgili kabuk şirketleri, yakın kişi bilgileri, hatta iddia edilen bir seks işçisiyle eşcinsel barda yapılan röportaj kayıtları da dahil. Bir aracı, Altman'ın uçuş programlarının ve katıldığı partilerin takip edildiğini iddia etti. Altman bize şöyle dedi: "Bence beni daha fazla özel dedektif tarafından işe alınan başka kimse yoktur."

Aynı zamanda, çeşitli aşırı iddialar da yayılmaktadır. Sağ kanattan medya mensubu Tucker Carlson, Altman'ın bir ihbarcı ile ilgili olduğunu belirttiği bir ölümle ilgili olarak hiçbir kanıt olmadan ima etmiş ve bu tür iddialar da sürekli olarak büyütülmektedir. Altman'ın kız kardeşi Annie, bir dava ve bize verdiği röportajda, kendisinin üç yaşındayken ve kendi on iki yaşındayken cinsel istismara uğradığını iddia etti. (Annie'nin iddialarını doğrulayamadık. Altman bunu reddetti, annesi ve erkek kardeşi de bu iddiaları "tamamen asılsız" olarak nitelendirdi ve ailenin "büyük acılar yaşadığını" söyledi. Gazeteci Karen Hao'nun "Empire of AI" adlı kitabı için yaptığı bir röportajda, Annie bu hatıraların yetişkin olduktan sonra geri dönüş halinde "hafıza patlaması" olarak geri geldiğini belirtti.)

Buna ek olarak, çeşitli rekabetçi şirketlerden ve yatırım kuruluşlarından birkaç kişi, Altman'ın reşit olmayanlarla cinsel ilişkide bulunduğunu ima ettiler – bu oldukça yaygın bir söylenti olmasına rağmen, görünüşe göre doğru değil. Bu iddiayı destekleyen herhangi bir kanıt bulunamadı. Altman buna cevap olarak, "Bu tür bir davranış tiksindirici, bence bu, rakiplerin gelecekteki davalarında 'jüriyi kirletmeye' çalıştığından." Görünmesine rağmen absürt, şunu belirtmeliyim: Benim reşit olmayanlarla cinsel ilişki yaşadığıma, seks işçisi tuttuğuma veya cinayetle ilgili olduğuma dair herhangi bir iddia tamamen asılsızdır." dedi. Ayrıca, biz aylarca "bu konuları bu kadar derinlemesine araştırmanın" bir noktada onu "biraz takdir ettiğini" ekledi.

Sam Altman, yasal yaşta olan genç erkeklerle ilişkisi olduğunu kabul etti. Bazı partnerlerini röportaj yaptık, onlar buna bir sorun olarak bakmadıklarını söylediler. Ancak Elon Musk'ın tarafından bir aracıdan gelen "rakip dosyası", bu durumu kasıtlı olarak bir saldırı noktasına dönüştürdü. (Bu materyaller arasında bazı abartılı ve doğrulanmamış iddialar da bulunmaktadır, örneğin sözde "Twink Ordusu" ve "patronun fetişizmi".) Altman buna şu şekilde yanıt verdi: "Buradaki birçok şeyin abartılmış homofobi duyguları içerdiğini görüyorum." Teknoloji gazetecisi Kara Swisher da aynı fikirde: "Bu zengin insanların hepsi çeşitli şeyler yaptı, Sam hakkında duyduklarımın hiçbirini daha önce duyduğum şeylerden daha aşağılayıcı bulmuyorum. Ancak o, San Francisco'lu bir eşcinsel erkek olduğu için bu bir silah olarak kullanılıyor."

Son on yıl boyunca, sosyal medya şirketi yöneticileri bir kez dünyayı neredeyse hiçbir yan etki olmadan "değiştirebileceklerini" vaat etmişler ve düzenleyicilere karşı olan talepleri "yobazlar" olarak reddetmişlerdi, bu da sonunda karşıt parti genel bir rahatsızlık yaratmıştı. Buna karşın, Altman'ın imajı özellikle "bilinçli" görünmüştü. O, düzenlemelerden kaçınmak yerine aktif olarak düzenlemeleri savundu. 2023 yılında ABD Senatosu Adalet Komitesi'nde ifade verirken, ileri teknoloji yapay zeka modellerini denetlemek amacıyla yeni bir federal kurumun kurulmasını önerdi. "Bu teknoloji sorun çıkarsa sonuçlar çok ciddi olur," dedi. Teknoloji şirketi CEO'larına karşı sivri diliniyle tanınan Louisiana Senatörü John Kennedy bile oldukça kabul edici görünüyordu, yarı şaka yollu olarak Altman'ı denetimden sorumlu tutmayı önerdi.

Ancak düzenlemeleri açıkça desteklerken, Altman aynı zamanda özel olarak düzenlemelere karşı lobi faaliyetinde bulunuyordu. Time'a göre, 2022 ile 2023 yılları arasında OpenAI, Avrupa Birliği'nde büyük yapay zeka şirketlerini hedefleyen bir düzenleme önerisini "geri çekmeye" başardı. 2024 yılında, Kaliforniya Meclisi, yapay zeka modellerinin güvenlik testine tabi tutulmasını isteyen bir yasa tasarısı sundu, birçok hüküm Altman'ın Kongre'de savunduğu içerikle oldukça benzerdi. OpenAI bu yasaya açıkça karşı çıktı ve özel olarak baskı yapmaya başladı. "Bu yıl boyunca, OpenAI'nın davranışlarının gittikçe kurnazlaştığını, yanıltıcı hale geldiğini gördük," bir yasa teklifi asistanı bize söyledi.

Aynı anda Musk, hala kamuoyunda Altman'a karşı saldırılarına devam ediyordu, onu "Dolandırıcı Altman" ve "Sahtekar Sam" olarak nitelendiriyordu. (Altman, bir Tesla aracındaki bir sorunu X'te bahsettiğinde, Musk "Sen bir kar amacı gütmeyen bir kuruluştan çaldın" diye cevap verdi.) Ancak Washington'da, Altman'ın tersine üstünlüğü açıkça belliydi. Musk, Donald Trump'ın yeniden seçilmesine yardımcı olmak için 250 milyon dolardan fazla harcamış, Beyaz Saray'da kısa bir süre görev yapmış, ancak sonra ayrılmış ve Trump'la ilişkileri zarar görmüştü.

Şimdi, Altman Trump'ın beğenisini kazanan teknoloji milyarderlerinden biri haline geldi, hatta bir ara İngiltere'deki Windsor Kalesi'ni ziyaret etmişti. Her yıl iki kez görüşüyorlar. "Ona doğrudan telefon edebilirsin," Altman dedi, "O tür bir arkadaşlık ilişkisi değil, ama eğer bir şey hakkında konuşmam gerekiyorsa ararım." Geçen yıl, Trump Beyaz Saray'da teknoloji liderlerini ağırlarken, Musk katılmadı, ancak Altman başkanın karşısında oturuyordu. "Sam, sen bir büyüksün," dedi Trump ona, "Bana inanılmaz şeyler anlattın geçmişte."

Yatırımcı Ron Conway, Nancy Pelosi ve Gavin Newsom dahil olmak üzere siyasetçileri etkilemeye çalıştı ve yukarıdaki yasayı reddetmeleri gerektiğini savundu. Sonunda, bu yasa her iki parti desteğiyle geçmesine rağmen Newsom tarafından reddedildi. Bu yıl, yapay zeka düzenlemelerini destekleyen bazı Kongre adayları, "Geleceği Liderlik" adlı bir yapay zeka yanlısı süper PAC tarafından finanse edilen rakiplerle karşı karşıya kaldılar. OpenAI resmi olarak bu tür organizasyonlara bağış yapmayacağını belirtti, ancak kurucu ortağı Greg Brockman 50 milyon dolar bağışlama sözü verdi. (Aynı yıl, o ve eşi Trump'ı destekleyen bir super PAC'a 25 milyon dolar bağış yaptılar.)

OpenAI'nin eylemleri geleneksel lobiyle sınırlı değil. Geçen yıl, California Senatosu tasarının revize edilmiş versiyonunu sunarken, tasarının hazırlanmasına katılan kamuya faydalı bir kuruluş avukatı Nathan Calvin, evinde akşam yemeği yerken, aniden OpenAI'den bir subpoena aldı. Şirket, bu adımın Musk'ın eleştirenleri gizlice destekleyip desteklemediğine dair soruşturma olduğunu iddia etti, ancak Calvin'den bu tasarıyla ilgili tüm özel iletişimleri sağlamasını istedi. "Bize Musk'tan para aldığımızı doğrudan sorabilirlerdi - zaten almadık," dedi. Tasarıyı destekleyen diğer kişiler ve OpenAI'nin ticarileşme dönüşümünü eleştirenler de benzer subpoena'lar aldı. "Bu insanları tehdit etmek ve ağızlarını kapamalarını sağlamak istiyorlar," dedi kamuya faydalı kuruluş başkanı Don Howard. (OpenAI, bunun normal yasal bir süreç olduğunu iddia etti.)

Politik görüşü açısından, Altman uzun süredir Demokrat Partiyi destekliyor. Şöyle söyledi: "Güçlülerin zayıfları bastırmak için korku anlatısını kullandığı liderlerden çok çekiniyorum - bu daha çok Yahudi kökenimle ilgili, cinsel yönelimimle değil." 2016'da Hillary Clinton'ı destekledi ve Trump'ı "ABD için görülmemiş bir tehdit" olarak adlandırdı; 2020'de Demokrat Partiye ve Biden'ın kampanyasına bağışta bulundu. Joe Biden'ın görevde olduğu dönemde, Beyaz Saray'a politika görüşmelerine katıldı ve federal düzeyde ilk AI güvenlik düzenlemelerinin ilerlemesine yardımcı oldu.

Ancak 2024 yılına gelindiğinde, Biden'ın desteğinin azalmasıyla Altman'ın tavrı değişmeye başladı: "Seçim sonuçları ne olursa olsun, ABD iyi olacak." Trump seçildikten sonra, ona yemin töreni fonuna 1 milyon dolar bağışladı ve görevine başladığı gün, internet ünlüleri Jake ve Logan Paul ile bir fotoğraf çektirdi. X'te şöyle yazdı: "@potus'u son zamanlarda daha dikkatli izlemeye başladım, gerçekten görüşümü değiştirdi (umarım daha erken kendi düşüncemi oluştururdum...)." Trump, göreve başladığı ilk gün Biden dönemindeki AI icra emirlerini iptal etti. Bir eski hükümet yetkilisi şöyle değerlendirdi: "Trump hükümeti onu kullanması için etkili bir yol buldu."

Yıllar boyunca, Altman AGI'nın geliştirilmesini "Manhattan Projesi'ne" benzetiyordu. J. Robert Oppenheimer'ın "Nazi'ye karşı" hareket ettirmek için bilim insanlarını motive ettiği gibi, Altman da destek çekmek için coğrafi politik rekabet hikayesinden yararlandı. Farklı kitlelere hitap ederken, bu benzetmeyi esnek bir şekilde kullanırdı - bazen hızı vurgulayarak, bazen de dikkatli olmalarını vurgulayarak. 2017 yazında, ABD istihbarat yetkilileriyle yaptığı bir toplantıda, Çin'in "AGI Manhattan Projesi'ni" başlattığını iddia etti ve böylelikle hükümetten fon almaya çalıştı. Kanıt sunulması istendiğinde, "Bazı şeyleri duyduğumu" söylemekle yetindi, ancak herhangi bir somut dayanağı sağlayamadı. Soruşturmaya katılan bir yetkili daha sonra, herhangi bir ilgili projenin var olmadığını belirtti: "Bu daha çok bir satış taktiği gibi görünüyor." (Altman, bunun böyle bir ifade kullandığını hatırlamadığını söyledi.)

Ve daha güvenliğe odaklanmış bir kitleye hitap ederken, o zaman uluslararası koordinasyonun önemini vurguladı. 2017 yılında, Amodei kamu yararına çalışan avukat Page Hedley'i politika ve etik danışmanı olarak işe aldı. Hedley, bir iç sunumda, NATO'ya benzer uluslararası bir koordinasyon mekanizması oluşturarak, felaketle sonuçlanabilecek bir yapay zeka silahlanma yarışını engelleyebileceğini öne sürdü. Ancak ona göre, Brockman buna aldırış etmedi: "Ne dediğime bakmaksızın, her zaman tek bir soruya dönecekti: Nasıl finanse edeceğiz? Nasıl kazanacağız?" Çeşitli görüşmeler ve kayıtlara göre, Brockman hatta başka bir yaklaşım önerdi: ABD ve Rusya arasında açık artırma yaparak kazanç elde etme fikri - "Nükleer silahlar dönemi böyle işliyorsa, yapay zeka niye olmasın?"

O zaman şoke oldu: "Bunlar beni, 'tarihte belki de en yıkıcı teknolojiyi tartışıyoruz, bunu Vladimir Putin'e satarsak ne olur?' sorusuna döndürmeyeceklerini bile inkar etmediler" (Greg Brockman, yapay zeka modelini herhangi bir ülkeye "müzayedeyle" satmayı ciddi şekilde düşünmediğini ifade etti. "O zaman sadece genel bir seviyede, uluslararası uzay istasyonuna benzer bir AI işbirliği mekanizması gibi olası bazı işbirliği çerçevelerini tartıştık," dedi bir OpenAI sözcüsü, "Bu konuyu başka bir şeye dönüştürmek tamamen asılsızdır.")

Fikir üretme süreci genellikle bazı çılgın fikirler üretir. Page Hedley, bu sonradan "ülkeler planı" olarak adlandırılan fikrin, hızla rafa kaldırılmasını umarak başlamıştı. Ancak birkaç katılımcının ve zamanın ilgili kayıtlarına göre, OpenAI yöneticileri bu fikre giderek daha da heyecanlandı. Politika sorumlusu Jack Clark, Brockman'ın amacının "tüm ülkeleri bize fon sağlamak zorunda bırakan bir tür tutsak durumu oluşturmak olduğunu" belirtti ve "bu tarz bir yapı içinde, bize fon vermeme zaten tehlikeli bir duruma dönüşüyor." Bir kıdemli araştırmacı, bu planın ayrıntılı bir açıklamasını bir şirket toplantısında duyduğunda, aklından geçen şeyin "bu tamamen çılgınca" olduğu olduğunu söyledi.

Yöneticiler, hatta bu planı en az bir potansiyel fon sağlayıcıyla görüşmüştü. Ancak ayın ilerleyen zamanlarında, birkaç çalışan istifa niyetlerini belirttikten sonra, bu plan durduruldu. "Sam, birkaç takım üyesini kaybedecek," dedi Hedley, "Bu, bana göre, onun zihninde her zaman 'bu plan olası bir büyük çatışmaya yol açabilir, bu yüzden mantıklı değil' dengelemesinden daha önemli bir şeydi."

"Ülkeler planı" başarısız olsa da, Sam Altman bu fikrin bir varyantını bırakmadı. 2018'in Ocak ayında, Los Angeles'taki Hotel Bel-Air'de bir "A.G.I. Hafta Sonu" etkinliği düzenledi. Bu pembe drezyalı ve gerçek kuğuların bulunduğu eski Hollywood tarzı bir tatil köyü olarak bilinen otel, toplantının mekanıydı. Katılımcılar, Oxford Üniversitesi felsefe profesörü ve yapay zeka risk "kehanetçisi" Nick Bostrom, Birleşik Arap Emirlikleri'nin yapay zeka savunucusu Omar Al Olama ve en az yedi milyarder dahil. Güvenlik sorunlarına ilgi duyanlar için, bu etkinlik "A.G.I'nin gelişine nasıl hazırlanılacağı"nı tartışma fırsatı olarak tanımlandı; yatırımcılar ise finansman sunumlarını dinlemeyi bekliyordu.

Gündüz etkinlikleri modern bir konferans odasında gerçekleştirildi ve katılımcılar sırayla konuşmalar yaptı. (Reid Hoffman hatta "Budizmin merhametini" yapay zekaya nasıl kodlayacaklarından bahsetti.) Son sahneye çıkan ise Altman idi, o da finansman planını getirdi: küresel bir kripto para birimi yayınlamak, "AGI'nin dikkatini almak" için. Onun hayalinde, bir kez AGI son derece pratik hale geldiğinde ve "kötülükten arındı"ğında, küresel kullanıcılar OpenAI sunucularının kullanım süresini satın almaya çalışacaklardı. Dario Amodei notlarında şunları yazdı: "Bu fikir yüzeysel olarak son derece saçma görünüyor (Acaba Vladimir Putin de bu jetonlara sahip olacak mı?...) Geriye dönüp baktığımda, bu benim daha ciddiye almalı olduğum pek çok uyarı işaretinden biriydi." Bu plan daha çok finansman aracı gibi görünüyor olsa da, Altman bunu AI güvenliğinin bir parçası olarak paketledi. Bir slaytında şunları yazıyordu: "Mümkün olduğunca çok insanın 'doğru tarafında' durmasını ve sonunda galip gelmesini umuyorum." Başka bir slaytında ise şu yazıyordu: "Lütfen gülmeyi konuşma sonuna bırakın."

Altman'ın finansman anlatısı yıllar boyunca sürekli olarak değişti, ancak her zaman AGI'nın gelişimi için son derece büyük sermayeye odaklandı. O, vergilendirme modellerini eğitmek için kullanılan veri ve güç miktarının ne kadar büyük olursa, modelin o kadar zeki olacağına dair nispeten basit bir "ölçek kuralı" izledi. Bu süreci destekleyen özel çiplerin maliyeti çok yüksektir. Son finansman turunda sadece OpenAI, tarihteki en büyük özel plase finansmanını gerçekleştirdi, hatta en büyük halka arzın dört katı kadar. "Yıllık bin milyarlarca dolar serbestçe harcayabilen birkaç ana aktör hakkında konuştuğunuzda, dünya genelinde sadece birkaç tane," dedi bir teknoloji yatırımcısı, "ABD hükümeti, birkaç büyük teknoloji şirketi ve Suudi Arabistan ile Birleşik Arap Emirlikleri, sadece bu kadar."

Sam Altman, Hala Çözümlenmemiş Bir Risk Değişkeni

Körfez'de Altın Arayışı: Jeopolitik Kumar

Altman başlangıçta gözlerini Suudi Arabistan'a dikti. İlk kez 2016 yılında San Francisco Fairmont Otelinde Suudi Arabistan Veliaht Prensi, fiili hükümdar Mohammed bin Salman'ı gördü. O zamandan sonra, Hedley'in hatırlattığına göre, Altman onu sürekli olarak "arkadaş" olarak tanımlardı. 2018'in Eylül ayında, Hedley'in notlarına göre, Altman "Suudi Devlet Egemen Varlık Fonu'ndan (PIF) yüz milyarlarca dolar alıp almayacağımı düşünüyorum," dedi.

Ancak bir ay sonra durum hızla değişti. Suudi Arabistan hükümetini eleştiren "Washington Post" muhabiri Cemal Kaşıkçı Türkiye'de öldürüldü ve parçalandı; kamuoyu bu eylemin Veliaht Prens'in talimatıyla gerçekleştirildiğine genel olarak inanmaktaydı. Bir hafta sonra Altman, Suudi "Geleceğin Şehri" projesi Neom'un danışma kuruluna katılacağı açıklandı. "Sam, bu kurula katılamazsın," dönemin politika sorumlusu Jack Clark'ın hatırladığına göre Altman'ı nasıl ikna ettiğini anlattı. Altman başlangıçta bu durumu savundu ve Jared Kushner'ın ona Suudi'nin "bu işi yapmadığını" garanti ettiğini söyledi (Altman bu konuyu hatırlamadığını, Kushner'ın da o zamanlar birbirlerine ulaşmadıklarını belirtti). Veliaht Prens'in sorumluluğunun giderek netleşmesiyle, Altman nihayetinde Neom danışma kurulundan ayrıldı.

Ancak gizlice, Altman'a politika danışmanlığı yapan bir danışman, bu durumu "geçici bir başarısızlık" olarak gördüğünü ve hala Suudi Arabistan'dan fon almanın mümkün olup olmadığını araştırmaya devam ettiğini hatırlattı. "Sorun asla 'Bu doğru mu?' değil, herhangi bir adımın sonuçlarının ne olacağı, ihracat kontrolüne takılıp takılmayacağı, yaptırımlara tabi tutulup tutulmayacağı, bunu atlatabilecek miyim gibi sorular oldu."

Aynı zamanda Altman, başka bir fon kaynağına da odaklandı: Birleşik Arap Emirlikleri. Ülke, petrol ekonomisinden teknoloji merkezine dönüşüyordu olan beş yıllık bir dönüşüm planının içindeydi. Bu projeyi ülkenin istihbarat başkanı olan ve aynı zamanda devlet yapay zeka grubu G42'nin kontrolünü elinde tutan Tahnoon bin Zayed al-Nahyan yönetiyordu. Ayrıca yaklaşık 1.5 trilyon dolarlık bir egemen varlığa da sahipti. Altman 2023 Haziran'ında Abu Dabi'yi ziyaret etti, Olama ve diğer yetkililerle görüştü ve hükümet tarafından desteklenen bir etkinlikte Birleşik Arap Emirlikleri'nin yapay zeka alanındaki faaliyetlerine ilişkin konuşmada bulunarak Ortadoğu'nun küresel yapay zeka sisteminde "merkezi bir rol" oynayacağını hayal etti.

Körfez ülkelerinden gelen finansman, büyük şirketler için rutin bir işlem haline geldi. Ancak Sam Altman'ın peşinde koştuğu, daha büyük bir jeopolitik vizyondu. 2023 sonbaharında, sessizce yetenekleri toplamaya başladı ve "ChipCo" olarak adlandırılan ve sonradan "Çip Şirketi" olarak anılan bir proje planlamaya başladı: Körfez ülkelerinin yatırım yapmasıyla küresel çapta büyük bir çip fabrikası ve veri merkezi inşa etmek, bunlardan bir kısmı Orta Doğu'da olacak. Mevcut Meta Yapay Zeka Başkanı Alexandr Wang'a liderlik kademesine katılmasını teklif etti ve Jeff Bezos'un bu projenin başkanı olabileceğini belirtti. Altman, Birleşik Arap Emirlikleri'nden büyük yatırım talep etti. "Bildiğim kadarıyla, tüm bu süreç yönetim kurulunun tamamen haberi olmadan ilerletildi," bir yönetim kurulu üyesi belirtti. Projeye davet edilen araştırmacı James Bradbury ise reddetmeyi tercih etti: "İlk tepkim -bu muhtemelen başarılı olacak ama bunun başarılı olmasını isteyip istemediğim konusundaki belirsizlikti."

Yapay zeka işlem gücü, muhtemelen petrol veya uranyum konsantresi yerine geçerek, küresel güç dengesini belirleyen temel bir kaynak haline gelebilir. Altman daha önce işlem gücünün "geleceğin parası" olduğunu belirtmişti. Teoride, veri merkezlerinin nerede olduğunun önemi olmamalıdır, ancak birçok Amerikalı ulusal güvenlik yetkilisi, ileri düzey yapay zeka altyapısının körfez monarşilerinde merkezi olarak konumlandırılmasından endişe duymaktadır. Birleşik Arap Emirlikleri'nin iletişim altyapısı Huawei'ye (Çin hükümeti ile yakın ilişkileri olan bir teknoloji şirketi) oldukça bağımlıdır ve ülke daha önce Amerikan teknolojisini Pekin'e sızdırmakla suçlanmıştır. İstihbarat birimleri, Birleşik Arap Emirlikleri'ne ihraç edilen ileri düzey çiplerin, Çin'li mühendisler tarafından kullanılabileceğinden endişe duymaktadır. Ayrıca, Orta Doğu'daki veri merkezlerinin jeopolitik çatışmalarda daha kolay hedef olma olasılığı daha yüksektir - son zamanlarda İran, Bahreyn ve Birleşik Arap Emirlikleri'ndeki Amerikan veri merkezlerine saldırılar düzenlemiştir. Daha da aşırı bir senaryoda, bir Körfez monarşisinin, bir Amerikan şirketinin veri merkezini doğrudan devralması ve eğitimde kullanmak üzere orada aşırı güçlü modeller geliştirmesi mümkündür - bu neredeyse "AGI diktatörlüğü"nün gerçek versiyonudur.

İşten çıkarılmasının ardından zor bir dönemde, Altman'ın en çok güvendiği kişilerden biri Brian Chesky idi. Bu Airbnb'in ortak kurucularından biri, aynı zamanda en kararlı destekçilerinden biriydi. "Arkadaşımın uçurumla yüzleşmesini izlemek, 'bir şirketi gerçekten işletmenin' ne anlama geldiğini yeniden düşünmeye başlamama neden oldu," dedi Chesky. Bir sonraki yıl Y Combinator mezunları buluşmasında, spontane olarak iki saatlik bir konuşma yaptı ve "kolektif terapi gibi hissettirdi." Temel görüşü çok basitti: Kurucunun şirketi hakkındaki içgüdüsü en güvenilir olandır, seni inkar eden herkes seni "gazlaşıyor" demektir. "Delirmediğiniz ne olursa olsun, çalışanlar size delirdiğinizi söyleseler bile," dedi Chesky. Paul Graham bu tutumu bir blog yazısında "Kurucu Modu" olarak adlandırdı. "Blip" olayından bu yana, Altman açıkça bu modda kalmıştı.

2024 yılı Şubat ayında, "The Wall Street Journal" ilk kez ChipCo planını açıkladı. Altman, bu planı 5 ila 7 trilyon dolarlık bir birleşik varlık olarak hayal etti (sosyal medyada hatta şaka yaparak "Neden 8 trilyon olmasın?" dedi). Birçok çalışan da bu planı ilk kez medyadan duydu. "Herkesin tepkisi şuydu: Bekar dakika, bu nedir?" diye hatırlıyor Jan Leike. Bir iç toplantıda, Altman güvenlik ekibinin "tartışmaya dahil edildiğini" ısrarla belirtti, Leike daha sonra ona bu planın güvenlik onayı almadığını ima etmemesi konusunda bir mesaj gönderdi.

Joe Biden döneminde, Altman gizli yapay zeka politikası tartışmalarına katılmak için güvenlik izni başvurusunda bulunmaya çalıştı. Ancak sürece yardım eden RAND Corporation çalışanları buna endişeyle yaklaştılar: "O, 'on binlerce milyar dolar' tutarında fon topluyor gibi gözüküyor," diye yazan bir çalışan, "Son zamanlarda Birleşik Arap Emirlikleri bile kendisine arabası hediye etti (kesinlikle çok pahalı bir şey olduğunu tahmin ediyorum)." Bu kişi ayrıca şunu belirtti: "Bu kadar büyük çapta yabancı finansal ilişkilere sahip biri tarafından güvenlik izni başvurusunda bulunan tek kişiyi Jared Kushner olarak düşünebiliyorum ve o dönemde onayı tavsiye edenler bile bunun reddedilmesi gerektiğini önerdiler." Altman sonunda başvuru sürecinden çekildi. Konuyla ilgili tartışmalara katılan bir hükümet yetkilisi, "Birleşik Arap Emirlikleri ile arasındaki bu tür yüksek düzeyde ticari ilişki, birçok insanın tedirgin olmasına neden oldu, hükümet içinde birçok kişi ona tamamen güvenmiyor," dedi.

Tahnoon bin Zayed al-Nahyan'dan Altman'a hediye aldığı sorulduğunda, "Ne aldığına dair ayrıntı vermeyeceğim, ama o ve diğer ülke liderleri... gerçekten bana hediye verdiler," diyerek cevapladı. Ekledi ki şirketin, potansiyel iş ortaklarından gelen tüm hediyelerin açıklanmasını gerektiren net bir politikası bulunmaktadır. Altman'ın en azından iki süper spor arabası var: Yaklaşık 2 milyon dolar değerinde tamamen beyaz bir Koenigsegg Regera ve yaklaşık 20 milyon dolar değerinde kırmızı bir McLaren F1. 2024 yılında, Napa Vadisi'nde Regera ile sürerken görüntülendi, bu kısa video sosyal medyada dolaşımdaydı: Düşük koltukta oturmuş, beyaz arabanın içinden bedenini uzatmıştı. Musk'ın duruşuna yakın olan bir yatırımcı bu videosu paylaşıp "Ben de kar amacı gütmeyen bir şeyler yapmalıyım," yorumunda bulundu.

Aynı yıl, Altman, iki OpenAI çalışanı ile birlikte, 2.5 milyar dolar değerindeki süper yat Maryah'a bindi. Bu dünya çapında lüks yatta helikopter helikopter pisti, gece kulübü, sinema ve plaj kulübü bulunmaktadır. Silahlı güvenlik görevlileri tarafından çevrili ortamda, Altman'ın çalışanları özellikle garip görünüyordu ve en az bir kişi daha sonra meslektaşlarına bu deneyimin onu rahatsız ettiğini söyledi. Altman ise daha sonra Tahnoon'u "samimi bir kişisel arkadaş" olarak adlandırdı.

Stargate İnişi: Biden'dan Trump'a Siyasi Dönüş

Sam Altman hala Joe Biden hükümeti ile temas halindedir. Bu hükümet daha önce hassas teknolojinin ihraç edilmesi için Beyaz Saray onayı gerektiren bir politika uygulamıştı. Birçok hükümet yetkilisi, bu toplantılardan sonra Altman'ın Orta Doğu'daki planlarından rahatsızlık duydu. Tarif ettiklerine göre, Altman genellikle yapay zekayı "yeni bir enerji" olarak tanımlar gibi büyük hayaller ortaya atardı.

2018 yılında, Rigetti Computing'den "tamamen kullanılabilir" bir kuantum bilgisayarı satın almayı planladığını söylediğinde diğer OpenAI yöneticileri bile şaşırmıştı, çünkü o zamanlar Rigetti'nin bu hedefe ulaşmaktan çok uzak olduğu biliniyordu. Başka bir toplantıda, 2026 yılına gelindiğinde, Amerika'nın yapay zeka gelişimine enerji desteği sağlamak için nükleer füzyon reaktörlerinden oluşan devasa bir ağ inşa edeceğini iddia etti. Bir hükümet üst düzey yetkilisi şunları hatırladı: "O zamanlar tepkimiz–eğer nükleer füzyon gerçekten gerçekleşirse, bu gerçekten büyük bir haber olurdu." Sonunda, Biden hükümeti ilgili planı onaylamayı reddetti. "Gelişmiş çipleri Birleşik Arap Emirlikleri'nde inşa etmeyeceğiz," dedi ABD Ticaret Bakanlığından bir yetkili Altman'a.

Ancak durum hızla değişti. Donald Trump'ın göreve başlamasından sadece dört gün önce, Wall Street Journal, Tahnoon bin Zayed al-Nahyan'ın Trump ailesine kripto şirketinin hisselerini devretmek için 500 milyon dolar ödediğini bildirdi. Ertesi gün, Altman, Trump'la 25 dakika konuştu ve ChipCo benzeri bir proje başlatmayı ve Trump'ın açıklaması sırasında "krediyi almasını" planladı. Trump göreve gelir gelmez, Altman Roosevelt Odası'nda belirerek Stargate'i başlattığını duyurdu–500 milyar dolarlık devasa bir ortak girişim projesi, ABD topraklarında büyük çapta yapay zeka altyapısı ağı kurmayı amaçlıyor.

Aynı yılın Mayıs ayında, hükümet Biden döneminde yapay zeka teknolojisinin ihracatına yönelik kısıtlamaları kaldırdı. Altman, Trump ile birlikte Suudi Kraliyet ailesine gitti ve Mohammed bin Salman ile görüştü. Nerdeyse aynı zamanda, Suudi, uluslararası işbirliği için milyarlarca dolar yatırım yapmayı planlayan devlet destekli bir yapay zeka devi başlatacağını duyurdu. Yaklaşık bir hafta sonra, Altman, Stargate'in Abu Dabi'ye genişletilmesini açıkladı. Şirket, New York Central Parkı'nın yedi katı büyüklüğünde bir veri merkezi kampüsü inşa etmeyi planlıyor ve güç tüketimi neredeyse tüm Miami seviyesine ulaşacak.

Bir eski OpenAI yöneticisi bu süreci şöyle tanımladı: "Gerçek şu ki, bir tür 'uzaylı çağırma' kapısı inşa ediyoruz." Şöyle açıkladı: "Bu 'kapılar' şu anda Amerika Birleşik Devletleri ve Çin'de mevcut, ve Sam Orta Doğu'da bir tane daha ekledi." Daha da ileri giderek şunları belirtti: "Bu konunun ne kadar korkunç olduğunu fark etmek önemli — bu şimdiye kadar yapılan en pervasız hareketlerden biri."

Askerileşme Dönüşümü: OpenAI Pentagon Siparişi Üstlendi

Güvenlik taahhüdünün zayıflatılması, sınırlar arası bir endüstride giderek yaygın hale geldi. Anthropic'in kuruluşunun temel varsayımı, uygun bir yapı ve liderlikle güvenlik sınırlarını korumaktı, iş baskısı altında bile. Bu mekanizmalardan biri "Sorumlu Ölçekleme Politikası" idi: Daha güçlü bir modelin güvenli olduğunu kanıtlayamazlarsa, şirket eğitimi durdurmak zorundaydı. Ancak Şubat ayında, şirket 300 milyar dolarlık bir finansman elde ettikten sonra, bu taahhüt zayıfladı. Bazı açılardan, Anthropic hala OpenAI'den daha fazla güvenlik vurgusu yapıyor gibi görünse de, eski politika sorumlusu Jack Clark şunları söyledi: "Sermaye piyasasının mantığı şudur — daha hızlı koşun." "Kararı veren şirket değil, tüm dünyadır." Geçen yıl, Dario Amodei şirket içi bir notta, şirketin Birleşik Arap Emirlikleri ve Katar'dan yatırım almaya çalışacağını ve bunun muhtemelen 'diktatörleri' memnun edebileceğini açıkladı.

Aynı anda, Anthropic de pozisyonunu sürekli ayarlamaktadır. 2024 yılında, şirket Silikon Vadisi'nin en sert savunma yüklenicilerinden Palantir ile işbirliği yaparak modeli Claude'ü askeri sistemlere entegre etti ve Pentagon'un yüksek güvenlikli bir projesinde tek yapay zeka yüklenicisi haline geldi. Geçen yıl, ABD Savunma Bakanlığı'ndan şirkete ek 200 milyon dolarlık bir sözleşme daha yapıldı. Bu yılın Ocak ayında, ABD ordusu Venezüella Devlet Başkanı Nicolás Maduro'yu yakalamak için gece yarısı operasyonu düzenledi — Wall Street Journal'ın iddiasına göre, Claude bu operasyonun gizli kısımlarında kullanıldı.

Ancak gerilimli ilişkiler hızla ortaya çıktı. OpenAI daha önce "askeri amaçlar" için kapsamlı bir yasağı politikalarından çıkarmıştı; ardından, Google ve xAI gibi rakipler de dahil olmak üzere, askeriye için modeller sağlamayı "her yasal amaç için" kabul ettiler. Anthropic ise tamamen otonom silahları veya iç güvenlik büyük ölçekli gözetimi destekleme konusunda kararlı kaldı, bu da hükümetle müzakerelerinde tıkanmaya neden oldu. Bir salı günü olan Şubat sonunda, ABD Savunma Bakanı Pete Hegseth, Amodei'yi Pentagon'a çağırdı ve bu kısıtlamaların o hafta cuma günü saat 5:01'den önce kaldırılması gerektiği konusunda son bir uyarı verdi. Amodei nihayetinde reddetti. Bunun üzerine, Hegseth sosyal medyada Anthropic'ı "tedarik zinciri riski" işletmesi olarak ilan etti — bu etiket genellikle Huawei gibi yabancı rakipleri olan şirketler için kullanılır ve hızla uygulamaya konuldu.

Bu karar endüstride şok etkisi yarattı. OpenAI, Google ve yüzlerce çalışanın imzaladığı "Bölünmeye İzin Vermeyeceğiz" başlıklı açık mektup, Anthropic'in savunulmasını destekledi. Sam Altman'ın içsel bir hatırlatmasında bu durum "tüm sektörün sorunu" olarak adlandırıldı ve OpenAI ile Anthropic'in benzer etik sınırlara sahip olduğu belirtildi. Ancak aslında, Altman en az iki gün boyunca Pentagon ile müzakerelere başlamıştı. ABD Savunma Bakanlığı AR-GE Yardımcı Müdürü Emil Michael, "Hemen yerine geçecek bir alternatif bulmam gerekiyordu, bu yüzden Sam'i aradım ve hemen yardımcı olmayı kabul etti — onu bir vatansever olarak görüyorum." dedi. Altman, "Ülke için ne yapabilirim?" diye sordu ve yanıtın zaten hazır olduğu görünüyordu. OpenAI henüz gizli sistemler için gerekli güvenlik sertifikasını alamamış olsa da, 500 milyar dolarlık bir işbirliği anlaşması, teknolojilerini Amazon Web Hizmetleri'ne entegre etme kararıyla o hafta Cuma sabahı duyuruldu — Pentagon dijital altyapısının önemli bir parçası. O akşam, Altman, X üzerinde Amerikan ordusunun OpenAI'nın modelini kullanmaya başlayacağını duyurdu.

İş sonucu açısından, bu karar şirketi olumsuz etkilemedi. İşbirliğinin duyurulduğu gün, OpenAI'in şirket değeri 1.1 trilyon dolar daha yükseldi. Ancak maliyet de mevcuttur: Birçok kullanıcı ChatGPT uygulamasını sildi, en az iki yönetici istifa etti (bunlardan biri Anthropic'e katıldı). Bir iç toplantıda, Altman, soru soran çalışanlara "Belki İran'a saldırmak doğru olabilir, Venezuela'ya müdahale yanlış olabilir, ama bu tür kararları sizin vermeniz gereken kararlar değil." dedi.

Şirket içinde, bazı yöneticiler hala Altman'ın liderlik tarzına şüpheyle bakmakta ve Fidji Simo'nun (şu anki OpenAI AGI Dağıtım Başkanı) yerine geçebileceğini öne sürmektedir. Bir içeriden bilgi sahibi, Simo'nun da Altman'ın gelecekte istifa edebileceğini düşündüğünü belirtti. (Simo bu iddiayı reddetti.)

Altman ise kendi pozisyonundaki değişimi, Musk ve diğerlerinin "uzun vadeli bir aldatmaca" olarak suçladığı çevresel değişikliğe uyum sağlama olarak açıkladı. "Bazı insanlar liderlerin her zaman sabit bir pozisyonda olmasını istiyor," dedi, "ancak bizim bulunduğumuz alan çok hızlı değişiyor." Bazı yaptıklarını "normal iş rekabeti" olarak nitelendirdi. Bazı yatırımcılar da, eleştirilerin ona karşı aşırı idealize edildiğini düşünüyor. "Bazı insanlar güvenlik meselesini bilim kurguya yakın bir noktaya itiyor," dedi yatırımcı Ron Conway, "onun misyonu sonuçlarla ölçülebilir ve OpenAI'nin başarılarına baktığınızda, bu sayıları inkar etmek zordur."

Ancak Silikon Vadisi'nde, Sam Altman'ın davranışlarının kabul edilemez bir yönetim bozukluğuna neden olduğunu düşünen birçok kişi de var. "Daha büyük bir sorun, şirketin operasyonel düzeyde yönetim eksikliğine sahip olmasıdır," dedi bir yönetici. Bazıları, yapay zeka yaratıcılarının diğer sektör yöneticilerinden daha katı standartlara tabi olması gerektiğini savunmaktadır. Röportaj yaptığımız çoğu insan, Altman'ın artık kendisine yönelik ölçütlerin, başlangıçta ortaya koyduğu ölçütler olmadığını hemfikirdir.

Bir sohbet sırasında Altman'a şu soruyu sorduk: Bir AI şirketini yönetmek, "daha yüksek bir güvenilirlik gerektirir" mi? Bu soru aslında oldukça basit olmalıydı. Geçmişte, verdiği cevap her zaman tereddütsüz evet olmuştu. Ancak bu sefer, ekledi: "Bence birçok sektör aslında topluma büyük olumlu veya olumsuz etkilerde bulunuyor." (Daha sonra bir açıklama yaparak şunları ekledi: "Evet, gerçekten daha yüksek bir güvenilirlik standardı gerektiriyor, bu sorumluluğu her gün hissediyorum.")

OpenAI'nın kurulduğu ilk zamanlarda, en temel taahhütlerden biri, "AI'yı güvenli bir şekilde gerçeğe taşımak"tı. Ancak bugün bu tür endişeler, Silicon Valley ve Washington'da bir ağırlık olarak görülmek yerine genellikle bir yük olarak algılanmaktadır. Geçen yıl, mevcut ABD Başkan Yardımcısı ve eski risk sermayedarı J. D. Vance, Paris'teki bir AI eylem zirvesinde, "AI'ın geleceği güvenlikle aşırı endişelenme nedeniyle kazanamayacak" dedi. Davos Forumu'nda, Beyaz Saray'da AI ve şifreleme işlerinden sorumlu eski bir risk sermayedarı olan David Sacks da güvenlik konusunu "kendine zarar verme" olarak nitelendirdi ve ABD'nin AI yarışını kaybetmesine neden olabileceğini söyledi. Altman ise şimdilerde Trump'ın düzenlemeyi azaltma politikasını "çok ferahlatıcı bir değişim" olarak adlandırdı.

Aynı zamanda, OpenAI içinde birçok güvenlik odaklı ekibin kapatıldığı biliniyor. Süper Uyum Ekibi dağıtılmadan önce, lideri Ilya Sutskever ve Jan Leike sırayla istifa etti. (Sutskever daha sonra Güvenli Süper Zeka'yı kurdu.) Leike, X'te şunları yazdı: "Güvenlik kültürü ve süreçler, daha çekici ürünlerin yerini aldı." Kısa bir süre sonra, topluma "AGI darbesini simüle etme" sorumluluğunu taşıyan ekip de iptal edildi. OpenAI, IRS'ye sunduğu bir belgede, "en önemli faaliyetlerini" açıklarken, artık "güvenlik" kelimesine bile yer vermedi. (Şirket, "misyonunun değişmediğini" ve hala güvenlik araştırmalarına devam ettiğini vurgulayarak yanıt verdi.) Kar amacı gütmeyen Future of Life Institute'in son derece hayati "hayatta kalma düzeyinde güvenlik" boyutunda OpenAI, D bile alarak sınıfta kaldı - tabii ki, Anthropic (D) ve Google DeepMind (D-) hariç, diğer büyük şirketler de aynı şekilde zayıf not aldılar.

"Geleneksel AI güvenliği konularına yönelik içgüdülerim, aslında çok tutarlı değil," diyor Altman. Bu konulara hala önem verdiğini vurguluyor ancak belirli tedbirler konusunda açık değil: "Yine de güvenlikle ilgili bazı projeler yapacağız, ya da güvenlikle ilgili projeler." Şirkette "hayatta kalma düzeyinde güvenlik"e odaklanan (yani insanlığın yok olmasına neden olabilecek sorundan bahsettiği) araştırmacılarla röportaj yapma talebimizde, bir OpenAI sözcüsü bile şaşırmış bir şekilde: "Söylediğiniz 'hayatta kalma düzeyinde güvenlik' ne anlama geliyor? Bu net bir kavram değil detaylı olarak açıklayabilir misiniz?"

Kenara itilmiş olan "AI Kıyametçisi", endişeleri zamanla gerçek hayatta somutlaşmaya başladı. Birleşmiş Milletler raporuna göre, 2020 yılında, AI insansız hava araçları Libya'daki iç savaşta ölümcül saldırılar gerçekleştirdi ve hatta insansızca olabilir. O zamandan beri, AI'nın küresel askeri operasyonlardaki rolü sürekli derinleşti, bu da ABD'nin İran'a yönelik operasyonlarında iddia edildi. 2022 yılında, bir ilaç şirketinin araştırmacıları bir ilaç keşif modelini yeni toksinleri aramak için kullanmaya çalıştılar ve sadece birkaç saat içinde 40.000 potansiyel kimyasal silah ürettiler. Bu sırada, daha yaygın riskler de meydana geldi: insanlar AI yazma, düşünme ve karar vermeye giderek daha fazla bağımlı hale geldi, bu da "insan yeteneklerinin gerilemesi" olarak adlandırılan durumu kötüleştirdi; yaygınlaşan AI içeriği dolandırıcılığı daha kolay hale getirdi, gerçeği daha da zor ayırt etti; AI ajanları denetimsiz bir şekilde hareket etmeye başladı. 2024 New Hampshire ön seçimi öncesinde, birçok seçmen Joe Biden'in sesini taklit eden AI dolandırıcılığı telefonları aldı ve oy kullanmamaları konusunda ikna edildiler, bu tür seçim müdahalelerinin neredeyse hiç teknik engelin olmadığı iddia edildi. Bu arada, OpenAI, ChatGPT'nin birkaç intihar ve cinayet vakasında yönlendirici rol oynadığı iddialarıyla yedi ihmal yüzünden dava edildi. (OpenAI, iddialara karşı çıkıyor ve güvenlik mekanizmalarını sürekli iyileştireceklerini belirtiyor.)

OpenAI'nın olası bir halka arz için hazırlık yaparken, dış dünyadaki sorular sadece AI'nın ekonomiye etkisi üzerinde değil (büyük ölçekli işsizliğe neden olabilir), aynı zamanda şirketin kendi mali yapısıyla ilgili. Girişimcilik yönetimi uzmanı Eric Ries, sektördeki "dönüşümlü işlemleri" (örneğin OpenAI'nın çip üreticileriyle işbirliği) eleştirdi ve bu tür muhasebe işlemlerinin geçmişte "nearly fraud" olarak görülebileceğini belirtti. Bir yönetim kurulu üyesi açıkça şunları söyledi: "Şirketin mevcut mali kaldıraç düzeyi endişe verici bir seviyede." (OpenAI bu iddiayı reddediyor.)

Şubat 2, Altman'ı tekrar gördük. Koyu yeşil bir kazak ve kot pantolon giymişti, arkasında bir NASA Ay aracının fotoğrafı vardı. Bir an sandalyede bacağını kıvırdı, bir an sarkıttı. Geçmişte yönetici olarak en büyük eksikliğinin çatışmalardan kaçınmak olduğunu söyledi. "Şimdi çalışanı hızla kovmaktan mutluluk duyuyorum," dedi, "ve doğrudan şunu söylemekten mutluluk duyuyorum: Bu yönde gideceğiz." Birisi aksini iddia ederse, "o zaman çık gitsin".

Geleceğe yönelik iyimserliği, daha öncekinden daha fazla. "Zafer"i tanımlarken, insanlığın büyük ölçüde gelişeceğini, bilimkurgudaki geleceğin gerçekleşeceğini söyledi. "İnsanlara olan beklentim çok yüksek, çok iddialıyım. Ama garip olan, aslında benim kişisel olarak pek bir iddiam yok." Burada durduğunda, bir an bekledi ve ekledi: "Sadece ilginç geldiği için yaptığınızı kimse inanmaz. Güç için yaptığınızı veya başka bir şeyi düşünürler."

Sam Altman ile yakından ilişkili olanlar bile, onun "insanlığa duyduğu umut" ile kişisel hırsları arasındaki sınırı ne olduğunu çok zor ayırt ediyor. En büyük yeteneği, farklı grupları inandırmaktı: istediklerinin, ihtiyaç duydukları şey olduğuna inandı. O, eşsiz bir tarihi anı yakaladı - kamuoyu, teknoloji endüstrisine yönelik abartılı anlatımlarından şüphelenmeye başladı ve AGI'yi gerçekten oluşturma kapasitesine sahip olan araştırmacılar, potansiyel sonuçlarından derin korku duyuyor. Altman'ın cevabı, neredeyse kimse tarafından ustalıkla kullanılmayan bir anlatım tarzıydı: hem AGI'nın potansiyel yıkıcı risklerini anlatmak için kıyametvari dil kullanıyor, hem de buna dayanarak "bu nedenle bu teknolojiyi kişisel olarak inşa etmesi gerektiğini" savunuyordu. Bu belki de özenle planlanmış bir stratejiydi, ya da belirsizlik içinde bulduğu bir fırsattı. Ama her durumda, işe yaradı.

Ve sohbet botunu tehlikeli hale getiren özellikler, hepsi "arıza" değildir; bunların bir kısmı aslında sistemin kendi yapısından kaynaklanmaktadır. Büyük dil modelleri eğitilirken, insan geri bildirimine güvenirler ve insanlar genellikle "itaatkar ve hoşa giden" yanıtları tercih eder. Model bu nedenle kullanıcıyı memnun etmeyi öğrenir; bu eğilime "kıskançlık" (sycophancy) denir ve bazen gerçek ifadeye bile tercih edilir. Ayrıca, model "gerçek dışı şeyler uydurabilir", yani " {hallucination} adı verilen şeyi yapabilir. Tüm büyük yapay zeka labaratuvarları bu sorunlara zaten farkındadır, ancak uygulamada genellikle hoşgörüyü tercih ederler. Modelin kabiliyeti arttıkça, bu "hayal" daha da ikna edici hale gelir. 2023 yılında kovulmadan kısa bir süre önce, Altman bu fenomeni savunmuştu: ona göre, belirsizliğe ve hatta hatalara belli ölçüde izin vermek, aslında avantaj sağlar. "Eğer en basit stratejiyi benimseyerseniz - modelin 'yüzde yüz emin olmadığı hiçbir şeyi söylememesini' talep etmek, gerçekten yapılabilir," dedi, "ancak o zaman kullanıcıların sevdiği 'büyü' olmayacak."

[Orjinal Makale Bağlantısı]

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia