Anthropic Açık Mektubu: İki Yüzlü Sam Altman, PUA Ustası
Orijinal Başlık: Anthropic CEO's Memo Attacking OpenAI's 'Mendacious' Pentagon Announcement
Orijinal Yazar: The Information
Çeviri: Peggy, BlockBeats
Editör Notu: OpenAI'nın Pentagon ile yaptığı 'İftiracı' Anlaşmasını Eleştiren Anthropic CEO'sunun Memosunu yayınlamasından sadece birkaç saat önce, Pentagon, Anthropic'in güvenlik şartlarına bağlı kalma konusundaki ısrarı nedeniyle işbirliğini sonlandırdı. Bunun üzerine Anthropic CEO'su Dario Amodei, OpenAI'ın iddia ettiği çoğunlukla 'güvenlik önlemi' olarak sunulan şeyin aslında çoğunlukla 'güvenlik gösterisi' olduğunu ve otonom silahlar ve geniş çapta gözetim konusundaki tutumunu sorguladığı çalışanlarına yönelik aşırı derecede sert bir iç yazılı mesaj yayınladı.
Bu yaklaşık 1600 kelimelik e-postada Amodei, sadece ABD savunma sistemine yönelik görüşmelerin bazı detaylarını açığa çıkarmakla kalmadı, aynı zamanda meseleyi doğrudan OpenAI CEOsu Sam Altman'a yöneltti ve gerçek işbirliği yapısını gizlemek için PR anlatısını kullandığını suçladı. Bu yapay zeka askeri uygulamaları, güvenlik çizgileri ve siyasi ilişkiler etrafında dönen tartışma, Silikon Vadisi'nin iki büyük yapay zeka şirketi arasındaki ayrılıkları ön plana çıkarıyor.
Aşağıda orijinal metin yer almaktadır:
OpenAI'ın şu anda yayınladığı bilgileri ve bu bilgilerdeki ikiyüzlülüğü çok açık bir şekilde belirtmek istiyorum. Bu onların gerçek pratiği, umarım herkes bunu net bir şekilde görebilir.
DoW (WarDepartmanı) ile yaptıkları anlaşma hakkında hala birçok bilinmeyenimiz olsa da (hatta belki onlar bile tam olarak net değillerdir çünkü sözleşme koşulları oldukça belirsiz olabilir), bazı şeylerden emin olabiliriz: Sam Altman ve WarDepartmanı'nın açıklamalarına göre (elbette son metni görmek gerekir), işbirlikleri şu şekilde genelde ilerleyecek: Modelin kendisinin yasal kullanım açısından hiçbir kısıtlaması yok, yani sözde 'tüm yasal amaçlar'; aynı anda bir 'güvenlik katmanı' kurma. Benim gözümde, bu 'güvenlik katmanı' temelde modelin belirli görevleri tamamlamasını veya belirli uygulamalara katılmasını engelleyen bir reddetme mekanizmasıdır.
Sözde 'güvenlik katmanı', ayrıca iş ortaklarını (örneğin Palantir, Anthropic'ın ABD hükümeti müşterilerine hizmet verirken iş ortağı) tarafından bize sunmaya çalışılan bir çözümü de işaret edebilir. Belirli uygulamalara izin veren ve diğerlerini engelleyen bir sınıflandırıcı veya makine öğrenimi sistemi önerdiler. Ayrıca, OpenAI'ın çalışanlarını (FDE, yani saha deployma mühendisleri) modelin kullanımını denetlemek ve yanlış uygulamaları önlemek için görevlendireceği işaretleri de var.
Genel olarak görüşümüz şudur: Bu yaklaşımların hiçbir işe yaramadığı anlamına gelmez, ancak askeri uygulama bağlamında, yaklaşık olarak %20 gerçek koruma, %80 güvenlik gösterisi olduğunu söyleyebiliriz.
Sorunun kökeni şurada yatmaktadır: Modelin geniş çapta gözetim veya tamamen otonom silah sistemleri için kullanılıp kullanılmadığı genellikle daha geniş bağlam bilgilerine bağlıdır. Model aslında ne tür bir sistemde bulunduğunu bilmiyor, kendisinin "insanın döngüsünde" olup olmadığını (insan döngüsünde olmak, yani otonom silah sorununun anahtarı), analiz etmekte olduğu verinin kaynağının ne olduğunu bilmiyor. Örneğin, yerli ABD verileri mi yoksa yurtdışı verileri mi, şirketin kullanıcı onayını aldıktan sonra sağladığı veriler mi yoksa gri kanaldan satın alınan veriler mi vb.
Güvenlikle ilgili çalışanlar bunu uzun süredir deneyimlemişlerdir: Model reddi mekanizması güvenilir değildir. Kaçırma saldırıları oldukça yaygındır ve çoğu zaman modeli aldatabilmek için veri doğasını yanlış beyan etmek yeterlidir.
Burada normal güvenlik önlemlerinden daha karmaşık hale getiren bir temel fark daha vardır: Modelin ağ saldırısı gerçekleştirdiğini belirleme, giriş ve çıkıştan genellikle belli olabilir; ancak saldırının doğası ve belirli bağlamı saptama, tamamen farklı bir konudur ve işte burada gereken değerlendirme yeteneği tam olarak burada gerekli olan şeydir. Birçok durumda, bu görev son derece zordur, hatta imkansızdır.
Bize Palantir'in "güvenlik katmanı"nı (muhtemelen onların da OpenAI'ye benzer şekilde satış yaptığını düşünüyorum) pazarlaması daha da kötü durumda. Görüşümüze göre, bu neredeyse tamamen bir güvenlik gösterisidir.
Palantir'in temel mantığı şöyle görünüyor: "Şirketinizde mutsuz olan bazı çalışanlar olabilir, onları sakinleştirmek için onlara bir şeyler vermeniz veya olan bitenden onları uzak tutmanız gerekebilir. İşte sunduğumuz hizmet tam olarak budur."
Anthropic veya OpenAI çalışanlarının doğrudan dağıtımı denetlemesine izin verme konusunda, aylar önce genişletilmiş gizli bir ortamda kabul edilebilir kullanım politikaları (AUP) hakkında içsel tartışma yaptık. Sonuç son derece açıktır: Bu yöntem yalnızca çok nadir durumlarda işe yarar. Mümkün olduğunca deneyeceğiz, ancak bu güvenilir bir temel koruma mekanizması değildir, özellikle gizli bir ortamda uygulanması çok zordur. Bu arada, mümkün olduğunca bunu yapmaya çalıştık ve bu konuda OpenAI'den farkımız yok.
Bu nedenle söylemek istediğim şudur: OpenAI'ın benimsediği bu önlemler temelde sorunu çözmeyecektir.
Onların bu yaklaşımları kabul etmesinin ve bizim etmememizin temel nedeni, onların çalışanları sakinleştirmeye odaklanması, oysa bizim gerçekten önemsediğimiz şey kötüye kullanımı engellemektir.
Bu planlar hiçbir değere sahip değil, biz de kısmen bunları kullanıyoruz, ancak bunlar gerekli güvenlik standartlarına ulaşmak için yetersizdir. Aynı zamanda, Savaş Bakanlığı'nın OpenAI ve bizimle olan tutumu açıkça tutarsızdır.
Aslında, biz OpenAI benzeri bazı güvenlik koşullarını (AUP'nin üzerine ek olarak olduğunu düşündüğümüz bazı hükümleri sözleşmeye koymayı denedik. Ancak Savaş Bakanlığı bunu reddetti. İlgili kanıtlar o zamanın e-posta yazışmalarında mevcuttur. Şu anda işlerimin yoğunluğu nedeniyle, meslektaşlarımı spesifik ifadeleri daha sonra aramaları için görevlendirebilirim. Bu nedenle, "OpenAI'nın şartları bize sunuldu ancak reddettik" ifadesi gerçeği yansıtmamaktadır; aynı şekilde, "OpenAI'nın şartları geniş kapsamlı iç güvenlik izleme veya tamamen otomatik silahları engellemeye yardımcı olabilir" ifadesi de gerçeği yansıtmamaktadır.
Ayrıca, Sam ve OpenAI'nın ifadeleri, önerdiğimiz kırmızı çizginin, yani tamamen otomatik silahların ve geniş kapsamlı iç güvenlik izleme uygulamalarının, zaten yasa dışı olduğunu ima etmektedir, bu nedenle ilgili kullanım politikalarının gereksiz olduğu sonucuna varmaktadır. Bu tür bir ifade neredeyse tamamen Savaş Bakanlığı'nın açıklamalarıyla örtüşmektedir ve önceden koordine edilmiş gibi görünmektedir.
Ancak bu gerçeği yansıtmamaktadır.
Dün açıklamamızda açıkladığımız gibi, Savaş Bakanlığı'nın gerçekten iç güvenlik izleme yetkileri bulunmaktadır. Geçmişte, yapay zeka olmadan, bu yetkilerin etkisi nispeten sınırlıydı, ancak yapay zeka çağında, bunun anlamı tamamen farklıdır.
Örneğin: Savaş Bakanlığı yasal olarak tedarikçilerden Amerikan vatandaşlarının özel verilerini toplu olarak satın alabilir (bu tedarikçiler genellikle gizli kullanıcı onayları aracılığıyla yeniden satma izni almıştır), ardından bu verileri yapay zeka kullanarak geniş kapsamlı şekilde analiz edebilir, vatandaş profilleri oluşturmak, siyasi eğilimleri değerlendirmek, fiziksel alanındaki eylem rotalarını takip etmek için kullanabilirler, elde edebilecekleri veriler GPS bilgilerini dahi içerebilir.
Dikkate değer bir başka nokta da şudur: Müzakereler sona ermek üzereyken, Savaş Bakanlığı, eğer "kapsamlı edinilen verilerin analizi" hakkında belirli bir ifadeyi sözleşmeden çıkartırsak, tüm diğer şartlarımızı kabul etmeye istekli olduklarını belirtti. Ve bu ifade, sözleşmedeki endişelerimizin doğrudan karşılaştığı senaryoya tam olarak karşılık gelen tek maddedir. Bu durumdan çok şüpheliyiz.
Otomatik silahlar konusunda, Savaş Bakanlığı "insanın döngüsünde olması"nın yasal bir gereklilik olduğunu iddia etmektedir. Ancak gerçek böyle değildir. Aslında bu, Biden hükümeti döneminde bir Pentagon politikası olan, silah ateşleme kararlarında insan katılımının zorunlu kılınması gerektiğini belirten bir politikadır. Ve bu politika mevcut Savunma Bakanı Pete Hegseth tarafından tek taraflı olarak değiştirilebilir—işte gerçek endişemiz buradan kaynaklanmaktadır. Dolayısıyla, pratikte, bu gerçek bir kısıtlama değildir.
OpenAI'nin Savunma Bakanlığı ile yaptığı bu açıklamaların çoğu ya yalan ya da kasıtlı olarak karışıklık yaratma amaçlıdır. Bu gerçekler, bir davranış modelini ortaya çıkarır ve bu modeli Ben Sam Altman'da çok kez görmüştüm. Umarım herkes bunu tanır.
Bu sabah, önce Anthropic'in kırmızı çizgisini benimsediğini belirtti. Bunun nedeni, bize destek veriyormuş gibi görünmek ve kredi çalmak, aynı anda da eleştiriden kaçınmak için bu anlaşmayı devralırken kendini göstermekti. Ayrıca kendini, "endüstri genelinde birlikte bir sözleşme standardı belirlemeyi uman" bir karakter olarak şekillendirmeye çalıştı—yani barış yaratıcısı ve işlem eşleştiricisi.
Ancak arka planda, tedarik zinciri riski olarak etiketlendiğimiz anda yerimizi almak için Savunma Bakanlığı ile sözleşme imzalıyor.
Aynı zamanda, bu sürecin "Anthropic'in kırmızı çizgide durduğu bir zamanda OpenAI'ın çizgiyi geçtiği" gibi görünmemesi gerekiyor. Bunu başarabilmek için:
İlk olarak, reddettiğimiz tüm "güvenlik gösterileri" önlemlerini imzalayabilir ve Savunma Bakanlığı ve iş ortakları da istekli olduğu için bu önlemleri çalışanlarını sakinleştirmek için yeterince inandırıcı şekilde paketleyebilir.
İkincisi, Savunma Bakanlığı, aynı şeyleri sunduğunda reddedildiğimiz halde onun sunduğu bazı şartları kabul ediyor.
İşte bu iki nokta, OpenAI'ın anlaşmaya varmasını sağlarken bizim bunu yapamamamıza neden oluyor.
Savunma Bakanlığı ve Trump hükümeti bize gerçekten karşı olmasının nedeni: biz Trump'a siyasi bağış yapmamış olmamız (ancak OpenAI ve Greg Brockman çok fazla bağış yaptılar); Trump'a diktatörlük benzeri övgülerde bulunmamamız (ancak Sam yaptı); AI düzenlemelerini destekliyoruz ve bu da onların politika ajandasına aykırı; birçok AI politika konusunda doğruyu söylemeyi tercih ediyoruz (örneğin, AI'nın istihdam üzerindeki etkisi); ve en önemlisi, kırmızı çizgimizi koruduk ve çalışanları sakinleştirmek için "güvenlik gösterileri" yapmak yerine onlarla birlikte olmadık.
Sam şimdi her şeyi, işbirliği yapmanın zor olduğu, tutumumuzun sert olduğu, esnekliğimizin eksik olduğu gibi anlatmaya çalışıyor. Herkesin fark etmesini umuyorum ki bu tipik bir Gaz Lambası Operasyonu (gaslighting) taktiğidir.
"Birisiyle işbirliği yapmak zor" gibi belirsiz ifade, genellikle gerçekten kötü görünen nedenleri örtmek için kullanılır—yukarıda bahsettiğim: politik bağışlar, politik sadakat ve güvenlik gösterileri.
Herkesin bunu anlaması ve özel olarak OpenAI çalışanlarıyla konuşurken bu anlatıya karşı çıkması gerekiyor.
Diğer bir deyişle, Sam bizi desteklediğini iddia ederek aslında pozisyonumuzu zayıflatmaktadır. Herkesin uyanık olmasını umuyorum: Halkın bize desteğini zayıflatarak, hükümetin bize ceza vermeyi kolaylaştırmasına olanak sağlıyor. Hatta şüpheleniyorum ki arka planda işleri körüklüyor olabilir, ancak şu anda buna dair doğrudan bir kanıtım yok.
Halk ve medya düzeyinde, bu taktik ve manipülasyon artık işe yaramıyor gibi görünüyor. Çoğu insan, OpenAI'ın Savunma Bakanlığı ile yaptığı anlaşmayı endişe verici hatta rahatsız edici bulurken, bizi prensiplerimize bağlı bir taraf olarak görüyor (bu arada, şu an App Store indirme listesinde 2. sıradayız).
【Not: Daha sonra Claude birinci sıraya yükseldi.】
Tabii ki, bu anlatı bazı aptal Twitter kullanıcılarında etkili oldu, ancak bu önemli değil. Gerçek endişem şu: Bu anlatının OpenAI çalışanları arasında olumsuz etki yaratmasını engellemek.
Filtreleme etkisi nedeniyle, zaten oldukça ikna edilebilir bir grup insan bunlar. Ancak, Sam'in çalışanlarına anlatmaya çalıştığı bu hikayeye karşı çıkmak oldukça önemli.
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia
İlgili Makaleler
