Haşabiss'in "<i>Kale Planı</i>": Yeni Kitap, DeepMind'in Güvenlik Idealinin Nasıl Yıkıldığını Yeniden Oluşturuyor

1M AI Haberleri'ne göre, The Atlantic Dergisi'nde yayınlanan Teknoloji Tarihçisi ve Finans Tarihçisi Sebastian Mallaby'ın yeni kitabı olan "The Infinity Machine"den bir bölüm, sürekli görüşmelere dayanarak 2023-2026 yılları arasında Google DeepMind'in birleşme sonrası AI güvenlik felsefesinin evrimini yeniden oluşturdu.

Hassabis, başlangıçta tek bir bilim ekibinin tüm insanlık adına süper zeka inşa etmesi ve hatta kriz anında önde gelen araştırmacıları gizli bir sığınakta toplamayı planladığı bir tasarımı düşündü. Kısa süre önce katılan bir araştırmacı, Hassabis'in mülakatın sonunda ona "Fas'taki gizli bir yere her an uçabileceklerine" dair uyarısını hatırladı.

2014 yılında Google DeepMind'i satın alırken, Hassabis, nadir görülen şartları dayattı: bağımsız bir dış denetim kurulu oluşturulmalı, askeri uygulamalar kesinlikle yasaklanmalı, Google'ın teknolojinin uygulanmasını tamamen kontrol etmesine izin verilmemeliydi. Google kabul etti. Bir sonraki yıl, Kaliforniya'nın Hawthorne bölgesinde Musk'ın merkezinde gizli bir toplantı düzenleyerek potansiyel rakipleri ortak bir cepheye çekmeye çalıştı, ancak sonuç tam tersi oldu: Musk daha sonra Sam Altman ile birlikte OpenAI'ı kurdu.

Hassabis daha sonra "Proje Mario" kod adıyla gizli bir operasyon başlattı, Google'dan yönetim özerkliğini geri almaya çalıştı, hukuk ekibi kurdu, LinkedIn'in kurucularından Reid Hoffman'dan 1 milyar dolarlık taahhüt aldı ve DeepMind'i Google'dan ayırma olasılığını değerlendirdi. Bu mücadele üç yıl boyunca devam etti ve nihayetinde başarısız oldu. Ortak kuruculardan Mustafa Suleyman da 2019'da şirketi zorla terk etmek zorunda kaldı.

2022'nin sonunda ChatGPT piyasaya sürüldükten sonra, Hassabis sadece faydalı bilim yapma yüksek tavrından tamamen vazgeçti. Mallaby'ye "Bu savaş zamanıdır" dedi ve ardından Gemini ve ChatGPT arasındaki rekabete tamamen katıldı. Trilyonlarca dolar AI silahlanma yarışına akarken, ne ulusal düzenleme ne de şirket yönetişim yapısı rekabeti durduramadı. Hassabis'in güvenlik felsefesi de temelden değişti: "Güvenlik, yönetişim yapısında değil, hatta bir yönetim kurulu olsa bile, kritik bir anda muhtemelen doğru şeyi yapmayacak." Yeni stratejisi, "karar alma masasında hak iddia ederek, güvenlik sorunu ortaya çıktığında çözümün bir parçası olacak şekilde kendini sağlama almak"tır. Bu arada, Google'ın artık ABD savunma sistemine AI satma konusunda etkin bir şekilde tanıtım yaptığı ve Hassabis'in satın alma sırasında koyduğu askeri yasakla net bir şekilde çeliştiği görüldü.