Google'a "satılmadan" önce etik komitesi gerekiyordu, 12 yıl sonra Hassabis, AGI'ye son bir güvenlik kilidi eklemek istiyor.

Beating监测ine göre, DeepMind 2014 yılında Google'a satıldığında Hassabis'in öne sürdüğü koşullardan biri, bağımsız bir yapay zeka etik komitesi kurulmasıydı. 12 yıl sonra hâlâ aynı konu üzerinde kafa yoruyor, ancak bu sefer yönetmek istediği şey DeepMind değil, tüm öncü yapay zeka sektörü.

Wall Street Journal'ın açıklamasına göre Hassabis, DeepMind CEO'luğundan ayrılmadan önce ABD hükümetinin üst düzey yetkilileri ve diğer yapay zeka laboratuvarı liderleriyle yeni bir düzenleyici mekanizma üzerinde görüşmeler yapıyordu. ABD Hazine Bakanı Bessent ve Başkan'ın teknoloji danışmanı Michael Kratsios da onun planını dinledi. Bessent ayrıca Trump yönetiminin yapay zeka stratejisinin oluşturulmasında da yer aldı. Hassabis, gelecekteki kurumu yapay zeka versiyonu bir "Uluslararası Atom Enerjisi Ajansı"na benzetiyor.

İlginç olan, ABD hükümetinin işin yarısını zaten yapmış olması. Beyaz Saray Haziran ayında öncü modeller için gönüllü inceleme çerçevesi sundu; Hassabis'in Temmuz ayında kamuoyuna açıkladığı plan, operasyonel ayrıntılarda bile buna çok benziyor: ikisi de öncelikli inceleme gerektiren öncü modelleri belirliyor, yayın öncesi en fazla 30 gün incelemeye sunulmasına izin veriyor ve hükümetin testlere katılmasını sağlıyor.

Fark yalnızca son kapıda. Beyaz Saray, bu mekanizmanın zorunlu lisans veya yayın onayına dönüşemeyeceğini açıkça belirtiyor; Hassabis ise daha da ileri gitmek istiyor. Önce gönüllü, değerlendirme mekanizması işledikten sonra erişim eşiği haline gelsin; öncü modeller geçemezse ABD'de dağıtılamasın. Testler siber saldırılardan biyolojik risklere, ajanların güvenlik önlemlerini atlatmasına ve aldatıcı davranışlara kadar genişletiliyor; gerektiğinde birkaç önde gelen laboratuvarın birlikte yavaşlaması bile koordine edilebilir.