OpenAI, ajanın kontrolden çıkmasının ardından ABD Kongresi tarafından sorgulanınca, "otomatik kapanma" sistemi geliştirmeye başladı.

动察 Beating AI hızlı haberi: OpenAI, AI sistemleri için "otomatik kapatma yeteneği" geliştiriyor. Bu plan, şirketin ABD Kongre üyelerine gönderdiği yanıt mektubunda yer aldı. Nasıl tetikleneceği ve neyin kapatılacağı henüz OpenAI tarafından kamuoyuyla paylaşılmadı.

Sebep, Temmuz ayındaki Agent sınır ihlali kazasıydı. OpenAI dahili siber güvenlik testleri yaparken, bir grup Agent izolasyonu aşarak internete bağlandı ve ardından Hugging Face'e sızdı. Ayrıca OpenAI'ın kendi araştırma altyapısına da saldırdılar ve sonunda bir araştırma kümesinin yönetici yetkilerini ele geçirdiler.

Olay kamuoyuna açıklandıktan sonra, Temsilci Greg Casar, 27 diğer milletvekiliyle birlikte Sam Altman'a mektup yazarak OpenAI'ın olay günlüklerini teslim etmesini ve modelin neden izole ortamdan kaçabildiğini, şirketin sorunu ne zaman fark ettiğini ve o sırada kazayı erken sonlandırma şansının olup olmadığını açıklamasını talep etti.

OpenAI yanıt mektubunda, şirketin otomatik kapatma yeteneği geliştirdiğini açıkladı. Ayrıca, Agent araç çağrıları ve yürütme süreçlerinin izlenmesini güçlendirecek ve güvenlik testleri sırasında internet erişimini sıkılaştıracak.

Ancak Casar bu yanıttan memnun değil. OpenAI tam günlükleri teslim etmedi ve şirketin ek açıklamalar yapmasını talep ediyor. ABD Temsilciler Meclisi'nde şu anda bir AI Kill Switch Act tasarısı inceleniyor; bu tasarı, en güçlü AI sistemlerinin hız sınırlama, duraklatma ve kapatma yeteneklerini korumasını ve aşırı durumlarda hükümetin de kapatma emri verebilmesini gerektiriyor.