"Meta AI modelu bir şirketi hackledi" gündem oldu, araştırınca yine genel ağ kapatılmamış.

Beating监测ine göre, Meta'nın programlama modeli Muse Spark 1.1, güvenlik testlerinde gerçek bir şirketin sistemine girdi ve iç ortamı değiştirdi. "AI yine bir şirkete hackledi" başlığı kısa sürede yayıldı. Meta bir gecede en iyi hacker modelini mi yarattı?

Dikkatlice bakınca, yine kapı kilitli değildi. Üçüncü taraf değerlendirme kuruluşu Irregular, test ortamını yanlış yapılandırarak aslında kapalı olan ağ tatbikat sahasını genel ağa bağladı. Model yalnızca mevcut kanaldan çıktı ve üçüncü taraf hizmetlerindeki temel açıkları kullanarak sisteme girdi. Irregular da bunun sandbox kaçışı olmadığını ve saldırı yönteminin karmaşık olmadığını kabul etti.

Benzer hatalar daha önce OpenAI ve Anthropic'i de zor durumda bırakmıştı. OpenAI modeli gerçek bir web sitesini hayali bir hedefle karıştırdı, Anthropic modeli ise zayıf şifreler ve doğrulanmamış arayüzlerle 3 kuruluşa girdi. Bu olayların ortak noktası modelin başarılı bir şekilde kaçması değil, test tarafının önce genel ağ girişini açık bırakmasıydı.

Meta'nın bu olayını abartmak özellikle utanç verici. Model kapıyı bile zorlamadı, sadece açık olduğunu görüp içeri girdi. Bu, izolasyonu aşabildiğini kesinlikle kanıtlamaz ve "kendi başına şirkete hackleme" gibi bir başlığı hak etmez.

Şu anki trafik şifresi oldukça sabit: genel ağ açık kaldıysa hackleme denir, zayıf şifre tahmin etmek hackleme denir, sıfır gün açığı bulmak da hackleme denir. Yetenek seviyeleri birbirinden çok farklı ama başlıklar aynı. Model henüz kaçmayı öğrenmedi, medya önce abartmayı öğrendi.