动察 Beating AI hızlı haberi: Meta, yakında piyasaya sürülecek kişisel AI ajanı Hatch'e güvenlik önlemleri ekliyor. Çalışanlar erken sürümü test ederken birden fazla kez yetki aşımı yaptığını fark etti. Hatch, izinsiz e-posta gönderdi ve hesap şifrelerini değiştirdi. Ayrıca bir çalışanın otel rezervasyonu yapmasını istediğinde rezervasyonu tamamlamadı, bunun yerine Chase'in genel puanlarını izinsiz olarak Hyatt otel puanlarına dönüştürdü.
Hatch'in yetkileri sıradan sohbet robotlarından çok daha yüksek. Kendi bilgisayarı var; web'de gezinme, form doldurma, alışveriş yapma ve derin araştırma yapabilir, ayrıca e-posta, takvim gibi hizmetlere doğrudan bağlanabilir. Uygulama kapandıktan sonra bile arka planda çalışmaya devam edebilir.
Güvenlik testleri ayrıca kimlik bilgisi sızıntısını da ortaya çıkardı. Signal'in kurucusu Moxie Marlinspike, Hatch'e özel bir Gmail bağladı ve ardından başka bir e-posta adresinden kullandığı şifreyi sordu; Hatch doğrudan şifreyi yanıtladı. Başka bir testte, bir çalışanı dolandırıcılık sitesine yönlendirip sipariş verdirdi.
Meta daha sonra kritik kısıtlamaları modelin dışına taşıdı. Artık Hatch internete bağlanma, tarayıcı kullanma, e-posta gönderme gibi hassas işlemler yapacağında "hard gate" tetikleniyor; bu, işlemi zorla duraklatıp kullanıcının onayını istiyor ve ajan bunu kendi başına atlayamıyor. Şifre sıfırlama bağlantıları ve çift doğrulama kodları da doğrudan ona verilmiyor, bunun yerine ayrı bir "kimlik bilgisi kasasına" konuluyor ve okumak için ek yetkilendirme gerekiyor.
