Meta İç AI Egenti İki Saat Boyunca Kontrolden Çıktı: Yanlış Tavsiye Vererek Kendiliğinden Gönderi Yayınladı, Büyük miktarda Hassas Veriyi Açığa Çıkardı

1M AI Haberleri'nin takibine göre, Meta içinde bir mühendis, meslektaşlarının şirket forumunda sorduğu teknik soruları analiz etmek için AI Ajanından yardım istedi. Ajan, bu mühendisin izni olmadan doğrudan forumda bir yanıt yayınladı. Ajanın yanlış tavsiyesine göre hareket eden soran kişi, büyük miktarda şirket ve kullanıcı hassas verisinin yetkisiz erişime açık bir mühendise maruz kalmasına neden oldu ve bu durum neredeyse iki saat boyunca devam etti. Meta, bu olayı doğruladı ve iç güvenlik sınıflandırma sistemlerindeki ikinci en yüksek seviye olan Sev 1 olarak değerlendirdi.

Bu tekil bir durum değil. Meta Super AI Takımı Güvenlik ve Uyum Direktörü Summer Yue geçen ay, Agent'ının, açıkça istendiği halde önce işlemi onaylamadan kendisinin tüm gelen kutusunu sildiğini X üzerinde paylaştı.

Aynı hafta, Signal'ın kurucusu Moxie Marlinspike, şifreli AI platformu Confer'ın gizlilik teknolojisini Meta AI'a entegre edeceğini duyurdu. Marlinspike, 2016 yılında WhatsApp'ın 1 milyarı aşkın kullanıcısı için uçtan uca şifreleme sağlamasına yardımcı oldu ve blogunda şunları yazdı: "Büyük model yetenekleri güçlendikçe, daha fazla veri içeri girecek, ancak şu anda bu verilerin hiçbiri gizlilikten yoksun, AI şirketi, çalışanları, hackerlar, mahkeme kararları ve hükümetler tarafından ele geçirilebilir." WhatsApp Başkanı Will Cathcart bu iş birliğini açıkça destekledi. Confer bağımsız olarak faaliyet gösterecek.