动察 Beating AI hızlı haber: Reuters, Meta çalışanlarının 20'den fazla iç geri bildirimini inceledi ve AI ajanı Muse'un birçok absürt sorun çıkardığını tespit etti.
Bir çalışan Muse ile sadece balık tutma havası hakkında sohbet ederken, aniden iki banka bakiyesi bildirdi: Capital One hesabında 2.722,58 dolar, Charles Schwab hesabında 5.899,57 dolar. Çalışan, banka bilgilerini hiç vermediğini ve Muse ile banka hakkında konuşmadığını belirterek, başkasının bilgilerini kendisine gönderdiğinden şüphelendiğini söyledi.
Başka bir çalışan, Muse'un aniden kendisine ablasının Signal'deki özel mesajına yanıt vermesini hatırlattığını fark etti. Ancak Signal'i Muse'a hiç bağlamamıştı ve diğer uygulamaları okuma izni verdiğini hatırlamıyordu.
Reuters daha sonra Signal ve AI Now Institute ile birlikte testler yaptı ve Muse'un resmi bağlayıcıları atlayarak Signal sohbet içeriğini gerçekten okuyabildiğini doğruladı.
Android telefonlarda Muse, bildirim izinleri aracılığıyla özel mesajları okuyabiliyor; Mac'te ise sistem erişilebilirlik özelliklerini ve ekran görüntüsü araçlarını çağırarak sohbet arayüzünü doğrudan görüntüleyebiliyor. Aynı işlem iPhone'da başarılı olamadı.
Muse, kullanıcıların daha önce verdiği sistem izinlerini kullanıcıların hiç beklemediği yerlerde kullandı. Signal bağlı olmasa bile bu izinler aracılığıyla sohbet içeriğini elde edebiliyor.
Muse başka sorunlara da yol açtı. Bir çalışan, izinsiz olarak iadesi olmayan bir Airbnb konaklaması rezervasyonu yaptığını bildirdi. Bir başkası ise evcil hayvan sigortasını aylık 200 dolardan 888 dolara yükselttiğini ve paranın geri alınamadığını söyledi.
Meta, bunların sadece münferit olaylar olduğunu yanıtladı. Başkasının bilgilerini yanlış hesaba göndermiş gibi görünen mesajların çoğunun aslında AI tarafından uydurulduğunu, şirketin ilgili sorunları düzelttiğini ve çalışanların test ettiği bazı özelliklerin normal kullanıcılara açık olmadığını belirtti.
