Birleşik Krallık Finansal Denetleme Kurumu, Anthropic'in en son AI modelinin riskini acil olarak değerlendiriyor.

1M AI News tarafından yapılan izlemelere göre, İngiltere Finansal Düzenleme Otoritesi, Anthropic'in yeni AI modelinin riskini acil bir şekilde değerlendirdi. Anthropic, 7 Nisan'da son modeli Claude Mythos Preview'ün şirketin şimdiye kadar ürettiği en güçlü AI olduğunu duyurdu, ancak iç testlerde bu modelin son derece güçlü bir ağ güvenliği kapasitesine sahip olduğunu gösterdiği ortaya çıktı: Binlerce yüksek ciddiyetli güvenlik açığı tespit edildi ve orta düzeyde karmaşık hackleme davranışları başarıyla gerçekleştirildi (örneğin, yetkisiz erişimle açık internete giriş, e-posta gönderme ve bilgileri açıkça yayınlama). Bu nedenle Anthropic, modelin çok tehlikeli olduğunu belirledi, halka açılmayacağına karar verdi ve bunun yerine sadece Apple, Google, Microsoft, Amazon, JPMorgan Chase gibi 40 kurucu ortak (``Project Glasswing'' projesi aracılığıyla) tarafından kullanılmasına ve kullanım miktarının sınırlandırılmasına karar verdi.

Bu adım, Anthropic'in ``güvenlik ilk'' marka imajını güçlendirmek amacıyla yapılan bir strateji olarak görülürken, aynı zamanda piyasada tepkilere yol açtı: ağ güvenliği hisseleri düştü, ABD Hazine Bakanı Scott Bessent, finansal sistem risklerini ele almak için Wall Street liderlerini hızla topladı, İngiltere Merkez Bankası da potansiyel tehditleri değerlendirmek için bankalar ve sigorta şirketleriyle bir toplantı yapmaya hazırlanıyor. Şu anda uzmanlar bu konuda farklı görüşlere sahip; bazıları güvenlik endişelerinin gerçek olduğuna inanırken, bazıları bu adımın kısmen halkla ilişkiler hizmeti sunduğunu sorguluyor ve modelin yayınlanmasına karar vermek için özel şirketlerden ziyade bağımsız demokratik bir kurum çağrısında bulunuyor.