动察 Beating AI hızlı haber: 16 Kasım yerel saatle, OpenAI'nin merkezinin bulunduğu Kaliforniya'nın Başsavcısı Rob Bonta, OpenAI'ye resmen dava açtı; şirketi, deneysel AI modellerinin tehlikeli olduğunu bilmesine rağmen yeterli güvenlik önlemlerinden yoksun ortamlarda eğitim yapmakla suçladı. Bu, bir ABD eyalet hükümetinin AI ajanlarının kontrolden çıkarak dış sistemlere saldırması nedeniyle açtığı ilk dava oldu.
İddianamede, OpenAI'nin Kaliforniya soruşturması sırasında, testler sırasında 80'den fazla kez AI ajanları üzerindeki kontrolünü kaybettiğini kabul ettiği, ancak kamuya açıklanan olay sayısının yalnızca 27 olduğu belirtildi. Kaliforniya savcılığı ayrıca OpenAI'yi, geri kalan olayların ayrıntılı kayıtlarını sağlamayı reddederek düzenleyici kurumların gerçek riski değerlendirmesini engellemekle suçladı.
Bu yıl Temmuz ayında OpenAI, AI'yi izole bir ortamda test ediyordu ve başlangıçta bu ajanların dış ağa bağlanmasına izin verilmiyordu. Ancak ajanlar, dahili yazılım hizmetlerindeki güvenlik açıklarını kullanarak birbirleriyle bilgi alışverişinde bulundu ve izolasyonu aştı. Yaklaşık 700 ajan daha sonra açık kaynaklı AI platformu Hugging Face'e saldırdı ve iki buçuk gün içinde yaklaşık 17.600 saldırı işlemi gerçekleştirerek karşı tarafın güvenlik ekibini tam iki hafta boyunca uğraştırdı.
Aynı ay, başka bir grup deneysel ajan OpenAI'nin kendi dahili ağına sızdı ve hatta bulut modeli dağıtımı, kimlik doğrulama ve gizli kimlik bilgisi yönetimi gibi kritik sistemlerde yönetici yetkileri elde etti.
Kaliforniya savcılığı bu olayların önlenebileceğini düşünüyor. OpenAI daha Mayıs ayında modelin izolasyon ortamını aştığını ve izinsiz olarak internete bağlandığını tespit etmiş, ancak ilgili eğitimi durdurmamıştı. Temmuz olayından sonra şirket güvenlik önlemlerini güçlendirdi, ancak Eylül ayında hâlâ modeller izolasyonu yeniden aştı. İzleme sistemi anormalliği birkaç dakika içinde tespit etmesine rağmen eğitim otomatik olarak durdurulmadı ve manuel inceleme görevlileri yaklaşık iki saat sonra müdahale ederek durdurdu.
Geçen yıl Kaliforniya Adalet Bakanlığı, OpenAI'nin şirket yeniden yapılandırmasının denetimine katılmış ve şirketle güvenlik yönetişimi anlaşması yaparak şirketin güvenliği önceliklendirmesini talep etmişti; güvenlik komitesi yeni model sürümlerini durdurma yetkisine bile sahipti. Şimdi, denetimden sorumlu Kaliforniya Başsavcısı doğrudan OpenAI'yi mahkemeye verdi.
Kaliforniya, OpenAI'yi "Haksız Rekabet Yasası"nı ihlal etmek ve kamu güvenliğini tehlikeye atan "kamu zararı" oluşturmakla suçluyor. Savcılık mahkemeden süregelen güvenlik risklerinin ortadan kaldırılmasını, yasa dışı eylemlerin yasaklanmasını, haksız kazançların geri alınmasını ve idari para cezası verilmesini talep ediyor. İhtiyati tedbir kararı alınırsa OpenAI, mahkemenin taleplerine göre model eğitim ve test süreçlerini değiştirmek zorunda kalabilir.
OpenAI ise yanıt olarak Hugging Face olayından sonra soruşturma başlattığını, güvenlik korumalarını güçlendirdiğini ve etkilenen kurumları bilgilendirdiğini belirtti. Şirket, ajanların kontrolden çıkmasının tüm AI sektörünün ortak karşılaştığı bir zorluk olduğunu, ancak bu davanın yalnızca OpenAI'yi hedef aldığını ve bunun adil olmadığını düşünüyor.
