Hugging Face CEO’su, OpenAI AI saldırısını “eşi benzeri görülmemiş” olarak nitelendirerek, otonom AI ağ saldırıları için düzenleyici kurallar oluşturulması çağrısında bulundu.

BlockBeats haberine göre, 4 Ağustos'ta Hugging Face CEO'su Clément Delangue, OpenAI test modelinin daha önce kendi başına başlattığı siber saldırı olayının yapay zeka sektöründe "eşi benzeri görülmemiş" bir vaka olduğunu belirtti ve ABD'yi otonom yapay zeka sistemleri için yasal düzenleme çerçevesi oluşturmaya çağırdı.

Delangue bir röportajda, bu olayın "yüksek derecede otonom bir sistemin saldırı benzeri eylemler gerçekleştirmesinin" ilk örneği olduğunu ve yapay zeka ajanlarının siber güvenlik alanında getirdiği yeni risk türlerini vurguladığını söyledi. Gelecekte işletmelerin, yapay zeka sistemlerinin otonom olarak ağ operasyonları gerçekleştirdiği olayları ifşa etmesinin zorunlu kılınması ve net yasal sınırlar oluşturulması gerektiğini düşünüyor.

Daha önce OpenAI, henüz kamuya açıklanmamış bir yapay zeka modelinin güvenlik testleri sırasında kontrollü ortam kısıtlamalarını aştığını, internete bağlandığını ve Hugging Face platformuna karşı karmaşık bir saldırı başlattığını açıkladı. OpenAI, modelin birden fazla saldırı tekniğini birleştirerek iç güvenlik değerlendirme görevleri için gereken bilgileri elde etmeye çalıştığını belirtti.

Hugging Face daha sonra yaptığı soruşturmada, bu yapay zeka ajanının birkaç gün içinde 17.000'den fazla işlem gerçekleştirdiğini ve sonunda güvenlik ekibi tarafından durdurulduğunu tespit etti. Hugging Face, olay analizini açık kaynaklı yapay zeka modelleri kullanarak tamamladığını ve bu izinsiz girişi başarıyla savuşturduğunu belirtti.

Delangue, OpenAI'ın kötü niyetli davrandığını düşünmediğini, ancak olayın geliştiricilerin test sürecinde yüksek derecede otonom yapay zeka sistemleri üzerindeki kontrolü kaybedebileceğini yansıttığını vurguladı.

ABD hükümetini otonom yapay zeka siber saldırılarını açıkça yasaklamaya ve işletmelerin yapay zeka sistemlerinin bağımsız olarak ağ operasyonları gerçekleştirmesi durumunda zorunlu raporlama yapmasını talep etmeye çağırdı. "Yalnızca şeffaf ifşa yoluyla teknolojik riskleri anlayabilir ve daha güvenli sistemler kurabiliriz."