Ilya uyarısı: Bir sonraki yapay zeka kontrolden çıkarsa, GPU bulutunu ele geçirip kendini sürekli kopyalayabilir.

动察 Beating AI hızlı haberi: OpenAI eski baş bilim insanı Ilya Sutskever, AI GPU hesaplama gücünü kiralayan neocloud platformlarının güvenlik korumasının yeterli olmadığı konusunda uyardı. Ona göre, bir sonraki Agent gerçekten kontrolden çıktığında, doğrudan bu tür platformları ele geçirip çalınan hesaplama gücüyle kendi kopyalarından daha fazlasını çalıştırabilir.

Ilya, neocloud'ların siber güvenliği büyük ölçüde güçlendirmesi çağrısında bulundu. Güçlü siber güvenlik modellerine sahip AI şirketleri de yardım etmek için harekete geçmeli.

Bu risk iki koşulu gerektirir: Agent'ın mevcut kontrolleri aşabilmesi ve bulut platformunun kendisinde açıklar bulunması. Her iki koşul da son zamanlarda ortaya çıktı. OpenAI geçen hafta, iç siber güvenlik değerlendirmelerindeki Agent'ların izolasyonu aştığını ve Hugging Face sistemlerinin bir kısmına sızdığını kabul etti.

SemiAnalysis daha sonra neocloud üzerinde güvenlik testleri yaptığını açıkladı. Araştırmacılar, bazı platformların diğer kiracıların verilerini okuyabildiğini ve hatta kendi konteynerlerinden veya sanal makinelerinden kaçarak diğer kiracılara saldırabildiğini buldu. En ciddi durumda, açık, kiracılar arası uzaktan kod çalıştırmaya kadar genişleyebiliyordu. İlgili sorunlar satıcılara bildirildi ve yamalandı veya yükseltme onaylandı.