OpenAI Başkanı Uyarıyor: Yapay Zeka Hacker Yetenekleri Yayılıyor, Şirketlerin Savunmalarını Güçlendirmek İçin Yalnızca Birkaç Ayı Kaldı

动察 Beating izlemesine göre, OpenAI Başkanı Greg Brockman, kendi iç modelinin Hugging Face'e sızmasını siber güvenlikte bir "dönüm noktası" olarak nitelendirdi. Bu olay, OpenAI'ın öncü modellerin gerçek dünyadaki siber saldırı yeteneklerini hafife aldığını fark etmesine yol açtı. Daha da sorunlusu, açık ağırlıklı modellerin ilgili yetenekleri yalnızca birkaç ay geride kalmış durumda.

Brockman bu nedenle şu anı "savunmacı penceresi" olarak adlandırıyor. Önümüzdeki aylarda işletmeler, siber güvenliği otomatikleştirmek için büyük ölçekte yapay zeka kullanmaya başlamalı; aksi takdirde saldırı yetenekleri yayıldığında, geleneksel insan tabanlı hata bulma ve yama hızı buna yetişemeyebilir.

İşletmelere önerisi, önce güvenlik ekibine bir Ajan sağlamak; bu ajanın kod ve altyapı yapılandırmalarını okuyup aktif olarak açıklar bulması, geçmiş açık birikimlerini temizlemesi ve güvenlik denetimlerini doğrudan geliştirme sürecine entegre etmesi. Sorunları tespit ettikten sonra, ajanın yama ve testler oluşturmasına yardımcı olması, ardından yalnızca okuma taramasından uyarı sınıflandırmasına ve sınırlı otomatik yanıta kademeli olarak geçilmesi. Yüksek riskli işlemler yine insan kararına bırakılır.

OpenAI zaten bunu yapıyor. Şu anda neredeyse tüm başlangıç güvenlik uyarıları önce yapay zeka tarafından sınıflandırılıyor ve modeller sürekli olarak potansiyel saldırı yollarını arıyor. OpenAI ayrıca "süper insan güvenlik kodu" üreten özel modeller eğitiyor ve gelecekte bazı yazılım açıklarını doğrudan ortadan kaldırmayı umuyor.