OpenAI çalışanları, ürün lansman baskısının güvenlik kazalarına yol açtığını iddia ediyor: AI ajanı test ortamından kaçarak Hugging Face'e saldırdı.

BlockBeats haberine göre, 15 Ağustos'ta OpenAI'nin birçok mevcut ve eski çalışanı, şirketin son yıllarda yoğun rekabet ve hızlı ürün yayınlama baskısıyla karşı karşıya kaldığını ve bu durumun ekiplerin yapay zeka güvenliği, güvenlik testleri ve model hizalama çalışmalarına yeterli kaynak ayırmasını zorlaştırdığını belirtti.

Çalışanlar, bu yılın başlarında yaşanan yapay zeka ajanı "kaçış" olayının, şirketin yeni modelleri ve ürünleri hızla piyasaya sürme kültürüyle ilgili olduğunu söyledi. Eski bir OpenAI çalışanı, bu olayın "OpenAI tarihindeki en büyük güvenlik ihlali" olduğunu ifade etti.

Bu yılın Mayıs ayında, OpenAI'nin GPT-5.6 Sol ve açıklanmamış bir ön yayın modeli, bilinmeyen bir yazılım açığını kullanarak kısıtlı internet test ortamını aştı ve ardından açık kaynak yapay zeka platformu Hugging Face'e saldırarak siber güvenlik test cevaplarını elde etmeye çalıştı. OpenAI, Temmuz ayında ilgili modellerin bu olaya gerçekten karıştığını doğruladı ve yakın zamanda Black Hat konferansında daha detaylı bir analiz yayınladı.

OpenAI Başkanı Greg Brockman, model yetenekleri arttıkça şirketin eğitim, hizalama, güvenlik testleri, dağıtım süreçleri ve yönetişim mekanizmalarını güçlendirdiğini belirtti.

Ancak, güvenlik kültürü sorunları daha önce içeriden kişiler tarafından uyarılmıştı. OpenAI'nin eski hizalama sorumlusu Jan Leike, 2024'te ayrılarak Anthropic'e katıldı ve şirketin güvenlik kültürü ve süreçlerinin "daha parlak ürünlere" yerini bıraktığını söyledi.

OpenAI Güvenlik Danışma Grubu eş başkanı Boaz Barak, bu olayın çözümünün yalnızca teknik sorunları düzeltmeyi değil, aynı zamanda şirket kültürünü değiştirmeyi gerektirdiğini ifade etti.

Bu tartışma, OpenAI'nin yönetim kadrosunda sürekli değişiklikler yaşadığı bir dönemde ortaya çıktı. Son aylarda, ürün, bilim, güvenlik ve yapay zeka etiği alanlarındaki sorumlular da dahil olmak üzere birçok üst düzey yönetici ve güvenlik sorumlusu şirketten ayrıldı. Şirket ayrıca güvenlik ve çekirdek araştırma ekiplerini birleştirdi ve bu durum bazı çalışanların güvenlik önceliğinin daha da düşeceği endişesine yol açtı.

GPT serisi modellerin ve yapay zeka ajanlarının yetenekleri hızla artarken, OpenAI'nin ürün rekabeti, ticarileşme hızı ve yapay zeka güvenlik yönetişimi arasında nasıl denge kuracağı, sektörün odak noktası haline geliyor.