OpenAI, güvenlik iyileştirmelerine öncülük etmesi için ürün sorumlusu Tibo'yu görevlendirdi; mühendislerin dörtte biri açıkları kapatmaya kaydırıldı.

动察 Beating AI hızlı haber: OpenAI, iç güvenlikte büyük çaplı bir düzenlemeye başladı; ürün geliştirmeden sorumlu üst düzey yönetici Thibault Sottiaux (Tibo) bizzat liderlik ediyor. Bu yılın ağustos ayında, üretim mühendislerinin yaklaşık dörtte birini iç sistemlerdeki güvenlik açıklarını özel olarak gidermek üzere görevlendirdi.

2 Kasım'da OpenAI, siber güvenlik şirketi Cathedral ile iş birliği yaparak kendi modellerini ve dış güvenlik araştırmacılarını kullanarak sistem açıklarını birlikte arayacakları yeni bir güvenlik testi turu başlattığını duyurdu. Aynı zamanda şirket, ciddi güvenlik açıkları için verilen ödülü öncekinin 4 katından fazlasına çıkardı.

Bu düzenlemenin nedeni, OpenAI'nin yıllardır tam olarak çözemediği iç güvenlik sorunları. Reuters'ın görüştüğü 5 kaynak, ChatGPT yayımlanmadan önce bile çalışanların yönetime ve yönetim kuruluna defalarca uyarıda bulunduğunu, şirket içi bilgilerin erişim kapsamının çok geniş olduğunu ve güvenlik kontrollerinin yeterince sıkı olmadığını belirtti.

O dönemde OpenAI, çok sayıda proje kodunu aynı depoda tutuyordu. Bir çalışanın erişim yetkisi olduğu sürece, kendi işiyle ilgisi olmayan birçok proje kodunu görebiliyordu. Bazı araştırma materyalleri de GitHub ve Slack'te bulunuyordu; bazı iç test araçlarında düzenli güvenlik kontrolleri bile eksikti. Çalışanlar, bu tür bir yönetim şeklinin dış hackerların, hatta yabancı hükümetlerin şirketin temel teknolojisine erişmesini kolaylaştıracağından endişe ediyordu.

Daha 2023'te OpenAI içinde bir veri sızıntısı olayı yaşanmıştı. Bir hacker şirketin Slack'ine sızarak GPT-4 modelinin teknik ayrıntılarını çaldı. OpenAI daha sonra hackerın yalnızca sıradan çalışanların erişebildiği iç kanallara girdiğini açıkladı.

Bu yılın temmuz ayında güvenlik şirketi Hacktron AI'nin üç araştırmacısı, Anthropic'in modelini kullanarak birden fazla OpenAI çalışanının ChatGPT hesabını ele geçirdi ve şirketin kod deposu da dahil olmak üzere bazı iç sistemlere girdi.

Daha geniş kitlelerce bilinen olay ise bu yılın ekim ayındaki bir iç dava oldu. ABD Adalet Bakanlığı, Suudi kökenli bir OpenAI mühendisinin şirket yöneticilerinin toplantı odasına gizli ses kayıt cihazı yerleştirdiğini suçladı. Ayrıca iç AI araçlarını kullanarak yöneticilerin Suudi Arabistan ziyaret programlarını ve hangi yöneticilerin Suudi bakanla toplantıya katılabileceğini sorgulamıştı. Adalet Bakanlığı belgeleri, onun kendisini Suudi AI projesine katılmaya davet etmeye çalışan bir kraliyet ailesi üyesiyle de iletişim halinde olduğunu gösterdi.

Art arda ortaya çıkan çok sayıda olay, çalışanların yıllar önce dile getirdiği güvenlik uyarılarının yeniden dikkat çekmesine yol açtı. OpenAI geçmişte Ar-Ge hızına ve bilgi açıklığına daha fazla vurgu yaparken, artık iç yetkileri sıkılaştırmaya, güvenlik kontrollerini güçlendirmeye ve açıkları gidermek için çok sayıda mühendis görevlendirmeye başladı.