OpenAI, yapay zeka modellerinin daha erken bir aşamada dış kuruluşlar tarafından değerlendirilmesine izin verecek.

BlockBeats haberine göre, 23 Eylül'de OpenAI, yapay zeka modellerinin güvenlik risklerinin geliştirme döngüsünün erken aşamalarında üçüncü taraf kuruluşlar tarafından incelenmesini planlıyor. Bu, teknolojinin potansiyel zararlarına ilişkin artan kamu endişelerine yanıt verme çabalarının bir parçası.

Şirket Salı günü bir blog yazısında, yeni yapay zeka modellerinin eğitimi, değerlendirilmesi ve piyasaya sürülmesi sürecinde dış kuruluşların bu modeller üzerinde teknik güvenlik değerlendirmesi yapmasına izin vereceğini duyurdu. OpenAI ayrıca bu tür incelemelerin etkili bir şekilde işlemesini sağlamaya yönelik odak noktalarını netleştirdi: "güçlü bağımsızlık mekanizmaları, bilimsel titizlik, sağlam güvenlik önlemleri ve net sorumluluk dağılımı" dahil.

Şirketin dış uzmanlarla güvenlik incelemesi çalışmalarında işbirliğinden sorumlu olan Lama Ahmad, daha önce OpenAI'nin genellikle model yayınlanmadan önce bu tür grupları güvenlik değerlendirmesi yapmaya davet ettiğini ve yeteneklerini değerlendirdiğini belirtti. "Riskler giderek arttıkça, yalnızca dağıtım sorunlarına odaklanmakla kalmayıp aynı zamanda eğitim ve değerlendirme gibi yüksek riskli aşamalara da önem vermek istiyoruz."