OpenAI CEO, küresel yapay zeka güvenlik standartlarını ilerletmek için Birleşmiş Milletler'de çalışacak

动察 Beating AI hızlı haber: OpenAI CEO'su Sam Altman, Birleşmiş Milletler Güvenlik Konseyi'nde konuşarak birleşik bir küresel yapay zeka güvenlik standardı oluşturulmasını savunacak ve aynı zamanda inovasyonu yavaşlatabilecek kısıtlayıcı önlemlerden kaçınılması gerektiğini belirtecek. OpenAI, belirli bir uluslararası düzenleyici kurum kurulmasını desteklemediğini, bunun yerine temel güvenlik standartları artı demokratik denetimi tercih ettiğini açıkladı. Anthropic CEO'su Dario Amodei'nin de video konferans yoluyla katılması bekleniyor.

Daha önce FT'nin haberine göre, OpenAI Pazartesi günü ABD hükümetine uluslararası yapay zeka standartları oluşturulmasına öncülük etme çağrısında bulundu ve ülkelerin yapay zeka modellerinin yeteneklerini ve risklerini koordineli olarak değerlendirmesini önerdi. OpenAI CEO'su Sam Altman bu hafta ilgili planı Birleşmiş Milletler Güvenlik Konseyi'ne sunacak. OpenAI özellikle özyinelemeli kendini geliştirme (RSI) potansiyelinden kaynaklanan yeni riskler konusunda uyardı; yani giderek daha fazla yapay zeka modeli eğitim işinin diğer yapay zeka sistemleri tarafından gerçekleştirilmesi. Uygun güvenlik önlemleri olmadan, yapay zeka insanların etkili bir şekilde denetleyemeyeceği bir hıza ulaşabilir ve insanlık yapay zeka gelişimi üzerindeki fiili kontrolünü giderek kaybedebilir. İlgili öneriler, yapay zeka güvenliği endişelerinin arttığı bir dönemde geliyor.