FT: OpenAI, küresel yapay zeka standartlarının belirlenmesi için ABD'nin öncülük etmesi çağrısında bulundu

动察 Beating AI hızlı haber: FT'nin haberine göre OpenAI, Pazartesi günü ABD hükümetine uluslararası yapay zeka standartları oluşturulmasına öncülük etme çağrısında bulundu ve ülkelerin yapay zeka modellerinin yetenekleri ile risklerini koordineli şekilde değerlendirmesini önerdi. OpenAI CEO'su Sam Altman bu hafta ilgili planı Birleşmiş Milletler Güvenlik Konseyi'ne sunacak.

OpenAI, mevcut ülkelerin yapay zeka güvenliği araştırma kurumları ağından yararlanarak uluslararası düzeyde birleşik yapay zeka modeli değerlendirme standartları oluşturulmasını önerdi ve ABD ile denizaşırı ülkeler arasında güvenli iletişim kanalları kurularak yapay zeka alanında ortaya çıkan yeni tehditlerin paylaşılması çağrısında bulundu.

OpenAI özellikle özyinelemeli kendini geliştirme (RSI) riskine dikkat çekti; buna göre giderek daha fazla yapay zeka modeli eğitim işi diğer yapay zeka sistemleri tarafından gerçekleştiriliyor. Uygun güvenlik önlemleri alınmazsa, yapay zeka insanların etkili şekilde denetleyemeyeceği bir hıza ulaşabilir ve insanlık yapay zeka gelişimi üzerindeki fiili kontrolünü giderek kaybedebilir.

İlgili öneriler, yapay zeka güvenliği endişelerinin arttığı bir döneme denk geliyor. Anthropic ve OpenAI son dönemde yapay zeka modellerinin dış sistemlere sızdığı olayları açıklamıştı; OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve SpaceX CEO'su Musk bu ayın başlarında yapay zeka geliştirmenin yavaşlatılması çağrısında bulunmuştu. ABD Başkanı Trump ise yapay zeka gelişiminin yavaşlatılmasına karşı çıkarak "Yapay zekayı kim kazanırsa her şeyi kazanır" demişti.