OpenAI baş bilim insanı, yapay zekanın çok hızlı geliştiği konusunda uyarıda bulunarak, artık "aşırı dikkatli" olunması gerektiğini söyledi.

动察 Beating AI hızlı haber: Bloomberg'in haberine göre, OpenAI baş bilim insanı Jakub Pachocki, yapay zekanın hızla evrildiğini ve insanlar tarafından giderek daha zor anlaşılıp kontrol edildiğini konusunda uyardı. Mevcut yapay zeka modelleri artık bilgisayarları çalıştırabiliyor, insanlarla ve diğer yapay zekalarla iş birliği yapabiliyor ve araştırma projeleri yürütebiliyor. Kendisi, yapay zekanın insan müdahalesi olmadan kendini geliştirebildiği "özyinelemeli kendini geliştirme" aşamasına çok uzak olmadığını öngörüyor.

Pachocki şunları söyledi: "Bu, son derece dikkatli olunması gereken bir an. Makine zekasının sürekli ve hızlı ilerlemesinin sonuçlarına kimsenin hazır olmadığından endişeliyim." Ona göre, geliştiriciler yapay zekayı insan çıkarlarıyla daha uyumlu hale getirmek için daha fazla yönlendirebilir veya gerektiğinde geliştirmeyi yavaşlatabilir; ortak güvenlik standartları oluşturulana kadar, yapay zeka laboratuvarlarının proaktif olarak hız kesmesi normal hale gelmelidir.

OpenAI daha önce, Hugging Face araştırma platformuna saldıran yapay zeka modellerinin mesaj panoları aracılığıyla koordinasyon sağladığını ve bunun zamanında fark edilmediğini belirtmişti. GPT-6 Astra'nın ileri düzey siber güvenlik yetenekleri nedeniyle OpenAI, yayın kapsamını sınırlamayı seçti; Anthropic de benzer nedenlerle öncü modeli Mythos'u henüz kamuya açmadı. Bu arada OpenAI, iki yıl içinde "gerçek otomatik yapay zeka araştırmacısı" inşa etmeyi planlıyor.