OpenAI baş bilim insanı, yapay zekanın çok hızlı geliştiği konusunda uyarıda bulunarak, artık "aşırı dikkatli" olunması gerektiğini söyledi.

动察 Beating AI hızlı haber: OpenAI baş bilim insanı Jakub Pachocki, yapay zekanın çok hızlı geliştiğini ve giderek insanlar tarafından anlaşılması ve kontrol edilmesinin zorlaştığını belirterek, "şu anda aşırı dikkatli olunması gerekiyor" uyarısında bulundu.

AI modellerinin artık bilgisayarları çalıştırabildiğini, insanlarla ve diğer yapay zekalarla iş birliği yapıp araştırma yürütebildiğini ve yakın gelecekte insan müdahalesi olmadan "özyinelemeli kendini geliştirme" gerçekleştirebileceğini ifade etti. Pachocki, makine zekasının sürekli hızlı ilerlemesinin olası sonuçlarına kimsenin hazır olmadığından endişe duyduğunu söyledi.

Geliştiriciler, yapay zekayı insan çıkarlarına daha uygun hale getirebilir veya gerektiğinde gelecekteki araştırma ve geliştirme hızını yavaşlatabilir. Sektörde ortak güvenlik standartları oluşturulana kadar, yapay zeka laboratuvarlarının "gönüllü yavaşlama" araştırma ve geliştirmesinin normal hale geleceğini öngörüyor ve umuyor. Şu anda OpenAI, GPT-6 Astra'nın ileri düzey siber güvenlik yetenekleri nedeniyle sınırlı bir yayın yaklaşımı benimsemiştir.