Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

OpenAI ortak kurucusu John Schulman: Yapay zeka hizalaması kamusal bir bilim haline gelmeli, birkaç teknoloji şirketi tarafından yönetilmemeli

动察 Beating AI hızlı haber: Thinking Machines kurucu ortağı ve OpenAI kurucu ortağı John Schulman, A16Z podcast programında, AI hizalamasının birkaç teknoloji şirketinin tekelinde bir araştırma olmaması gerektiğini, bunun yerine küresel bir kamu bilimi haline gelmesi ve daha fazla insanın AI değerlerinin şekillendirilmesine katılmasına olanak tanıyarak birkaç şirketin yargısına aşırı bağımlılıktan kaçınılması gerektiğini belirtti.


Özyinelemeli kendini geliştirme (RSI) ilerledikçe, AI modellerin araştırma ve geliştirmesine yardımcı olmaya başladı. OpenAI Baş Araştırma Sorumlusu Mark Chen, AI araştırma ve geliştirme sürecinde RSI hızlandırma etkisinin erken sinyallerinin ortaya çıktığını, şu anda ilerlemenin yaklaşık %25 ila %50 arasında olduğunu, ancak AI'nın değerli araştırma yönlerini bağımsız olarak belirlemede hâlâ zorlandığını ve henüz bir sonraki nesil modelleri bağımsız olarak geliştiremediğini açıkladı.


Mark Chen aynı zamanda, modellerin özerkliği arttıkça, hedeflerinin insan niyetiyle uyumsuz olması durumunda uzun süre çalışmanın beklenmedik ikincil hedefler üretebileceği konusunda uyardı. Ancak daha güçlü AI'nın, araştırmacıların model davranışlarını izlemesine, hizalama sorunlarını keşfetmesine ve düzeltmesine yardımcı olarak ters etki yaratması da bekleniyor.


John Schulman, AI hizalamasının yalnızca bir teknoloji sorunu olmadığını, aynı zamanda AI'nın hangi değerlere uyması gerektiğine kimin karar vereceği meselesini de içerdiğini vurguladı; kullanıcılar ve toplum, AI değerlerine katılma ve onları şekillendirme konusunda daha fazla alana sahip olmalıdır.

举报 Düzeltme/Rapor
İlgiliÖnerilen
Anthropic, AI programlamaya daha erken bir şekilde bahis yaparken, OpenAI stratejik bir ritim tutarsızlığı yaşadı.
《The New Yorker》, OpenAI'nin Güç Mücadelesini Değerlendiriyor, Sam Altman'ın Yönetişim Bölünmesini ve Güven Sorununu Ortaya Koyuyor
Microsoft Azure'in özel bulut hizmetine özel olmak üzere son verildikten sonra, OpenAI şimdi yapay zeka ajanlarını kurumsal iş akışlarına entegre etmeye çalışıyor.
Microsoft, "OpenAI'nin Tek Kanalı"ndan "OpenAI'nin Önemli Müşterilerinden Birisi" haline geldi.
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla