Ana Sayfa
AI AI
Flaş
Derinlik
Etkinlikler
BlockBeats Pro
Daha Fazla
Finans
Özel
Blok Zinciri Ekosistemi
Giriş
Podkastlar
Veri
OPRR
#
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
BNB
$710
3.05%
lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
Partnered With:

OpenAI, Anthropic'in damıtma önleme önlemlerini takip ediyor: GPT-6.2'nin düşünce zinciri de kilitlendi

动察 Beating AI hızlı haber: OpenAI, GPT-6.2 Astra ve Sol'un gizli düşünce zincirini kilitlemeye başladı; diğer modellerin API aracılığıyla akıl yürütme sürecini çalıp kendi modellerini eğitmek için kullanmasını engelliyor. Bu mekanizma, Anthropic'in daha önce sunduğu damıtmayı önleme önlemlerine büyük ölçüde benziyor.


Ekim sonunda 《The Information》, konuya yakın kaynaklara dayanarak DeepSeek ve Moonshot'un yeni modellerini eğitirken GPT-6 Astra'nın çıktılarını yoğun şekilde kullandığını bildirdi. Daha önce yerli AI şirketleri Claude'u yoğun şekilde damıtıyordu, ancak Anthropic'in engellemeleri sürekli güçlendirmesi bazı üreticileri hedeflerini OpenAI'ye yöneltmeye itti.


Damıtma, bir modelin daha güçlü bir modelin çıktılarını öğrenerek benzer yetenekleri daha düşük maliyetle elde etmesi anlamına gelir. Eğer tam düşünce zinciri elde edilebilirse, modelin sorunu nasıl parçalara ayırdığı ve adım adım cevaba nasıl ulaştığı bile öğrenilebilir; bu, yalnızca nihai cevabı görmekten çok daha değerlidir.


Anthropic, bu yılın haziran ayında Claude'un şifrelenmiş düşünce zincirine "bağlam kilidi" eklemişti. OpenAI da artık benzer bir mekanizma kullanıyor: çok turlu diyaloglarda her akıl yürütme parçası, onu üreten önceki mesaj geçmişine bağlanıyor. Eğer geliştiriciler eski istemleri, araç yapılandırmalarını veya diyalog içeriğini değiştirirse, API değişiklik konumundan sonraki akıl yürütme öğelerini atabilir; böylece saldırganların bağlamı kurcalayarak modelin iç düşüncelerini sızdırmaya yönlendirmesi engelleniyor.


OpenAI'nin yayımladığı kendi test sonuçlarına göre, önceki turdaki gizli akıl yürütmeyi çıkarmaya yönelik saldırılarda GPT-6 Astra'nın ortalama saldırı başarı oranı %54 iken, GPT-6.2 Astra'da %0,2'ye, Sol'da ise %0,5'e düştü.


Normal geliştiriciler de etkileniyor. Eski mesajları değiştirmek veya sohbet kayıtlarını sıkıştırmak, Agent'ın önceki akıl yürütme sonuçlarını kaybetmesine, Token tüketiminin ve yanıt gecikmesinin artmasına yol açabilir. Bu nedenle OpenAI, orijinal diyalog geçmişini mümkün olduğunca korumayı ve resmi olarak sağlanan bağlam sıkıştırma arayüzünü kullanmayı öneriyor.

举报 Düzeltme/Rapor
Düzeltme/Rapor
Gönder
Kütüphane Ekle
Sadece kendime görünür
Herkese Açık
Kaydet
Kütüphane Seç
Kütüphane Ekle
İptal
Tamamla