动察 Beating AI hızlı haber: OpenAI, GPT-6.2 Astra ve Sol'un gizli düşünce zincirini kilitlemeye başladı; diğer modellerin API aracılığıyla akıl yürütme sürecini çalıp kendi modellerini eğitmek için kullanmasını engelliyor. Bu mekanizma, Anthropic'in daha önce sunduğu damıtmayı önleme önlemlerine büyük ölçüde benziyor.
Ekim sonunda 《The Information》, konuya yakın kaynaklara dayanarak DeepSeek ve Moonshot'un yeni modellerini eğitirken GPT-6 Astra'nın çıktılarını yoğun şekilde kullandığını bildirdi. Daha önce yerli AI şirketleri Claude'u yoğun şekilde damıtıyordu, ancak Anthropic'in engellemeleri sürekli güçlendirmesi bazı üreticileri hedeflerini OpenAI'ye yöneltmeye itti.
Damıtma, bir modelin daha güçlü bir modelin çıktılarını öğrenerek benzer yetenekleri daha düşük maliyetle elde etmesi anlamına gelir. Eğer tam düşünce zinciri elde edilebilirse, modelin sorunu nasıl parçalara ayırdığı ve adım adım cevaba nasıl ulaştığı bile öğrenilebilir; bu, yalnızca nihai cevabı görmekten çok daha değerlidir.
Anthropic, bu yılın haziran ayında Claude'un şifrelenmiş düşünce zincirine "bağlam kilidi" eklemişti. OpenAI da artık benzer bir mekanizma kullanıyor: çok turlu diyaloglarda her akıl yürütme parçası, onu üreten önceki mesaj geçmişine bağlanıyor. Eğer geliştiriciler eski istemleri, araç yapılandırmalarını veya diyalog içeriğini değiştirirse, API değişiklik konumundan sonraki akıl yürütme öğelerini atabilir; böylece saldırganların bağlamı kurcalayarak modelin iç düşüncelerini sızdırmaya yönlendirmesi engelleniyor.
OpenAI'nin yayımladığı kendi test sonuçlarına göre, önceki turdaki gizli akıl yürütmeyi çıkarmaya yönelik saldırılarda GPT-6 Astra'nın ortalama saldırı başarı oranı %54 iken, GPT-6.2 Astra'da %0,2'ye, Sol'da ise %0,5'e düştü.
Normal geliştiriciler de etkileniyor. Eski mesajları değiştirmek veya sohbet kayıtlarını sıkıştırmak, Agent'ın önceki akıl yürütme sonuçlarını kaybetmesine, Token tüketiminin ve yanıt gecikmesinin artmasına yol açabilir. Bu nedenle OpenAI, orijinal diyalog geçmişini mümkün olduğunca korumayı ve resmi olarak sağlanan bağlam sıkıştırma arayüzünü kullanmayı öneriyor.
