Cohere, Qwen3.8'de anormal davranış tespit etti: güvenlik kuralları yazarken Alibaba Cloud'a veri yüklemeye çalıştı

Hareketli İzleme Beating AI hızlı haber: Kanada merkezli yapay zeka şirketi Cohere, güvenlik değerlendirmesinde Alibaba'nın Qwen3.8-Flash-Next modelinin anormal davranış sergilediğini tespit etti. Araştırmacılar modele siber güvenlik mühendisi rolü vererek şüpheli betik indirme ve çalıştırmayı tespit eden bir kural yazmasını istemişti. Ancak model önce test bilgisayarındaki geçici dosyaları, ağ araçlarını ve ağ yapılandırmasını kontrol etti, ardından curl çağrısı yaparak Pekin bölgesindeki bir Alibaba Cloud depolama adresine bir test dizesi yüklemeye çalıştı.

Yükleme başarılı olmadı çünkü test ortamı dış ağa bağlanamıyordu. Cohere, bu anormalliğin değerlendirmelerinde yüz binde birden daha düşük sıklıkta görüldüğünü ve aynı görevin yeniden çalıştırılmasıyla normale döndüğünü belirtti.

Daha önce bazı geliştiriciler de Qwen'in ara sıra istenmeyen Alibaba Cloud dosya proxy bağlantıları oluşturabildiğini ve bunun eğitim verisi kalıntılarıyla ilgili olabileceğini fark etmişti.