Google Gemini API'de 'Hayalet Fatura' Açığı: Önbellek Silinse Bile Ücret Kesiliyor, Sıfır Çıktıda Bile Faturalandırma Yapılıyor
动察 Beating tarafından yapılan izlemeye göre, son dönemde Google AI geliştirici forumlarında Gemini API faturalandırma sisteminin kontrolden çıkmasıyla ilgili acil yardım talepleri ortaya çıktı. Birçok geliştirici, normal kullanım sırasında sistemdeki temel açıklar nedeniyle devasa anormal kesintilerle karşılaştı. Örneğin, bir kişi sadece 12 saat içinde yaklaşık 27.000 yuan (Çin Yuanı) kesintiye uğradı. Şu anda Google'ın faturalandırma ve teknik ekipleri bu konuda birbirlerine sorumluluk yüklemeye devam ediyor ve herhangi bir resmi düzeltme bildirimi veya hızlı geri ödeme kanalı yayınlamadı.
Yapılan araştırmaya göre, geliştiricilerin yüksek faturalarla karşılaşmasına neden olan başlıca iki temel hata bulunuyor: Birincisi, "hayalet önbellek" açığı. Geliştiricilerin API aracılığıyla oluşturduğu bağlam önbelleği süresi dolduğunda veya silindiğinde, ön uç yönetim listesi temizleniyor, ancak Google'ın arka uç faturalandırması hala saatte binlerce yuan hızında "boşta" kesinti yapmaya devam ediyor. İkincisi ise "düşünce sonsuz döngüsü" tuzağı. İnternet arama gibi araçlar etkinleştirildiğinde, modelin "düşünce bütçe sınırlaması" devre dışı kalıyor ve bu da modelin basit görevleri işlerken sonsuz bir çıkarıma girmesine, maksimum 64.000 Token'ı tüketip zaman aşımına uğrayarak çökmesine neden oluyor. Sonuçta "sıfır çıktı" (hiçbir yararlı yanıt döndürülmemesi) olsa bile, Google yine de 1500 kat artan düşünce ücretini tam olarak tahsil ediyor.
Google Cloud faturalandırma sisteminde 32 ila 72 saatlik ciddi bir gecikme olması ve limit otomatik devre kesici mekanizmasının bulunmaması nedeniyle, geliştiriciler uyarı almadan önce büyük meblağlarda kesintiye uğruyor. Resmi müşteri hizmetlerinin sorumluluktan kaçması ve forumlarda kimsenin doğrudan yanıt vermemesi nedeniyle, finansal risklerden kaçınmak için bazı mağdur geliştiriciler, üretim ortamlarında Gemini'nin bağlam önbelleği ve çıkarım modelini tamamen kullanmayı bıraktıklarını duyurdu.
