「Token Kıyameti」Geldi: Maliyet Üretkenlik Kazancını Geçtiğinde, Bedelini Kim Ödeyecek?

Bu makaleyi okumak için 9 Dakika

Tek bir çalışan, şirketin o ayki bütçesini tüketebilir, Uber acil limit koydu, avukatlar AI olmadan çalışamaz hale geldi—bu fatura krizi, 'AI'nın insanın yerini alması'ndan daha hızlı geliyor.

Orijinal Başlık: «'Token Kıyameti' Geldi! Yapay Zeka Bir Fiyatlandırma Tsunamisiyle Karşı Karşıya»
Orijinal Kaynak: Makine Zihni

Son zamanlarda yeni bir terim geniş çapta tartışılmaya başlandı: «Tokenpocalypse» (Token Kıyameti).

Bunun tetikleyicisi, Microsoft'un GitHub Copilot için yaptığı bir fiyatlandırma yeniden yapılandırması oldu. 1 Haziran'dan itibaren Copilot tamamen token bazlı bir faturalandırma modeline geçti. Farklı modeller arasındaki token maliyet çarpanları büyük farklılıklar gösteriyor; bazı modellerde tek bir token'ın fiyatı diğer modellerin 60 katına kadar çıkıyor.

Kullanıcılar tarafından «gerçekten iyi» olarak kabul edilen gelişmiş modeller ise tam da en sert fiyat artışını yaşayanlar oldu.

Anthropic, OpenAI gibi birçok önde gelen yapay zeka şirketinin halka arza hazırlanmasıyla birlikte, yapay zeka şirketleri daha ciddi bir kârlılık baskısıyla karşı karşıya kalacak ve bu durum muhtemelen daha fazla şirketi fiyat artışına zorlayacak.

Yapay zeka kullanımının maliyeti, işletmelerin üretkenliği artırırken kaçınılmaz olarak karşılaştığı bir sorundur. Kısa bir süre önce ortaya çıkan «tokenmaxxing» akımı, çalışanların token kullanım miktarını yarıştırma motivasyonu, Token Kıyameti yaklaştıkça sona erecek.

«Tüm tokenmaxxxing akımı, yükselişinden zirveye ulaşmasına ve ardından terk edilmesine kadar sadece altı ay sürdü.»

İşletmelerin İkilemi

Büyük bir işletmeden gelen bu geliştirici, saçma bir ikilemi anlatıyor: Şirket uzun süredir çalışanları AI araçlarını kullanmaya zorluyordu; token kullanımı az olanlar uyarılıyordu. Ancak yeni fiyatlandırmayla birlikte, token kullanımı fazla olanlar da aynı şekilde uyarılmaya başlandı.

Daha da kötüsü, Copilot ekibi henüz «çalışan düzeyinde token limiti» özelliğini devreye sokamadı. Bu, yeni faturalandırma modelinde tek bir çalışanın bir günde tüm şirketin aylık token bütçesini tüketebileceği anlamına geliyor.

«Benim işim artık yazılımla iş sorunlarını çözmek değil,» diye yazıyor geliştirici, «Benim işim token kullanım sorunlarını çözmek haline geldi.»

Yorum bölümündeki eleştiriler daha da çarpıcı. Bir kullanıcı şöyle özetliyor: «Şirket politikası şuna dönüştü: 'Her şey için AI kullanın, ama çok fazla kullanmamaya dikkat edin, çünkü LLM çok fazla token tüketirse hesabınız kapatılır ve ardından ayın kalanında AI kullanmadığınız için eleştirilirsiniz.'»

Şirketlerin yapay zeka üretkenliğine aşırı önem vermesi, çift taraflı bir kılıç olabilir.

Büyük bir hukuk bürosundan bir bilgi yöneticisi, bir yapay zeka seminerinde "övünerek" şunları söyledi: Yapay zeka sistemleri çöktükten sonra avukatlar neredeyse çalışmayı durdurdu çünkü yapay zekadan vazgeçemiyorlardı.

Yıllarca profesyonel eğitim almış bir insan, yapay zeka sohbet kutusu olmadan çalışamayacağını bu kadar rahat kabul ediyor mu? Bu durumda utanç duyar ve kariyerimi sorgulamaya başlardım.

Uber'in Bütçe Aşımı Olayı: Sektörün Bir Özeti

Şu anda çoğu yapay zeka modelinin kullanım paketleri var ve şirketlerin bütçe kontrolü sorunu, Token'ların giderek kullanım başına ücretlendirilmesi eğilimiyle daha da ciddileşiyor.

Uber, bir buçuk ay içinde tam bir döngüyü tamamladı: Önce "yapay zeka bütçesinin beklenenden çok daha hızlı tükendiğini" fark etti, ardından acilen kullanım sınırları ve çalışan kısıtlamaları getirdi.

"Uber gibi yapay zekayı yoğun kullanan bir şirketin bile bu kadar hızlı bir duvara çarptığını hayal edin," dedi TechCrunch podcast'inde. "Sorun şu: Yapay zeka laboratuvarları maliyetleri müşterilerin ödeme isteğiyle uyumlu hale getirebilecek mi?"

İlginç bir bilgi: ChatGPT Plus başlangıçta aylık 20 dolar olarak fiyatlandırıldığında, stratejik bir düşünce yoktu; "sadece rastgele bir rakam söylendi." Tüm sektör hala bu başlangıç noktasının bedelini ödüyor.

"İşiniz yapay zeka tarafından alınmayacak, ancak bütçeniz alınabilir"

Reddit'te daha düşündürücü detaylar var. Birisi şirketinde bir AWS Bedrock maliyet izleme paneli kurdu ve her modelin, her token'ın (önbellek token'ları dahil) harcamasını gerçek zamanlı olarak CloudWatch'a yansıttı, "geliştiricilerin ve finansın birlikte paranın yanışını izlemesini" sağladı. Yorumlarda şu yanıt vardı: "Tebrikler, onlara yeni bir KPI metriği verdin."

Başka bir büyük şirket benzer bir daralmayla karşılaştı: Yapay zeka kredileri tükendikten sonra herkes zorla GPT-4.2'ye düşürüldü ve VSCode entegrasyonu bile kaldırıldı.

Teknoloji sektörü dışından bir gözlemci, birçok kişinin hislerini dile getirdi: "Bu olayın harcadığı zihinsel enerji ve fiili çalışma süresi, şirkete para kazandıracak gerçek iş teslimatını etkileyecek kadar arttı."

Tüm sektör hâlâ "AI her şeyin yerini alacak" anlatısına dalmışken, çok daha gerçekçi bir sorun su yüzüne çıktı: Hesaplama gücünün faturasını bir şekilde birileri ödemek zorunda. Ve "Token Kıyameti" belki de bu hesaplaşmanın sadece başlangıcı olabilir.