Orijinal başlık: Token Budget Wars
Orijinal yazar: Jaya Gupta
Derleme: Peggy

Editörün notu: Kurumsal AI, “benimsenmeli mi?” aşamasından “hesabı nasıl yapılmalı?” aşamasına geçiyor.

Son iki yılda birçok şirket, çalışanlarını AI kullanmaya teşvik etti; bunun nedeni çoğunlukla teknoloji trendlerine ve rekabet baskısına ayak uydurmaktı. Ancak AI çıkarım maliyetleri deneysel bütçelerden sürekli operasyonel giderlere dönüşünce, CEO’lar ve CFO’lar daha gerçekçi bir soruyu sormaya başladı: AI tam olarak ne kadar değer yaratıyor? Token maliyetine harcanan her 1 dolar, hangi somut sonucu getiriyor?

“Token Budget Wars”ın özü tam da bu. Token bütçesi savaşları, yalnızca şirketlerin AI faturalarını düşürmek istemesinden ibaret değil; aynı zamanda hangi iş süreçlerinin daha fazla hesaplama gücü yatırımına değer olduğunu, hangi görevlerin daha ucuz modellerle yürütülmesi gerektiğini, hangi süreçlerin dış kaynak kullanımının veya insan emeğinin yerini alabileceğini ve hangilerinin yalnızca verimsiz tüketim olduğunu yeniden değerlendirmek anlamına geliyor.

Makalede en dikkat çekici nokta şu: AI kullanım hacmi, değer anlamına gelmez. SaaS döneminde kullanım genellikle yazılımın benimsendiği anlamına gelirdi; ancak AI çağında token tüketimi yalnızca “taksimetrenin çalıştığını” gösterir. Aynı iş akışı; prompt’lar, bağlam, model seçimi ve yeniden deneme sayısına bağlı olarak birkaç kat farklı maliyet yaratabilir. Faturanın yükselmesi, AI’ın gerçekten iş yaptığı anlamına gelebileceği gibi, sistemin verimsiz şekilde oyalanması anlamına da gelebilir.

Bu nedenle kurumsal AI’ın bir sonraki aşamasında kritik mesele yalnızca model yetenekleri değil, token maliyetlerini iş sonuçlarıyla ilişkilendirebilme becerisidir. İlk aşama, AI’ın işi yapabildiğini kanıtladı; ikinci aşamanın yanıtlaması gereken soru ise şu: Bu işler gerçekten ödeme yapmaya değer mi?

Aşağıda orijinal metin yer almaktadır:

Kurumsal AI, “benimsenmeli mi?” aşamasından “nasıl tahsis edilmeli?” aşamasına geçti.

Şirketlerin üst yönetiminde yeni “para birimi”, AI yatırım getirisini ölçebilme yeteneğinizdir. Her fonksiyonel departmana aynı soru soruluyor: Ne ürettiniz? Maliyeti ne oldu? Son iki yılda CEO’lar, sabahları uyanıp CNBC’de Jim Cramer’ı izlerken (#bearish), rakiplerinin verimlilik artışları açıkladığını gördü ve ardından tüm şirkete AI kullanma talimatı verdi. Şimdi asıl baskıyı yaratan şey, bunun devamındaki soru: Bana değeri kanıtla.

Claude, Kasım 2025’te piyasaya sürüldü; o sırada çoğu şirketin 2026 yıllık bütçesi çoktan kilitlenmişti. İlk çeyreğe gelindiğinde şirketlerin gerçek kullanım hacmi, başlangıçtaki planları çoktan aşmıştı. Çıkarım maliyetleri artık yalnızca denemeler için ayrılmış bir bütçe kalemi olmaktan çıktı; sürekli oluşan bir operasyonel maliyete dönüştü. Bununla birlikte yeni bir soru ortaya çıktı: AI tam olarak nerede gerçek değer yaratıyor?

Bu soruyu yanıtlamak zordur, çünkü token’ın faydası nicelleştirilmiş değildir. Fatura size bu harcamanın gerçekten insan emeğinin yerini mi aldığını, gelir mi yarattığını, riski mi azalttığını, süreçleri mi hızlandırdığını, yoksa sadece bir grup mühendisin sıralama tabloları için çılgınca token mı tükettiğini söylemez (#metamates). Harcama yalnızca birkaç yüz bin dolar seviyesindeyken, hâlâ bir deney gibi görünür. Ancak belirli bir eşiği aştığında, örneğin yedi haneli rakamlara ulaştığında, artık altyapıya dönüşür. Teknik farklılıklar kâr-zarar tablosu üzerinde somut etki yaratmaya başlar: Aynı iş akışı, aynı girdi setiyle iki kez çalıştırıldığında token maliyeti 5 ila 10 kat farklı olabilir; üstelik dışarıdan bakıldığında herhangi bir sorun yokmuş gibi görünür. Deney ölçeğinde bu tür dalgalanmalar zaten oldukça maliyetlidir; fakat altyapı ölçeğine geçildiğinde, bu artık CFO’nun CEO’ya açıklamak zorunda olduğu bir rakama dönüşür.

Buna “marjinal token faydası” denebilir: çıkarım maliyetine harcanan her ek bir doların yarattığı ticari değer. Ölçeklenme aşamasında gerçekten önemli olan metrik budur ve bugün çoğu şirketin göremediği rakam da budur.

Yönetim kurullarındaki soru “AI işe yarıyor mu?” olmaktan çıkıp “AI tam olarak nerede gerçek kaldıraç yaratıyor?” sorusuna dönüşüyor. Tam da bu nedenle, sözde token bütçesi mücadelesi özünde token tahsis hakkı için verilen bir mücadeledir.

Token sahipliği üzerindeki mücadelenin hızla kızışmasının nedeni ise bunun otuz yıldır süregelen bir üst düzey yönetici içgüdüsüyle çarpışmasıdır: büyük ekip, büyük unvan, geniş sorumluluk alanı ve daha fazla güç demektir. Geçmişte üst düzey yöneticilerin başarısının görünür göstergesi, yönettikleri ekibin büyüklüğüydü — doğrudan bağlı çalışanlar, dolaylı bağlı çalışanlar ve organizasyon şemasındaki kişi sayısı.

Ancak zekâ kıt bir kaynak hâline geldiğinde, yeni gösterge şuna dönüşür: Ne kadar zekâyı devreye alabiliyorsun?

AI harcamaları özünde iş gücü maliyetleriyle rekabet etmeye başlıyor.

Çoğu AI bütçe talebi, özünde şu üç iddiadan birine dayanır: dış kaynak iş gücünün yerini almak, kurum içi iş gücünün yerini almak veya yeni gelir yaratmak.

Bir çalışanın maaşı vardır. Bir BPO dış kaynak sözleşmesinde iş emri, tazminat talebi, fatura veya inceleme başına fiyatlandırma bulunur. İnsanlar bu ölçü birimlerini anlayabilir. Ancak çıkarım maliyeti daha karmaşıktır; çünkü bir görevin nihai tamamlanma maliyeti, sistemin yürütme sırasında nasıl çalıştığına bağlıdır. Üç yeniden deneme, insan düzeltmesi ve frontier model çağrısı gerektiren bir tazminat talebi görevi, başlangıçta yerine geçmesi amaçlanan dış kaynak insan emeğinden daha pahalıya mal olabilir. Bu nedenle tartışma şu yöne kayıyor: Bir sonucu tamamlamanın maliyeti nedir? Örneğin çözülen her destek talebi, işlenen her tazminat talebi, incelenen her sözleşme, tamamlanan her fatura, açılması önlenen her yeni pozisyon, elde tutulan her müşteri veya gelire dönüştürülen her bir dolar başına maliyet.

Yöneticiler artık BPO’nun kıyaslama ölçütü oluşturmanın en kolay olduğu alan olduğunu fark etmiş durumda; çünkü bu işler zaten en başından beri “tamamlanan birim” üzerinden fiyatlandırılıyor. Buna karşılık, şirket içi çalışanları AI ile karşılaştırmak çok daha zordur; çünkü çalışanlar gün içinde pek çok şey yapar, öğle molasında TikTok’ta gezinmek de buna dahildir. Verimlilik artışı çoğu zaman işe alımdan kaçınma ya da dağınık kapasitenin serbest kalması şeklinde ortaya çıkar; yöneticiler de yalnızca kısmi otomasyona dayanarak ekip sayısını azaltmaya direnç gösterir. BPO, iş birimlerine ölçülebilir bir referans çizgisi sunar.

Bu, SaaS mantığından farklıdır. SaaS, bir dönem şirketlere kullanım miktarını değerin vekil göstergesi olarak görmeyi öğretti.

Ancak AI bunu bozdu. Aynı iş akışının ne kadar çıkarım kaynağı tüketeceği; prompt’lara, getirilen bağlama, seçilen modele, çağrılan araçlara, yeniden deneme sayısına ve agent’ın takılıp takılmamasına bağlı olarak büyük ölçüde değişebilir. Faturadaki birim — token — istikrarlıdır; fakat temsil ettiği iş yükü istikrarlı değildir.

Daha doğru ifade etmek gerekirse: sinyal ve gürültü aynı ölçüm birimini kullanır. Token faturasında artış, gerçek işlerin tamamlandığı anlamına gelebilir; ancak aynı zamanda işlem gücünün kötü prompt’lara, alakasız bağlama, gereksiz araç çağrılarına, tekrarlı muhakemeye ve kapasitesi gereğinden fazla yüksek modellere harcandığı anlamına da gelebilir. İki şirketin token faturası tamamen aynı olabilir; fakat altta çalışan iş süreçleri tamamen farklıdır: Biri çıkarımı sonuca dönüştürüyordur, diğeri ise etkisiz uğraşların bedelini ödüyordur. Bu iki durum fatura kalemlerinde birebir aynı görünür.

SaaS kullanım miktarı size şunu söyler: Yazılım benimsenmiş. AI kullanım miktarı ise yalnızca şunu söyler: Sayaç çalışıyor. Şirketin gerçekten hız kazanıp kazanmadığını söylemez.

Marjinal token faydasını görmek neden zordur?

Temelde üç neden vardır.

Birincisi, yeniden denemelerin uzun kuyruğudur. Bir agent’ın bir iş akışını ilk seferde doğru tamamlama olasılığı p ise, çözülen her iş akışı başına beklenen token tüketimi kabaca T/p oranında büyür; burada T temel maliyettir. Tamamlama oranı %90’dan %70’e düşerse, sorun başına efektif maliyet yaklaşık %28 artar; %20 değil. Çünkü başarısızlıklar bileşik etki yaratır. Kurumsal iş akışlarında girdiler çoğu zaman dağınıktır ve istisnai durumlar da önemlidir. Başarısızlık yalnızca doğruluğu düşürmez, ekonomik hesabı da değiştirir.

İkincisi, bağlam şişmesidir. Dikkat mekanizmasına yüksek ölçüde bağımlı işlemler için çıkarım maliyeti, bağlam uzunluğuyla kabaca O(n²) şeklinde artar. Bu nedenle bağlam uzunluğu iki katına çıktığında, çıkarım maliyeti yaklaşık dört katına çıkar. Herkes modelin yeterli bilgiye sahip olmasını ister; bu yüzden sistemler genellikle aşırı tedarike yönelir: Aslında beş belge yeterliyken, arama ve getirme mekanizması elli belge çeker; bağlayıcılar tüm e-posta zincirini doğrudan içeri döker; agent ise çoktan güncelliğini yitirmiş konuşma geçmişini yanında taşıyarak çalışmaya devam eder.

Üçüncüsü yönlendirmedir. Ekipler hangi modelin “yeterince iyi” olduğunu bilmediğinde, varsayılan olarak en güçlü modeli kullanır. Temel bir sınıflandırma görevi, aslında karmaşık akıl yürütme için kullanılan aynı modelde çalıştırılabilir. Çağrı hacmi milyonlara ulaştığında, basit görevleri küçük modellere vermek ile tüm görevleri öncü modellere yüklemek arasındaki fark, çoğu zaman kontrol edilebilir bir fatura ile yönetim kurulu seviyesinde bir sorun arasındaki farktır.

Yazılım dışı sektörler bu sancıyı bir tür “dönüşüm” olarak hissedecek. Yazılım şirketleri bu sorunu ilk görenler olacak, çünkü optimize edilen işler zaten baştan itibaren yeterince ölçümlenmiş durumdadır. Mühendislik ekiplerinde PR’lar, commit’ler, dağıtımlar, olaylar, döngü süresi, ortalama onarım süresi gibi metrikler vardır ve bu metrikler ürünle bağlantılıdır. Kusursuz olmasalar da bu tür işler daha kolay ölçülebilir.

Yazılım dışı şirketler bu sorunu daha derinden hissedecek, çünkü onların işleri operasyoneldir. Örneğin hasar talepleri, underwriting, müşteri hizmetleri ticket’ları, uyumluluk incelemeleri, tedarik zinciri istisnaları, ödeme itirazları. Ya da gerçek dünya varlıklarına sahip şirketler de aynı sorunla karşı karşıya kalacaktır. Bu iş akışları geçmişte genellikle insan emeği, döngü süresi, SLA karşılama oranı ve hata oranı ile ölçülürdü; üstelik çoğu zaman daha yüksek standartlar gerektirir, yalnızca ortalamada doğru olmakla kalmayıp denetimde de ayakta kalabilmelidir. İş birimi ile maliyet birimi aynı dili konuşmaz ve aynı organizasyon içinde de yer almaz. Teknoloji ekipleri token tüketimini görebilir, iş birimleri iş akışındaki değişimi görebilir; ancak ikisini birbirine bağlamak için önce birden fazla ekibin “tam olarak neyin ölçüldüğü” konusunda mutabakata varması gerekir.

Bence yazılım şirketleri token bütçesi kavgasını bir üretkenlik ölçümü sorunu olarak deneyimleyecek; bu da daha önce yaşanan pek çok “AI kaynaklı işten çıkarma” ile örtüşüyor. Yazılım dışı şirketler ise bunu bir dönüşüm sorunu olarak deneyimleyecek.

Eksik olan katman, token’dan sonuca uzanan atıf katmanıdır. Şirketlerin, akıl yürütme harcamasını tamamlanan işle ve ortaya çıkan iş sonuçlarıyla ilişkilendiren bir dönüştürme katmanına ihtiyacı var. Bu katman üç soruya yanıt vermelidir: Yeniden denemeler ve düzeltmeler dahil bu iş akışının gerçek maliyeti nedir? Agent’ın yürütme izinde hangi bölümler gerçekten önemlidir, hangileri yalnızca boşa uğraştır? Bu iş, operasyon modelini değiştirdi mi — örneğin her müşteri temsilcisinin daha az ticket işlemesi, hasar döngüsünün kısalması, BPO bütçesinin küçülmesi, işe alımların ertelenmesi gibi? Bir sonraki katman, sonuç atfını iş diliyle yapmaktır. Basitçe “bu iş akışı 2,13 dolara mal oldu” demek değil; şunu söyleyebilmektir: Bu tür hasar taleplerini agent’ın işlemesi BPO’ya kıyasla daha ucuzdur, ancak poliçe ek istisna belgeleri gerektirirse, yeniden denemelerin uzun kuyruğu ekonomiyi bozar.

Ölçüm hafızaya dönüşecektir. Bir token’ı bir sonuçla ilişkilendirmek için şirketler arada gerçekleşen her şeyi yakalamak zorundadır: agent’ın ne gördüğü, neyi geri getirdiği, hangi araçları çağırdığı, neyi görmezden geldiği, nerede yeniden denediği, ne zaman insan müdahalesiyle üzerine yazıldığı, hangi istisna kuralının uygulandığı, hangi emsalin etkili olduğu ve neden bir yolun başarılı olurken diğerinin başarısız olduğu. Ölçüm katmanı karar izini kaydetmek zorundadır; bu da şirketlerin geçmişte neredeyse hiç gerçekten sahip olmadığı bir şeydir. Kayıt sistemleri ne olduğunu yakalayabilir, ancak neden olduğunu nadiren yakalar. Örneğin CRM size bir anlaşmanın ertelendiğini söyleyebilir, fakat satış tahmininin arkasındaki yazıya dökülmemiş yargıları söyleyemez.

Karar gerekçeleri, şirketlerde en kolay yozlaşan ve en kolay kaybolan varlıklardan biridir; çünkü Slack konuşmalarında, e-posta zincirlerinde, eskalasyon toplantılarında ve insanların zihninde yaşar. Ancak sorun şu ki insanlar ayrılır, süreçler de değişir.

AI bunu değiştiriyor; çünkü agent’lar iz kayıtları üretir. Her arama, araç çağrısı, yeniden deneme, eskalasyon, insan müdahalesiyle yapılan düzeltme ve nihai karar; bağlamdan aksiyona, oradan da sonuca uzanan yolun bir parçası hâline gelir. Başlangıçta şirketler bu izleri, harcamaları gerekçelendirmek için yakalayacak. Ancak bu izler bir kez yakalandığında, maliyet raporunun kendisinden daha değerli hâle gelecek; çünkü organizasyonun gerçekte nasıl karar aldığını gösteren kalıcı bir kayda dönüşecekler. (Öhöm, context graph; gerçi son zamanlarda bu terimi duymaktan gerçekten bıktım.)

Asıl ödül dağıtım katmanıdır. Eğer akıl yürütme, müşteri operasyon modelinde kullanım bazlı ücretlendirilen bir kaynak hâline gelirse, harcanan her dolar kendini haklı çıkarmak zorunda kalır. Hangi tedarikçiler token’ların ne zaman sonuca dönüştüğünü, ne zaman dönüşmediğini ve nedenini açıklayabilecek?

Kurumsal şirketler bunu tamamen kendi başlarına keşfetmeyecek. Bunu bir dönüşüm olarak satın alacaklar. Fortune 500 şirketleri bu oyunu daha önce defalarca oynadı: kemerleri bağla, McKinsey’i işe al, piyasadaki her eski Palantir çalışanını kadroya kat, ardından CEO’nun yukarıdan aşağıya değişimi zorlamasını izle. Token’dan sonuca atıflandırma da ERP, BI ve dijital dönüşüme benzer şekilde ortaya çıkacak: üst yönetim destekli bir “proje” olarak gelecek, altında bir altyapı seti bulunacak ve nihayetinde yeni gerçeklik kaynağına dönüşecek. Bunu başarabilen kurucular, farklı türde kurucu ekipler kuracak; kendileri de geleneksel girişimci arketipinden farklı olacak.

Token’dan sonuca atıflandırmayı kim kontrol ederse, dağıtım kararlarını da o verebilir: hangi iş akışları daha fazla hesaplama gücünü hak ediyor, hangilerine sınır getirilmeli, hangileri daha ucuz modellere geçirilmelidir, hangileri insanlar tarafından yapılmaya devam etmeli, hangileri BPO’nun yerini alabilir. Ve bu kararları verebildiğiniz anda, kurum içindeki AI harcamalarının akışını kontrol eder ve bu kaynağı dağıtmak için gereken güveni kazanırsınız.

Kurumsal AI’ın ilk aşaması şunu kanıtladı: modeller işi yapabilir. Bir sonraki aşama ise şuna karar verecek: bu işlerin ne kadarı gerçekten ödenmeye değer. Charlie Munger’ın dediği gibi: Bana teşvik mekanizmasını gösterin, size sonucu söyleyeyim.

[Orijinal bağlantı]

BlockBeats Resmi Topluluğuna Katılın:

Telegram Abonelik Grubu: https://t.me/theblockbeats

Telegram Sohbet Grubu: https://t.me/BlockBeats_App

Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia