Rippling, Şirketlerin Yapay Zeka Giderlerini Dizginlemek İçin 'AI Spend Console'u Duyurdu
Yapay Zeka Harcamalarında "Tokenmaxxing" Dönemi Bitiyor mu?
Teknoloji dünyasında yapay zeka araçlarına olan sınırsız erişim, şirket bütçeleri üzerinde beklenmedik bir baskı oluşturmaya başladı. İnsan kaynakları yazılım devi Rippling, kısa süre önce yaşadığı ciddi bir bütçe krizi sonrası, şirketlerin yapay zeka harcamalarını takip edip optimize etmelerine olanak tanıyan AI Spend Console aracını tanıttı. Şirket, çalışanların veya ekiplerin gerçekten verimlilik artışı mı sağladığını yoksa sadece yapay zeka ile "yüzeysel içerik" mi ürettiğini ölçen bu yenilikçi çözümüyle dikkat çekiyor.
Milyon Dolarlık "Token" İsrafı ve Gelen Ders
Rippling, yılın başında kontrolsüz bir şekilde yapay zeka modellerine yüklendiğinde, Ar-Ge bütçesinin %40'ının yapay zeka tokenlarına gittiğini fark etti. Aylık %80 oranında artan bu giderler, yönetimi acil önlemler almaya zorladı. Yapılan analizlerde, çalışanların %15'inin toplam harcamanın %60'ına sebep olduğu ve tek bir mühendisin ayda 50.000 dolar harcadığı ortaya çıktı. Şirket, Cursor, OpenAI ve Anthropic gibi platformlarla harcama limitleri üzerinde masaya oturarak süreci kontrol altına almaya başladı.
OpenAI'ın Yeni Modeli Astra Frenlendi: Siber Güvenlik Riskleri Endişe Yaratıyor
Haberi OkuDoğru Model, Doğru Görev: Yapay Zeka Geçidi
Yönetim, her görevin en pahalı "frontier" modelle yapılmasının büyük bir hata olduğunu anladı. Şirket kendi AI gateway sistemini geliştirerek, her komutu (prompt) maliyet açısından en verimli modele yönlendiren bir mekanizma kurdu. Örneğin, GLM 5.2 gibi modellerin, benzer performans sunmasına rağmen frontier modellere göre %85 daha ucuz olduğu keşfedildi. Sonuç olarak Rippling, token kullanımını düşürmeden, stratejik yönlendirmeler sayesinde harcamalarını Nisan ayına kıyasla %37 seviyesine indirmeyi başardı.
Yapay Zeka Verimliliği Nasıl Ölçülmeli?
AI Spend Console, yalnızca maliyetleri değil; günlük prompt sayısı ile ortaya konan kod satırı veya çekme isteği (pull request) gibi çıktıları eşleştirerek çalışan performansını skorluyor. Rippling, teknolojinin tek başına yeterli olmadığını düşünerek şirket içinde AI captains olarak adlandırılan uzmanlar görevlendirdi. Şirket, müşteri odaklı birimlerde ve genel idari süreçlerde de benzer verimlilik ölçümleri yaparak yapay zeka erişimini "sürdürülebilir" bir temel üzerine oturtmayı hedefliyor. Sizce şirketler, çalışanlarına yapay zeka kullanımında bir "kotalı erişim" sistemi getirmeli mi, yoksa yaratıcılığı kısıtlamadan bu maliyetler göze mi alınmalı?
Henüz yorum yapılmamış. İlk yorumu siz yapın!