LLM Maliyet ve Kullanım Takibi: OpenAI, Anthropic, Google ve Daha Fazlası

Genel Bakış

Bu n8n iş akışı, yapay zeka projelerinizde kullanılan Büyük Dil Modellerinin (LLM) maliyetlerini ve kullanım verilerini otomatik olarak izlemek ve raporlamak için tasarlanmıştır. Çeşitli LLM sağlayıcılarından (OpenAI, Anthropic, Google vb.) gelen verileri tek bir yerden toplar, standartlaştırır ve önceden tanımlanmış fiyatlandırma kurallarına göre maliyetlerini hesaplar. Bu sayede, hangi modellerin ne kadar kullanıldığını, hangi iş akışlarının daha maliyetli olduğunu ve genel LLM harcamalarınızın ne durumda olduğunu şeffaf bir şekilde görebilirsiniz.

Bu otomasyon, özellikle yapay zeka uygulamaları geliştiren şirketler ve bireyler için kritik öneme sahiptir. LLM kullanımının hızla artmasıyla birlikte, maliyetleri kontrol altında tutmak ve bütçe dışına çıkmamak büyük bir zorluk haline gelmiştir. Bu iş akışı sayesinde, manuel veri toplama ve hesaplama zahmetinden kurtulur, zaman ve kaynak tasarrufu sağlarsınız. Ayrıca, elde ettiğiniz verilerle daha bilinçli kararlar alabilir, LLM stratejinizi optimize edebilir ve projelerinizin karlılığını artırabilirsiniz.

Gereksinimler

• Aktif bir n8n hesabı veya kendi kendine barındırılan (self-hosted) n8n kurulumu.
• İzlemek istediğiniz LLM sağlayıcıları (OpenAI, Anthropic, Google vb.) için aktif API anahtarları. (Bu anahtarlar doğrudan bu iş akışı tarafından kullanılmaz, ancak izlenen iş akışlarında LLM çağrıları yapmak için gereklidir.)
• n8n API anahtarı oluşturma ve yönetme yetkisi.

Kurulum Adımları

Bu iş akışını n8n ortamınıza kurmak ve kullanmaya başlamak için aşağıdaki adımları dikkatlice izleyin:

1. n8n API Anahtarı Oluşturma:

   • n8n arayüzünüzde sol alt köşede bulunan Ayarlar (Settings) bölümüne gidin.
   • Sol menüden n8n API seçeneğini tıklayın.
   • Yeni bir API anahtarı oluşturmak için ilgili butona tıklayın ve anahtarınıza açıklayıcı bir isim verin (örn. "LLM Maliyet Takip").
   • Oluşturulan API anahtarını güvenli bir yere kopyalayın. Bu anahtar, Get Execution Data (Yürütme Verilerini Al) düğümünde kullanılacaktır.

2. Get Execution Data Düğümünü Yapılandırma:

   • İş akışını n8n ortamınıza içe aktardıktan sonra, Get Execution Data adlı n8n düğümünü bulun.
   • Bu düğümün kimlik bilgileri (credentials) bölümüne gidin.
   • Daha önce oluşturduğunuz n8n API anahtarını kullanarak yeni bir kimlik bilgisi ekleyin veya mevcut bir kimlik bilgisini güncelleyin.
   • Bu adım, iş akışının diğer iş akışlarının yürütme verilerine erişmesini sağlar.

3. Standardize Names (İsimleri Standartlaştır) Düğümünü İnceleme:

   • Standardize Names adlı Code düğümünü açın.
   • Bu düğüm, farklı LLM sağlayıcılarından gelen model isimlerini (örn. gpt-3.5-turbo, claude-3-opus-20240229, gemini-pro) standart bir formata dönüştürür.
   • Kullandığınız veya gelecekte kullanmayı planladığınız yeni LLM modelleri varsa, bu düğümdeki eşleme (mapping) mantığını gözden geçirin ve gerekirse güncelleyin. Bu, doğru maliyet hesaplaması için kritik öneme sahiptir.

4. Model Prices (Model Fiyatları) Düğümünü İnceleme:

   • Model Prices adlı Code düğümünü açın.
   • Bu düğüm, her bir standartlaştırılmış LLM modeli için giriş (input) ve çıkış (output) token başına fiyatlandırma bilgilerini içerir.
   • LLM sağlayıcılarının fiyatlandırma politikaları zaman zaman değişebilir. En doğru maliyet takibi için bu düğümdeki fiyatlandırma bilgilerini düzenli olarak kontrol edin ve güncelleyin. Fiyatlar genellikle dolar cinsinden token başına belirtilir.

5. Hedef İş Akışlarınızı İzlemeye Başlama:

   • İzlemek istediğiniz herhangi bir n8n iş akışının sonuna gidin.
   • Bu iş akışının sonuna bir Execute Workflow (İş Akışı Yürüt) düğümü ekleyin.
   • Execute Workflow düğümünün ayarlarında, izleme iş akışınızı (yani bu iş akışını) seçin.
   • "Wait For Sub-Workflow" (Alt İş Akışını Bekle) seçeneğini KAPALI (OFF) konuma getirin. Bu, ana iş akışınızın izleme iş akışının tamamlanmasını beklemeden devam etmesini sağlar ve performans düşüşünü önler.
   • Bu adımı, LLM kullanımını izlemek istediğiniz her iş akışı için tekrarlayın.

Gerçek Dünya Kullanım Senaryoları

1. Yapay Zeka Destekli İçerik Üretim Platformları: Bir içerik ajansı, makale, blog yazısı veya sosyal medya gönderileri oluşturmak için farklı LLM'leri kullanıyor olabilir. Bu iş akışı sayesinde, hangi LLM'in hangi içerik türü için ne kadar maliyet oluşturduğunu takip ederek bütçe yönetimini optimize edebilirler.
2. Müşteri Hizmetleri Chatbotları: Bir şirket, müşteri sorularını yanıtlamak için OpenAI veya Anthropic tabanlı bir chatbot kullanıyor. Bu otomasyon, chatbot'un günlük, haftalık veya aylık token tüketimini ve maliyetini izleyerek, yoğun zamanlarda kaynak tahsisini planlamalarına ve maliyetleri kontrol altında tutmalarına yardımcı olur.
3. Geliştirici Projelerinde Bütçe Takibi: Bir yazılım geliştirme ekibi, farklı prototipleme ve test aşamalarında çeşitli LLM'leri deniyor. Bu iş akışı, her bir projenin LLM harcamalarını ayrı ayrı izleyerek, bütçe sınırları içinde kalmalarını ve en uygun maliyetli modelleri seçmelerini sağlar.
4. Akademik Araştırma ve Geliştirme: Üniversite araştırmacıları, büyük veri setleri üzerinde doğal dil işleme deneyleri yaparken farklı LLM'leri kullanabilirler. Bu otomasyon, araştırma bütçelerini yönetmelerine ve hangi deneylerin daha fazla LLM kaynağı tükettiğini anlamalarına olanak tanır.
5. Pazarlama Kampanyası Optimizasyonu: Pazarlama ekipleri, kişiselleştirilmiş reklam metinleri veya e-posta kampanyaları oluşturmak için LLM'lerden faydalanabilir. Bu iş akışı, belirli bir kampanya için LLM kullanımının maliyetini izleyerek, kampanyanın genel ROI (Yatırım Getirisi) analizine katkıda bulunur.

İpuçları ve En İyi Uygulamalar

• Düzenli Fiyat Güncellemeleri: LLM sağlayıcılarının fiyatlandırma sayfalarını düzenli olarak kontrol edin ve Model Prices düğümündeki fiyatları güncel tutun. Bu, en doğru maliyet tahminlerini almanızı sağlar.
• Model İsimlerini Standartlaştırın: Yeni bir LLM modeli kullanmaya başladığınızda, Standardize Names düğümünü güncelleyerek modelin doğru bir şekilde eşlendiğinden emin olun.
• Veri Saklama Politikası: n8n'in yürütme verilerini ne kadar süreyle sakladığını göz önünde bulundurun. Uzun vadeli analizler için bu verileri harici bir veritabanına veya depolama çözümüne (örn. Google Sheets, PostgreSQL) aktarmayı düşünebilirsiniz.
• Uyarı Mekanizmaları: Belirli bir maliyet eşiği aşıldığında size bildirim gönderecek ek bir düğüm (örn. Email, Slack) ekleyerek proaktif maliyet yönetimi yapabilirsiniz.
• Performans İzleme: Bu izleme iş akışının kendisinin n8n kaynaklarını ne kadar kullandığını gözlemleyin. Çok yoğun LLM kullanımınız varsa, izleme sıklığını veya veri işleme mantığını optimize etmeniz gerekebilir.
• Etiketleme ve Kategorizasyon: LLM çağrılarınıza özel etiketler (örn. proje_adi, departman, kampanya_kodu) ekleyerek daha granüler maliyet analizi yapabilirsiniz. Bu etiketleri Execute Workflow düğümündeki ekstra verilerle geçirebilirsiniz.
• Güvenlik: n8n API anahtarınızı ve diğer hassas bilgileri güvenli bir şekilde sakladığınızdan ve yetkisiz erişime karşı koruduğunuzdan emin olun.

Sık Sorulan Sorular

S: Bu iş akışı hangi LLM sağlayıcılarını destekliyor? C: Varsayılan olarak OpenAI, Anthropic ve Google modellerini destekler. Standardize Names düğümünü düzenleyerek diğer sağlayıcıların modellerini de kolayca ekleyebilirsiniz.

S: Maliyetler nasıl hesaplanıyor? C: Maliyetler, Model Prices düğümünde tanımlanan token başına fiyatlar (giriş ve çıkış token'ları için ayrı ayrı) kullanılarak hesaplanır. İş akışı, LLM çağrılarından gelen token kullanım verilerini alır ve bu fiyatlarla çarpar.

S: Bu iş akışını birden fazla n8n iş akışını izlemek için kullanabilir miyim? C: Evet, kesinlikle. İzlemek istediğiniz her iş akışının sonuna bir Execute Workflow düğümü ekleyerek ve bu izleme iş akışını seçerek birden fazla iş akışını aynı anda izleyebilirsiniz.

S: Maliyet verilerini nerede görebilirim? C: İş akışı çalıştığında, işlenmiş maliyet verileri n8n yürütme geçmişinde görüntülenebilir. Daha kalıcı depolama ve görselleştirme için bu verileri bir veritabanına, elektronik tabloya veya bir BI aracına göndermek üzere iş akışına ek düğümler ekleyebilirsiniz.

Bu rehber Otomasyonevi.com tarafından hazırlanmıştır.