Token Cost – Kosten pro Token für über 400 LLMs berechnen

• Berechnet die voraussichtlichen Kosten für Prompts und vervollständigte Antworten, um die Nutzungskosten wichtiger LLM-APIs zu ermitteln
• Verfolgt die neuesten Modelle und Preise der einzelnen LLM-Anbieter
• Misst vor dem Senden des Prompts die Token-Anzahl und die Token-Anzahl der erzeugten Antwort und berechnet daraus für jedes LLM die Gesamtkosten anhand der jeweiligen Token-Preise
• Kann mit nur einer Funktion in das eigene LLM-Integrationssystem eingebunden und genutzt werden