Token.js – 200+ LLMs mit einem einzigen SDK anbinden

• 200+ LLMs von 10 Anbietern über das OpenAI-Format aufrufen
  • AI21, Anthropic, AWS Bedrock, Cohere, Gemini, Groq, Mistral, OpenAI, Perplexity, OpenRouter
• Unterstützt Tools, JSON-Ausgabe, Bildeingaben, Streaming usw.
• Funktioniert rein clientseitig, ohne Proxy-Server

[ragingwind]

Sieht ähnlich aus wie das, was das AI SDK bereitstellt.

[kairess]

Ein Python-Paket wäre mir sehr recht.

[wkbae]

Für Python gibt es https://github.com/BerriAI/litellm