OpenLM – OpenAI-kompatibler Python-Client für den Aufruf mehrerer LLMs
(github.com/r2d4)- Mit denselben Parametern wie bei der OpenAI-API lassen sich andere LLMs wie HuggingFace, Cohere und eigene Modelle aufrufen
- Derzeit wird nur der Completion-Endpoint unterstützt, weitere Endpoints wie Streaming/Embeddings sind geplant
- Kann im bestehenden Code direkt per
import openlm as openaieingebunden und unverändert genutzt werden
Noch keine Kommentare.