BricksLLM - AI-Gateway für LLMs

• Cloud-natives AI-Gateway, geschrieben in Go
• Funktioniert als Proxy für OpenAI
• Ermöglicht die Erstellung von API-Schlüsseln mit Rate Limit, Cost Limit und TTL und bietet dadurch detaillierte Zugriffskontrollfunktionen, die OpenAI nicht bereitstellt
• Ziel ist es, verschiedene LLMs wie LLama2, Claude und PaLM2 zu unterstützen und den Betrieb von LLMs zu vereinfachen