- LLM-Funktionen sind Prompt-Templates mit einigen definierten Eingabevariablen und bestimmten Ausgabetypen wie Klassen, Enums, Unions und optionalen Strings
- BAML hilft dabei, diese LLM-Funktionen besser/sauberer zu schreiben
- Unübersichtliche Prompt-Templates lassen sich als leicht ausführbare und testbare typisierte Funktionen schreiben (ohne Regex oder Try-catch-Schleifen und ohne Typfehler)
- Unterstützung für Python und TypeScript
- Unterstützung für verschiedene Modelle: Ollama, OpenAI, Anthropic
- Prompt-Vorschau in Echtzeit: Auch bei Schleifen/Bedingungen kann der vollständige Prompt geprüft werden
- Mit einem Klick im Playground testbar
- Resilience & Fallback: Fügt LLM-Aufrufen Wiederholungen und Redundanz hinzu
- Type Validation macht es widerstandsfähiger gegenüber typischen LLM-Fehlern als Pydantic/Zod
- Observability Platform: Boundary Studio unterstützt Funktionsvisualisierung und Request-Replay
Noch keine Kommentare.