LLM Agents – Bibliothek zum Erstellen von mit LLM gesteuerten Agenten

• Hilft dabei, neben den Standardantworten eines LLM mithilfe von Erweiterungskomponenten einfach Agenten zu erstellen, die zusätzliche Aktionen ausführen können

Funktionsweise

• Gibt Anweisungen mit einem Basis-Prompt, der Aufgaben mithilfe von Tools verarbeitet
• Erstellt Tools als benutzerdefinierte Komponenten, die dem Agenten zur Verfügung stehen (z. B. Python-Code im REPL ausführen, bei Google oder HN suchen)
• Der Agent wiederholt „Thought, Action, Observation“
  • Thought/Action werden vom LLM erzeugt
  • Observation wird vom Tool erzeugt
• Das LLM erhält die neu zum Prompt hinzugefügten Informationen und verarbeitet sie auf deren Grundlage
• Sobald der Agent genügend Informationen erhalten hat, gibt er die endgültige Antwort aus

Tool

• Implementierung als einfache Python-Klasse mit use(input_text: str) -> str
• In Name und Description eine für das LLM verständliche Beschreibung des Tools verfassen