agentjson – Ein in Rust entwickelter JSON-Parser, der „kaputtes JSON“ von LLMs automatisch repariert

Wenn man Dienste mit LLMs entwickelt, muss man die Ergebnisse oft im JSON-Format erhalten – aber sie kommen nicht immer sauber an. Häufig sind sie in Markdown-Codeblöcke (json ...) verpackt, und manchmal ist die Syntax leicht beschädigt, was dann zu Parsing-Fehlern führt.

Da es ziemlich mühsam ist, das jedes Mal per Regex herauszufiltern oder zusätzlichen Exception-Handling-Code einzubauen, habe ich in Rust eine einfache Bibliothek gebaut, die aus dem unordentlichen Text von LLMs gezielt nur das JSON extrahiert und Fehler bis zu einem gewissen Grad auch korrigiert. Ich hoffe, dass sie für alle, die an Agents entwickeln, eine kleine Hilfe ist.