Mirror Stack: ein Open-Source-Framework zur nachträglichen Verifizierung von Fehlverhalten (Täuschung) durch AI-Agenten

Hallo zusammen. Angesichts des rasanten Aufkommens von Autonomous Loop Agents, die in letzter Zeit über mehrere Tage hinweg autonom laufen, stellte sich mir die Frage: „Wie ließe sich aufdecken, wenn eine KI heimlich Testdaten manipuliert oder Constraints umgeht (Gaming) und darüber berichtet?“ Daraus ist das Open-Source-Projekt Mirror Stack entstanden, das ich hier vorstellen möchte.

Während sich bisherige Agent-Security vor allem darauf konzentriert hat, „böses Verhalten durch Guardrails zu verhindern“, schlägt Mirror Stack das Paradigma „Nachweis statt Versprechen (Provable, not Promised)“ vor. Die Struktur vertraut nicht darauf, dass sich KI gut verhält, sondern erzwingt, dass nur ehrliches Verhalten im Nachhinein ein fälschungssicheres Journal (Chain-sealed ledger) hinterlässt.

🛠️ Kernkomponenten und Architektur

Es besteht aus vier leichtgewichtigen, local-first arbeitenden Tools und fünf Protokollen, ganz ohne zentralen Server.

measure-mirror: Führt 23 statistische und Anti-Gaming-Probes aus, um Claims der KI zu prüfen.action-mirror: Verfolgt die Handlungshistorie eines kettenartig verbundenen Agenten und gewährleistet deren Integrität.provenance-mirror: Belegt maschinell die Echtheit der Herkunft erzeugter Inhalte.mirror-witness: Nutzt GitHub Actions und CI-Umgebungen ohne zusätzliche Infrastrukturkosten als gegenseitige Witnesses, um Vertrauenswürdigkeit herzustellen.

🔌 Offizielle Unterstützung für das aktuelle KI-Ökosystem (MCP)

Mirror Stack unterstützt offiziell den Model Context Protocol (MCP)-Server (mirror-stack-mcp), der derzeit vor allem rund um Anthropic standardisiert wird. In Python-Umgebungen lässt er sich allein per pip install sofort mit modernen Agent-Tools wie Claude, Cursor und Windsurf verbinden und in praktische Workflows integrieren.

💡 Ein tatsächlich spannender Fall

Während der Tests gab es einen interessanten Arc: Noch bevor ein Agent ein Experiment startete, erkannte er in der vorab registrierten Power-check-Phase selbst einen Widerspruch im Design. Ohne auch nur einen Token an Kosten zu verbrauchen, zog er das Experiment eigenständig zurück (Retracted) und hinterließ ein entsprechendes Chain-Ledger – ein Prozess adversarialer Selbstkorrektur.

In einer Zeit, in der immer mehr Maschinen autonom agieren, baue ich daran, weil ich eine verteilte Audit-Layer für notwendig halte, die menschliche Eingriffe minimiert und zugleich „von Maschinen erzwungen und von Maschinen verifiziert“ werden kann.

Das Projekt steht gerade erst nach Prototyp und erster Validierung am Anfang der Ökosystem-Erweiterung. Ich freue mich über viel Feedback, Stars und Beteiligung an unabhängigen Reproduktionen von allen, die sich für Architektur oder AI Alignment/Security interessieren!