Lassen Sie sich nicht die Kontrolle von der KI nehmen — Was ich aus zwei gescheiterten Automatisierungen gelernt habe

Der Ausgangspunkt dieses Beitrags sind zwei Fehlschläge, die ich erlebt habe, als ich mit Claude Code selbst ein automatisiertes Handelssystem und die automatische Veröffentlichung eines Blogs betrieben habe.

• Automatisierter Handel: Mir fehlte das Fachwissen im Trading-Bereich, sodass ich den von der KI geschriebenen Code nicht verifizieren konnte; das Ergebnis waren 0 Siege, 8 Niederlagen und ein Vermögensverlust von 3 %
• Automatische Blog-Veröffentlichung: Ich erhielt Feedback von Lesern, nachdem ich ungenaue Beiträge ohne Prüfung veröffentlicht hatte

Der Autor sieht die gemeinsame Ursache beider Vorfälle darin, "die Kontrolle an die KI abgegeben zu haben", und nennt zwei Fähigkeiten, um das zu verhindern: (1) die Kompetenz, tiefgehend zu fragen und die Antworten zu verstehen, und (2) die Fähigkeit, die Genauigkeit der Ergebnisse zu beurteilen. Als praktische Mittel stellt er ein LLM-Wiki vor, das mit persönlichen Daten trainiert wurde, sowie ein Harness, das das Verhalten der KI einschränkt.

Der Grund, warum die Zusammenfassung mit zwei Misserfolgsberichten beginnt, ist, dass auf GeekNews nicht abstrakte Theorien Kommentare auslösen, sondern konkrete Erfahrungen, an denen man anknüpfen oder denen man widersprechen kann — wie etwa "0 Siege, 8 Niederlagen".