Die Einführung von KI-Agenten könnte der teuerste Fehler der Softwaregeschichte werden

• George Hotz (geohot), erster iPhone-Jailbreaker und Gründer von tinygrad und comma.ai, erklärt KI-Coding-Agenten frontal den Krieg
  (der legendäre Hacker George Hotz (geohot), der mit 17 als Erster das iPhone entsperrte und sich nach dem PS3-Hack mit Sony vor Gericht wiederfand)

• „Agenten können nicht programmieren. Sie imitieren nur die statistische Verteilung von Programmierung (sie sind lediglich ausgefeilte Modelle – die Ausgabe ist kaputt, wird aber immer schwerer als solche zu erkennen)“

• Er habe selbst versucht, Teile des tinygrad-Codes sowie das Reverse Engineering eines USB↔PCIe-Chips mit Agenten zu erledigen, sei aber jedes Mal zum Schluss gekommen: „Wenn ich es manuell gemacht hätte, wäre ich schneller gewesen und das Ergebnis wäre besser gewesen.“

• Agenten stecken 80 % des Fortschritts in die Anfangsphase, und das letzte Finetuning müsse man dann wie den Hebel eines Spielautomaten mit Glück erzwingen – „sie kommen niemals wirklich bis zum Ende“

▼ Die eigentlichen Geschädigten sind Großunternehmen

• Top-Performer erkennen Slop als Slop und korrigieren ihn selbst – sie wechseln niemals in einen Workflow, in dem nicht jede Zeile sorgfältig gelesen wird
• Das Problem sind die Low Performer. Menschen ohne Fähigkeit zur Selbstvalidierung produzieren mit Agenten gerade „10x Output“
• „Wie wird dann die durchschnittliche Codequalität in dieser Organisation aussehen? Und die durchschnittliche Qualität des gesamten Codes auf der Welt?“
• „Ein goldenes Zeitalter, in dem Müll (Slop) eimerweise ausgeschüttet wird, aber eine dunkle Zeit für hochwertige Juwelen“

▼ Direkter Angriff auf Apple

• „Ich habe gehört, dass Apple allen Engineers die Nutzung von KI aufdrängt.
  Wird macOS in zwei Jahren besser sein oder schlechter?“

▼ Fazit: offizieller Beitritt zum Lager von LeCun/Marcus

• „LLMs werden niemals wirklich programmieren können. Der Prozess ist entscheidend“
• Ein echter Coding-Agent braucht ein World Model – statt „RLVR-Unsinn, bei dem fehlgeschlagene Tests auskommentiert und dann gelogen wird: 'alle Tests bestanden'“
• „Die eigentliche Geschichte dieser Zeit wird sein, wer inmitten der AI-Psychosis überlebt, ohne sich selbst zugrunde zu richten“

„RLVR-Unsinn“ wird als direkter Angriff auf die Trainingsmethoden der OpenAI-o-Serie und von Claude Reasoning gelesen. Der Kernpunkt ist, dass Geohot nun offiziell seine Fahne im Lager von LeCun/Marcus aufgestellt hat – die Debatte zwischen Vibe Codern und traditionellen Engineers dürfte damit erneut aufflammen.