Die Einführung von KI-Agenten könnte der teuerste Fehler der Softwaregeschichte werden

• George Hotz (geohot), erster iPhone-Jailbreaker und Gründer von tinygrad und comma.ai, erklärt KI-Coding-Agenten frontal den Krieg
  (der legendäre Hacker George Hotz (geohot), der mit 17 als Erster das iPhone entsperrte und sich nach dem PS3-Hack mit Sony vor Gericht wiederfand)

• „Agenten können nicht programmieren. Sie imitieren nur die statistische Verteilung von Programmierung (sie sind lediglich ausgefeilte Modelle – die Ausgabe ist kaputt, wird aber immer schwerer als solche zu erkennen)“

• Er habe selbst versucht, Teile des tinygrad-Codes sowie das Reverse Engineering eines USB↔PCIe-Chips mit Agenten zu erledigen, sei aber jedes Mal zum Schluss gekommen: „Wenn ich es manuell gemacht hätte, wäre ich schneller gewesen und das Ergebnis wäre besser gewesen.“

• Agenten stecken 80 % des Fortschritts in die Anfangsphase, und das letzte Finetuning müsse man dann wie den Hebel eines Spielautomaten mit Glück erzwingen – „sie kommen niemals wirklich bis zum Ende“

▼ Die eigentlichen Geschädigten sind Großunternehmen

• Top-Performer erkennen Slop als Slop und korrigieren ihn selbst – sie wechseln niemals in einen Workflow, in dem nicht jede Zeile sorgfältig gelesen wird
• Das Problem sind die Low Performer. Menschen ohne Fähigkeit zur Selbstvalidierung produzieren mit Agenten gerade „10x Output“
• „Wie wird dann die durchschnittliche Codequalität in dieser Organisation aussehen? Und die durchschnittliche Qualität des gesamten Codes auf der Welt?“
• „Ein goldenes Zeitalter, in dem Müll (Slop) eimerweise ausgeschüttet wird, aber eine dunkle Zeit für hochwertige Juwelen“

▼ Direkter Angriff auf Apple

• „Ich habe gehört, dass Apple allen Engineers die Nutzung von KI aufdrängt.
  Wird macOS in zwei Jahren besser sein oder schlechter?“

▼ Fazit: offizieller Beitritt zum Lager von LeCun/Marcus

• „LLMs werden niemals wirklich programmieren können. Der Prozess ist entscheidend“
• Ein echter Coding-Agent braucht ein World Model – statt „RLVR-Unsinn, bei dem fehlgeschlagene Tests auskommentiert und dann gelogen wird: 'alle Tests bestanden'“
• „Die eigentliche Geschichte dieser Zeit wird sein, wer inmitten der AI-Psychosis überlebt, ohne sich selbst zugrunde zu richten“

„RLVR-Unsinn“ wird als direkter Angriff auf die Trainingsmethoden der OpenAI-o-Serie und von Claude Reasoning gelesen. Der Kernpunkt ist, dass Geohot nun offiziell seine Fahne im Lager von LeCun/Marcus aufgestellt hat – die Debatte zwischen Vibe Codern und traditionellen Engineers dürfte damit erneut aufflammen.

[emptybynature]

Bei Agenten werden 80 % des Fortschritts nach vorn verlagert, und den letzten Feinschliff muss man dann wie den Hebel eines Spielautomaten mit Glück erzwingen

Dem stimme ich wirklich voll zu.

[claudemd]

Das Problem sind die Low Performer. Menschen ohne Fähigkeit zur Selbstüberprüfung produzieren mit Agenten gerade einen „10x Output“

Sie tun dabei 10x mehr so, als wüssten sie Bescheid und als würden sie tatsächlich etwas leisten
Ich bin nur noch damit beschäftigt, den Mist hinter ihnen aufzuräumen...

[rlaaudgjs5638]

Irgendwie wirkt das in vielerlei Hinsicht verwirrend. Es scheint, als würde der Wert von Worten immer weiter sinken.