Die Kosten, die AI Coding verursacht

(tomwojcik.com)

27 Punkte von GN⁺ 2026-03-01 | Noch keine Kommentare. | Auf WhatsApp teilen

Die breite Nutzung von AI-Coding-Tools durch Entwickler hat die Produktivität erhöht, verursacht aber unsichtbare kognitive und organisatorische Kosten
Von frühen assistiven Tools wie Copilot und Cursor hat sich die Entwicklung zuletzt zu autonomen Agenten verschoben, wodurch sich die Struktur dahin verändert, dass Menschen der AI helfen
Eine vollständig delegierende Nutzung führt jedoch zu kognitiven Schulden (cognitive debt) und einer Verschlechterung der Debugging-Fähigkeiten, wodurch die Problemlösungskompetenz und das Codeverständnis von Entwicklern geschwächt werden
Eine Struktur, in der AI Code schreibt und Menschen ihn nur noch prüfen, führt zum Zusammenbruch des Pfads zur Entwicklung von Seniors und zum Verlust des kreativen Flows, wodurch die technische Leistungsfähigkeit von Organisationen langfristig erodiert
Der Einsatz von AI ist unverzichtbar, aber man muss die „angemessene Nutzungsschwelle“ selbst festlegen und die Nutzung so anpassen, dass menschliches Verständnis und Lernen erhalten bleiben

Die Entwicklung der Einführung von AI Coding

Copilot, Cursor und ähnliche Tools, die 2022 bis 2023 auftauchten, indexierten Codebasen und boten kontextbasierte Autovervollständigung und Chat-Funktionen
- Googeln oder Suchen auf StackOverflow wurde unnötig, und die Verbreitung von IDE-Umgebungen mit integrierter AI nahm zu
Die später aufgetauchten agentenbasierten Workflows bedeuteten den Wechsel von menschlicher Unterstützung zu AI-gesteuerter Entwicklung
- Allerdings verursachen Agenten Zuverlässigkeitsprobleme durch Schleifen, Halluzinationen und Abhängigkeitsfehler
Seit Opus 4.5 ist der Automatisierungsgrad gestiegen, und in einigen Unternehmen gibt es bereits Fälle, in denen Entwickler selbst keinen Code mehr schreiben
- Beispiel: Der Co-CEO von Spotify erwähnte, dass Engineers Claude in Slack Anweisungen geben und damit bis zur Anpassung und Bereitstellung von Funktionen gelangen

Es wird auf die Konzepte „Digital Dementia“ von Manfred Spitzer und „Cognitive Debt“ von Margaret-Anne Storey verwiesen
- Wenn wiederholtes Denken an AI delegiert wird, schwächen sich neuronale Pfade ab und das Codeverständnis nimmt ab
Studie von Shen und Tamkin (2026): Unter 52 Entwicklern erzielte die Gruppe mit AI-Unterstützung 17 % niedrigere Werte beim konzeptionellen Verständnis, Debugging und Code-Lesen
- Besonders deutlich war der Rückgang der Debugging-Fähigkeit; schon eine Stunde passiver AI-Nutzung führte zu messbarer Erosion von Fähigkeiten
Wenn AI anspruchsvolle Aufgaben übernimmt, entsteht ein Zustand von „dark flow“ statt „echtem Flow“, der Abhängigkeit verstärkt, ohne Lernen zu fördern

Wenn AI den Code schreibt und Menschen ihn nur prüfen, entsteht das Paradox, dass die Grundlage der Prüfkompetenz verschwindet
- Entwickler, die sich vollständig auf AI verlassen, arbeiten schnell, erzielen aber die schlechtesten Bewertungsergebnisse
Storey schlägt vor: „Vor dem Deployment müssen von AI erzeugte Änderungen vom Menschen vollständig verstanden werden.“
AI liefert Einsteigern Ergebnisse auf Senior-Niveau, doch das ist nur Reproduktion ohne Verständnis
- Seniors schreiben Code nicht mehr selbst und verlieren dadurch Tiefe, Juniors wachsen nicht, weil sie keine Versuch-und-Irrtum-Erfahrung mehr machen
- Dadurch bricht die Pipeline zur Entwicklung von Seniors zusammen

Führungskräfte bei Microsoft, Anthropic und Google prognostizieren, dass AI innerhalb weniger Monate Engineers ersetzen werde
- Google berichtete Ende 2024, dass 50 % des neuen Codes AI-generiert seien
Solche Zahlen seien jedoch Übertreibungen mit dem Ziel, AI zu verkaufen oder den Aktienkurs zu stützen, und auf gewöhnliche Organisationen nicht übertragbar
Einige Unternehmen messen die AI-Nutzung als KPI und zwingen Entwickler dazu
- Beispiel Reddit: Entwickler manipulierten die AI-Nutzung mit bedeutungslosen Prompts
- In der Folge greift Goodharts Gesetz: Statt Produktivitätssteigerung bleibt nur formale Konformität

Das Schreiben von Code bietet Freude an Vertiefung und Schöpfung, während das Prüfen von AI-Code mentale Ermüdung verursacht
- Wenn die Dopamin-Belohnung des Erschaffens verschwindet, beschleunigt sich Burnout
- Entwicklung verkommt zu Qualitätssicherung (QA), und kreative Befriedigung verschwindet
Verglichen wird dies mit einer Situation, in der AI jede Kunst übernimmt und Menschen nur noch „die Wäsche zusammenlegen“

AI ist ein mächtiges Werkzeug, aber weder viel noch wenig Nutzung ist automatisch gut
- Die Studie von Shen und Tamkin zeigt unter sechs Mustern der AI-Interaktion:
  - vollständige Delegation, schrittweise Abhängigkeit und ausgelagertes Debugging behindern das Lernen
  - Erklärungen anfordern, konzeptionelle Fragen stellen und nach eigenständigem Coden verifizieren erhalten das Lernen
Entscheidend ist die Aufrechterhaltung kognitiver Beteiligung; wichtig ist nicht nur, ob AI genutzt wird, sondern wie sie genutzt wird
Wer AI gar nicht nutzt, verliert Effizienz bei Suche, Boilerplate und Exploration; wer sie übermäßig nutzt, schädigt Verständnis, Senior-Entwicklung, Bug-Erkennung und Flow-Erleben

In den Metriken verbessern sich zwar Anzahl der PRs, Anzahl der Features und Cycle Time,
doch die innere technische Stärke, Konzentration und Problemlösungskompetenz schwächen sich allmählich ab
Entwickler werden zu „Butter-Robotern“, die nur noch auf Genehmigen klicken, ohne die von AI geschaffene Struktur zu verstehen
Auch Simon Willison erwähnte, dass er bei einem Projekt von AI erstellte Funktionen nicht überprüft habe und
deshalb „die internen Abläufe nicht mehr klar versteht“
Am Ende degeneriert nicht das Werkzeug, sondern der Mensch, und diese Veränderung wird weder gemessen noch gesteuert
AI-Abhängigkeit schreitet wie eine Sucht voran und birgt das Risiko eines stillen, aber realen technologischen Niedergangs