Den Zauber des Vibe Coding brechen

• Die Massenproduktion komplexen, von AI generierten Codes breitet sich aus, und branchenweit entsteht das Phänomen, dass Code produziert wird, den Menschen nicht lesen
• Führungskräfte rechtfertigen Personalabbau durch AI, und Entwickler stehen unter Druck, Quoten für AI-erzeugten Code zu erfüllen
• Dieses „Vibe Coding“ erzeugt einen Zustand des „dark flow“, der dem Suchtmechanismus des Glücksspiels ähnelt, und führt zu einer Illusion von Produktivität
• Tatsächlich gibt es Studienergebnisse, nach denen sich die Produktivität beim Einsatz von AI-Coding-Tools zwar um 20 % verbessert anfühlt, real aber um 19 % sinkt
• AI ist nützlich, aber menschliches Denken, Kreativität und Software-Engineering-Fähigkeiten werden nicht ersetzt; wer sie aufgibt, riskiert vielmehr Rückschritt

---

Die Ausbreitung von Vibe Coding und das Problembewusstsein

• Vibe Coding bedeutet die Massenproduktion komplexen, von AI generierten Codes, was dazu führt, dass er für Menschen schwer zu lesen oder zu warten ist
  • Manche Unternehmen rechtfertigen damit Entlassungen, dass AI menschliche Arbeit ersetzen könne
  • Entwickler stehen unter Druck, weil sie Nachteile in der Leistungsbewertung befürchten müssen, wenn sie die Quote für AI-generierten Code nicht erfüllen
  • Sowohl Studierende als auch Berufstätige zögern mit der Weiterentwicklung ihrer Fähigkeiten, aus Angst, „AI werde meine Arbeit bald ersetzen“
• AI ist tatsächlich nützlich, aber bei Vibe Coding ist Vorsicht geboten; bei falscher Nutzung kann es negative Folgen haben

Der Unterschied zwischen „Flow“ und „Dark Flow“

• Der von dem Psychologen Mihaly Csikszentmihalyi definierte „Flow“ ist ein Zustand völliger Vertiefung, in dem Herausforderung und Können im Gleichgewicht sind
• Umgekehrt kann ein Gefühl des Aufgehens auch bei Tätigkeiten entstehen, die wie Glücksspiel nichts mit Können zu tun haben; das ist eine Form von „falschem Flow“
  • Wie beim Slotmaschinen-Beispiel Loss Disguised as a Win (LDW) wird ein Verlust so dargestellt, als wäre er ein Gewinn
  • Studien zufolge löst LDW ähnliche physiologische Reaktionen wie ein echter Gewinn aus und verstärkt so die süchtig machende Vertiefung
• Dieses Phänomen wird als „dark flow“ oder „junk flow“ bezeichnet und meint süchtig machende Vertiefung ohne Wachstum

Die Ähnlichkeit zwischen Vibe Coding und Glücksspiel

• Der Entwickler Armin Ronacher erwähnte, dass er nach dem Einsatz von AI-Coding-Tools viel Code erzeugt habe, davon in Wirklichkeit aber fast nichts verwenden konnte
  • Das ähnelt der Täuschungsstruktur eines „falschen Gewinns“ beim Glücksspiel
• Vibe Coding verletzt die Bedingungen von Flow in folgenden Punkten
  • Kein klares Feedback zur Leistung, stattdessen ein irreführendes Gefühl von Erfolg
  • Ungleichgewicht zwischen Herausforderungsniveau und Fähigkeitsniveau
  • Die Illusion von Kontrolle lässt Nutzer glauben, sie würden das Ergebnis steuern
• Die Qualität von AI-generiertem Code wird oft erst Wochen später als problematisch erkannt; Bugs und nicht wartbare Komplexität treten verzögert zutage
• Sowohl LLMs als auch Slotmaschinen sind darauf ausgelegt, die psychologischen Reaktionen der Nutzer zu maximieren und so die weitere Nutzung zu fördern

Die Produktivitätsillusion und der „unzuverlässige Erzähler“

• Laut einer METR-Studie hatten Entwickler mit AI-Tools das Gefühl, 20 % schneller zu sein, waren tatsächlich aber 19 % langsamer
  • Das bedeutet eine Differenz von 40 % zwischen wahrgenommener und tatsächlicher Effizienz
• Auch von AI verfasste Texte können äußerlich ähnlich wirken, qualitativ aber schlechter sein
  • Ein Blogbeitrag eines AI-Forschers veränderte sich nach dem Schreiben durch AI zu einem weniger gut lesbaren Stil als zuvor
• Menschen fällt es schwer, ihre eigene Produktivität objektiv zu bewerten, und nach der Nutzung von AI neigen sie zu Überschätzung

Fehlprognosen und Karriererisiken

• Prognosen, dass AI das Programmieren vollständig ersetzen werde, haben sich wiederholt als falsch erwiesen
  • Geoffrey Hinton sagte voraus, bis 2021 werde AI Radiologen ersetzen, was nicht eingetreten ist
  • Google-Manager Sundar Pichai und Jeff Dean erklärten, bis 2023 würden alle Data Scientists automatische Tools für neuronales Netzwerkdesign nutzen, was ausblieb
  • Dario Amodei von Anthropic prognostizierte, bis Ende 2025 werde AI 90 % des gesamten Codes schreiben, wofür es keine Grundlage gibt
• Es ist riskant, wegen solcher überzogenen Aussichten die Entwicklung der eigenen Fähigkeiten einzustellen
  • Das Tempo des AI-Fortschritts wurde kontinuierlich höher eingeschätzt, als es tatsächlich war

Die anhaltende Bedeutung menschlichen Denkens und menschlicher Kreativität

• AI-Coding-Agenten erzeugen syntaktisch korrekten Code, aber
  • nützliche Abstraktionen, Modularisierung und Verbesserungen der Code-Struktur leisten sie nicht
  • Mit anderen Worten: Codierung wurde automatisiert, Software Engineering aber nicht
• Auch von AI erzeugte Texte wirken grammatikalisch natürlich, verfeinern aber weder Gedanken präzise noch erfassen sie den Kern
• Jeremy Howard warnt: „Wenn man das Denken vollständig an AI delegiert, verliert man die Fähigkeit zu lernen und zu wachsen“
  • AI ist als Werkzeug nützlich, ersetzt aber nicht die Kernkompetenzen des Menschen

[kiga183]

Wenn man die Arbeitsfähigkeit eines Menschen bewertet, gibt es den Faktor „Haltung“. Neben Arbeitsanweisungen und den Befehlen von Vorgesetzten ist auch wichtig, mit welcher Haltung man selbst an die Arbeit herangeht. Diese Haltung zeigt sich in anhaltendem Interesse an der Arbeit, in Einsicht und Verantwortungsbewusstsein. Dabei ist Verantwortungsbewusstsein besonders wichtig. Künstliche Intelligenz kann andere Dinge nachahmen, aber sie hat kein Verantwortungsbewusstsein. Künstliche Intelligenz kann zwar Ergebnisse bewerten, aber nicht das Verantwortungsgefühl im Prozess beurteilen.

[kiga183]

Künstliche Intelligenz weiß gut, "wie" man etwas macht, aber sie weiß nicht, "warum" man es tun sollte. Den grundlegenden Zweck einer Arbeit zu erfassen, trotz Versuch und Irrtum den Forscherdrang zu haben, neue Wege zu suchen, und die Richtung auf ein Ziel hin zu bestimmen – das können nur Menschen. Verantwortungsbewusstsein bedeutet nicht, nur Ergebnisse anzustreben, sondern im Prozess das Ziel nicht aus den Augen zu verlieren und kontinuierlich zu fragen und zu erforschen.

[kiga183]

Die Fähigkeit, über Handbücher und Anweisungen hinaus auf kreative Weise andere Wege zu finden, entspringt ebenfalls einer verantwortungsbewussten Haltung.

[dieafterwork]

Dem stimme ich weitgehend zu.

[GN⁺]

Hacker-News-Kommentare

• Ich überlege, welches Risiko größer ist: zu viel AI zu nutzen oder zu wenig
  Im Moment fühlt sich Ersteres deutlich gefährlicher an. Es gibt Halluzinations-Bugs, Sackgassen in der Architektur, Sicherheitsprobleme, ein geringeres Gefühl für Code-Eigentum und verlorene Lernchancen
  Andererseits sinkt bei weniger AI-Einsatz zwar die Produktivität, aber ein tiefes Verständnis der Codebasis und das dadurch entstehende Training könnten langfristig wertvoller sein
  Persönlich halte ich die kreativen Ideen, die entstehen, wenn man direkt mit dem Code ringt, für am wertvollsten
  Wenn man es zu früh an AI abgibt, verliert man diese Chancen, und das finde ich schade
  • Auch beim AI-gestützten Coden taucht man eher tiefer ein, wenn man die eigenen Standards nicht senkt
    Weil man weniger repetitive Arbeit hat, ermüdet der Kopf weniger, man kann sich auf schwierige Probleme konzentrieren und kommt auf bessere Ideen
    Entscheidend ist, guten Geschmack und hohe Standards beizubehalten
  • Ich habe agentisches Coden ausprobiert und wurde dabei schon in architektonische Sackgassen geführt
    Wenn Entwurf und Dokumentation im Vorfeld sorgfältig vorbereitet waren, war die Erfolgsquote höher
    Schwieriger als die Code-Generierung selbst ist in Wahrheit die Planungs- und Entwurfsphase
    Dafür spart ein LLM bei Dokumentation oder dem Schreiben von Boilerplate enorm viel Zeit
  • Menschen nutzen AI beim Coden auf völlig unterschiedliche Weise
    Manche versuchen, eine App in einem Rutsch fertigzustellen, andere verwenden sie nur auf dem Niveau einfacher Autovervollständigung
    Da ständig neue Ansätze auftauchen, ist es am besten, offen zu bleiben und Verschiedenes auszuprobieren
  • Ich halte den Frame „zu viel AI vs. zu wenig AI“ für den falschen Ansatz
    Neue Technologien sollte man grundsätzlich immer im Kleinen validieren und schrittweise ausweiten
    Die richtige Menge an AI ist genau die, die bereits validiert wurde
    Solche Debatten wie eine Pascalsche Wette aufzuziehen, ist traurig und meist die Logik von Leuten, die irgendetwas verkaufen wollen
• Aus Sicht von jemandem, der Tools zur Buchhaltungsautomatisierung baut, ist Vibe Coding eine Katastrophe
  Selbst wenn AI gut Code schreibt, sind unsichtbare Fehlermodi wie subtile Fehler in Steuerberechnungen am gefährlichsten
  Falsche Zahlen können still und leise in reale Buchhaltungssysteme einfließen
  Deshalb nutze ich AI nur als fortgeschrittenes Autocomplete-Tool — Architektur und Domain-Logik entwerfe ich selbst, AI verwende ich nur für repetitiven Code oder Test-Scaffolding
  Am Ende ist das Problem nicht „von AI geschriebener Code“, sondern Code, den ich selbst nicht verstehe
  • Dass Fehlermodi unsichtbar bleiben, gilt genauso für von Menschen geschriebenen Code
    • Im Gegenteil könnte gerade dieses Risiko sichtbar machen, dass Risikomanagement fehlt
  • Letztlich ist das ein Problem von unzureichenden Tests
    • Ob Menschen- oder AI-Code: Ohne Tests bleiben Fehler unsichtbar
  • Es kam auch die Frage auf, ob Fehler in der Steuerberechnung nicht durch ein doppeltes Buchführungssystem aufgefangen würden
  • Jemand anderes meinte: „Ich lasse selbst komplexe Aufgaben problemlos von AI erledigen“, und behauptete, am Ende gehe es um Unterschiede im Prompting-Können
  • Wieder jemand anderes sagte, solche Probleme müsse man architektonisch lösen; entscheidend seien Auditierbarkeit und Rollback-Strukturen
• Der Satz „Coden wurde automatisiert, aber Software Engineering nicht“ spricht mir sehr aus der Seele
  LLMs können gut Funktionen schreiben, aber nicht entscheiden, welche Funktionen überhaupt gebraucht werden
  Die Architektur realer Projekte entsteht dadurch, dass man an den Engpässen der Wirklichkeit aneckt
  AI hat nur bei der Umsetzungsgeschwindigkeit geholfen, strukturelle Entscheidungen bleiben vollständig Menschenarbeit
  Gerade Domain-Bugs wird ein LLM niemals erkennen
  Am Ende müssen Menschen Verantwortung für Architektur und Domain-Wissen übernehmen
  • Jemand entgegnete: „Hast du das LLM überhaupt nach dem Architekturdesign selbst gefragt?“
    Wenn man es nur „Code schreiben“ lässt, kann es das Ziel natürlich nicht erfüllen
  • Eine andere Person erwähnte als ganz praktischen Vorteil, dass dank AI die Handgelenksschmerzen abgenommen hätten
• Wegen der Vorhersagen von AI-Forschern muss man nicht aufhören, in die eigene Entwicklung zu investieren
  Ich habe im vergangenen Jahr gleichzeitig Softwaredesign und Vibe Coding gelernt
  Durch Bücher über DDD, Clean Architecture, Agile und Ähnliches bin ich zu einem viel besseren Engineer geworden
  Auch wenn ich AI nutze, liegt die Verantwortung für den Code weiterhin bei mir
  Man kann in beiden Bereichen gleichzeitig wachsen
  • Auch der gute Einsatz von AI-Coding-Assistenz ist eine erlernte Fertigkeit
    Sie erfordert Zeit und Übung, ist aber sehr wertvoll und ersetzt andere Fähigkeiten nicht
  • Ich habe auf ähnliche Weise Bücher über Philosophie des Softwaredesigns und datenzentriertes Design ausgewählt und gelesen
    Was LLMs schlecht können, sind Entscheidungen auf hoher Ebene und Strukturdesign
    Ein gut entworfenes System maximiert die Effizienz von AI
    Außerdem hilft das Erlernen neuer Paradigmen dabei, von LLMs erzeugten Code besser zu beurteilen und zu verbessern
    Techniken wie BDD, PBT und Modellprüfung sind Werkzeuge, um AI-Coding sicherer zu machen
  • Ein Entwickler mit 20 Jahren Erfahrung riet dagegen ganz offensiv: „DDD ist nutzlos“, man solle es ruhig über Bord werfen
  • Jemand fragte auch, welches der drei DDD-Bücher am nützlichsten gewesen sei
• Ich habe zweimal komplexe Projekte mit Claude Code umgesetzt. Anfangs war die Geschwindigkeit erstaunlich, aber am Ende wurden alle Gewinne durch einen fatalen Fehler in den Annahmen zunichtegemacht
  Oberflächlich sah es wie ein Sieg aus, in Wirklichkeit war es ein als Sieg verkleideter Verlust
  Daraufhin verglich jemand diese Beschreibung mit Rausch und Absturz bei Drogen
• Ein guter Programmierer ist nicht automatisch ein guter Architekt, Designer oder PM
  Um LLMs richtig zu nutzen, braucht man die Muskeln aller drei Rollen
  • Jemand anderes widersprach: „Ein guter Engineer sollte bereits ein guter PM und Architekt sein“
  • Wieder jemand anderes kritisierte eine uniforme Designkultur, weil das „gute Design“ von UI-Designern oft an den tatsächlichen Nutzern vorbeigehe
  • Eine weitere Person spitzte zu, dass man am Ende die Arbeit von Architekt, Designer und Manager erledigt und trotzdem nur wie ein Entwickler behandelt wird
• Der Schlüssel zum Erfolg ist die Fähigkeit, Erfolgskriterien konkret zu definieren
  Wenn man die gewünschte UI/UX klar vor Augen hat, kann man auch mit aktuellen Modellen schon sehr gute Ergebnisse erzielen
  Umgekehrt sind Prompts im Stil von „Mach mal grob irgendwas“ riskant
  Mit AI muss man umgehen wie mit einem High-End-Mech-Suit — der Mensch muss im Loop bleiben, dann wird es wirklich schnell
• 2017 erzeugte GPT noch überzeugenden Fake-Text, aber 2023 war alles schon völlig anders
  Die technologische Entwicklung ist so schnell, dass Dinge, die letztes Jahr noch schwierig waren, heute banal sind
  Sogar intern genutzte AI-Tools werden bereits durch Open-Source-Modelle ersetzt
  Es fühlt sich derzeit fast wie eine AI-Version von Don’t Look Up an — alle müssen sich neu auf das AI-Zeitalter ausrichten, bevor es zu spät ist
• Die Herangehensweise an AI-Coding ist von Person zu Person unterschiedlich, aber richtungsloses Vibe Coding ist, wie Armin sagt, gefährlich
  Ein Freund hat drei Monate lang mit Cursor ein Produkt gebaut, das am Ende viele Funktionen, aber keinen Nutzen hatte
  Das eigentliche Problem war letztlich das Fehlen von jemandem, der den Code versteht
  • Ich nutze AI nur für repetitive Aufgaben und zum Brainstorming bei Bugs
  • Bei Corner Cases ist AI konsistent, deshalb konzentriere ich mich selbst auf Design und Architektur
• Ich finde es erstaunlich, dass es Entwickler gibt, die Code generieren und ihn nicht einmal prüfen
  Dass nicht einmal ein grundlegender mentaler Plausibilitätscheck (sanity check) gemacht wird, ist schwer nachzuvollziehen
  • Manche sagen, AI-Code sei meistens korrekt, und dadurch entstehe am Ende Review-Müdigkeit
    • Das Problem steckt weniger im Code als in architektonischen Mustern
  • Jemand anderes riet, gemäß einer IBM-Studie früh zu validieren, weil Korrekturen in der Entwurfsphase 15-mal günstiger seien
  • Eine weitere Person meinte kategorisch: „Solche Leute sind keine echten Entwickler“
  • Wieder jemand anderes analysierte, dass die unteren Ebenen einfach zu vertrauenswürdig geworden seien
    • So wie wir kompilierte Binärdateien nicht direkt prüfen, bilde man sich wohl ein, bei AI gelte dasselbe

[shakespeares]

Nützliche Abstraktion, Modularisierung und Verbesserungen der Code-Struktur kann es nicht leisten

Stimme ich zu.