- Von KI erzeugter minderwertiger Content, sogenannter „Slop“, breitet sich im gesamten Internet aus; ein ähnliches Phänomen zeigt sich neben Musik, Video und Text inzwischen auch im Softwarebereich
- Die Produktion von Inhalten konzentriert sich auf Optimierung mit dem alleinigen Ziel, Engagement und Erträge zu maximieren, während Handwerkskunst und Kreativität auf dem Rückzug sind
- Der Qualitätsverlust und technische Verfall bei großen Technologieunternehmen setzte schon vor dem Aufkommen von KI ein; eine enge Arbeitsteilung schwächt Können und Denkvermögen von Engineers
- KI-Agenten sind für klar definierte, wiederkehrende Aufgaben nützlich, haben aber grundlegende Grenzen: Sie halluzinieren, verstehen Code nicht richtig und erzeugen schlechten Code
- Wie bei der Arts-and-Crafts-Bewegung des 19. Jahrhunderts ist es an der Zeit, auch in der Software die Ideen des frühen Computings wiederherzustellen und eine menschenzentrierte Handwerkskultur zu beleben
Die Ausbreitung von AI Slop und der Begriff der Technik
- Seit der Veröffentlichung von KI-Modellen ist die Menge an minderwertigen KI-Inhalten, die als „Slop“ bezeichnet werden, in Audio, Video und Text stark angestiegen
- Trash-Content gab es schon immer, aber durch KI hat sich die dafür nötige Arbeit um ein Vielfaches verringert
- Bei Aufgaben ohne Urteilsvermögen oder bei denen Urteilsvermögen keine Rolle spielt hat KI ein Niveau erreicht, auf dem sie menschliche Arbeit ausreichend ersetzen kann
- Jacques Elluls Begriff der „technique“: eine Denkweise, die Tätigkeiten auf eine Menge effizienter Mittel zur Erreichung messbarer und definierter Ziele reduziert
- Instagram-Reels, YouTube-Videos und Blogposts gelten als „gute“ Ergebnisse, wenn sie mit minimalem Aufwand maximale Aufmerksamkeit erzeugen
- Die Fixierung auf Metriken und Leistung verdrängt immaterielle Werte wie Handwerkskunst, Schönheit und Freude
Vergleich von Musikplattformen: Bandcamp vs. Spotify
- Bandcamp: Fokus auf ganze Alben und persönliche Kuratierung
- Trug den Indie-Musikboom der 2010er- und 2020er-Jahre mit und half Artists wie Car Seat Headrest, Mitski, Alex G und Phoebe Bridgers beim Aufstieg
- Als Plattform, die die Musik selbst ins Zentrum stellt, verbietet sie KI-generierte Musik
- Spotify: ein Modell auf Basis von Playlists und algorithmischen Empfehlungen
- Der Fokus liegt stärker auf Metrik-Optimierung als auf der Musik selbst
- Verbreitung von glatter, auf Algorithmen zugeschnittener Muzak
- In einem Umfeld, in dem Handwerkskunst nicht zählt, kann KI massenhaft Content erzeugen, der in Sachen „Ertragsmaximierung“ viel vorteilhafter ist als von Menschen gemachte Musik
Qualitätsverlust in der Softwarebranche
- Schon vor dem Aufkommen von KI befand sich viel Software insgesamt in einem Zustand allgemein niedriger Qualität
- Software Engineering in großen Technologieunternehmen ist eher zu „plumbing“ geworden
- Die Arbeit beschränkt sich darauf, verschiedene Systeme zu verbinden, damit Daten fließen
- Richard Hammings Idee von „great work“, also etwas als Geschenk an die Menschheit zu schaffen, gilt in der heutigen Tech-Industrie als übermäßig idealistisch
- Viele große Softwaresysteme sind aufgebläht, schlecht entworfen und unzureichend dokumentiert
- Nutzerinnen und Nutzer befinden sich in einer dauernden Abwehrhaltung, um im Prozess der immer schlimmer werdenden „Enshittification“ von Plattformen nicht ausgenutzt zu werden
- Zustimmung zur Perspektive aus Jonathan Blows Vortrag Preventing the Collapse of Software Civilization
- Professionelle Engineers und große Softwareunternehmen haben vergessen, wie man Arbeit überhaupt richtig macht
- Durch Strukturen nicht-wettbewerblicher Monopole sind sie vor Marktdruck geschützt
- Softwarepraktiken werden lockerer
- Organisationen werden aufgebläht
- Die Gesamtqualität sinkt deutlich
- Big-Tech-Engineers erfüllen innerhalb großer Organisationen nur extrem begrenzte Rollen
- Breite Engineering-Fähigkeiten und Handwerkskunst verkümmern dadurch ganz natürlich
Humankapital und das Problem der Arbeitsteilung
- Was Unternehmen oder Gesellschaften mit Computern erreichen können, hängt vom Humankapital ab, also davon, wie viele Engineers mit breiten Fähigkeiten sie hervorbringen
- Die extreme Arbeitsteilung in großen Technologieunternehmen
- produziert eng spezialisierte Fachkräfte, die nur in bestimmten Bereichen fit sind
- verfestigt Personal, das nur innerhalb der heutigen Big-Tech-Organisationsstrukturen funktionieren kann
Zwei Entwicklungen zeigen sich darin, dass KI zu einer Bedrohung für Software Engineering wird
- 1. Die realistische Einsicht, dass KI-Agenten professionelles Software Engineering bedrohen
- Für Engineers, deren Rolle auf wiederholbare und eng umrissene Produktion minderwertiger Software reduziert wurde
- funktioniert KI tatsächlich als recht effektiver Ersatz
- 2. Die überzogene Verallgemeinerung der Fähigkeiten von KI-Agenten
Grundlegende Grenzen von KI-Agenten
- Damit solche Behauptungen tragen, braucht es eine extrem verengte Sicht darauf, was Software ist
- So wie KI-generierte Musik nur aus einer Perspektive funktioniert, die Musik bloß als Konsum-Metrik betrachtet
- Software wird dann nur als Mittel zur Zweckerreichung gesehen, nach dem Motto: „gut genug ist gut genug“
- Aus direkten Experimenten mit KI-Agenten ergibt sich: Sie sind klar nützlich, haben aber deutliche Grenzen
- Sie tragen Falsches überzeugend vor, verstehen Kontext nicht richtig und erzeugen häufig minderwertigen Code
- In manchen Bereichen mag es Verbesserungen geben, aber wie bei Musik oder Text sind strukturelle Grenzen klar erkennbar
- KI-Agenten haben kein eigenständiges Denken und können nicht selbst herausfinden, was Nutzende eigentlich wollen
- Am besten funktionieren sie, wenn das Problem klar definiert ist
- Beispiel: „Schreibe Unit-Tests“, „Implementiere eine DB-Funktion in dieser Form“
- Versuche, ihre Fähigkeiten zu verallgemeinern, scheitern meist
- Oft produzieren sie monsterhaften Code, der zwar neu wirkt, sich aber schwer warten, verstehen und erweitern lässt
Die Probleme von „Vibe Coding“
- Anfangs wirkt es beeindruckend, doch mit der Zeit treten eigene Schwächen deutlich hervor
- unnötig weitschweifiger Code und liebloser Stil
- einfache Struktur, aber flaches und ästhetisch dürftiges Design
- wiederkehrende typische Spuren, die zunehmend störend wirken
- Wenn Probleme auftreten, wird Debugging zu einer frustrierenden Schleife aus Wiederholungsarbeit
- Man schaut nebenbei andere Videos oder scrollt durch Social Media und codet halbherzig weiter
- Dabei wiederholt man gegenüber dem Agenten immer wieder nur: „Da ist ein Bug, bitte nochmal reparieren“
- Häufige Merkmale von KI-generiertem Code
- übermäßig gepolsterte Buttons
- inkonsistente Abstände und Farben
- allgemeine ästhetische Flachheit
- UI-Elemente, deren Daseinszweck unklar ist
- die Tendenz, jedem Element unnötige Labels und Erklärungen hinzuzufügen
Systemische Probleme der Softwareindustrie und die Notwendigkeit von Handwerkskunst
- Es ist schwer zu bestreiten, dass der meiste Code nicht besonders gut ist, besonders in Umgebungen großer Unternehmen
- Mit KI lässt sich minderwertige Software noch schneller und effizienter weiterproduzieren
- Doch KI löst nicht die zentralen systemischen Probleme der Softwareindustrie
- Das Grundproblem ist, dass bis heute nicht geklärt ist, wie man in großem Maßstab wirklich gute Software baut
- Um dieses Problem zu lösen, braucht es nicht Automatisierung, sondern Handwerkskunst und kritisches menschliches Denken
Die Arts-and-Crafts-Bewegung und die Parallelen zur Software
- Aufmerksamkeit gilt der Arts-and-Crafts-Bewegung der Zweiten Industriellen Revolution
- John Ruskin und William Morris reagierten auf eine Zeit, in der die erstaunlichen Fähigkeiten von Maschinen und industrieller Produktion einzelne Handwerker verdrängten
- Sie sahen industrielle Produktion nicht einfach als Fortschritt, sondern erkannten, dass ihre Produkte und Arbeitsbedingungen einen eigenen „Stil“ hervorbringen
- Sie kritisierten, dass Arbeiter zunehmend zu Bestandteilen einer riesigen industriellen Maschine herabgesetzt wurden
- Sie wiesen darauf hin, dass es Bereiche gibt, die Maschinen nicht leisten können, und dass das damals wie heute gilt
- Als Inspirationsquelle strebten sie eine Wiederbelebung mittelalterlicher Handwerkskunst an
Ein ähnlicher Wandel ist in der Software nötig
- Auch im Softwarebereich braucht es einen ähnlichen Wandel und eine ähnliche Bewegung
- Die Arbeitsweisen und Denkformen des frühen Computings müssen erneut untersucht und wiederbelebt werden
- Es gibt eine reiche Schatzkammer von Ideen, die vom Mainstream ignoriert wurden, aber nie verschwunden sind
- Projekte, die auf andere Weise als heutige Software beeindruckend und schön waren
- Derzeit befinden wir uns auf einem sehr schmalen Ast der technologischen Entwicklung, nämlich auf dem Pfad von C/Unix zu Javascript/Web
- Jenseits davon gibt es viel mehr zu erkunden
- Schon bei einer etwas unkonventionellen Richtung verschwindet die Hilfe von KI fast vollständig
- Beim Versuch, Claude Forth schreiben zu lassen, war das Ergebnis eher hinderlich als hilfreich
- Als Ausgangspunkt wird das Permacomputing-Wiki empfohlen
Ausblick auf das Zeitalter des KI-Codes
- KI-Code könnte minderwertige Massenproduktions-Software noch alltäglicher machen
- Gleichzeitig könnte er für Engineers, die Handwerkskunst und kreativen Ausdruck wiederherstellen wollen, neue Räume öffnen
- Kein Pessimismus: Je seltener Handwerkskunst wird, desto wertvoller wird sie an sich
- In einem Moment, in dem Mainstream-Software ihre Grenzen zeigt, der Qualitätsverfall weitergeht und durch ein politisches Problembewusstsein der Wert zentralisierter Strukturen neu geprüft wird
- ist dies ein guter Zeitpunkt für experimentelle, von Menschen gemachte und in menschlichem Maßstab betriebene Software, um am Rand zu leuchten
Noch keine Kommentare.