Der Aufstieg von Whatever

• Die Gemeinsamkeit von persönlichem Web, Kryptowährungen, Werbeplattformen und generativer KI ist eine Whatever-Kultur, die Preisgrafiken, Werbeeinblendungen und plausibel wirkende Ausgaben über den tatsächlichen Wert stellt.
• Von Bitcoin wurde erwartet, ein Mittel zu sein, um Geld ohne Vermittler zu senden, doch statt im Alltag zum Bezahlen genutzt zu werden, breitete es sich als spekulatives Ökosystem mit kopierbaren Coins und NFTs aus.
• Das Web verlagerte sich von der Vielfalt persönlicher Websites hin zu einer von großen Plattformen dominierten Struktur, und das werbefinanzierte Modell forcierte maximales Engagement, Clickbait, SEO-Füllmaterial und Empfehlungsalgorithmen.
• LLMs werden weniger als Star-Trek-Computer denn als Whatever-Maschinen kritisiert, die „plausiblen Text“ ausspucken; KI-Zusammenfassungen in Suche, Videos und Wetter-Apps werden zu Rauschen, das echte Informationen verdrängt.
• Wenn es zur Grundlinie wird, in Programmierung, Musik, Bildern und Schreiben per Knopfdruck ein Ergebnis zu bekommen, entwertet das den Wert des Lernens und des Selbermachens; deshalb bleibt als letzte Botschaft: Do things. Make things.

---

Die Grenzen von PayPal und die Erwartungen an Bitcoin

• In den USA der 2000er war die praktisch einzige realistische Möglichkeit, beliebigen Personen Geld über das Internet zu schicken, PayPal.
  • PayPal war keine Bank, verwahrte aber Geld und konnte Konten sperren und das Geld für sechs Monate einfrieren, wenn ein Regelverstoß vermutet wurde.
  • Für Autorenaufträge oder kleine private Verkäufer war PayPal faktisch der einzige Vermittler und hatte damit sogar Einfluss darauf, was überhaupt verkauft werden durfte.
• Um 2010 wirkte Bitcoin wie eine neue Möglichkeit, Geld ohne Vermittler zu versenden.
  • Man erwartete Möglichkeiten wie Trinkgeldgläser auf Websites oder kleine Trinkgelder direkt im Browser.
  • Es wurde sogar versucht, einen Miner etwa einen Tag lang selbst laufen zu lassen, aber es wurde kein Coin geschürft, und weil es damals sonst nichts zu tun gab, geriet Bitcoin wieder in Vergessenheit.

Kryptowährungen als Graph statt als Währung

• Auch nachdem Bitcoin allgemein bekannt geworden war, erfüllte sich die Erwartung, „einfach jedem Geld schicken zu können“, nicht.
  • Als jüngstes Beispiel dafür, dass man mit Bitcoin tatsächlich etwas Reales kaufen könne, wurde etwa gray market estradiol genannt.
  • Noch immer ist PayPal das aktuelle Mittel, um beliebigen Menschen Geld zu schicken; Stripe ist hinzugekommen, setzt aber ebenfalls Einschränkungen.
  • Patreon, Itch und Ko-fi hängen von Stripe und PayPal ab.
• Kryptowährungen entwickelten sich eher zu einem Get-rich-quick-Ökosystem als zu einer Währung.
  • Vielen Beteiligten geht es weniger um das Objekt selbst als darum, dass „man reich wird, wenn der Graph steigt“.
  • Coins, NFTs und andere Whatever teilen alle denselben Graphen mit Zeitachse und Dollarachse; das eigentliche Objekt bleibt nur noch im Titel.
• Weil Bitcoin Open Source ist, kann es jeder kopieren und seinen eigenen Coin bauen; mit NFTs lässt sich eine ganze Whatever-Familie erzeugen, die „Sammlerstücke“ genannt wird.
  • Entscheidend ist nicht die Verbindung von Kunst, Technik und Token, sondern ob man andere zum Kaufen überreden kann.
  • So entstand nach dieser Sicht auf Twitter eine Atmosphäre, in der zahllose Betrüger sehr ähnliche Whatevers verkauften.

Vom persönlichen Web zur Werbeplattform erstarrt

• Das Web war einmal ein riesiges schwarzes Brett, auf dem jeder etwas veröffentlichen konnte, und früher boten ISPs sogar persönliche Websites an.
  • Auch heute kann man auf Orten wie GitHub noch kleine Websites hosten.
  • Das frühere Web hatte Vielfalt: kleine von Menschen gemachte Seiten, farbige Designs und Profilhintergründe wie bei Twitter.
• Viele persönliche Websites bedeuteten aber auch, dass Updates schwer zu verfolgen waren, Antworten schwer zu senden waren und das Bauen einer eigenen Website Lernaufwand erforderte.
  • Das Web verdichtete sich deshalb rund um große Plattformen wie Reddit oder Twitter.
  • Diese Plattformen liefern Interaktion in Größenordnungen von Hunderten Millionen Nutzern, was hohe Hosting-Kosten bedeutet.
• Werbung war traditionell das Mittel, um Websites zu finanzieren, und Plattformen begannen, für mehr Werbeeinblendungen Engagement zur obersten Priorität zu machen.
  • Nutzer dürfen dabei unglücklich sein, solange sie bleiben, und Werbung darf nerven, solange sie gesehen wird.
  • Kritisiert wird, dass sich dieses Modell bis in Telefonsoftware, Videos und sogar Windows ausgebreitet hat.

„Content“ und das Whatever rund um Werbung

• Der Begriff „content“ für kreative Arbeiten wird deutlich abgelehnt.
  • „content“ bezeichnet eher den noch unbestimmten Seiteninhalt beim Layouten oder den Krempel im Kofferraum eines Autos.
  • Für Marketer ist content etwas, das um Werbung herum platziert wird.
• Das werbezentrierte Modell brachte Clickbait, übertriebene Thumbnails, rote Pfeile, Video-Essays hervor, die Wikipedia vorlesen, Empfehlungsalgorithmen, endlose Rezeptblogs und SEO-Spielguides.
  • Als Beispiel wird eine Spieleseite genannt, die die Information „der blaue Schlüssel liegt unter dem Felsen am Fluss“ unnötig auswalzt, um zwischen den Anzeigen mehr Absätze unterzubringen.
  • Auch endlose TikTok-artige Streams gehören in dieselbe Entwicklung.
• Früher gab es bereits das Get-rich-quick-Modell, allgemeine WordPress-Themes mit Google-Werbung zu kombinieren und nüchterne Texte zu leicht unklaren Themen zu schreiben, um Suchtraffic und Anzeigenaufrufe mitzunehmen.
  • Heute kann selbst solches generic filler vom Computer geschrieben werden.

Die Kernkritik an LLMs: plausibles Rauschen

• Hätte man 2025 einen Star-Trek-Computer bekommen, wäre das großartig gewesen; stattdessen habe man eher sparkling autocomplete erhalten.
  • Kritisiert wird, dass LLMs die Fähigkeiten, die Investoren und glühende Befürworter ihnen zuschreiben, grundsätzlich nicht besitzen, sondern statistisch plausiblen Text aneinanderreihen.
  • Mit jedem neuen Fortschritt heiße es wieder, das System sei auf Ph.D.-Niveau, aber die Ausgabe wirke weiterhin wie banal sludge.
• LLM-Ausgaben in Googles Produkten werden als Beispiele für verschlechterte Nutzererfahrung genannt.
  • Die AI summary in Google Search nimmt ein Drittel der Desktop-Bildschirmhöhe ein und wiederholt entweder nur die Highlights der obersten Treffer oder liefert Falsches.
  • Die AI summary auf YouTube wiederholt den Videotitel nur mit mehr Wörtern.
  • Die AI summary in der Pixel-Wetter-App zeigt Aussagen wie „diese Woche wird es wärmer“ und schiebt den Temperaturgraphen weiter nach unten.
• Auf neueren Pixel phones könne man diese Ausgaben abschalten, indem man zu System > Apps > Show all apps > Drei-Punkte-Menü > „Show system“ > „AICore“ gehe und es deaktiviere.
  • Hinzu kommt der Hinweis, dass solche Elemente in Android 16 integriert zu sein scheinen.
  • Danach seien keine weiteren LLM-artigen Ausgaben mehr aufgefallen.

Das Ren’Py-Beispiel: ein LLM erfindet eine API, die es nicht gibt

• Als ein Ren’Py-Problem an ein LLM gestellt wurde, präsentierte das Modell selbstsicher passende formatting tags, doch diese Tags hatten nie existiert.
  • Nach zusätzlichem Kontext entschuldigte es sich und erzeugte dann ein weiteres Set erfundener Tags.
  • Weil es keine eingebaute Lösung und keine früheren Beispiele gab, wird das als Fall interpretiert, in dem das Modell statt Belegen einfach etwas Plausibles erzeugte.
• Dieses Scheitern war schlimmer, als die Frage gar nicht beantworten zu können.
  • Es ging Zeit verloren, um zu prüfen, ob vielleicht doch eine gefälschte API übersehen worden war.
  • Ein Mensch könnte sagen, dass er es nicht weiß, oder einen komplizierten Workaround vorschlagen; ein LLM erzeugt stattdessen Antworten in Form scheinbar existierender APIs.
• Das eigentliche Problem bestand darin, zwischen Sätzen zwei Leerzeichen einzufügen und Ren’Py diese rendern zu lassen.
  • Ren’Py fasst beim Parsen von Strings Leerraum zu einem Zeichen zusammen, daher ließ sich das nicht mit formatting tags lösen.
  • Am Ende wurde der Parser per monkeypatch angepasst.

Das Copilot-Beispiel: Mängel in Microsofts ausgewähltem Showcase

• Beim Besuch der Visual-Studio-Code-Website im Dezember 2024 fiel auf, dass der Großteil der Seite dem LLM-Codevervollständigungsdienst Copilot gewidmet war.
  • Das Beispiel auf der Startseite zeigte Code für einen Webservice-Aufruf, kodierte aber keine Formulardaten.
  • Der Code war länger als nötig, und zudem war das Zertifikat des Webservice seit drei Jahren abgelaufen, sodass es auf einer HTTPS-Website nicht funktionierte.
• Das Problem war nicht, dass die aktuelle API keine Kodierung von Formulardaten unterstützte, sondern dass Copilot sie nicht nutzte.
  • Copilots Antwort ist eine einmalige disposable Ausgabe, in der niemand anders einfach anmerken kann: „Du hast die Formulardaten-Kodierung vergessen.“
  • Problematisch ist das umso mehr, weil dieses Beispiel das Schaufensterbeispiel des beliebtesten Code-Editors, von Microsoft und mit modernster LLM-Integration war.

Gegen die Analogie zu Programmierwerkzeugen

• Der Vergleich von LLMs mit Werkzeugen wie table saw, calculator, screwdriver oder digital camera wird zurückgewiesen.
  • Eine table saw ist ein Werkzeug zum schnellen Schneiden gerader Linien und schneidet nicht gelegentlich Wellenlinien oder tut zufällig etwas völlig anderes.
  • Ein calculator nimmt einem Arithmetik ab, aber man muss trotzdem wissen, welche Tasten zu drücken sind.
• Bei gewöhnlichen Werkzeugen liegen Ausnahmefälle am Rand; bei LLMs seien die Ausnahmefälle überall, und selbst dieselbe Eingabe könne im selben Modell über die Zeit andere Ergebnisse liefern.
  • Werkzeuge lassen sich einstellen oder anpassen, doch die meisten Beispiele für LLM-Anpassung wirken eher wie vorangestellte Absätze à la „antworte, als würdest du mit einem Kunden sprechen“.
  • Deshalb werden LLMs nicht als bloße Automatisierung gesehen, sondern als neuer Maschinentyp, der auf fast jede Eingabe ein Whatever ausgibt.

Die Gegenfrage: „Wenn es besser wird?“

• Schon was mit „better“ gemeint ist, bleibt unklar.
  • In den Kleingedruckten von Präsentationen stecken dann Verbesserungen wie das korrekte Zählen der Buchstaben in „Mississippi“, aber die Ausgabe sei trotzdem noch crap.
  • Wenn ein System bei fehlender Antwort weiter plausibel klingende Fiktion erzeugt, ist es nicht nützlich.
• Die Unzufriedenheit mit LLMs und generativer KI wird weniger über große Themen wie geistiges Eigentum oder Umweltfolgen zusammengefasst als über vibes are bad.
  • Der Tonfall sei schwer erträglich, und dass Lügen als Fallback dienen, sei unerquicklich.
  • Werbung preise an, dass man sich nicht mehr selbst um Geburtstagskarten oder andere Dinge kümmern müsse.
  • Kritisiert werden Geldgeber und Antreiber, die begeistert davon sind, möglichst viel menschlichen Input durch Maschinen zu ersetzen.

Das Grundlinien-Problem bei Musik, Bildern und Hausaufgaben

• In einem Fall sagte jemand, er habe in 3,5 Stunden ein Album samt Album-Art erstellt; die Gegenfrage lautet, warum man diese Musik hören sollte, wenn das jeder so machen kann.
  • Schon das Anhören des Albums nimmt einen erheblichen Teil dieser 3,5 Stunden ein, wodurch unklar bleibt, wie viel Handarbeit überhaupt eingeflossen ist.
  • Was ein Computer eigenständig tun kann, wird so zur Grundlinie.
• Versuchen, die Qualität fotorealistischer Bildgenerierung zu verbessern, wird mit starker Abneigung begegnet.
  • Es gebe bereits einen konservativen „News“-Bereich, der allein mit Lügen Ersatzrealitäten baut; warum also Maschinen bereitstellen, die gefälschte Fotos und Videos erzeugen?
  • Auch dagegen, solche Funktionen in Kamera-Apps von Smartphones einzubauen, wird Stellung bezogen.
• Dass Schüler mit LLMs durch die Schule kommen, führt zu Sorge um die Fähigkeit zum kritischen Denken.
  • Wenn Spuren wie „As a large language model…“ in Kommentaren oder Aufgaben stehen bleiben, wird das als Zeichen gelesen, dass nicht einmal die unter eigenem Namen eingereichten Wörter gelesen wurden.

Enough of Whatever

• Erinnert wird an den Vorschlag von Facebook, auf der eigenen Website LLM-basierte Fake-Accounts zu betreiben.
  • Fake-Menschen würden Fake-Beiträge über Whatever erzeugen, und Nutzer bekämen dadurch noch mehr Werbung zu sehen.
• Auch beim Anblick von Spielen im Switch shop mit Midjourney-generierter Grafik werde Scham empfunden.
  • Diese Entwicklung wirke wie eine breite Feier der mediocrity.
• Betont wird die Freude daran, selbst zu programmieren, zu schreiben, etwas zu machen und danach sagen zu können: „Das habe ich gemacht.“
  • Keine Freude entstehe dagegen daraus, eine vage Beschreibung einzugeben und so lange zu refreshen, bis ein Whatever erscheint, das gerade gut genug aussieht.
• Die Behauptung, Stable Diffusion „demokratisiere Kunst“, wird als falsch bezeichnet.
  • Es gibt keinen King of Art, der Kunst erlaubt; jeder kann sofort zeichnen, aber das Lernen verlangt Mühe.
  • Kritisiert wird, dass der Computer ohne Mühe Lob gibt und Menschen sich deshalb über die Schwierigkeit beklagen, echte Fähigkeiten zu lernen.
• Verkauft wird letztlich eine Maschine, die verspricht, alles zu erledigen, und um sie zu verkaufen, muss auch die Vorstellung verkauft werden, dass „etwas zu tun keinen Wert hat“.
  • Wenn es Wert hat, etwas zu tun, dann ist das zwangsläufig besser, als fast kostenlos per Knopfdruck irgendein Whatever zu bekommen.
  • Das Fazit lautet: Do things. Make things. und endet mit der Bitte, das Gemachte auf eine Website zu stellen.