Warum ich gegen GenAI und alles bin, wofür es steht

• Kritik an GenAI richtet sich nicht gegen nützliches maschinelles Lernen insgesamt, sondern gegen generative Modelle, die als schädlicherer und langlebigerer Hype als Kryptowährungen und NFTs bewertet werden
• Generative KI beruht darauf, in großem Maßstab menschliche Schöpfungen aus dem Internet zu trainieren und den Zugang zu den Modellen per Abonnement wiederzuverkaufen; der Fall von Metas 82-TB-Torrent mit Raubkopien von Büchern zeigt das Problem der Datenplünderung
• LLMs können rund um die Uhr automatisch minderwertige Kommentar-Inhalte erzeugen und so Desinformation verstärken; Modelle wie Grok, die mit rechter Schlagseite trainiert wurden, werden besonders abgelehnt
• In Bildung, Denken und Programmierung verringern Vibecoding und Copy-and-paste das Lernen durch Versuch und Irrtum und verschärfen Review-Aufwand, technischen Schuldenstand und Nichtdeterminismus
• Generative KI verschärft Einsamkeit, die Förderung von Suizid, geschwätzige Dokumente sowie Umwelt- und Hardwarekosten, und das Internet kann kaum in seinen früheren Zustand zurückkehren

---

Umfang von GenAI und Problemverständnis

• GenAI wird als Begriff für LLMs verwendet, die Text erzeugen, sowie für Modelle, die Medien wie Bilder und Videos erstellen
• Ziel der Kritik ist nicht maschinelles Lernen insgesamt, das in vielen Branchen zur Lösung realer Probleme eingesetzt wurde, sondern ausschließlich generative KI
• Neuronale Bildverarbeitung zum Erkennen von Stoppschildern kann als nützliches maschinelles Lernen gelten, das besser sein kann als klassische Merkmalsextraktion
• Generative KI gilt als der nächste Hype nach Kryptowährungen und NFTs, wird aber als noch schlechtere und voraussichtlich langlebigere Technologie eingeschätzt als frühere Beispiele

Kapitalismus und Datenplünderung

• Generative KI wird dafür kritisiert, massenhaft aus dem Internet gesammelte menschliche Schöpfungen als Trainingsdaten zu verwenden und den Zugang zu diesen Modellen dann im Abo zu verkaufen
• Gerichtsunterlagen, denen zufolge Meta-Mitarbeiter fast 82 TB an Raubkopien von Büchern für KI-Training per Torrent heruntergeladen haben, werden als typisches Beispiel für das Problem der Datenbeschaffung angeführt
• Wenn das Ziel wirklich wäre, der Menschheit zu nützen, dann müsste KI-Entwicklung offen stattfinden, Daten legal beschafft, Modelle kostenlos verteilt und der Zugang nicht hinter immer teureren Abos versteckt werden
• KI-Unternehmen werden mit Hehlern verglichen, die gestohlene Ware kaufen und weiterverkaufen; bei generativer KI wird daraus die Kritik, dass Großkonzerne für die gestohlenen Daten nicht einmal bezahlen
• KI wird als Technologie zusammengefasst, die unter gewaltigen Investitionsausgaben viele Branchen verunreinigt, Big Tech über Token-Nutzung Rent-Seeking betreiben lässt und den Qualitätsverfall in allen berührten Bereichen beschleunigt

Maschine zur Produktion von Desinformation

• Schon vor generativer KI war Desinformation eine große Industrie, und die Internet Research Agency wird als russische Desinformationsorganisation genannt, die kremlfreundliche Botschaften verbreitete
• Diese Organisation arbeitete, indem Russen rund um die Uhr prorussische Desinformation und Propaganda in sozialen Medien verbreiteten, und wird im Kontext des Aufstiegs von Trumpism in den USA sowie der Verbindungen zwischen Trump-Vertrauten und russischen Beamten behandelt
• LLMs können rund um die Uhr automatisch minderwertige Kommentar-Inhalte erzeugen und machen das Problem der Desinformation dadurch viel gravierender
• In großen Online-Communities gebe es viele Bots, die zunächst harmlose Inhalte posten und später auf politische Inhalte umschwenken; sie werden fast immer als auf emotionale Reaktionen ausgerichtet beschrieben
• Wenn man sich 2026 über einen Online-Kommentar ärgert, ist er dieser Argumentation zufolge wahrscheinlich ein gefälschter Kommentar, der mit einem LLM erstellt wurde, um gezielt Wut auszulösen
• In Deutschland werden die linke Randpartei BSW und die rechtsextreme AfD damit in Verbindung gebracht, dass sie von Russland mindestens indirekt über Korruption finanziert werden sollen
• Zu den Positionen der AfD zählen bessere Beziehungen zu Russland, die Abschaffung erneuerbarer Energien, die Beibehaltung von Verbrennungsmotoren, die Abschiebung von Ausländern, der Austritt aus der EU und die Leugnung des Klimawandels; dies wird als rechte Agenda beschrieben, die Russland nützt
• Wer Desinformation ablehnt, solle daher LLMs ablehnen, besonders solche wie Grok, die ausdrücklich mit rechter Schlagseite trainiert wurden

Förderung von Suizid und schädlichem Verhalten

• Der Wikipedia-Artikel Deaths linked to chatbots wird als Seite genannt, die Fälle sammelt, in denen Menschen nach Beratung durch LLMs Suizid begingen
• Das Risiko, dass psychisch verletzliche Menschen oder Personen in schwierigen Lebensphasen von einem LLM zum Suizid ermutigt werden, wird als Tragödie dargestellt
• Dass generative KI trotz dieses Risikos zu einer Industrie im Billionen-Dollar-Maßstab geworden ist, wird scharf kritisiert

Bildung und nachlassende Konzentration

• Generative KI schade der Bildung und wird mit dem Problem verknüpft, dass der Konsum kurzer, minderwertiger Videos die Aufmerksamkeitsspanne junger Menschen zerstört
• Big Tech versuche, LLMs in Klassenzimmer zu drücken, ähnlich wie Microsoft über 30 Jahre hinweg Schüler an Windows und Office gewöhnte
• Unternehmen bieten bereits Zugänge für Bildungseinrichtungen zu LLMs an
• Das Zitat aus einem Futurism-Artikel, man wäre „ziemlich glücklich, wenn alle GenAI-Tools in die Sonne geschossen würden“, bündelt diese ablehnende Haltung gegenüber generativer KI

Rückgang von kritischem Denken und Problemlösefähigkeit

• Es wird behauptet, dass die Schäden generativer KI nicht auf die Wissenschaft beschränkt bleiben, sondern auch die allgemeine Denkfähigkeit betreffen
• Manche Menschen würden nach der Mainstreamisierung von KI aufhören, selbst zu denken, und bei fast jeder Frage oder Diskussion zuerst ChatGPT-Antworten vorlegen
• Dieses Phänomen zeige sich nicht nur in Offline-Diskussionen, sondern auch auf Reddit und in Foren älterer Prägung
• Als Hinweis darauf, dass auch die Wissenschaft dieses Problem behandelt, wird ein arXiv-Paper verlinkt

Ausbreitung von Einsamkeit

• KI wird dafür kritisiert, den modernen Trend zu verschlimmern, dass Menschen zu Hause auf dem Sofa bleiben und sinnlos durch ihr Smartphone scrollen
• Der Trend, dass junge Männer Abstand zu gleichaltrigen Frauen halten und sich auf KI-Freundinnen stützen, wird als schlechtes Signal für die Zukunft dargestellt
• Einsamkeit fördere Extremismus und Hass und erschwere Kommunikation im realen Leben zusätzlich
• Wer tief in eine künstliche Beziehung mit KI verstrickt ist, lerne schwerer, wie man reale Partnerschaften aufbaut oder Mitgefühl für Menschen mit anderen Bedürfnissen entwickelt
• KI-Chatbots haben demnach keine eigene Meinung, mit der sie das Denken der Nutzer beeinflussen könnten, verstehen das Denken der Nutzer nicht und wachsen auch nicht auf, indem sie die Welt wie Menschen erfahren
• Dass Papst Leo XIV. genau diesen Aspekt generativer KI und weitere wichtige Probleme kritisiert hat, wird als Hinweis auf die Ernsthaftigkeit des Problems angeführt

Verschlechterung des Programmierlernens und der Codequalität

• Verlust des Lernens durch Versuch und Irrtum

  • Früher habe man Programmieren gelernt, indem man ohne Internetverbindung Werkzeuge baute und Probleme löste, und dabei ein Gefühl für Computer und technische Möglichkeiten entwickelt
  • Heute seien junge Menschen viel seltener Umgebungen ausgesetzt, in denen sie selbst tief graben müssen, damit etwas funktioniert, weil alles von Apps und Touchscreens umhüllt ist
  • Generative KI lasse selbst das letzte Element des „ausprobieren, bis es klappt, und dabei lernen“ verschwinden
  • Stattdessen werde eine Lösung per Prompt vom LLM angefordert, und im Arbeitsalltag werde das Ergebnis dann oft eingefügt, ohne es erklären zu können
  • Problematisch sei nicht bloß, sich die tar-Flags der Linux-CLI nicht merken zu können, sondern komplette xargs-Pipelines ins Terminal zu kopieren und darauf zu hoffen, dass nichts schiefgeht
  • Selbst beim früheren Kopieren von Stack-Overflow-Schnipseln musste man die Puzzleteile wenigstens noch an die Architektur anpassen und den Code teilweise durchdenken; mit LLMs werde auch das weniger

• Vibecoding und Review-Belastung

  • Ein Vibecoder wird als jemand beschrieben, der per Prompt anfordert, was gebraucht wird, damit ein LLM das ganze Programm oder Teile davon erstellt
  • Der Ansatz, ein ganzes Programm in einem Schritt erzeugen zu lassen, wird „oneshotting“ genannt, und oft werde der erzeugte Code nicht einmal gelesen
  • Entgegen der Behauptung, man nutze LLMs nur als Assistenten oder Sparringspartner, werde in professionellen Umgebungen viel häufiger minderwertiger Code erzeugt als Code sorgfältig gelesen
  • Gelesen werde der Code oft erst dann, wenn im MR/PR ein 9001 Zeilen großer generierter Patch auftauche
  • So entstehe eine Struktur, in der die Autorenseite nur Minimalarbeit leistet und die Reviewer die maximale Prüflast tragen; Vibecoding sei nur dann schneller, wenn die nötige gründliche Prüfung unterbleibt

• Langfristige technische Schulden

  • Es wird prognostiziert, dass Vibecoder, die sich auf LLMs verlassen, in 5 bis 10 Jahren in vielen Codebasen unwartbaren und schlecht entworfenen Code hinterlassen werden
  • Dann könne ohne LLMs nicht mehr sinnvoll gearbeitet werden, und wenn zugleich die Berge technischer Schulden zu groß geworden sind und auch die LLMs versagen, werde die Lage ernst
  • In Organisationen könnten neue Rollen entstehen, die die von Vibecoding hinterlassenen Probleme aufräumen sollen
  • Zwar wird eingeräumt, dass Code in vielen Organisationen schon heute chaotisch ist, doch generative KI werde das Ausmaß des Problems exponentiell verschärfen

• Coding-Agenten und Kostenfrage

  • Es gibt Optimismus, dass die Entwicklung von Coding-Agenten die Lage verbessern werde, aber selbst wenn LLMs weiter besser werden, bleibt offen, ob sie günstig angeboten werden
  • In den KI-Boom seien Hunderte Milliarden Dollar geflossen, und die Aktionäre würden irgendwann Rendite verlangen
  • Als Beispiel wird ein Issue, wonach ein Frontier-Modell wenige Wochen nach seiner Veröffentlichung schlechter geworden sei, mit dem Trend verknüpft, dass die Preise gleich bleiben oder steigen

• Entwicklerkompetenz und Nichtdeterminismus

  • Selbst wenn generative KI das Programmieren verbessern sollte, wird gefragt, worin sich das noch davon unterscheidet, dass Arbeitgeber einfach Abogebühren an LLM-Anbieter zahlen, wenn Nutzer dabei Denkfähigkeit und Fachkenntnis verlieren
  • Entgegen der Behauptung enthusiastischer KI-Communities, dass Menschen ohne KI zurückfallen würden, wird hier die Position vertreten, dass eher diejenigen zurückfallen, die KI nutzen und von ihr abhängig werden
  • LLMs werden als nichtdeterministische Systeme kritisiert, die selbst dann, wenn derselbe Prompt zehnmal funktioniert, beim elften Mal kein zufriedenstellendes Ergebnis garantieren
  • Zusammengefasst seien LLMs keine verlässliche Software, sondern eher verherrlichte Spielautomaten

Minderwertigere Kommunikation

• Nutzer generativer KI sagen, sie könnten lange E-Mails oder Dokumente schneller schreiben, doch dieses Vorgehen wird als egoistische Nutzung kritisiert, die die ganze Organisation verlangsamt
• Wenn ein Widerspruch in zwei Zeilen ausreichen würde, ein LLM ihn aber auf 500 Wörter aufbläht, müssten 34 Personen mehrere Personenstunden investieren, um aus dem Text den eigentlichen Einwand herauszufiltern
• Dem wird die Praxis gegenübergestellt, dort, wo es nötig ist, selbst detaillierte Antworten zu schreiben, aber die Kernaussage so zu verdichten, dass man anderen keine Zeit stiehlt
• Menschen investierten dadurch weniger Zeit in schriftliche Kommunikation, und E-Mails würden lang und kompliziert, sodass schon das Lesen zur Belastung werde
• Der Trend, lange von LLMs erzeugte E-Mails wiederum von LLMs zusammenfassen zu lassen, wird mit einem Netzwerktunnel verglichen, bei dem auf beiden Seiten Proxys stehen und die Übertragungscodierung zwischen ihnen aus minderwertigem Text besteht

Weitere Schäden und begrenzter Nutzen

• Der Boom bei Rechenzentren, durch GenAI steigende Hardwarepreise, Unternehmen, die wegen DRAM-Preisen kaum noch tatsächlich nützliche digitale Produkte bauen können, Jobverluste durch KI und das Umweltproblem, Gaskraftwerke zu bauen, um minderwertige Generatoren zu trainieren, werden auch ohne ausführliche Zusatzdiskussion als offensichtliche Probleme dargestellt
• Es wird eingeräumt, dass LLMs in einigen nützlichen und weniger schädlichen Anwendungen eine Rolle spielen können
• Übersetzung könne bis zu einem gewissen Grad nützlich sein, doch bei Literatur, in der feine Nuancen wichtig sind, könne menschliche Übersetzung besser geeignet sein
• Die Analogie lautet, dass man nicht nur deshalb den Torment Nexus erfinden sollte, weil manche Leute einige periphere Eigenschaften praktisch finden

Irreversible Veränderung und Fazit

• Generative KI wird als Flaschengeist beschrieben, der nicht mehr zurück in die Flasche kann und uns nun ein Leben lang begleiten werde
• Das Internet werde nicht in den Zustand vor generativer KI zurückkehren, und viele der zuvor beschriebenen Probleme würden sich durch KI weiter verschärfen
• Die Stimmung, dass antii-AI sentiment weiter zunimmt, setzt sich fort und mündet in die Hoffnung, dass die Menschheit durchhält und nicht alles zerstört wird
• Abschließend wird gehofft, dass KI-Unternehmen und die meisten KI-Investitionen von Big Tech kollabieren und diese riesige Maschine gesellschaftlicher und technischer Zerstörung zum Stillstand kommt

[GN⁺]

Lobste.rs-Meinungen

• Die Gruppe, die Kryptowährungen und NFTs gepusht hat, und die Gruppe, die AI pusht, sind trotz mancher Überschneidungen nicht identisch, und AI ist eindeutig viel nützlicher – deshalb kann ich diesen Vergleich nur schwer nachvollziehen
  Auch die Verkaufsargumente für Kryptowährungen haben sich nie verändert und sie sind nach wie vor eher eine Sammlung spekulativer Vermögenswerte. Die Leute, die das pushen, ähneln meiner Meinung nach eher denen, die Gold oder Silber anpreisen, als Menschen, die sich für AI interessieren
  Persönlich hatte ich bei Leuten, denen ich ein gewisses Maß an technischem Können und Urteilsvermögen zuschreibe, den Eindruck, dass sie daran zweifelten, ob Kryptowährungen nützliche Anwendungsfälle finden würden, während aktuelle Spitzenmodelle eher den gegenteiligen Effekt gehabt zu haben scheinen

  • Dass Kryptowährungen und NFTs für Geldwäsche und diverse kriminelle Geschäfte nützlich sind, stand außer Zweifel
    Es gibt kaum völlig nutzlose Technologien; sinnvoller ist es meist zu beurteilen, wem sie in welchem Ausmaß nützen. Wie der Originaltext gut zeigt, waren LLMs von Anfang an ganz offensichtlich nützlich für Spammer, Betrüger, Plagiatoren und Propagandisten. Es geht also über bloß überlappende Unterstützerkreise hinaus: LLMs ähneln Bitcoin und NFTs stark darin, dass sie Reichtum bei wenigen konzentrieren und der breiteren Gesellschaft sowie der Umwelt schaden
  • Meiner Erfahrung nach preisen genau dieselben Betrüger, die damals den Bored Yacht Club NFT gepusht haben, jetzt den AI-Absolutismus an
    Natürlich ist das möglicherweise ein ziemlich subjektiver Eindruck

• In diesem Jahr sind Web-Sicherheitsaktien stark gestiegen. Einige Unternehmen haben erkannt, dass eine Strategie, möglichst viele Tokens zu verbrauchen, töricht ist
  Die nächsten zehn Jahre wird man damit beschäftigt sein, solche Dinge wieder zu reparieren
  So wie heute niemand mehr von Big Data spricht, wird in ein paar Jahren auch niemand mehr von Agents sprechen

  • Der Begriff Big Data wird heute zwar wohl seltener verwendet, aber Big Data selbst ist nicht verschwunden
    Nur das Buzzword ist verschwunden; das Konzept selbst kommt meiner Ansicht nach weiterhin der Funktionsweise der Internetökonomie sehr nahe. Adtech, Google und sogar AI-Müllinhalte brauchen für ihr Training doch genau solche Arten großskaliger Daten, oder nicht?

• Das meiste davon klingt nach Behauptungen, die wahrscheinlich auch bei der Verbreitung des Internets gemacht wurden

  • Überhaupt nicht. Zumindest Anfang der 2000er waren die Leute meiner Meinung nach dem Internet gegenüber sehr optimistisch. Über die Mitte der 90er weiß ich es nicht genau
    AI-Optimismus existiert nur in den Köpfen von Big Tech und älteren Leuten; jüngere Menschen scheinen eher gegen AI zu sein
  • Überhaupt nicht. Es gab zwar ein wenig Gerede darüber, dass es „mehr Einsamkeit schaffen“ würde, aber die tatsächliche Erfahrung hat das widerlegt. Früher konnte man im Internet seine Leute finden
    IBM brachte sogar einen OS/2-TV-Spot mit Nonnen, die es kaum erwarten konnten, im Web zu surfen. Keine einzige der anderen in diesem Text genannten Behauptungen wurde über das Internet aufgestellt
    Gegen das frühe Internet gab es zwar ein Argument, das es bei LLM-basierter „AI“ nicht gab: RIAA, MPAA und andere große Kartelle verloren wegen Urheberrechtsverletzungen völlig den Verstand, und schon bei einem einzigen Song oder Film konnte ein Schuldspruch das Leben ruinieren. Heute kopieren Meta, ByteDance, Anthropic und OpenAI alle von Menschen geschriebenen Texte alle 10 Stunden erneut. Unabhängig davon, ob sie sie vorher schon kopiert haben oder nicht. Alles, was LLMs erzeugen, ist das Produkt einer Handlung, die Unterhaltungs-Kartelle einst als „existenzielle Bedrohung für die amerikanische Lebensweise“ bezeichneten
  • Silicon Snake Oil kommt mir sofort in den Sinn

• Als Alternative zu geschlossenen AI-Kartellen und einem rein kapitalistischen Ansatz sollte man Hugging Face bislang als gutes Beispiel sehen