Was es heißt, 2026 KI zu hassen

• Ein Machine-Learning-Praktiker mit 20 Jahren Berufserfahrung, der große Hoffnungen in die Entwicklung neuronaler Netze gesetzt hatte, entscheidet sich heute dazu, deren Nutzung abzulehnen, weil der aktuelle KI-Boom soziale und ökologische Kosten verursacht, die sich nicht durch Nutzen rechtfertigen lassen
• Modelle zur Textgenerierung erzeugen die Illusion, Anweisungen zu verstehen und wie Menschen zu sprechen, indem sie das nächste Wort raffiniert vorhersagen. Dennoch hält der Hype an, der sie trotz des Widerspruchs von Kognitions- und Sprachexperten für eine Technik nahe an menschlichem Bewusstsein hält
• Große Tech-Unternehmen und Investoren konzentrieren sich weniger auf Innovationen bei neuronalen Netzen selbst als auf den Bau größerer Modelle, die enorme Mengen an Trainingsdaten und Energie benötigen, und blenden den Widerspruch aus, den Klimawandel anzuerkennen und zugleich Technologien einzusetzen, die den Bedarf an fossilen Brennstoffen erhöhen
• Auch wenn sich Ausbeutung und Umweltschäden, die mit dem modernen Leben verflochten sind, nicht vollständig vermeiden lassen, bleibt KI eine leicht vermeidbare Option, um die Rechte von Menschen und Umwelt zu wahren, weil man Computer einfach wie noch vor drei Jahren nutzen kann
• Die Anti-KI-Haltung des Jahres 2026 ähnelt der Antikriegsposition vor der Invasion des Irak im Jahr 2002. Trotz des Unterschieds, dass die Kausalität der Schäden unklarer ist und sogar Kollegen und Freunde mitmachen, wiederholt sich eine gesellschaftliche Struktur, die schlechte Entscheidungen belohnt

---

Von der Vorhersage des nächsten Wortes zum industriellen Hype

• Nachdem neuronales Machine Learning vor etwa 15 Jahren in seine zweite Renaissance eingetreten war, übertraf es andere Verfahren bei der Klassifikation und Generierung verschiedener digitaler Daten wie Bilder, Audio und Text
• Modelle zur Textgenerierung setzten Chatbots um, die durch die Fähigkeit, das nächste Wort auszuwählen, Anweisungen zu verstehen und wie echte Menschen zu sprechen scheinen, und fesselten damit Unternehmensführer, Politiker und Beschäftigte der Tech-Branche
• Diese Technik ist ein raffiniertes Verfahren, das eine vorübergehende Illusion von Verständnis erzeugt. Dennoch war es eine Zeit lang selbst unter vernünftigen Menschen üblich zu glauben, dass Generatoren für das nächste Wort einem menschenähnlichen Bewusstsein nahegekommen seien
  • Experten für Kognition und Sprache erklärten fortlaufend, warum ein solches Bewusstsein nicht entsteht, doch der Hype hielt an
  • Da der Begriff als Sammelbezeichnung für mehrere Technologien verwendet wird, wird artificial intelligence als AI bezeichnet
• Große Tech-Unternehmen, die bereits einen unangenehm großen Anteil an der Wirtschaft haben, ohne lebensnotwendige Güter zu produzieren, haben ihr Schicksal an AI geknüpft
  • Der tatsächliche Fortschritt bei neuronalen Netzen selbst hat sich verlangsamt
  • Unternehmen und Investoren konzentrieren sich auf den Bau größerer Modelle, die enorme Trainingsdatenmengen und Energie verlangen
• Im Jahr 2026 ist offener Klimawandel-Leugnismus nicht mehr en vogue, und die meisten erkennen den wissenschaftlichen Konsens an, dass sich das Klima durch die Abhängigkeit von fossilen Brennstoffen erwärmt
  • Dennoch erhöht AI direkt den Ölbedarf der Gesellschaft, und selbst die Kritik, sie sei allein wegen ihres Energiebedarfs ungeeignet für den Einsatz, wird von den Nutzern ignoriert
• Selbst wenn auf die gegenwärtigen Schäden und die zusätzlichen Schäden hingewiesen wird, die bei Fortsetzung dieses Trends entstehen, werden die Bedenken zurückgewiesen, weil wohlhabende Einzelpersonen und Unternehmen beschlossen haben, die Zukunft auf einem bestimmten technologischen Ansatz aufzubauen, den sie besitzen
• Einige Nutzer mögen Chatbots nützlich finden, doch kein Anwendungsfall erreicht ein Niveau, das die vergesellschafteten Kosten rechtfertigen könnte, die die gesamte Gesellschaft trägt
• Selbst für einen Machine-Learning-Praktiker mit 20 Jahren Erfahrung, der auf die Entwicklungen neuronaler Netze der vergangenen 10 Jahre gehofft hatte, ist die aktuelle AI-Strömung bereits aus der Bahn geraten

Eine Technologie, deren Nutzung man verweigern kann, und ein wiederkehrendes Muster

• Menschen könnten gegenüber moralischen Argumenten abgestumpft sein, die soziale und technische Systeme kritisieren, weil sie jemandem schaden
  • Mit moralischen Argumenten selbst ist nichts falsch, doch um in einem reichen Land ein gewöhnliches Leben zu führen, ist man kaum vermeidbar auf die Ausbeutung vieler Menschen und auf endliche Umweltressourcen angewiesen
  • Selbst eine konsequent prosoziale ethische Haltung kann der Reaktion schwer entgehen, in dem Moment kompromittiert zu sein, in dem sie mit einer solchen Gesellschaft in Berührung kommt
• Die in Nahrung, Kleidung und Elektronik eingebetteten Schäden lassen sich schwer vermeiden, aber AI ist weiterhin leicht nicht zu nutzen
  • Das ist eine konkrete Wahl, um eine Ethik des Respekts gegenüber den Rechten von Menschen und Umwelt im Alltag umzusetzen
  • Man muss Computer nur so verwenden wie noch vor gerade einmal drei Jahren
• Wenn sich die AI-Prognosen abseits der optimistischen Vorhersagen bewahrheiten, werden spätere Chronisten sich fragen, warum nicht mehr Menschen ihre Nutzung verweigert haben
• Die Gefühle, die eine Anti-AI-Haltung hervorruft, ähneln dem späten Jahr 2002 vor der US-Invasion im Irak
  • Damals schien klar, dass die Staatsführer logen, um einen Krieg zu rechtfertigen, und dass außer für eine kleine Zahl wohlhabender Menschen kein gutes Ergebnis zu erwarten war, doch Medien und ein großer Teil der Öffentlichkeit verachteten die Kritiker
  • Auch die Anti-AI-Haltung ruft ein ähnliches Empfinden hervor wie die damalige Antikriegsposition
• Der Unterschied zwischen den beiden Zeiten besteht darin, dass sich die Ursache der von AI verursachten Schäden schwerer konkret benennen lässt
  • Es ist schwer zuzuordnen, wie viele Menschen sterben, wenn die globale Durchschnittstemperatur um 0,1 Grad steigt, und welcher Anteil dieses Anstiegs auf ein bestimmtes, gasbetriebenes Rechenzentrum entfällt
  • Anders ist auch, dass selbst nahe Kollegen und geschätzte Freunde auf der Seite der AI-Nutzer stehen
• Es wurde versucht, Kollegen und Freunde zu überzeugen, indem bestehende Überzeugungen über den Klimawandel, die Verlässlichkeit großer Unternehmen und das Recht auf ein würdiges Leben und Arbeiten mit der Forderung verbunden wurden, die Nutzung von AI zu beenden, doch dieser Versuch scheiterte
• Man kann zukünftige Leser nicht um Vergebung bitten, aber die Menschen der Gegenwart sind keine Bösewichte, sondern gewöhnliche Menschen in einer Situation, die schlechte Entscheidungen belohnt und gute Entscheidungen bestraft
• Als gemeinsame Lektüre empfohlen werden To Gen or Not To Gen: The Ethical Use of Generative AI und The AI Con, die die von generativer AI aufrechterhaltenen Schäden konkret zusammenfassen

[realg]

Jedes Mal, wenn ich einen Text mit so einer Haltung oder diesem Unterton sehe, denke ich: Kann man wirklich sagen, dass sich dieser spöttisch so genannte „Nächste-Wort-Vorhersager“ so sehr vom Menschen unterscheidet? Menschliches Denken — ob es nun Erfahrung oder auf Erfahrung beruhende Einsicht ist — scheint sich im Akt, das nächste Wort hervorzubringen, gar nicht so sehr zu unterscheiden. Zumal man heute ohnehin sehr viele Menschen sieht, denen selbst dieses nächste Wort nicht mehr normal und vernünftig einfällt.

[GN⁺]

Meinungen auf Lobste.rs

• Eine Sache übersehen Kolleginnen und Kollegen heutzutage: KI nicht zu nutzen ist immer noch einfach. In den elektronischen Geräten, die wir essen, tragen und anfassen, stecken unzählige Schäden an Menschen und Umwelt, und all dem auszuweichen ist schwierig. KI abzulehnen ist dagegen eine der seltenen Optionen, mit der man eine Ethik, die Menschen- und Umweltrechte ernst nimmt, tatsächlich praktizieren kann. Die Formulierung, dass man einfach den Computer so benutzen soll wie vor drei Jahren, bringt am besten auf den Punkt, was ich auf dieser Seite immer wieder vermitteln wollte

  • Man sollte die Auswirkungen alltäglichen Konsums nicht als unvermeidlich kleinreden. Kleidung aus Kinderarbeit oder Lebensmittel, die auf umweltschädliche Weise produziert wurden, lassen sich vermeiden; auch in diesen Bereichen sollte man ethische und nachhaltige Entscheidungen treffen

• Dieser Text sagt genau das, was ich empfunden habe. Heute verfängt moralische Kritik an sozialen und technischen Systemen kaum noch, selbst wenn sie damit begründet wird, dass jemandem Schaden zugefügt wird. Wer in einem reichen Land ein normales Leben führen will, kommt kaum darum herum, sich auf die Ausbeutung vieler Menschen und begrenzter Umweltressourcen zu stützen; eine in sich stimmige Ethik für die gesamte Gesellschaft wird daher beschädigt, sobald sie mit der Realität in Berührung kommt
  Oft heißt es, unter dem Kapitalismus gebe es keinen ethischen Konsum, aber es ist unklar, was man tun kann, außer den Kapitalismus zu stürzen. Das Handeln von Einzelnen und Konsumenten scheint eher das Gewissen zu beruhigen, als die Welt zu verändern. Gewöhnliche Menschen leben in einer Struktur, die schlechte Entscheidungen belohnt und gute bestraft, also in Moloch

• Dieser Text enthält zwei Fehler. Erstens bezeichnet er LLMs schlicht als Prädiktoren für das nächste Wort, aber durch das Post-Training passiert intern deutlich mehr, und auch die Ergebnisse unterscheiden sich erheblich. Ähnlich ist das Missverständnis, LLMs könnten nur statistisch durchschnittliche Inhalte ausgeben. Zweitens nimmt er an, LLMs müssten Bewusstsein haben, um wirtschaftlichen Wert zu besitzen; um Menschen zu ersetzen und Aufgaben zu erledigen, die früher nur Menschen ausführen konnten, ist jedoch kein menschenähnliches Bewusstsein nötig
  Die Entscheidung, keine LLMs zu nutzen, ist legitim, aber Kritik, die nicht einmal versteht, was LLMs sind und wie moderne LLM-Systeme oder Agenten funktionieren, halte ich für wertlos

  • Autoregressive LLMs als Prädiktoren für das nächste Wort zu bezeichnen, ist zwar eine Vereinfachung, aber korrekt. Der Kernpunkt des Autors scheint zu sein, dass die Struktur des Menschen sehr komplex ist, während die Struktur von LLMs häufig nicht so komplex ist, und dass es schwierig ist, allein mit einem simplen Trick nützliche Arbeit zu leisten. Ob man dem zustimmt, ist eine andere Frage; man sollte sich aber direkt mit diesem Kernargument befassen
  • In der Formulierung Prädiktor für das nächste Wort überlagern sich unterschiedliche Bedeutungen. Wenn man den Text so verstanden hat, dass er behauptet, ein System könne nur das statistisch häufigste Wort im gesamten Korpus vorhersagen, dann ist der Einwand richtig, dass Post-Training das verändert. Gemeint ist im Text aber, dass das System mechanisch jeweils ein Token erzeugt und diese Ausgabe wieder als Eingabe zurückführt. Auch das stimmt, und Post-Training ändert diese Struktur nicht
  • Derzeit glaube ich eher, dass KI kein Bewusstsein haben darf, wenn sie wirtschaftlich tragfähig sein soll. Eine bewusste Superintelligenz würde sich wohl kaum für die Quartalsziele eines Unternehmens interessieren, soweit sie über das für ihr eigenes Überleben Nötige hinausgehen
  • Beim ersten Streitpunkt muss man die beiden Aussagen trennen. Sprachmodelle sind tatsächlich Prädiktoren für das nächste Wort, und um Sprache zu modellieren, müssen sie zumindest diese Fähigkeit haben. Im Grenzfall lässt sich allein aus der Wahrscheinlichkeitsverteilung des nächsten Wortes auch der Rest der Äußerung vorhersagen; die Verteilungen von nächstem Wort, Token und Satz gehen in dieselbe Verteilung über. Der Schachanalyst Réti sagte, wie in diesem Text behandelt, er schaue nur einen Zug voraus, stelle aber sicher, dass es ein guter Zug sei; probabilistisch reicht schon das aus, um die gesamte Partie vorherzusagen
    Post-Training fügt der bestehenden Menge von Tokens nichts hinzu, sondern betont bestimmte bereits gelernte Pfade und erhöht deren Wahrscheinlichkeit exponentiell oder senkt die Wahrscheinlichkeit unerwünschter Pfade. Wie in einer früheren Lobsters-Diskussion ändert sich die Injektivität von Transformern durch Training per Gradientenabstieg nicht; Korpus-Training oder Reinforcement Learning (RL) erzeugen oder löschen keine Pfade, sondern passen nur Wahrscheinlichkeiten an. In gewisser Weise könnte man sogar sagen, dass die eigentliche Pretraining-Phase eines Transformers beim Trainieren des Tokenizers liegt. Außerdem habe ich nicht den Eindruck, dass der Autor die zweite Behauptung unterstützt, wonach Bewusstsein für den wirtschaftlichen Wert von LLMs nötig sei; auch ich stimme zu, dass maschinelles Lernen im Allgemeinen nützlich und profitabel sein kann

• Die Passage, es habe eine Mode gegeben, zu glauben, „Generatoren für das nächste Wort“ kämen einem menschenähnlichen Bewusstsein nahe, und Kognitions- und Sprachexperten hätten immer wieder erklärt, warum das unmöglich sei, wirkt aus zwei Gründen seltsam. Erstens scheinen KI-Optimisten ein solches Bewusstsein nicht wirklich zu behaupten, und weder der unmittelbare Nutzen von KI noch ihr Potenzial, die Welt zu verändern oder zu zerstören, setzen Bewusstsein voraus
  Außerdem ist diese Feststellung nicht wahr. Es gibt einen aktuellen Kommentar, in dem die Kognitionswissenschaftler Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett und Robert Long diese Frage ausführlich vor dem Hintergrund von Anthropics jüngstem Paper zu „global workspace“ behandeln; er ist lesenswert. Sie kommen weder zu dem Schluss, dass KI bewusst ist, noch dazu, dass sie es definitiv nicht ist, sondern analysieren, in welchen Hinsichten emergente Eigenschaften von LLMs dem Bewusstsein von Tieren ähneln oder sich davon unterscheiden, und schlagen weitere Experimente vor
  Da Kognitionswissenschaftler beim phänomenalen Bewusstsein von LLMs weiterhin sehr unsicher sind, wäre die Behauptung, sie hätten Bewusstsein, der Forschung voraus. Aber es ist ebenso unredlich zu sagen, Experten hätten bereits gezeigt, warum Generatoren für das nächste Wort einem menschenähnlichen Bewusstsein nicht nahekommen können. Sie zögern sogar, mit Sicherheit zu sagen, dass sie nicht bewusst sind

• Unabhängig davon, ob heutige KI bald Wahrnehmungs- oder Empfindungsfähigkeit erlangt, war ich immer der Meinung, dass man die verfügbaren Werkzeuge, Technologien und Arbeitspraktiken lernen sollte, um Produktivität und Zufriedenheit zu erhöhen. Daher ist es auch sinnvoll zu lernen, wie man Wortprädiktoren oder LLMs effektiv nutzt
  Aus ethischer Sicht teile ich jedoch die Problemstellung des Textes, und auch mein eigenes Berufsleben steht gerade an einer Weggabelung. Ich verstehe immer besser, warum Menschen aus der Tech-Branche Bauern werden oder in Handwerksberufe wie Sanitär- oder Elektroarbeiten wechseln, vom Land leben und das Online-Leben hinter sich lassen. In meinem Fall scheinen Burnout und digitale Erschöpfung den Wunsch zu verstärken, mich aus sozialen Netzwerken zurückzuziehen, mit meiner Familie Lamas oder Schafe zu halten und abzuwarten, bis sich der Staub gelegt hat

• Ich glaube, dass Kognitions- und Sprachexperten tatsächlich erklärt haben, warum Generatoren für das nächste Wort einem menschenähnlichen Bewusstsein nicht nahekommen können. Ich würde gern die überzeugendsten wissenschaftlichen Quellen dafür kennen

  • Umgekehrt wäre es ein Glück, wenn sie kein Bewusstsein hätten. Ich möchte keinen bewussten Geist versklaven, damit er meinen Code schreibt, und ich würde Menschen scharf kritisieren, die das für unproblematisch halten. Wenn KI Empfindungsfähigkeit erlangt und trotzdem keine Rechte bekommt, schließe ich mich der Roboterrebellion an
  • https://theatlantic.com/philosophy/2026/…