LLM-Inevitabilismus
(tomrenner.com)- Inevitabilismus ist ein starkes Framing, das die Richtung des Diskurses festlegt, indem es so tut, als müsse eine bestimmte Zukunft zwangsläufig eintreten
- In Bezug auf die Zukunft von AI und LLMs behaupten prominente Stimmen, „eine solche Zukunft sei unvermeidlich“, und erzeugen damit Druck, sich entsprechend anzupassen
- Dieses Framing behandelt Widerspruch oder Widerstand als „unrealistisch“ und geht tatsächlich mit einem psychologischen Effekt der Entmündigung bei der Wahlfreiheit einher
- Der Autor stellt infrage, ob LLMs oder AI wirklich die Zukunft sind, die wir wollen, und betont, dass wir selbst entscheiden müssen, welche Zukunft wir wollen und welche Technologien wir wählen
- Er ruft dazu auf, sich nicht vom Frame der Unvermeidlichkeit mitreißen zu lassen, sondern die Zukunft, die man will, aktiv zu durchdenken und umzusetzen
Die Macht des Framings der Unvermeidlichkeit
- Wenn man mit jemandem diskutiert, der sehr gut debattieren kann, wird man ständig von unerwarteten Punkten aus dem Konzept gebracht
- Man verteidigt nur noch die schwachen Stellen der eigenen Argumentation, während der Kern im Verlauf untergeht
- Am Ende verliert man den roten Faden und das Selbstvertrauen und gerät in der Debatte ins Hintertreffen
- Ein Freund, der während des Studiums einen internationalen Debattierwettbewerb gewann, betonte als Strategie, zuerst den Frame zu setzen
- Also den Rahmen des Gesprächs mit den eigenen Begriffen und der eigenen Logik festzulegen. Wer den Frame kontrolliert, für den ist der Ausgang der Debatte praktisch schon entschieden
Surveillance Capitalism und „Inevitabilismus“
- Beim Lesen von Shoshana Zuboffs 『The Age of Surveillance Capitalism』 lernte der Autor den Begriff „Inevitabilism“ kennen
- Schon einem Konzept einen Namen zu geben verleiht große Kraft dabei, eine Debatte zu strukturieren und ein Problembewusstsein zu teilen
- „Inevitabilismus“ bezeichnet eine Denkweise, die behauptet, eine bestimmte Zukunft werde sich zwangsläufig verwirklichen, und dadurch bloße Vorbereitung auf Gegenmaßnahmen als einzig rationale Wahl erscheinen lässt
- Auf diese Weise werden Gegenpositionen als Leute abgestempelt, die „die Realität ignorieren“, und nur Diskussionen anerkannt, die den Frame bereits akzeptiert haben
Konkrete Beispiele für AI-Framing als Unvermeidlichkeit
> „Wir werden in eine Welt eintreten, in der wir mit AI koexistieren“ — Mark Zuckerberg
> „AI ist die neue Elektrizität“ — Andrew Ng
> „Nicht AI wird Menschen ersetzen, sondern Menschen, die AI nutzen, werden Menschen ersetzen, die sie nicht nutzen“ — Ginni Rometty
- Solche Aussagen erzeugen die Atmosphäre, dass das AI-Zeitalter bereits eine beschlossene Zukunft ist
- Der Fokus der Debatte verschiebt sich von „Ist das die Zukunft, die wir wollen?“ zu „Wie passen wir uns an eine unvermeidliche Zukunft an?“
- Darin steckt auch ein bedrohlicher Unterton, der psychologisch nahelegt: „Wenn du dich verweigerst, verlierst du“ oder abweichende Meinungen seien „dumm“
Wahlfreiheit und Handlungsmacht
> "Ich bin nicht sicher, ob LLMs wirklich die Gestalt der Zukunft sind und ob diese Zukunft das ist, was ich mir wünsche"
- Dennoch hat jede und jeder von uns das Recht, die Gestalt der Zukunft und die Art des Technikeinsatzes zu wählen
- Wir müssen darauf achten, dass uns der Frame des Inevitabilismus nicht unsere Wahlmöglichkeiten nimmt
- Es braucht die Haltung, über die Zukunft nachzudenken, die man will, und für diese Zukunft zu kämpfen
Fazit
- Wenn wir auf Technologie und Zukunft blicken, sollten wir uns nicht passiv vom Frame der Unvermeidlichkeit mitreißen lassen
- Nötig ist eine Haltung, die von jeder und jedem verlangt, sich aktiv eine bessere Zukunft vorzustellen und sie in die Praxis umzusetzen
1 Kommentare
Hacker-News-Kommentare
Ich denke, dass zwei Dinge gleichzeitig zutreffen können.
Wie beim Überschall-Passagierflugzeug verschwinden Technologien, die „unvermeidlich“ wirken, oft wieder, wenn ihnen ein tragfähiges Geschäftsmodell fehlt, oder sie landen wie die Mikrowelle in einer Nischenrolle. Wenn kein ausreichend profitables Modell entsteht, werden LLMs sich vermutlich an einem weniger besonderen und weniger störenden Platz einpendeln als heute. Die Versuche, mit Gewalt überall LLMs einzubauen, kommen nicht besonders gut an.
Ich denke, der Vergleich mit Überschall-Passagierflugzeugen trifft auch auf KI oder sogar auf Computer und das Internet insgesamt zu.
Früher wirkte die Technik für Überschall-Passagierflüge erstaunlich und so, als würde sie sich zwangsläufig ausbreiten, aber dahinter verbargen sich Probleme, die mit der damaligen Technologie nicht lösbar waren, sowie fehlende Rentabilität.
Vielleicht könnten Computer und Internet einen ähnlichen Verlauf nehmen wie die Luft- und Raumfahrtindustrie. Vielleicht haben wir den technologischen Höhepunkt bereits fast erreicht.
Wenn man in den 1970ern mit einer Zeitmaschine ins Jahr 2025 gereist wäre und dort gesehen hätte, dass Überschall-Passagierflugzeuge verschwunden sind und die Luftfahrt im Grunde unverändert, nur nerviger geworden ist, hätte das damals niemand geglaubt.
Vielleicht schauen wir also 2075 eine Dokumentation über LLMs und erinnern uns daran, warum eine so vielversprechende Technologie fast verschwunden ist.
Der Aussage „Die meisten Menschen stimmen zu, dass LLM-Ergebnisse banal und unangenehm zu konsumieren sind“ stimme ich überhaupt nicht zu. Tatsächlich mögen die Leute die Ergebnisse von LLMs ziemlich sehr, sonst wäre ChatGPT nicht die am schnellsten wachsende App aller Zeiten geworden. KI-Apps wie Perplexity beginnen sogar, Googles Dominanz bei der Suche zu bedrohen.
Natürlich wird die breite Masse nicht absichtlich einen von ChatGPT geschriebenen Roman oder Gedichtband kaufen, aber das heißt nicht, dass die Ergebnisse schwer lesbar wären oder nur Abneigung hervorriefen. Dass sie klare und leicht lesbare Zusammenfassungen und Erklärungen liefern, lässt sich schwer bestreiten.
Dein zweiter Punkt verwirrt mich. Ich weiß nicht, ob es stimmt, dass LLM-Firmen mit den aktuellen Modellen kein Geld verdienen. OpenAI kommt auf 10 Milliarden Dollar ARR und 100 Millionen MAU. Natürlich machen sie derzeit Verlust, aber das ist eben der Preis dafür, die Modelle weiter zu verbessern. Wenn sie ab heute die Modellverbesserung stoppen und sich auf Kostenoptimierung und die Monetarisierung ihrer riesigen Nutzerbasis konzentrieren würden, ist fraglich, ob man dann noch sagen könnte, es gebe kein erfolgreiches Geschäftsmodell. Die Leute nutzen diese Werkzeuge bereits jeden Tag. Das ist unvermeidlich.
Die Kernaussage des Beitrags ist im Grunde dieselbe wie in der Perspektive „AI as Normal Technology“.
AI as Normal Technology
Diskussionslink dazu
Beim Punkt „Es gibt viele Fälle, in denen Technologien, die unvermeidlich schienen, am Ende wegen mangelnder geschäftlicher Tragfähigkeit zurückfielen“ denke ich, dass auch mehr als 120 Kabelfernsehkanäle bei ihrer Einführung wie eine gute Idee wirkten, in der Praxis aber ähnlich wie bei LLMs der Großteil der Inhalte niemanden interessierte.
Eine der negativen Folgen des modernen säkularen Zeitalters ist die Tendenz, dass sehr intelligente und nachdenkliche Menschen Tausende Jahre philosophischen und religiösen Denkens leichtfertig als veraltet oder nutzlos abtun und ignorieren. (Nebenbei: Ich empfehle das Buch <A Secular Age> sehr.)
Diese Haltung führt dazu, dass Menschen wiederkehrende psychologische Muster in unserem Blick auf die Welt und die Zukunft nicht erkennen und ihre eigene Position auf Basis dieser Einsicht auch nicht korrigieren.
Zum Beispiel unterscheidet sich KI-Inevitabilismus kaum von der Prädestinationslehre der Reformationszeit. Die Vorstellung, dass Geschichte einem vorbestimmten Pfad folgt, ist psychologisch dasselbe Muster, nur dass das Subjekt von Gott auf Technologie verschoben wurde. Es ist eine psychische Struktur, die Freiheit und Verantwortung auf eine vage, mächtige Kraft abwälzt, heute eben auf Technologie.
Ich bin zwar skeptisch gegenüber der Behauptung, AGI werde bald den Ton angeben, aber als jemand, der in seiner Jugend viel Theologie gelesen hat, halte ich populäre Essays wie auf LessWrong nicht für religiös oder für Texte von Menschen mit zu wenig Lektüre. Die Sichtweise „Sie haben jetzt einen neuen Gott!“ ist ein gängiges Ablenkungsmanöver. Natürlich mag das auf einen Teil der AGI-Inevitabilisten zutreffen, aber es bringt wenig, sich nur auf die schwächsten Positionen zu konzentrieren.
Mir kommt sofort das Bild „Techno-Calvinists gegen Luddite Reformists“ in den Sinn.
Ich glaube, diese Tendenz entsteht aus dem Fehlen großer Erzählungen oder Ideologien. Es gibt viele kluge Menschen in der Tech-Welt, die kein Interesse an philosophischem oder religiösem Denken haben, aber etwas Neues schaffen wollen.
Sie jagen immer mehr Geld hinterher und einige erkennen irgendwann, dass auch diese Jagd letztlich leer ist. Trotzdem glauben sie, über diesem allgemeinen menschlichen Problem zu stehen.
In dieser Verzerrung recyceln sie bestehende Kunst, bauen Apps, die mit der Zeit immer schlechter werden, ignorieren die eigentliche kreative Freude, die Menschheit zu verbessern, und konzentrieren sich nur noch auf das Erbeuten von Wohlstand.
LLMs und KI sind zwar wie ein Geist aus der Flasche, in Wirklichkeit werden sie sich aber eher wie die lineare Perspektive oder der Buchdruck einordnen als wie die Elektrizität. In der heutigen Kultur wäre das so, als hätte Leonardo da Vinci sein ganzes Leben nur Tutorials zur linearen Perspektive verkauft.
Das ist kein völlig neues Phänomen, sondern nur ein neuer „Gegenstand des Schreckens“, den Prädestinationsgläubige ihrer Argumentation hinzufügen.
Mein Ziel ist lediglich, auf dieses Phänomen hinzuweisen. Die Menschen lehnen Prädestination aus Physik oder Religion ab, reagieren aber trotzdem immer noch ehrfürchtig auf die Behauptung: „KI ist unvermeidlich.“
Der zentrale Punkt des Artikels ist doch eher, dass „Inevitabilismus“ eine rhetorische Strategie ist, mit der man das Gespräch zu den eigenen Gunsten lenkt und Kritik als „Verweigerung der Realität“ abtut. Der Vergleich mit reformatorischer Ideologie ist aus meiner Sicht nicht besonders sinnvoll.
Außerdem steckt Ironie in der hier vorgeschlagenen Analogie einer „säkularen Prädestination“.
Die protestantische Prädestinationslehre ist nicht dasselbe wie das Ausweichen vor Freiheit und Verantwortung. Ihr Kern ist, dass Gottes Gnade etwas ist, das man empfängt, nicht etwas, das man sich verdient, und sie rechtfertigt keine Untätigkeit. Im Gegenteil führt sie dazu, dass Menschen in ihren guten Werken nach Zeichen ihrer Erwählung suchen.
Das verbindet sich mit einer „Fleißethik ohne unmittelbare Belohnungserwartung“ und wurde bei Max Weber sogar als Antrieb des frühen Kapitalismus beschrieben.
Deshalb sind Prädestination und „technologischer Inevitabilismus“ in Wirklichkeit sehr unterschiedliche Konzepte.
Ähnliche Diskussionen findet man auch im Historizismus, etwa bei Hegels „notwendigen Gesetzen der Geschichte“.
Ich habe die Ahnung, dass für unsere Kinder oder Enkel in den USA eine Gesellschaft bevorsteht, in der die Service- und Informationsökonomie die gesamte Fertigung ins Ausland verlagert hat und enorme technische Fähigkeiten in den Händen weniger konzentriert sind.
Niemand, der das Gemeinwohl vertreten soll, versteht technische Fragen, und die Menschen verlieren auch das Wissen, um eigene Themen zu setzen oder die Mächtigen zu kritisieren.
Die Leute halten Kristalle in der Hand und verlassen sich auf Astrologie, kritisches Denken verkümmert, und fast unbemerkt gleiten wir in Aberglauben und Dunkelheit ab, wobei sogar die Grenze zwischen Wohlgefühl und Wahrheit verschwimmt.
Ich finde dieses Zitat hier zwar nicht ganz passend, aber für alle, die sich für die Quelle interessieren: Es stammt aus The Demon-Haunted World.
Wenn ich diese Passage lese, höre ich dabei förmlich die Stimme.
Sie hat einen unverwechselbaren Tonfall, der nie banal wird, egal wie oft andere ihn nachahmen.
Wenn jemand 2009 gesagt hätte, die Dominanz des Smartphones sei unvermeidlich, dann doch deshalb, weil er ein Smartphone bereits benutzt und seine Macht selbst erlebt hatte, nicht weil er mit irgendeiner Absicht den freien Willen verzerren wollte.
Wenn man 2025 tatsächlich mit KI reale Arbeit erledigt, wird man kaum noch bestreiten können, dass ihre breite Einführung unvermeidlich ist. KI kommt schneller und mit mehr Wucht als alles zuvor in der Geschichte. Man kann nicht einfach wegsehen, nur weil es einem Angst macht.
Wer in den 80ern behauptet und investiert hat, KI sei unvermeidlich, oder wer vor zehn Jahren glaubte, VR werde zum Mainstream, kann sich anschauen, wie das ausgegangen ist. Zuck verbrennt noch immer Milliarden, und auch Apple lag mit seiner Nachfrageprognose komplett daneben.
AR könnte VR retten, aber der Eintritt in den Massenmarkt liegt noch weit entfernt, und der Großteil der für VR aufgebauten Technologie hat mit AR wohl wenig direkt zu tun.
Auch der Mythos vom autonomen Tesla-Robo-Taxi existiert seit zehn Jahren, aber es gibt immer noch keinen Tesla, der herrenlos Geld verdient.
Rückblickend nur bereits erfolgreiche Technologien als Beispiel zu nehmen, ist töricht. Es gab zahllose Technologien, die nicht erfolgreich wurden, ebenso wie viele Investitions- und Branchenblasen.
Genau diese Argumentationsweise ist die rhetorische Strategie, die im Text beschrieben wird.
Erinnern wir uns an die Zeit, als von einem extrem revolutionären und unvermeidlichen Fortbewegungsmittel die Rede war. Hype, Geheimtreffen, riesige Erwartungen … und am Ende war das Ergebnis der Segway.
Das wirkt wie eine Art selbsterfüllende Prophezeiung. Die großen Tech-Konzerne stopfen „AI“ mit Gewalt in jedes Produkt und sagen dann: „Seht ihr, es wird so breit genutzt, also ist es unvermeidlich!“
Ich denke auch, dass KI unvermeidlich ist, aber im Moment ist das Gruppendenken so extrem, dass alles als Agenten-UI auf Sprechblasenbasis dargestellt wird.
Wenn wir diese Phase hinter uns gelassen haben, bin ich gespannt darauf, was als Nächstes entdeckt wird.
Wenn 1950 jemand gesagt hätte, Smartphones würden Mainstream werden, hätten die meisten das wohl leicht geglaubt. Solche Zukunftsbilder kamen in Science-Fiction-Romanen und Filmen oft vor.
Bei Social Media wäre die Reaktion aber anders ausgefallen. Manche hätten es cool gefunden, andere dystopisch.
Tatsächlich haben alle drei Dinge – Smartphones, Social Media und KI – schon vor den 50ern die Vorstellungskraft der Menschen angeregt.
In Wirklichkeit ähnelt KI weniger einem hochentwickelten Kommunikationsgerät als eher der vorgestellten Form von Social Media.
In den 1950ern galt auch Nukleartechnik als unvermeidlich. Es wurden sogar Geschirrsets aus Uranglas verkauft, die vielleicht noch heute irgendwo im Regal eines Hauses leuchten – oder längst zerbrochen sind.
Es könnte ein „LLM-Winter“ bevorstehen.
Nämlich dann, wenn die Menschen begreifen, dass LLMs tatsächlich bestimmte Dinge nicht „tun können“.
Unternehmen könnten anfangen, die Verantwortung für Fehler von LLMs auf Verbraucher abzuwälzen.
Wir brauchen Systeme, die ehrlich ausgeben: „Ich weiß es nicht“ oder „Ich kann diese Aufgabe nicht ausführen“.
Es gibt bereits Berichte, dass der Einsatz von LLMs Programmierern sogar einen negativen Nettowert bringt.
Es kostet zu viel Zeit, hinter den Spuren der LLMs aufzuräumen.
Das Abschieben der Verantwortung für LLM-Fehler auf Verbraucher ist nicht nur Sache der Unternehmen.
Auch die eifrigen Nutzer dieses Forums – oder vielleicht Cyber-PR-Leute – zeigen dieselbe Haltung.
Sie behaupten, um aus LLMs Wert zu ziehen, brauche man ein gewisses Maß an Wissen und Fähigkeiten im „Prompt Engineering“ – inzwischen sogar umbenannt in „Context Engineering“.
Letztlich wird so getan, als liege der Unterschied zwischen Menschen, die das Werkzeug als Zeitverschwendung erleben, und jenen mit großen Produktivitätsgewinnen allein am Können des Nutzers.
Diese Erzählung steckt überall drin: in Blogs, Foren und sogar in Fehlinterpretationen der jüngsten METR-Ergebnisse.
Natürlich braucht jedes Werkzeug ein gewisses Maß an Kompetenz, um es voll auszuschöpfen.
Aber pauschal zu sagen, jemand profitiere nur deshalb nicht von LLMs, weil er unfähig sei, ist beleidigend.
LLMs sind keine außerirdische Technologie, die besondere Engineering-Expertise erfordert.
Jeder kann lernen, damit umzugehen, wenn er die richtigen Fragen stellt und ein wenig über die Werkzeuge und Konzepte lernt.
Wer so argumentiert, will am Ende meist LLMs verkaufen oder die Wirkung der Technologie künstlich aufblähen.
Menschen selbst sind ebenfalls nicht zuverlässig, deshalb gibt es Leitplanken, Prüfungen, Aufsicht und Audits.
In der Software gibt es Best Practices wie Code-Review, Tests und Monitoring genau aus diesem Grund.
Deshalb konnten LLMs gerade in der Softwareentwicklung am schnellsten Fuß fassen.
Es gibt bereits erprobte Wege, mit unzuverlässigen menschlichen „Arbeitern“ umzugehen, und diese Erfahrung lässt sich auf LLMs übertragen.
Der Schlüssel für erfolgreiche LLM-Anwendungen liegt letztlich darin, geschäftsspezifische Guardrails einzubauen und ein System zu schaffen, in dem bei Bedarf Menschen eingreifen.
Man muss LLMs in Systeme einbinden, die ihr Verhalten zwingen, korrekt zu sein.
Man kann etwa verlangen, dass das LLM in Dokumenten oder man pages nachschlägt und nur bestimmte Zeilen ausgibt.
Dann sucht das System diese Zeilen tatsächlich heraus und zitiert sie, und das LLM kann keine Zitate erfinden.
Es gibt bisher keine Integration von LLMs mit Typsystemen.
Ein starkes Typsystem, etwa mit abhängigen Typen, kann schon beim Kompilieren garantieren: „Diese Funktion gibt immer eine sortierte Liste zurück.“
Man müsste zwar viel Beweiscode selbst schreiben, aber wenn ein LLM diese Beweise stattdessen schreibt, könnte man dem Ergebnis vertrauen, solange es kompiliert.
Natürlich gibt es Ausnahmen wie Speichermangel oder Stromausfall.
Ich hoffe, dieser Boom des „Produzierens minderwertiger Ergebnisse“ endet schnell.
Für Betrüger, Spammer, Clickbait-Blogger, Wahlbeeinflusser und Leute, die mit billigen Apps, Musik, Videos oder „Kunst“ Werbeeinnahmen erzielen wollen, ist heutige Gen AI jedoch das perfekte Produkt.
Selbst wenn qualitätsbewusste Menschen erkennen, dass KI nutzlos ist, könnte das Internet dann schon tot sein.
Dann leben wir bereits in einem Zeitalter von „Post-Wahrheit“, „Post-Kunst“, „Post-Technologie“ und „Post-Demokratie“, und wirklich profitiert haben nur ein paar Milliardäre in Kalifornien.
Kaum etwas ist deprimierender, als zuzusehen, wie kluge Menschen ihr Talent darauf verwenden, wertlosen Müll zu produzieren, der gesellschaftlichen Wert zerstört.
In den 90ern hörte ich zum ersten Mal von einem Freund vom Internet, und als ich hörte, dass jemand an der Uni es mir zeigen könnte, saß ich eine Stunde später vor einem Uni-Computer.
Ich klickte Links an, sah Text in atemberaubender Geschwindigkeit erscheinen, schöne Layouts, Bilder und Links zu anderen Webseiten. Dass man Dinge sofort sehen konnte, ohne Druck, Versand oder Warten, hat mich umgehauen. Ich war sicher: Das ist die Zukunft. Es wirkte einfach unvermeidlich.
Gestern musste ich ein Programm wegen einer großen Bibliothek komplett umschreiben und hätte dafür lange Dokumentationen lesen oder den Code selbst durchforsten müssen.
Stattdessen habe ich GPT 4.1 das gesamte Programm und die komplette Bibliothek hineinkopiert und es gebeten, alles neu zu schreiben. Es funktionierte auf Anhieb, und nach 15 Minuten hatte ich alle Änderungen gelesen und nur noch ein paar Stilfragen angepasst. Das hat mir Stunden gespart. Das fühlte sich wie die Zukunft an und ebenfalls unvermeidlich.
P.S. Viele Antworten vergleichen meine Erfahrung mit schrittweisen Codeänderungen im Gespräch mit einem LLM („agentic coding“), aber ich arbeite nach dem Prinzip „eine Datei auf einmal, keinen Code anfassen“. Details hier.
Ich stimme völlig zu, aber im Grunde ist das kaum etwas anderes, als zu sagen, Programmieren mit einer IDE sei die Zukunft.
Beim Inevitabilismus geht es im Kern nicht darum, dass ein neues und mächtiges Entwicklungswerkzeug die Produktivität um Stunden steigert, sondern darum, wer als Vermittler von Wissen fungiert, wie Wissensarbeit definiert wird, wie sich die Beziehung zwischen Arbeitgeber und Arbeitnehmer verändert und welche Überwachungsmechanismen entstehen.
Diejenigen, die Inevitabilismus verbreiten, versuchen nicht, hartnäckige Entwickler zu überzeugen, sondern ein neues „Spielfeld“ zu schaffen, das ihnen nützt. Und wer die Regeln nicht mag oder ablehnt, wird mit „Kann man nichts machen, das ist unvermeidlich, so ist es eben“ abgefertigt.
Das Problem mit LLMs beginnt dort, wo man sie für kreatives Denken oder Nachdenken einsetzt.
Sie sind in vielen Kontexten tatsächlich nützlich, besonders beim Codieren, aber das macht sie noch nicht zu einer Technologie, die „alles verändert“.
Auch die Behauptung „AI is the new electricity“ ist übertrieben (unter Verweis auf eine Aussage von Andrew Ng, der betont, dass KI eben nicht wie Elektrizität sein wird).
Für mich ist „AI is the new VBA“ der passendere Satz. Damals hieß es ebenfalls begeistert: „Jetzt kann jeder programmieren!“, aber in der Praxis hatte das vor allem für kleine Automatisierungen große Wirkung. Heute ist alles viel schneller und der Hype viel größer, aber das Grundmuster ist ähnlich.
LLMs funktionieren eben nicht immer gut.
Ich hatte neulich zum Beispiel das merkwürdige Problem, dass eine VirtualBox-VM unter Windows 10 plötzlich viermal langsamer lief.
Ich bin mit Hilfe von KI mehrere Lösungswege durchgegangen, ohne Erfolg.
Am Ende stellte sich heraus, dass in den Windows Features das Häkchen bei „Virtual Machine Platform“ plötzlich entfernt war.
Als ich das der KI sagte, behauptete sie weiterhin, diese Option werde nicht benötigt und es sei sogar besser, wenn sie deaktiviert sei.
Tatsächlich lag genau darin aber das Problem, und nach dem Aktivieren und einem Neustart lief alles wieder normal.
KI liegt nicht nur bei tiefem Schlussfolgern auf Basis von gesundem Menschenverstand daneben, sondern scheitert sogar an einfachen assoziativen Erinnerungen.
Wer sie als Ersatz für Websuche nutzt, muss zwingend Fakten prüfen.
LLM-basierte KI hat keinen Begriff von „Fakten“. Sie sagt nur Token vorher und produziert abhängig von Eingabe und Trainingsdaten Ausgaben, die zufällig mit höherer Wahrscheinlichkeit korrekt sind.
Dem LLM-Inevitabilismus stimme ich voll zu. Ich halte die Zukunft, in der praktisch jeder solche Systeme täglich nutzt, für unvermeidlich – ähnlich wie beim Smartphone.
Dem AGI-Inevitabilismus stimme ich jedoch nicht zu. Die Behauptung „Die Modelle werden immer besser, also ist AGI unvermeidlich“ ist ein unzulässiger Schluss vom Prozess auf das Ergebnis.
Bist du sicher, dass der Code wirklich korrekt funktioniert?
Was, wenn du nur mit KI arbeitest und nie gelernt hast, Code selbst zu lesen?
Die Fähigkeit, Code eigenständig zu lesen und zu verifizieren, ist viel wichtiger.
In einem früheren Job hörte ich einmal die Geschichte von jemandem, der einen Bug in der Firmware zur Klappensteuerung eines Flugzeugherstellers fand und auf dem Weg dorthin, um das Problem zu erklären, genau in einem Flugzeug saß, das eben diese fehlerhafte Firmware verwendete.
Das Schwierigste an dieser Logik des Unvermeidlichen ist, dass diejenigen, die „Es ist unvermeidlich“ sagen, oft dieselben sind, die Hunderte Millionen Dollar in Entwicklung, Nutzung und Werbung dafür stecken.
Es ist, als würden Füchse Türen in den Hühnerstall einbauen und sagen: „Dass Füchse hineingehen, lässt sich ohnehin nicht verhindern. Also ist es besser, daraus ein System für alle zu machen.“
Die Strategie „put your money where your mouth is“ finde ich grundsätzlich in Ordnung.
Man kann sich fragen, ob sie wirklich erst die „Tür“ bauen oder ob die Tür ohnehin schon da ist und sie nur als Erste hindurchwollen.
Stimme zu. Wir sollten den Füchsen nicht helfen, sondern sie eher vertreiben.
Zwei Dinge sind ziemlich klar.
Wie der Artikel sagt, bringt es wenig, innerhalb des von CEOs vorgegebenen Rahmens zu debattieren. Sie sprechen meist zum Markt, während wir die Leute sind, die verstehen, wie die Technik funktioniert. Deshalb sollten wir LLMs objektiver bewerten und unseren eigenen Rahmen entwickeln.
Aus meiner Sicht sind LLMs einfach eine weitere Evolutionsstufe von Software-Werkzeugen. Dass LLMs ohne Mühe brauchbaren Code schreiben können, mag verblüffend und bedrohlich wirken, aber jahrzehntelang wurden endlos wiederholte CRUD- und Business-Logik-Aufgaben verlangt, und dass ein riesiger probabilistischer Generator aus all diesen Beispielen mit genug Kontext und Prompt neue Kombinationen bilden kann, ist letztlich nicht so erstaunlich.
Ich will als Techniker verstehen, wie LLMs mir bei meinen Zielen helfen können. Wenn ich sie nicht will, nutze ich sie eben nicht, aber ich sollte ihre sich verändernden Fähigkeiten weiter beobachten, damit meine Entscheidung fundiert bleibt.
Angesichts des großen Hypes werde ich keinen sinnlosen Kreuzzug führen, nur weil ich an der Vergangenheit hänge oder etwas für wünschenswerter halte.
Menschen kommunizieren gern in natürlicher Sprache.
LLMs sind der erste Schritt weg von logischen Sprachen und komplizierten Interfaces zur Kommunikation mit Computern, wie wir sie seit den frühen Tagen des Internets kennen.
Daraus ergibt sich hier der Inevitabilismus: Die meisten Menschen wollen gar nicht lernen, wie man Computer benutzt; sie wollen einfach mit ihnen sprechen, als wären sie lebendig.
(Ich nehme an, weniger als 5 % mögen Computer wirklich aus tiefstem Herzen.)
Menschen erwarten aber auch verlässliche und deterministische Antworten. Wenn sie einen Knopf drücken, möchten sie fast immer dasselbe Ergebnis sehen und nicht mit 10 % Wahrscheinlichkeit irgendeinen Unsinn erhalten.
Ob LLMs diese Stabilität jemals erreichen, ist noch unklar.
„Der erste Schritt weg von logischen Sprachen“ … logische Sprachen waren gerade deshalb ein so großer Fortschritt, weil sie deterministische Implementierungen ermöglichen und damit den Aufbau von Abstraktionen.
Natürliche Sprache liegt diesem Ziel so fern, dass man es kaum kurz erklären kann.
Wer denkt „Aber Menschen erreichen doch auch mit Sprache Abstraktion“, sollte einmal einen echten Gesetzestext lesen, zum Beispiel den vollständigen Text dieses Gesetzentwurfs im Repräsentantenhaus.
Ich bin eher überrascht, dass die Umsetzung natürlicher Sprache als UI nicht noch stärker begrüßt wird.
Natural-Language-UI war ein lang gehegter unerfüllter Traum der Informatik, und jetzt wirkt sie fast schon zu selbstverständlich.
Vielleicht sind LLMs nicht das Beste für Coding, Schreiben oder Recherche, aber ich hoffe sehr, dass diese UX erhalten bleibt.
Ein Problem frei in Sprache ausdrücken zu können und dabei sogar Abkürzungen, Slang und Tonfall präzise zu übertragen, ist wirklich erstaunlich und praktisch.
„Die Alltagssprache ist völlig ungeeignet, die Abstraktionen eines Physikers in angemessener Allgemeinheit auszudrücken. Nur Mathematik und mathematische Logik können das, was der Physiker sagen will, so knapp ausdrücken wie seine Absicht es verlangt.“
– Bertrand Russell, The Scientific Outlook (1931)
Es gibt einen Grund, warum wir in der Mathematik keine natürliche Sprache mehr verwenden. Sie ist viel zu wortreich und extrem ungenau.
Wenn es eine Möglichkeit gäbe, Verträge in natürlicher Sprache eindeutig zu formulieren, hätten Anwälte sie längst gefunden.
Wir verschwenden einen erheblichen Teil des BIP durch unterschiedliche Auslegung von Verträgen.
Dieses Konzept steht in engem Zusammenhang mit der von Timothy Snyder beschriebenen „Politik der Unvermeidlichkeit“.
Sie ist eine Weltanschauung, nach der die Zukunft bloß eine Verlängerung der Gegenwart ist, die Gesetze des Fortschritts bereits bekannt sind, es keine Alternativen gibt und wir deshalb nichts zu tun haben.
Der Artikel wendet dieses Konzept auf den kommerziellen Bereich an, aber im Kern geht es um eine Sprache, die Menschen ihre Handlungsfähigkeit nimmt.
Verwandter Artikel