Auslagerung des Denkens (Outsourcing thinking)

• Die Nutzung von Large Language Models (LLMs) kann laut Kritik die kognitiven Fähigkeiten des Menschen schwächen; die bloße Behauptung, man müsse sich keine Sorgen machen, weil es unendlich viel zum Nachdenken gebe, ignoriert die Komplexität des Problems
• Wenn LLMs beim persönlichen Schreiben und in der Kommunikation eingesetzt werden, wird das Wesen der Sprache, in der Bedeutung und Ausdruck untrennbar sind, beschädigt, und Menschen werden der Chance beraubt, ihre eigene Stimme zu finden
• Auch alltägliche Tätigkeiten wie Urlaubsplanung, Partyvorbereitung oder das Verfassen persönlicher Nachrichten sind an sich wertvolle Erfahrungen; ihre Automatisierung birgt das Risiko, den Sinn des Lebens zu verkleinern
• Selbst in repetitiven und langweilig wirkenden Aufgaben entsteht implizites Wissen (tacit knowledge); wenn man sie nur im Namen der Effizienz an Chatbots delegiert, entstehen langfristig Verluste
• Die angemessene Reichweite des Chatbot-Einsatzes festzulegen, ist keine Frage der Effizienz, sondern eine Frage von menschlichen Werten und der Richtung der Gemeinschaft

---

Einleitung: Hintergrund und Problembewusstsein

• Es gibt Kritik daran, dass der Einsatz von LLMs kognitive Fähigkeiten schwächen könne, und für manche Technologien und Fähigkeiten ist das Prinzip „use it or lose it“ intuitiv und erfahrungsbasiert überzeugend
• Andy Masleys Text The lump of cognition fallacy weist darauf hin, dass schon die Vorstellung irrig ist, die Gesamtmenge des Denkens sei fix; da Denken neues Denken hervorbringe, werde menschliches Denken nicht geringer, nur weil man einen Teil Maschinen überlasse
• Dieser Text nimmt Masleys Argumentation als Ausgangspunkt, will aber erklären, dass die Auslagerung des Denkens keine bloße Effizienzfrage ist, und ihre Komplexität sowie langfristigen Auswirkungen beleuchten

Wann man LLMs besser meiden sollte

• Masley nennt folgende Fälle, in denen „kognitives Outsourcing schädlich ist“
  • Tätigkeiten, die komplexes implizites Wissen aufbauen, das man zum Leben in der zukünftigen Welt braucht
  • Handlungen, die Fürsorge und Präsenz gegenüber anderen ausdrücken
  • Erfahrungen, die an sich wertvoll sind
  • Fälle, in denen Fälschung oder Stellvertretung eine Täuschung darstellt
  • Situationen, in denen das Ergebnis sehr wichtig ist und vollständiges Vertrauen in das Ausgelagerte schwerfällt
• Dieser Liste wird weitgehend zugestimmt, doch das Problem ist, dass Tätigkeiten in diesen Kategorien viel breiter sind als gedacht; genau hier zeigt sich der grundlegende Unterschied zu Masley

Persönliche Kommunikation und Schreiben

• Nicht nur in intimen Situationen wie Nachrichten auf Dating-Apps, sondern in persönlicher Kommunikation insgesamt hat die Art des Ausdrucks eine wesentliche Bedeutung
• Kommunikation enthält Erwartungen, die auch unausgesprochen geteilt werden; sobald eine Maschine den Ausdruck übernimmt, glättet oder verändert, werden diese Erwartungen verletzt
• Da schon in Wortwahl und Satzbau viel Bedeutung steckt, verschlechtert der Eingriff von LLMs die Qualität direkter Kommunikation
• In den norwegischen Medien wurde kontrovers diskutiert, dass bei öffentlichem Schreiben LLMs eingesetzt wurden, ohne dies offenzulegen; das zeigt, wie nötig es ist, Erwartungen an Kommunikation wieder klarer zu definieren
• Zwei Einwände gegen das Argument, LLMs würden Nicht-Muttersprachlern oder Menschen mit Lernbeeinträchtigungen beim Ausdruck helfen
  • In den meisten Fällen lassen sich Bedeutung und Ausdruck nicht trennen; Worte und Sätze selbst sind bereits Bedeutung
  • Wenn man den Ausdruck an Maschinen delegiert, verringern sich Wachstums- und Lernchancen, und man verliert die Gelegenheit, die eigene Stimme zu entdecken
• Die Grenze zwischen Rechtschreib- und Grammatikprüfung und einem LLM, das faktisch den Text übernimmt, ist übermäßig schmal und mit den heutigen Chatbot-Oberflächen schwer zu ziehen
• Aus pragmatischer Sicht wollen viele LLMs für mehr Arbeitseffizienz nutzen, doch die Qualität der Texterzeugung in nichtenglischen Sprachen wie Norwegisch ist nach wie vor sehr niedrig (siehe Bericht des norwegischen Sprachrats)
• Beim Verfassen bürokratischer Texte wie Beschwerden oder Versicherungsanträgen wirken LLMs zwar nützlich, doch was passiert, wenn alle Beteiligten Wortgeneratoren einsetzen, bleibt unklar
• Tatsächlich lässt sich beobachten, dass bei Praktika, Forschungsvorschlägen und Bewerbungen die Zahl der Einreichungen stark steigt, die Gesamtqualität aber sinkt
• Wenn Studierende in Gemeinschaftsprojekten denselben Chatbot nutzen, nimmt die Vielfalt der Ideen drastisch ab
• Schreibkompetenz verbessert sich nur durchs tatsächliche Schreiben; für Denkfähigkeit gilt dasselbe
• Funktionale Texte wie Code, Rezepte, Anleitungen oder Dokumentation sind von diesen Problemen vergleichsweise weniger betroffen
• Dagegen bestehen bei Texten, die ein persönlicher Autor an ein menschliches Publikum richtet, eigene Rollenerwartungen und Vertrauen; wenn dieses Vertrauen erodiert, kann das ein Verlust für die Menschheit insgesamt sein

Wertvolle Erfahrungen

• Jedes Mal, wenn Werbung dazu auffordert, selbst Urlaubsplanung, Partyvorbereitung oder Nachrichten an Familie und Freunde an LLMs zu delegieren, entsteht ein Gefühl der Entfremdung von der Technologiesozialordnung
• Viele Tätigkeiten des modernen Lebens können sich wie lästige Pflichten anfühlen, doch zugleich ist gerade die Haltung problematisch, fast alles im Leben als lästige Pflicht zu behandeln
• Die moderne Erwartung, jederzeit tun zu können, was man will, und alles Unangenehme vermeiden zu können, erzeugt paradoxerweise anhaltende Unzufriedenheit
• Zwar ist der Theorie zuzustimmen, dass Automatisierung Zeit für sinnvollere Tätigkeiten freisetzen kann, doch problematisch ist, dass bereits selbst die Urlaubsplanung als lästige Pflicht wahrgenommen wird, der man ausweichen möchte
• In einer Zeit, in der AI „fast alles“ automatisieren kann, bleibt zu hoffen, dass genau diese Fähigkeit uns neu bewusst macht, wofür es sich im Leben lohnt, Zeit und Mühe aufzuwenden

Wissensaufbau

• Der Aussage, man solle keine Chatbots verwenden, wenn es darum geht, komplexes implizites Wissen für das Leben in der zukünftigen Welt aufzubauen, wird zugestimmt; tatsächlich umfasst diese Kategorie einen erheblichen Teil des Alltagslebens
• Seit der Verbreitung von Smartphones hat sich die Haltung verbreitet, man müsse sich nichts mehr merken, weil man es bei Bedarf im Internet nachschlagen könne; doch der Akt des Erwerbens und Erinnerns von Wissen ist selbst ein Kernprozess des Lernens
• Aus der Erfahrung beim Erlernen von Jazzpiano: Um gut improvisieren zu können, reicht es nicht, nur Improvisation zu üben; man muss bestehende Stücke und Phrasen wiederholt einüben, bis sie in Fleisch und Blut übergehen, damit sich eine Intuition dafür bildet, was gut klingt
• In diesem Sinn mag die menschliche Art zu lernen Modellen des Machine Learning ähneln, doch daraus folgt nicht, dass man Menschen tatsächlich als solche Wesen behandeln sollte
• Das Wissen, das sich durch langweilige und repetitive Aufgaben ansammelt, wird massiv unterschätzt; wenn man es unter Effizienzdruck an Chatbots delegiert, riskiert man langfristig den Verlust wichtigen Wissens und Gespürs

Einwand gegen das Konzept des „erweiterten Geistes“

• Masley argumentiert, Kognition sei nicht auf das Gehirn beschränkt, sondern finde auch in der physischen Umgebung statt; daher gebe es keinen wesentlichen Unterschied, ob etwas in Neuronen des Gehirns oder in Schaltkreisen eines Mobiltelefons geschehe
• Solche Aussagen sind wirklichkeitsfern, denn Prozesse im Gehirn lassen sich nicht mit Verarbeitungsvorgängen im Computer gleichsetzen
• Die Sichtweise, Menschen auf bloße Informationsverarbeitungsgeräte zu reduzieren und anzunehmen, dass es folgenlos bleibe, bestimmte kognitive Prozesse an externe Geräte auszulagern, ist extremer Reduktionismus
• Den Geburtstag eines Freundes selbst im Kopf zu behalten und einem Chatbot automatisch eine Glückwunschnachricht senden zu lassen, sind völlig unterschiedliche Handlungen; Ersteres umfasst den bewussten Akt, an die andere Person zu denken und die Beziehung zu pflegen
• Auch der Vergleich, ein Telefon zu verlieren sei wie den Verlust eines Teils des Gehirns, setzt völlig unterschiedliche Situationen gleich – sowohl hinsichtlich ihrer Wahrscheinlichkeit als auch hinsichtlich der Schwere der Folgen
• Auch die Behauptung, die physische Umgebung sei so gestaltet, dass Denken minimiert werde, überzeugt wenig; wenn sich die Umgebung ändert, braucht es zwar kurz Anpassung, doch bald gewöhnt man sich daran und denkt entlang neuer Muster weiter

Wichtig ist, worüber man nachdenkt

• Was den sogenannten „Lump of Cognition“-Fehlschluss betrifft, wird zugestimmt, dass man sich nicht sorgen müsse, menschliches Denken könnte erschöpft werden, nur weil die insgesamt verfügbare Menge an Gedanken begrenzt sei
• Doch auch die Ansicht „Es ist egal, worüber man nachdenkt, Hauptsache, man denkt überhaupt“ ist ein weiterer Fehlschluss
• Es liegt nahe zu glauben, dass man sich auf komplexere und interessantere Aufgaben konzentrieren könne, wenn man einfache und langweilige Arbeiten dem Computer überlässt, doch manche geistigen Tätigkeiten behalten ihren Sinn nur dann, wenn Menschen sie selbst ausführen, auch wenn Maschinen sie technisch erledigen könnten
• Wenn man etwa die Verwaltungsarbeit eines Projekts einem Chatbot überträgt, gewinnt man vielleicht mehr Zeit für Forschung, verliert dafür aber die Grundlage für Eigentümerschaft am Projekt und übergeordnete Urteilsfähigkeit
• Es geht nicht darum zu behaupten, dass niemals irgendetwas automatisiert werden dürfe, sondern darum, anzuerkennen, dass Automatisierung immer nicht nur Gewinne, sondern auch Verluste mit sich bringt
• Vergleicht man dies mit dem „Lump of Labor“-Fehlschluss, dann entstehen zwar neue Arbeitsformen, wenn körperliche Arbeit von Maschinen übernommen wird, doch das heißt nicht, dass diese Arbeit für Individuen oder die Gesellschaft nützlich, erfüllend und sinnvoll ist
• Beim Denken gilt dasselbe: Selbst langweilige und monotone Denkprozesse wirken auf den Menschen ein, und wenn bestimmte kognitive Tätigkeiten wegfallen, hinterlässt das in jedem Fall Spuren – positiv oder negativ

Fazit

• Zu beurteilen, für welche Bereiche Chatbots langfristig geeignet sind, ist eine unvermeidliche und bedeutende Aufgabe
• Der Charakter persönlicher Kommunikation kann sich grundlegend verändern, Bildungssysteme werden zu radikaler Anpassung gezwungen, und wir werden vorsichtiger neu fragen müssen, welche Erfahrungen im Leben wirklich wichtig sind
• Wirklich interessant ist diese Technologie gerade deshalb, weil sie uns nicht nur mit Effizienzfragen konfrontiert, sondern Fragen nach Menschlichkeit und Werten frontal aufwirft
• Die Entscheidung darüber, wie wir Chatbots einsetzen, ist nicht bloß eine Frage von Produktivität oder kognitiven Folgen, sondern führt direkt zu der Frage, welches Leben und welche Gesellschaft wir wollen
• Deshalb gibt es für bestimmte menschliche Tätigkeiten klare Gründe, sie vor mechanischer Automatisierung zu schützen
• Neben Forschungsergebnissen und Effizienzdebatten muss auch bedacht werden, auf welchen Werten wir unsere Gemeinschaft aufbauen wollen