- Ein Preprint misst die kognitiven Kosten der LLM-Nutzung in der Ausbildung zum Essay-Schreiben und untersucht experimentell, ob in Lern- und Arbeitskontexten weit verbreitete AI-Tools die Lernfähigkeit schwächen können
- Die Teilnehmenden wurden in eine LLM-, eine Search-Engine- und eine Brain-only-Gruppe aufgeteilt und schrieben drei Essays; in der vierten Runde schrieb ein Teil der LLM-Gruppe ohne Tool, während ein Teil der Brain-only-Gruppe ein LLM nutzte
- In den Runden 1 bis 3 nahmen 54 Personen teil, in Runde 4 davon 18 Personen; eingesetzt wurden EEG, NLP-Analyse, Interviews nach jeder Session sowie Bewertungen durch menschliche Lehrkräfte und einen eigens erstellten AI Judge
- Je mehr externe Unterstützung vorhanden war, desto geringer war die Konnektivität im Gehirn: Die Brain-only-Gruppe zeigte das stärkste Netzwerk, die Search-Engine-Gruppe lag im Mittelfeld, und LLM-Unterstützung zeigte die schwächste Gesamt-Kopplung
- Über vier Sessions in vier Monaten schnitt die LLM-Gruppe auf neuronaler, sprachlicher und Bewertungsebene schlechter ab als die Brain-only-Gruppe; auch das Besitzgefühl und die Fähigkeit, direkt danach Inhalte zu zitieren, waren geringer
Gemessene kognitive Kosten von LLMs beim Essay-Schreiben
- Der Fokus liegt darauf, zu prüfen, welche Kosten die LLM-Nutzung in kognitiven Prozessen hinterlässt, wenn in Bildungskontexten Essays geschrieben werden
- LLMs ermöglichen personalisierte Lernerfahrungen, unmittelbares Feedback und besseren Zugang zu Bildungsressourcen; je breiter sie genutzt werden, desto stärker könnte jedoch die Beteiligung an kritischem Denken und tiefgehenden Analyseprozessen zurückgehen
- Das Schreiben von Essays ist in Schulen und standardisierten Tests eine gängige Aufgabe zur Bewertung studentischer Fähigkeiten und wurde als komplexe Aufgabe gewählt, die mehrere kognitive Prozesse gleichzeitig erfordert
- Das Paper befindet sich im Status preprint, under review
Teilnehmende und Session-Design
- Die Teilnehmenden wurden in drei Gruppen aufgeteilt
- LLM-Gruppe: schrieb Essays mit einem vorgegebenen LLM-Tool
- Search-Engine-Gruppe: schrieb Essays unter Nutzung einer Suchmaschine
- Brain-only-Gruppe: schrieb Essays ohne externe Tools
- In den Runden 1 bis 3 blieb die jeweilige Gruppenzuordnung für alle Teilnehmenden unverändert
- In Runde 4 wurden die Bedingungen für einige Teilnehmende geändert
- LLM-to-Brain: Teilnehmende, die zuvor ein LLM genutzt hatten, schrieben ohne Tool
- Brain-to-LLM: Teilnehmende, die zuvor ohne Tool geschrieben hatten, nutzten ein LLM
- In den Runden 1 bis 3 nahmen insgesamt 54 Personen teil; Runde 4 wurde von 18 davon abgeschlossen
- In jeder Session wurde eines der SAT-Themen ausgewählt und dazu ein Essay geschrieben; in den Runden 1 bis 3 wurden pro Session drei Themen und damit insgesamt neun Themenoptionen angeboten
Messmethoden
- Zur Messung der Gehirnaktivität wurde EEG eingesetzt
- Die Gehirnaktivität der Teilnehmenden wurde aufgezeichnet, um kognitive Beteiligung und kognitive Belastung zu bewerten
- Dazu gehörte auch das Ziel, neuronale Aktivierungen während des Essay-Schreibens genauer zu verstehen
- Auf die Essay-Texte wurde NLP-Analyse angewendet
- Named Entities Recognition (NER)
- n-gram
- Themenontologie
- Embedding-basierte Ähnlichkeit und Distanz
- Nach jeder Session wurden Interviews mit den Teilnehmenden durchgeführt
- Einhaltung der Essay-Struktur
- Fähigkeit, aus dem Essay zu zitieren
- Genauigkeit der Zitate
- Besitzgefühl gegenüber dem Essay
- Zufriedenheit und weitere Punkte
- Für die Bewertung wurden menschliche Lehrkräfte und ein separat erstellter AI Judge gemeinsam eingesetzt
EEG-Ergebnisse: Je mehr externe Unterstützung, desto geringer die Gehirnkonnektivität
- Die drei Gruppen zeigten unterschiedliche neuronale Konnektivitätsmuster, was unterschiedliche kognitive Strategien widerspiegelt
- Die Gehirnkonnektivität nahm systematisch mit dem Umfang externer Unterstützung ab
- Brain-only-Gruppe: zeigte das stärkste und breiteste Netzwerk
- Search-Engine-Gruppe: zeigte ein mittleres Maß an Beteiligung
- LLM-Unterstützung: wies die schwächste Gesamt-Kopplung auf
- In Runde 4 zeigten LLM-to-Brain-Teilnehmende eine schwächere neuronale Konnektivität und eine geringere Beteiligung der Alpha- und Beta-Netzwerke
- Umgekehrt zeigten Brain-to-LLM-Teilnehmende einen stärkeren Gedächtnisabruf und eine erneute Beteiligung weit verteilter okzipito-parietaler und präfrontaler Knoten
- Dieses Muster könnte mit visueller Verarbeitung zusammenhängen und ähnelt einem Muster, das häufig in der Search-Engine-Gruppe beobachtet wurde
In der Sprachanalyse sichtbare Eigenschaften der Essays
- Innerhalb der Gruppen wurde bei NER, n-gram und Themenontologie eine konsistente Homogenität festgestellt
- Die Essays der LLM-Gruppe zeigten innerhalb derselben Gruppe homogenere sprachliche Merkmale
- In der Search-Engine-Gruppe trat bei einigen Themen eine n-gram-Nutzung auf, die nach einem Einfluss von Suchoptimierung aussah
- Beispiel: Beim Thema PHILANTHROPY zeigte sich ein Fokus auf das
homeless-n-gram
- Beispiel: Beim Thema PHILANTHROPY zeigte sich ein Fokus auf das
- Die Distanzen zwischen Essays der Brain-only-Gruppe waren stets signifikant und größer als in der LLM- oder Search-Engine-Gruppe
- Bei einigen Themen zeigten sich zwischen LLM-Gruppe und Brain-only-Gruppe Unterschiede, die nahezu orthogonal waren
- Beispiel: die Themen HAPPINESS und PHILANTHROPY
Besitzgefühl, Gedächtnis und Zitierfähigkeit
- Die LLM-Gruppe berichtete in den Interviews ein geringeres Besitzgefühl gegenüber dem eigenen Essay
- Auch die Search-Engine-Gruppe zeigte ein hohes Besitzgefühl, lag aber unter der Brain-only-Gruppe
- Die Fähigkeit, Inhalte aus dem wenige Minuten zuvor verfassten eigenen Essay zu zitieren, war in der LLM-Gruppe ebenfalls geringer
- Die Brain-only-Gruppe zeigte ein hohes Besitzgefühl und eine hohe Zitierfähigkeit
- Brain-to-LLM-Teilnehmende in Runde 4 nutzten zwar ein LLM, zeigten aber in Verbindung mit den Einflüssen früherer Brain-only-Sessions eine bessere Integration von Inhalten; das Besitzgefühl war dabei geteilt
Unterschiede im Wechsel-Experiment der vierten Runde
- Brain-to-LLM-Teilnehmende zeigten unter der Bedingung, dass sie nach vorherigem Schreiben ohne AI mit einem AI-Tool erneut schrieben, eine höhere neuronale Konnektivität
- Die directed connectivity in den Alpha-, Beta-, Theta- und Delta-Bändern nahm über das gesamte Netzwerk hinweg zu
- Es zeigten sich breitere Interaktionen zwischen Hirnnetzwerken als in den vorherigen LLM-only-Runden 1 bis 3
- LLM-to-Brain-Teilnehmende zeigten nach früherer LLM-Nutzung beim Schreiben ohne Tool in den meisten Bändern weniger koordinierten neuronalen Aufwand
- Es zeigte sich auch ein Bias hin zu LLM-typischem Vokabular
- Sowohl AI Judge als auch menschliche Lehrkräfte vergaben hohe Punktzahlen, doch bei den Distanzen in der NER- und n-gram-Nutzung waren sie weniger ausgeprägt als in anderen Gruppen und Sessions
- Wenn die Brain-only-Gruppe in Runde 4 ein LLM nutzte, kehrte die Gehirnkonnektivität in Runde 4 nicht zum Brain-only-Muster von Anfängern aus Runde 1 zurück und erreichte auch nicht das Niveau der Brain-only-Gruppe in Runde 3
- Sie zeigte einen Zwischenzustand der Netzwerkbeteiligung
Fazit und Einschränkungen
- Die LLM-Nutzung hatte messbare Auswirkungen auf die Teilnehmenden; die anfänglichen Vorteile wirkten zwar deutlich, doch über die Sessions von vier Monaten hinweg schnitt die LLM-Gruppe auf mehreren Ebenen schlechter ab als die Brain-only-Gruppe
- Die geringere Leistung wurde gemeinsam bei neuronaler Konnektivität, sprachlichen Merkmalen und Bewertungsergebnissen beobachtet
- Zu einem Zeitpunkt, an dem sich die Auswirkungen von LLMs auf Bildung in der breiten Öffentlichkeit gerade erst herauszubilden beginnen, bleibt die mögliche Schwächung von Lernfähigkeiten ein wichtiges Thema
- Das Paper soll als vorläufiger Leitfaden dienen, um die kognitiven und praktischen Auswirkungen von AI auf Lernumgebungen zu verstehen
1 Kommentare
Meinungen auf Hacker News
Statt es „Anhäufung kognitiver Schulden“ zu nennen, würde ich es einfach kognitiven Abbau oder Verlust kognitiver Fähigkeiten nennen.
Dass man Sprache vergisst, wenn man sie nicht benutzt, ist selbstverständlich, und das Gehirn hält keine Informationen fest, die es nicht braucht. Auch Studien zur Nutzung von Google-Maps-Navigation kamen zu Ergebnissen wie: „Die gewohnheitsmäßige Nutzung von GPS wirkt sich negativ auf das räumliche Gedächtnis bei autonomer Navigation aus“, oder beobachteten bei Kartennutzern eine Abnahme der grauen Substanz.
Wer in einem wissenschaftlichen Bereich Expertise aufgebaut hat, weiß, dass man etwas durchdenken und erkunden muss, wie jede Idee mit anderen zusammenhängt, um es zu verstehen. Man kann Mathematik nicht lernen, indem man nur ein Mathematiklehrbuch überfliegt; man muss innehalten und nachdenken. Die mentalen Objekte, die man später zum Denken verwenden kann, entstehen meiner Ansicht nach gerade durch den Akt des Denkens.
Man muss viel schreiben. Schreiben bringt das Gehirn dazu, Gedanken zu strukturieren, ermöglicht einen strukturierten Dialog mit sich selbst und lässt einen verschiedene Pfade erkunden. Mit bloßem Denken und Nachsinnen stößt man bald an Grenzen, aber Schreiben erlaubt es, Gedanken nahezu endlos zu erkunden.
Wenn Denken so eng mit Schreiben verbunden ist, und Schreiben alles Mögliche sein kann – Prosa, Zeichnungen, Gleichungen, Graphen, Diagramme –, ist es interessant, welche Auswirkungen es auf die kognitiven Fähigkeiten hat, wenn LLMs immer mehr vom Schreiben übernehmen.
Es ist sehr verlockend, ein LLM große Textmengen schreiben zu lassen, die Struktur festlegen zu lassen und Argumente sowie visuelle Materialien erstellen zu lassen. Wenn man ihm nach und nach mehr überträgt, ist das Ergebnis am Ende überhaupt nicht mehr das eigene.
Aber auf diesem Bericht steht mein Name, und ich werde aufgefordert, ihn zu erklären und zu verstehen. Eigentlich sollte ein Bericht die „zweidimensionale Projektion“ einer „hochdimensionalen Realität“ im Kopf sein, aber ein Bericht, der in einem Zehntel der Zeit ausgespuckt wurde, ist das nicht. Auf dem Papier sieht er plausibel aus, aber wenn man die Konzepte erklären soll, gerät man ins Stocken.
Am Ende merkt man, dass man die Arbeit selbst machen, mentale Modelle aufbauen, sie ausdrücken, neu ausdrücken und wieder neu ausdrücken muss. Je nach Zielpublikum muss man das auf unterschiedliche Weise tun.
Als Bezeichnung für die Lücke zwischen dem mentalen Modell, das man vor LLMs hätte entwickeln müssen, um einen Bericht zu schreiben, und dem mentalen Modell, das man mit LLMs kaum noch entwickeln muss, halte ich kognitive Schulden für passend.
Am Ende steht mein Name auf dem Bericht oder Paper. Was kann man von mir als Autor erwarten? Mit der Zeit könnten diese Erwartungen sinken. Wenn tiefgehende Fragen auftauchen, überspringt man vielleicht den Autor und verlässt sich auf das „mentale“ Modell des LLM. Aber andere Modelle wie LLMs können unterschiedliche „Modelle“, also Vorhersagealgorithmen, über grundlegende Wahrheit und Realität haben. Welches ermöglicht die genauesten Vorhersagen? Dafür braucht es eine gewisse Tiefe des Verständnisses, und wenn man sich beim Schreiben zu stark auf LLMs verlässt, entsteht diese Tiefe nicht.
Langfristig könnte das tatsächlich auf Bevölkerungsebene zu „kognitivem Abbau oder Verlust kognitiver Fähigkeiten“ führen, aber ich wäre vorsichtig, das so fest zu behaupten. Der Buchdruck führte nicht zu einem solchen Ergebnis, obwohl die religiösen Eliten jener Zeit befürchteten, dass einfache Menschen Texte nicht richtig interpretieren könnten.
Wie auch in diesem Thread gesagt wurde: „Schreiben ist Denken“, denke ich. Allerdings könnte es etwas geben, das besser ist als Schreiben und das wir noch nicht erfunden haben. Denken bedeutet, detaillierte mentale Modelle zu entwickeln, die es ermöglichen, die Zukunft mit höherer Wahrscheinlichkeit als durch Zufall vorherzusagen. Unser Überleben hängt davon ab, und aus Sicht der Informationstheorie ist Evolution genau das [0]. „Nichts in der Biologie ergibt Sinn ohne das Licht der Information.“
[0] https://www.youtube.com/watch?v=4PCHelnFKGc
Ich habe das seit 20 Jahren nicht mehr gemacht und bin ziemlich sicher, dass ich es nie wieder tun werde.
Dass das Paper keine Literaturhinweise oder Zitate zum Begriff „kognitive Schulden“ liefert, lässt den Titel ebenfalls seltsam wirken. Vielleicht wurde er in letzter Minute geändert.
Eine interessante Studie vom MIT. Wie bei jeder psychologischen Studie braucht es gesunde Skepsis und unabhängige Überprüfung. Es wirkt zwar auch ein bisschen wie ein Sammelsurium aus Bildgebung und psychometrischer Bewertung, aber wer mag nicht eine Grafik nach dem Motto „So sieht dein Gehirn aus, wenn du ein LLM benutzt“?
LLMs fühlen sich zunehmend wie eine weitere Technologie an, gegen die die Gesellschaft selbst eine Immunität entwickeln wird.
Im Bildungsbereich beginnt das bereits damit, dass Lehrkräfte mit Schülern sprechen, beobachten, wie sie lernen, und prüfen, wie sie Fähigkeiten demonstrieren. Auch in der Wirtschaft wird man bald erkennen, dass der Großteil wertvoller Kommunikation von Menschen selbst als Urhebern dessen, was sie sagen wollen, geschaffen werden muss. Das Verfassen ist bei den meisten Formen der Kommunikation etwa zwei Drittel des Kerns.
Natürlich werden wir vorher einen dramatischen Schock durch eine Verflachung des Denkens erleben müssen, um gegen die Nebenwirkungen wirklich immun zu werden. Die Abwehrhaltung von Fachleuten gegenüber LLMs im Gegensatz zu naiven Enthusiasten, die an „Mittelmäßigkeit“ glauben, wirkt wie eine frühe Immunerfahrung: https://fly.io/blog/youre-all-nuts/
Wenn ich LLMs in meinen Projekten „makroskopisch“ einsetze, ruiniert das jedes Mal mein Denken erheblich, nimmt mir Entscheidungen ab und verschlechtert meine Bereitschaft für die später nötige Anpassung. Bei wichtigen Dingen sind LLMs strikt nur ein mikroskopisches Werkzeug zum Ausfüllen von Lücken.
Das ist nicht wie ein Taschenrechner. Es nimmt einem nicht einen Algorithmus weg, den man für Kopfrechnen mochte. Es ist ein System, das Denken selbst durch Nicht-Denken ersetzt, und es schadet in jedem Einsatzbereich massiv der Bereitschaft, Tiefe, Anpassungsfähigkeit und dem Gefühl von Ownership.
Ich sitze in vielen Meetings mit extrem guten Engineers, aber oft können sie ihre Argumentation nicht so darlegen, dass sowohl technische als auch nichttechnische Leute folgen können. Schreiben und Sprechen haben eine Kunstfertigkeit, und erst jetzt, Ende 40, beginne ich ihren Wert wirklich zu begreifen. Sprache ist ein mächtiges Werkzeug, und die Wahl eines einzigen Wortes kann ein Argument manchmal retten oder ruinieren.
Ich sehe nicht, was LLMs in dieser Lage anderes tun könnten, als sie insgesamt deutlich schlimmer zu machen.
Das Beängstigende ist nicht nur, dass sie ChatGPT nutzen, um dem Denken auszuweichen, sondern dass sie glauben, niemand werde es merken, oder dass Erwachsene eben so miteinander reden.
Ich denke, es gibt in der Praxis auch viel Kommunikation, die kaum Wert hat. Wenn sie trotzdem weiter erzeugt wird und niemand sie liest, könnte man die Erstellung dann nicht automatisieren?
Natürlich gibt es auch ziemlich viele wichtige Dinge, die richtig sitzen müssen.
Ich bin in der Wissenschaft, und theoretisch sollte das einer der Berufe sein, die am meisten Denken erfordern. Trotzdem besteht mehr als die Hälfte dessen, was ich schreibe, aus diversen Berichten, Förderanträgen, Ethik- und Datenmanagementanträgen, Empfehlungsschreiben und Verwaltungsformularen. Diese Dinge sind in dem Sinn kaum „wertvoll“, dass sie kein nützliches Denken erfordern, und solange die dummen Anforderungen erfüllt werden, interessiert es niemanden, ob der Text nach mir klingt.
Für solche Zwecke sind LLMs ein Segen, und da sie mir mehr Zeit für echte Forschung und Präsenzlehre verschaffen, helfen sie wahrscheinlich sogar beim Denken.
Die Diskussion über kognitive Schulden hier ist zutreffend, aber möglicherweise sogar zu konservativ.
Es geht nicht darum, eine Fähigkeit wie Sprache zu vergessen oder durch GPS-Nutzung räumliches Gedächtnis zu verlieren. Es könnte darum gehen, dass neuronale Bahnen, die für integriertes Schlussfolgern zuständig sind, systematisch und irreversibel verkümmern.
Das zentrale Risiko ist nicht die „Schuld“ selbst, mit der Nuance, dass man sie durch Übung zurückzahlen könne, sondern das Überschreiten eines kognitiven Kipppunkts. Ein Schwellenwert, an dem exekutive Funktionen, Synthese und Argumentation so weit an externe Systeme wie LLMs ausgelagert werden, dass das biologische Gehirn mit gnadenloser Effizienz nicht nur ungenutzte Verbindungen kappt, sondern auch die Metafähigkeit verliert, sie wieder aufzubauen.
Unsere biologische Wetware ist ein „use it or lose it“-System ohne Versionsverwaltung. Wenn komplexe kognitive Funktionen verkümmern, wird der „Quellcode“ beschädigt. Für das kollabierte neuronale Netz, das tiefes, strukturiertes Denken getragen hat, gibt es kein git revert.
Dieser HN-Thread konzentriert sich auf das Schreiben von Essays, aber in größerem Maßstab betrachtet führen wir ein riesiges, unkontrollierbares Experiment im Outsourcing kollektiver Kognition durch. Die langfristige Folge könnte nicht eine Gesellschaft weniger qualifizierter Menschen sein, sondern eine Gesellschaft von Menschen, die strukturell nicht mehr zu der Art von Denken fähig sind, die unsere Welt geschaffen hat.
Die Frage lautet daher nicht: „Wie vermeiden wir kognitive Schulden?“ Die wirklich beängstigende Frage lautet: „Welche Gefäße braucht unser Geist, wenn das biologische Gefäß des Geistes so gnadenlos, vielleicht irreversibel, auf Trägheit optimiert wird?“
https://github.com/dmf-archive/dmf-archive.github.io
Sie sind gut, um Dinge zu fragen, die man nicht weiß, oder die „langweiligen Teile“ zu überspringen. Insbesondere habe ich überhaupt nicht das Gefühl, dass mich die Suche nach Lösungen für obskure technische Probleme über mehrere Seiten in Foren oder sozialen Medien hinweg klüger macht. Die Informationen muss man ohnehin prüfen und vorsichtig aufnehmen.
StackExchange, wie es ursprünglich gedacht war, wäre deutlich wertvoller gewesen als Textmodelle. Aber echte Menschen sind unvollkommen und bringen allerlei kognitive Verzerrungen und Ballast mit, und ein LLM schließt eine Frage nicht direkt, nachdem sie Upvotes und Interaktionen bekommen hat, als „zu breit gefasst“.
Umgekehrt halte ich LLM-Schreiben zu Themen, die ich gut kenne, weiterhin für deutlich unterlegen. Wenn ich zum Beispiel eine E-Mail schreiben will, brauche ich am Ende ähnlich viel Zeit, weil ich den Prompt korrigiere, damit die Richtung stimmt, oder das Ergebnis stark umschreibe. Statt ein Textmodell zu korrigieren und peer-reviewartig zu prüfen, schreibe ich lieber direkt in meinem eigenen Fluss.
KI ist das Gegenteil eines Zettelkastens
Statt aktiv an einem Thema zu arbeiten und dabei immer tiefere Einsichten zu gewinnen, iteriert man schnell, aber oberflächlich über ein von der KI erzeugtes Korpus an Inhalten
Zum Beispiel wollte ich die Lage im Nahen Osten besser verstehen und habe OpenAI als Co-Autor genutzt, um einen zehnseitigen Essay über die Ursprünge von Hamas und Hisbollah zu schreiben
Aber ich erinnere mich an nichts, und schlimmer noch: Bei dem, woran ich mich erinnere, weiß ich nicht, ob es eine von mir korrigierte Halluzination oder eine tatsächliche Tatsache war
Ein LLM kann ein hervorragender Sparringspartner sein, wenn man es nicht als Tool nutzt, das für einen schreibt, sondern als Tool, das hilft, Fehler zu finden, Lücken und Irrtümer aufzuzeigen und allgemeine Fragen über die Welt zu recherchieren. Natürlich muss man immer vorsichtig sein und Quellen prüfen
Man entwickelt zwar ein Gespür dafür, wie man Modelle steuert und Halluzinationen reduziert, aber man baut kein klar erklärbares Wissen auf und betreibt kein herausforderndes Denken. Es ähnelt eher dem Erlernen von muskelgedächtnisartigen Reaktionen darauf, ob man einer bestimmten Form von LLM-Ausgabe stärker vertrauen sollte, ob man eine andere Prompt-Strategie versucht oder ob man den Kontext löschen sollte
Selbst wenn man das als Fähigkeit bezeichnen kann, wird sie wahrscheinlich in ein paar Jahren nutzlos sein, sobald die Modelle besser werden. Es fühlt sich nach einer Ohnmacht an, wie sie wohl ein Fließbandarbeiter empfinden würde
Persönlich finde ich das Ergebnis nicht überraschend. Wenn ich KI für mein Schreiben oder meine Übersetzungsarbeit nutze, habe ich nicht das Gefühl, geistig so stark in den Schreib- oder Übersetzungsprozess eingebunden zu sein, wie wenn ich alles selbst mache
Aber ich habe auch festgestellt, dass der Einsatz von KI auf andere Weise für sich genommen sehr geistig immersiv sein kann. In den letzten zwei Wochen experimentiere ich mit Claude Code damit, wie vollständig sich Brainstorming, Recherche und Schreiben von Essays und wissenschaftlichen Arbeiten automatisieren lassen. Ich war dabei genauso tief versunken wie beim eigenen Schreiben oder Übersetzen, aber die Form der Immersion ist eine andere
Die Ergebnisse des Experiments sind bislang ziemlich gut. Das heißt: Wenn ich die entstandenen Essays und Papers lese, finde ich sie oft interessant, auch wenn ich weiß, dass sie von einem KI-Agenten geschrieben wurden. Natürlich habe ich nicht vor, sie zu veröffentlichen oder zu teilen
Ich frage mich, ob ich damit zu einer immer selteneren Gruppe gehöre: Menschen, die tatsächlich etwas können, während der Rest zunehmend inkompetent wird
Dass „Teilnehmer der LLM-Gruppe auf allen Ebenen – Gehirnaktivität, Sprache und Bewertung – schlechter abschnitten als die Brain-only-Gruppe“, ist nicht überraschend, aber düster
Wenn Menschen nur noch Ergebnisse überprüfen und abnicken sollen, machen sie das in der Regel miserabel
Ich denke schon seit einiger Zeit, dass für echte Augmentierungs-Workflows die Art der Beteiligung entscheidend ist. Von einem LLM geschriebenen Code reviewen? Nicht besonders gut. Wenn ein LLM meine Änderungen beobachtet und Feedback gibt? Eine völlig andere Geschichte. Das ist schwierig und vielleicht nicht besonders populär, aber wenn wir nicht irgendwie am Steuer bleiben, dürfte es ziemlich düster werden
[1]: https://en.m.wikipedia.org/wiki/Ironies_of_Automation
https://dune.fandom.com/wiki/Butlerian_Jihad
Seit ich den Großteil des Codings mit KI mache, ist ein etwas unerwarteter Nebeneffekt, dass ich viel weniger müde bin und mich länger konzentrieren kann
Sie ermöglicht mir, auch bei anderen Ablenkungen Arbeit zu erledigen. Im Grunde lagert man einen Teil der geistigen Kapazität an die KI aus, wodurch an anderer Stelle Kapazität frei wird
Früher dienten unerwartete Fehler oder das Nachschlagen in der Dokumentation als „Temposchwellen“, die mich kurz Luft holen ließen; meistens merkte ich dann, wie erschöpft ich war, und machte eine Pause
Mit KI gibt es diese Temposchwellen weiterhin, aber manchmal bekommt man einen kleinen zusätzlichen Schub, sodass ich nicht genug abbremse, um zu reflektieren, wie müde ich eigentlich bin
Die KI muss dafür nicht einmal recht haben. Allein das Lesen eines auf die aktuelle Situation zugeschnittenen Vorschlags kann meinen Gedankenfluss so anstoßen, dass er sich manchmal schwer wieder einfangen lässt
Man könnte zum Walmart außerhalb der Stadt laufen, Dinge tragen und zurückkommen, aber mit einem Auto geht es viel schneller und ist weniger ermüdend. Dadurch kann man mehr hochwertige Zeit für die Dinge aufwenden, die man gern tut
Zu der Zeit, als GANs im Trend waren, habe ich Generator-Diskriminator-Modelle für die Bilderzeugung trainiert
Nach längerem Nachdenken wurde mir klar, dass Diskriminieren viel einfacher ist als Generieren
Zum Beispiel kann ich gute und schlechte UI unterscheiden, aber selbst wenn mein Leben davon abhinge, könnte ich keine gute UI entwerfen. Ich erkenne sofort, ob ein Film gut ist, aber eine ordentliche Kurzgeschichte zu schreiben ist harte Arbeit
Ich kann beurteilen, wie realistisch ein Bild ist, aber nicht einmal ein einfaches Fahrrad überzeugend zeichnen
In vielen Fällen kann ich beurteilen, ob LLM-Erzeugnisse gut oder schlecht sind. Dann kann man als grobe Strategie schlechte Ergebnisse verwerfen und weiter generieren, bis man das Ziel erreicht. Genau wegen dieser Lücke zwischen Diskriminierung und Generierung sind LLMs nützlich
Diese beiden Fähigkeiten sind getrennt. Generative Fähigkeiten sind schwer zu erlernen und sehr wertvoll. Wenn man sie nicht weiter trainiert, werden sie verkümmern
Aber bei komplexeren Aufgaben, insbesondere in Bereichen, die eine tiefgehende Bewertung erfordern, gilt das nicht unbedingt. Zum Beispiel dürfte das Review von fünf nicht trivialen PRs schwieriger sein und länger dauern, als sie selbst zu schreiben
Der Grund, warum es bei Bildern oder kurzen Geschichten gut funktioniert, ist, dass der angewandte Filter nicht „gut vs. schlecht“ ist, sondern gefällt mir vs. gefällt mir nicht
Ich halte es für wahrscheinlich, dass wir lernen werden, eine gesündere Beziehung zu solcher Technologie aufzubauen. Den Zeitplan kenne ich nicht. Es könnte Generationen dauern oder schneller passieren, als man denkt.
Klar ist, dass Sprachmodelle eine Art Momentumbeschleuniger sind. Wenn durchschnittliche Menschen dadurch aber „sprachgewandter“ werden, dann werden sich mit der Zeit auch die Signale verändern, die auf ursprüngliche Intelligenz hindeuten.
Niemand möchte eine Beziehung mit einem Sprachmodell führen. Aber Sprachmodelle können Menschen helfen, die auf große Lebensveränderungen und Rückschläge nicht vorbereitet sind. Es ist ein Werkzeug, man muss nur wissen, wie man es benutzt.
Nehmen wir als konkretes Beispiel Beziehungsratschläge. Mit der Zeit werden sich „von ChatGPT begleitete Beziehungen“ vermutlich in zwei Kategorien aufteilen. Die eine ist der „Copy-Paste-Typ“, der zu ohnehin mangelhafter Kommunikation nur noch Komplexität hinzufügt, also nach dem Motto: „Ich habe einfach kopiert, was ChatGPT gesagt hat.“ Die andere ist der „Beschleuniger-Typ“, der ChatGPT nutzt, um die Motive von sich selbst und des Partners zu analysieren und bessere Lösungen für häufige Probleme zu finden.
Um Letzteres richtig beurteilen zu können, braucht es weiterhin Verstand und Empathie. Ersteres wird immer in Liebeskummer enden. Ich glaube, dass die Menschen diesen Unterschied irgendwann erkennen werden.
Ich habe zwar keine direkte oder indirekte Erfahrung damit, aber ich habe viele Fälle gehört, in denen Menschen tatsächlich in eine Art Beziehung mit einer KI geraten, und ich kann die Anziehungskraft bis zu einem gewissen Grad nachvollziehen. Man kann „jemanden“ haben, der einen nicht völlig verurteilt, immer da ist, wenn man reden möchte, und keine Forderungen an einen stellt. Das ist überhaupt nicht dasselbe wie eine echte Beziehung, aber objektiv besser als die schlechtesten menschlichen Beziehungen und möglicherweise besser für die psychische Gesundheit als Einsamkeit.
Ob gut oder schlecht: In den nächsten zehn Jahren werden Mensch-KI-Beziehungen wahrscheinlich stark zunehmen. Auf der einen Seite gibt es Verbesserungen bei Gedächtnis und langfristiger Planung, vielleicht auch bei Roboterkörpern, und auf der anderen Seite die zunehmende Verbreitung einer Einsamkeitsepidemie.
Das nennt man kognitives Offloading. Wer lange genug mit Coding-Assistenten gearbeitet hat, wird es wiedererkennen.
Es ist die unvermeidliche Folge davon, auf einer höheren Abstraktionsebene zu arbeiten. Es ist nicht das Ende der Welt. Meine Assembly-Kenntnisse sind auch eingerostet.