MIT-Studie zeigt: KI-Nutzung formt das Gehirn um und führt zu kognitivem Abbau
(publichealthpolicyjournal.com)- Eine MIT-Studie zeigt, dass die Nutzung von LLMs wie ChatGPT zu einer Schwächung der Gehirnkonnektivität und zu nachlassendem Erinnerungsvermögen führt und damit langfristigen kognitiven Abbau begünstigt
- Bei den teilnehmenden Studierenden nahm mit wiederholter Abhängigkeit von KI die Fähigkeit zur kreativen Integration und zur Eigenständigkeit ab
- EEG-Untersuchungen bestätigten in der LLM-Gruppe eine Unteraktivierung von Aufmerksamkeits- und visuellen Verarbeitungsnetzwerken
- Die Gruppe mit Suchmaschinen-Nutzung behielt stärkere Exekutivfunktionen, Gedächtnisaktivierung und visuelle Verarbeitungsfähigkeiten bei
- Selbst nach der LLM-Nutzung war eine vollständige Erholung der Gehirnfunktion schwierig; die KI-Abhängigkeit führte zu einer Tendenz zum „cognitive offloading“
Zentrale Erkenntnisse der MIT-Studie: LLM-Nutzung und kognitiver Abbau
Die an der MIT durchgeführte Studie „Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task“ zeigt, dass wiederholte Abhängigkeit von künstlicher Intelligenz wie ChatGPT zu langfristigen kognitiven Schäden im Gehirn führen kann
Die teilnehmenden Studierenden erlebten mit zunehmender Abhängigkeit von KI beim Schreiben von Essays eine Schwächung neuronaler Verbindungen, nachlassendes Erinnerungsvermögen und einen Verlust des Gefühls von Eigenverantwortung für die Aufgabe
Die von der KI erzeugten Ergebnisse wurden äußerlich teils gut bewertet, doch im Verlauf zeigte das Gehirn eine Tendenz zu einem zunehmend inaktiven Zustand
Abnahme der Gehirnkonnektivität und Phänomen der KI-Abhängigkeit
- EEG-Messungen zeigten, dass mit zunehmender KI-Nutzung die Konnektivität des Gehirns (systematic neural connectivity) schrittweise abnahm
- Gruppe, die nur das eigene Gehirn nutzte: stärkste und weitreichendste Konnektivität
- Suchmaschinen-Gruppe: mittleres Niveau der Gehirnaktivierung
- LLM-Gruppe: abgeschwächte Kohäsion in allen Hirnwellenbändern (Alpha, Beta, Delta, Theta)
- Besonders in der LLM-Gruppe waren Aufmerksamkeits- und visuelle Verarbeitungsnetzwerke deutlich unteraktiviert
- In Session 4, als ohne Hilfe von KI geschrieben werden sollte, zeigten Personen mit LLM-Erfahrung eine verminderte Aktivität zentraler Gehirnnetzwerke
Verzerrungen von Gedächtnis und Lernpfaden bei LLM-Nutzenden
- Nach der Abhängigkeit von LLMs erlebten Studierende, dass sie sich kaum an das erinnern konnten, was sie gerade geschrieben hatten
- In den für Langzeitgedächtnis und Lernen relevanten Pfaden des Gehirns wurden klare Störungen beobachtet
- Während der KI-Nutzung schwächten sich die Informationsintegration des Gehirns und selbstmotivierte Herangehensweisen ab
- Die Teilnehmenden erlebten psychologische Distanz zum Ergebnis und ein geschwächtes Gefühl von Urheberschaft
Grenzen beim Wechsel von künstlicher Intelligenz zurück zur Nutzung des eigenen Gehirns
- In der vierten Sitzung zeigte die Gruppe, die nach LLM-Nutzung wieder ausschließlich das eigene Gehirn einsetzte, keine Rückkehr der Gehirnaktivierung auf das Niveau der ursprünglichen Sitzung (nur Gehirn)
- Bei verschiedenen Indikatoren wie Hirnwellen, Arbeitsaufwand und Selbstwahrnehmung wurde eine Tendenz festgestellt, unter dem Ausgangsniveau zu bleiben
Suchmaschinen-Nutzende behalten eine gesündere Gehirnbeteiligung bei
- Die Suchmaschinen-Gruppe hielt bei zentralen kognitiven Indikatoren wie Exekutivfunktionen, Gedächtnisaktivierung und Erinnerung an Zitate ein höheres Niveau
- In den Hirnwellen wurde eine verstärkte Aktivierung von Okzipitallappen und Parietallappen festgestellt, was eng mit visueller Verarbeitung und Arbeitsaufwand verbunden ist
Kognitive Lastverlagerung durch KI-Abhängigkeit (Cognitive Offloading)
- Das Forschungsteam bestätigte klar die Tendenz, dass das Gehirn bei wiederholter Exposition gegenüber LLMs die eigenständige Anstrengung zur Informationsintegration und Speicherung einstellt (neural efficiency adaptation)
- Dies führte zu Phänomenen wie passiver Arbeitshaltung, minimaler Nachbearbeitung und sinkendem Niveau konzeptueller Integration
Kurzfristige Effizienz, langfristige kognitive Schuld
- Die LLM-Gruppe erhielt oberflächlich betrachtet von den Bewertenden ein gewisses Maß an Punkten, zeigte jedoch deutliche Grenzen:
- Mangel an strategischer Integration
- weniger Vielfalt in der Ausdrucksstruktur
- kurze und mechanische Eigenschaften der Ergebnisse
- Mit der Zeit setzte sich eine Tendenz zu konstant sinkender kognitiver Beteiligung, Leistungsfähigkeit und Selbstzufriedenheit fort
Fazit und Empfehlungen der Studie
- Je mehr Menschen sich bei der Ausführung komplexer Aufgaben auf künstliche Intelligenz verlassen, desto höher wird das Risiko eines starken Rückgangs der menschlichen grundlegenden kognitiven und kreativen Fähigkeiten
- Es wird betont, wie wichtig es bei der Nutzung von künstlicher Intelligenz ist, regelmäßig Pausen einzulegen und dem direkten Einsatz des eigenen Gehirns Zeit zu geben
- Künstliche Intelligenz ersetzt nicht nur menschliche Arbeit, sondern ist eine Einflussgröße auf das menschliche Denksystem und die Gehirnfunktion selbst
Über den Autor
- Nicolas Hulscher, MPH
- Epidemiologe und Foundation Administrator der McCullough Foundation
- Weitere zugehörige Inhalte sind auf X (ehemals Twitter) über die McCullough Foundation und das Konto des Autors zu finden
2 Kommentare
Wenn man den Inhalt betrachtet, wirkt es so, als hätte die Seite, die das LLM verwendet hat, die Antworten nur diktiert bekommen.
Normalerweise nutzt man es doch mit einem Ziel oder einem gewünschten Ablauf im Kopf, prüft die Antworten und verwendet es wiederholt mit Feedback. Ich frage mich, ob es in solchen Fällen genauso ist.
Hacker-News-Meinungen
Ich möchte eine Erfahrung aus meiner Zeit im Graduiertenstudium teilen, als ich mich mit einem Doktoranden unterhielt, den ich sehr bewunderte. Jedes Mal, wenn er eine wissenschaftliche Arbeit las, schrieb er selbst Code, um sie zu implementieren. Ich brauchte dafür Monate, aber er stellte den Code oft schon nach wenigen Tagen fertig. Er erklärte mir, dass man durch viel Übung besser werde. Er konnte nicht nur schnell programmieren, sondern wurde auch immer besser darin, Papers rasch zu analysieren und Ideen zu integrieren, und entwickelte ein Gespür dafür, was funktioniert. Ich bin inzwischen selbst ziemlich senior und arbeite kaum noch direkt am Code, aber ich finde es nach wie vor sehr wertvoll, sich mit neuem Code und neuen Ideen selbst auseinanderzusetzen und sich daran abzuarbeiten. Wer glaubt, man müsse nur den Prompt ein wenig ändern, verpasst meiner Meinung nach echte und wichtige Lernchancen
Ich denke, wir sehen gerade direkt vor unseren Augen, wie sich eine Skill-Lücke bildet. Es entstehen (1) Menschen, die Konzepte tief verstehen, im Kopf ein Modell aufbauen und Code auf jedem Niveau selbst implementieren können, und (2) Menschen, die diesen Prozess an Maschinen auslagern und diese Fähigkeit langsam verlieren. Im Moment ist der Unterschied noch nicht überdeutlich, aber ich glaube, in ein paar Jahren wird er klar erkennbar sein
Man sollte aufpassen, nicht dem Fehlschluss „echte Programmierer schreiben Assembler von Hand“ zu verfallen. Als Compiler allgemein verbreitet wurden, gab es die Sorge, dass Programmierer dann nicht mehr verstehen würden, wie ihr Code funktioniert. Bis zu einem gewissen Grad stimmte das auch, aber die meisten Leute konnten trotzdem ohne große praktische Probleme Dinge bauen. Wenn man aufhört zu denken, lernt man natürlich auch weniger. Wenn man aber auf einer höheren Abstraktionsebene denken kann, sind Details nicht immer entscheidend. Die Begrenzung der Universität ist nicht „die nächste Abstraktionsebene“, sondern eher eine Abfolge handverlesener Ideen, die nur dem Transfer gesicherten Wissens dient. Das ist etwas anderes, als in einem Startup selbst Dinge zu bauen oder sich Zeit für größere Probleme zu schaffen. Natürlich passt das nicht zu jedem Promotionsprogramm. Es gibt Bereiche, in denen man die Details kennen muss, aber in der heutigen stärker spezialisierten Welt könnte das sogar eher ein Nettogewinn sein
Für mich ist das ähnlich wie Mathematiklernen. Man kann den ganzen Tag ein Mathebuch lesen und die Ideen bewundern, aber wenn man nicht wirklich Definitionen, Sätze und Beispiele in Übungsaufgaben durcharbeitet, lernt man fast nichts
Im Bereich Data Science gilt das Sprichwort „There is no free lunch“. Da Tools wie ChatGPT immer alltäglicher werden, wirken selbst Promovierte, die solche Werkzeuge gar nicht nutzen und stattdessen selbst lernen, zunehmend wie Zauberer. Ich sehe bereits Leute, denen die Fähigkeiten fehlen, um auch nur mittelkomplexen Code zu schreiben, oder denen die Intuition abgeht. Das ist kein Imposter-Syndrom mehr, sondern ein Zustand, in dem sie ohne AI ihre Arbeit nicht mehr ordentlich erledigen können. Ich denke bei jedem Thema zuerst selbst und formuliere zunächst eigene Fragen ohne Tool-Unterstützung. Erst wenn ich ein gewisses Gefühl dafür entwickelt habe, frage ich ChatGPT
Interessant. Ich frage mich, ob wirklich gemeint ist, dass er Code buchstäblich mit Stift und Papier geschrieben hat. Das scheint tatsächlich beim Verstehen zu helfen (zur Einordnung: Ich programmiere nicht beruflich). Bei Historikern sieht man etwas Ähnliches: Wer den ganzen Tag in physischen Archiven verbringt, entwickelt mit der Zeit Intuition und Einsichten zum Thema. Wer dagegen mit Google nur die benötigten Zitate und Dokumente zusammensammelt, läuft eher Gefahr, das Thema nur oberflächlich zu erfassen. Es fällt dann schwerer, mehrperspektivisch zu denken oder Zusammenhänge zwischen Phänomenen zu sehen, und man neigt eher dazu, sich an der eigenen These festzubeißen
Ein paar Dinge sollte man festhalten. (1) Dieses Paper steht auf arXiv und ist noch nicht veröffentlicht, also noch nicht peer-reviewed. Das sollte man berücksichtigen. (2) 18 Personen pro Kohorte. (3) Insgesamt 54 Personen. Das N ist klein, und es scheint vor allem um MIT-Studierende im Alter von 18 bis 22 Jahren zu gehen, daher gibt es Herausforderungen bei Reproduzierbarkeit und Generalisierbarkeit. Während des Experiments wurde auch die Hirnaktivität per EEG gemessen, was eine ungewohnte und unbequeme Umgebung ist. Außerdem ging es um Essay-Schreiben mit LLM, Suchwerkzeugen oder ganz ohne Hilfsmittel, die Teilnehmenden wussten also genau, was untersucht wurde. Laut Paper-Zusammenfassung untersucht es die cognitive cost der Nutzung von LLMs bei Essay-Aufgaben. Essay-Schreiben ist eine komplexe Tätigkeit, die viele kognitive Prozesse mobilisiert und häufig in Schule oder Prüfung genutzt wird. Man muss gleichzeitig Makroaufgaben wie Ideenorganisation und Argumentationsstruktur sowie Mikroaufgaben wie Wortwahl, Grammatik und Syntax steuern. Um cognitive engagement, cognitive load und Hirnaktivität zu bewerten, wurde EEG verwendet. Neben LLMs wurden auch klassische Internet-Suche und ein Zustand ohne Hilfsmittel hinsichtlich der Hirnaktivität verglichen. Originalpaper
Die 54 Teilnehmenden waren 18 bis 39 Jahre alt (Mittelwert 22,9 Jahre, SD=1,69) und wurden an fünf Universitäten rekrutiert: MIT, Wellesley, Harvard, Tufts und Northeastern. Darunter waren 35 Bachelor-Studierende, 14 Graduate-Studierende und 6 Postdocs/Forschende/Software Engineers. Stichprobengröße und Zusammensetzung sind Einschränkungen, und Folgestudien sollten mit größeren und vielfältigeren Stichproben durchgeführt werden. Deshalb würde ich aber noch nicht sagen, dass es dadurch „schwer reproduzierbar“ ist
Ich finde, dieses „Man muss berücksichtigen, dass das Paper noch nicht peer-reviewed ist“ sollte man langsam lassen. Peer Review ist auch kein idealer wissenschaftlicher Prozess; oft bedeutet es nur unnötige Verzögerungen, inhaltsleere Kommentare und kostenlose Arbeit für große Publishing-Konzerne. Ich habe über 30 Arbeiten veröffentlicht und ebenso viele schlechte wie gute Reviews gesehen. Meiner Meinung nach sollten wir mindestens in Richtung Open Peer Review und Kommunikation mit Editoren gehen. Wissenschaft sollte ein Markt der Ideen sein. Die übrige Kritik halte ich für völlig berechtigt. Die Schlussfolgerungen des Papers sind zu vorschnell und wirken fast PR-getrieben. Persönlich halte ich das heutige Peer-Review-System für veraltet
Diese Studie ist ein Experiment zum Einfluss von ChatGPT auf die Essay-Schreibfähigkeit von Nutzern. Sie sagt im Grunde nur: Wenn man Schreiben nicht übt, nimmt die Schreibfähigkeit ab, und in der Hirnaktivität zeigten sich Unterschiede zu anderen Vorgehensweisen. Das ist noch kein Beleg dafür, dass es besonders schädlich ist. Außerdem verwendet das Paper nicht den Begriff „cognitive decline“, sondern „cognitive debt“, was für die Interpretation wichtig ist. Ich halte ähnliche Ergebnisse auch in anderen Studien für möglich, aber es ist zu früh, daraus zu schließen, dass AI/LLMs dem Gehirn schaden. Man könnte es auch so lesen, dass sie die cognitive load senken und Essay-Schreiben erleichtern. Allerdings braucht es weitere Forschung, etwa zur Bewertung der Ergebnisqualität
Man sollte außerdem beachten, dass „AI“ hier als Ersatzbegriff für LLM verwendet wurde. AI ist sehr vielfältig. Dass Bild-, Video- oder Audiogenerierung zu kognitivem Abbau führt, ist schwer vorstellbar; bei LLMs würde ich eher sagen, dass sie eine Art „intellektuelle Trägheit“ fördern können, weil man sich weniger selbst erinnern oder Fakten einprägen muss
Ich glaube, so ein Effekt lässt sich ziemlich problemlos reproduzieren. Wenn man in letzter Zeit mit Menschen zu tun hat, die stark auf LLMs umgestiegen sind, hat man spürbar den Eindruck, dass der IQ sinkt. Leute, die früher lebhaft diskutiert haben, können plötzlich kein Gespräch mehr führen, ohne erst Grok oder ChatGPT zu konsultieren
Der Artikel und die Überschrift wiederholen meiner Meinung nach eher grob ein früheres, originelleres Original. Die Forschenden selbst haben in einer FAQ ausdrücklich geschrieben, dass die Medien ihre Forschung falsch interpretiert haben und bitte keine Formulierungen wie „LLMs machen uns dumm“ verwenden sollen. Einige HN-Kommentare sind ein gutes Beispiel dafür, wie kognitive Verzerrungen dazu führen, Informationen zu übernehmen, ohne die eigentlichen Daten anzuschauen
Ich verstehe, warum manche das mit Reddit vergleichen. Solche Clickbait-Themen tauchen ständig auf. Vor allem ging es in dieser Studie nur darum, dass 18 Personen ChatGPT über vier Monate hinweg viermal benutzt haben; Störfaktoren wurden nicht sauber kontrolliert. Ich stimme zu, dass übermäßiger AI-Einsatz problematisch sein kann, aber diese Studie ist am Ende nur Clickbait zu einem Thema, das wir ohnehin nicht mögen
Ich habe das Gefühl, kaum jemand liest das Paper wirklich richtig. Die Gruppe, die in Sitzung 1–3 LLMs nutzte und in Sitzung 4 ohne LLM arbeiten musste, zeigte dann geringere Konnektivität, aber alle Gruppen zeigten über die Sitzungen hinweg zunehmende Konnektivität. Wichtig ist, dass in Sitzung 4 die Konnektivität nicht vollständig auf den Anfangszustand aus Sitzung 1 zurückfiel, sondern irgendwo dazwischen lag. Das heißt: Es wurde weiterhin gelernt. Der philosophische Begriff des Extended Mind ist hier zentral. Noch interessanter: Wenn die Gruppe, die Sitzung 1–3 ohne LLM verbracht hatte, in Sitzung 4 plötzlich ein LLM nutzen durfte, zeigte das Gehirn eine explosionsartige Aktivierung. Darin liegt eigentlich der zentrale Punkt der Studie
Ich persönlich habe beim Programmieren mit ChatGPT über acht Monate hinweg subjektiv gemerkt, dass mein Kopf langsamer wird. Deshalb spricht mich das Studienergebnis stark an. Ich vermute allerdings, dass künftig kaum noch neue Studien erscheinen werden, die AI negativ darstellen. Kräfte, die keine negative öffentliche Stimmung gegenüber AI wollen, prägen inzwischen die Gesellschaft insgesamt zu stark
Ich denke, man sollte LLMs weder Texte schreiben noch überarbeiten lassen. Für Feedback, Ideensuche und das Finden von Lücken kann man sie nutzen, aber das eigentliche Schreiben sollte man selbst bis zum Ende erledigen. Es ist zu leicht, das eigene Gehirn an das LLM abzugeben. Nicht nur beim Essay-Schreiben, auch beim Lösen von Programmierproblemen mit LLMs hatte ich das Gefühl, dass echte kognitive Verschlechterung einsetzt, wenn man sich zu sehr darauf verlässt. Wenn man in einem unbekannten Programmier-Ökosystem ständig nur Fehlermeldungen hineinkopiert, löst man das Problem zwar schnell, lernt aber weniger. Gleichzeitig ist der Einstieg dadurch einfacher und man bleibt weniger hängen, also braucht es Balance. Die Fähigkeit, direkt mit Problemen zu ringen, ist unverzichtbar
Bei mir ist es genau umgekehrt. Statt einfach Errors hineinzukopieren oder AI-Antworten sofort zu akzeptieren, frage ich ständig: „Warum funktioniert das?“ Ich lasse mir jede einzelne Command-Zeile und jedes Flag auseinandernehmen und erklären und gehe erst weiter, wenn ich alles vollständig verstanden habe. Ich merke mir Dinge vielleicht nicht so tief wie bei komplett eigener Erkundung, aber ich kann mehr Probleme in kürzerer Zeit erleben und dadurch mein Lernpensum erhöhen
Als Firefox eine Auto-Korrektur bekam, habe ich gelernt, fehlerfreie Texte zu schreiben, indem ich die richtigen Korrekturen nachvollzogen habe; das hat mich deutlich verbessert (Englisch ist nicht meine Muttersprache). Mit LLMs ist es ähnlich: Ich sehe sie als Tool, um schneller zu lernen und schneller zu Schlussfolgerungen zu kommen. Wenn ich in einem neuen Projekt ein Setup vergessen habe, das ich früher in ein Wiki geschrieben hätte, kann das LLM mich daran erinnern. Entscheidend ist die Selbstkontrolle, wenn man mit LLMs ein besserer Engineer werden will
Das ist das eigentliche Problem, aber wenn man LLMs in Maßen nutzt, kann man schnell zu seinem bestehenden Kompetenzniveau und angrenzenden Bereichen aufschließen, sich nicht an kleinen Wissenslücken festfahren und sich auf die wesentliche Arbeit konzentrieren. Ich habe zum Beispiel Unterwasser-Akustiksignalverarbeitung in C schnell implementiert und konnte ein Gebiet, das ich nicht perfekt beherrschen musste, pragmatisch und zügig bearbeiten. Früher hätte ich wahrscheinlich endlos fremden Code gelesen
Ein LLM Texte schreiben zu lassen, ist Faulheit, und das Ergebnis ist meist auch nicht zufriedenstellend. Besser ist es, selbst einen Entwurf zu schreiben und sich dann vom LLM Feedback geben zu lassen, blinde Flecken zu prüfen oder bessere Formulierungen zu finden
Ich sehe die Gewohnheit mit LLMs ähnlich wie eine übermäßige Abhängigkeit von Navigation oder Karten-Apps. Es ist unglaublich praktisch, hat aber den Nebeneffekt, dass Hirnareale für räumliches Gedächtnis und Entscheidungsfindung verkümmern. Ich habe damit auch schon einmal eine große Fehlentscheidung erlebt, weil ich zu sehr darauf vertraut habe. Früher waren Papierkarten unpraktischer, aber man gewann dadurch mehr Interaktion und mehr Leerlauf zum Nachdenken. Heute werden Papierkarten außerhalb von Konfliktgebieten kaum noch verwendet
Trotz des großen Medienechos hat diese Studie wie die vorliegende Arbeit erhebliche methodische Grenzen. 54 Personen wurden in drei Gruppen aufgeteilt, also nur 9 Personen pro Bedingung, was viel zu wenig ist, um Aussagen über „Umprogrammierung des Gehirns“ zu stützen. Gezeigt wurde lediglich, dass es beim AI-unterstützten Essay-Schreiben andere Hirnmuster gibt, nicht aber dauerhafte Schäden. Dass bei Tool-Nutzung die Hirnaktivität geringer ist, ist so ähnlich wie der Rückgang von Kopfrechnen beim Einsatz eines Taschenrechners. Begriffe wie „kognitive Schädigung“ oder „schwerer Schaden“ kommen in der eigentlichen Studie nicht vor. Mit Oberflächen-EEG lassen sich tiefe Veränderungen im Gehirn ohnehin nicht ableiten. Die Autoren benennen diese Grenzen selbst. Auch „83,3 % konnten sich an keinen einzigen Satz ihres Essays erinnern“ bedeutet am Ende nur 15 von 18 Personen
Als typische Alltagsbeispiele für AI-Nutzung werden hier Lötarbeiten, der Einsatz eines Multimeters, Schaltungsaufbau, Solar-/Batteriesysteme, der Aufbau von LoRa-Netzwerken und andere praxisnahe Lernprozesse genannt. In all diesen Fällen lernt die Person nicht nur theoretisch, sondern experimentiert selbst praktisch. Wenn Probleme auftreten, wird AI genutzt, um die Ursache zu finden, und durch wiederholtes Fragen und Testen wird das zugrunde liegende Prinzip wirklich verstanden. YouTube-Videos passen nicht zum eigenen Lernstil, textbasierte AI dagegen schon. Die Person lernt absichtlich durch Fehler und auch durch das Kaputtmachen von Dingen. Die Trial-and-Error-Strategie, die in der Software funktioniert hat, wird erfolgreich auf günstige Elektronik übertragen
Als jemand, der solche Dinge selbst macht, frage ich mich, warum man dafür AI wählt. Aus Text zu lernen ist meiner Meinung nach eine der schwierigsten Formen des Lernens. Gute Videos zeigen den realen Ablauf und die Kriterien für Erfolg oder Misserfolg viel besser. Andererseits wird es tatsächlich immer schwerer, wirklich gute Videos zu finden
Ich habe vor dem Aufkommen von LLMs auf ähnliche Weise gelernt, als ich analoge Synthesizer gebaut habe. Was ich daran unterschreibe: Ich habe damals dieselben Webtexte als Referenz genutzt, auf die sich heute auch LLMs stützen. Wenn etwas nicht funktionierte, habe ich auf reale Geräte oder Dokumentation zurückgegriffen. Es gab also schon lange einen funktionierenden Lernpfad ohne LLMs, und ich bin noch nicht überzeugt, dass LLMs dafür zwingend die überlegene Lernmethode sind
Beim physischen Arbeiten passt sich die Lerngeschwindigkeit dem Tempo an, in dem das Gehirn wirklich lernt. Zu schnelle Feedback-Loops wie beim „vibe coding“ in Software helfen echtem Lernen eher nicht. Das Gehirn lernt dann, dem eigentlichen Lernprozess auszuweichen
Wenn man LLMs wie ein Lehrling nutzt, der seinem Meister Fragen stellt, sehe ich darin überhaupt kein Problem
Ähnlich bei mir: Ich arbeite mit Übungsbüchern ohne Lösungsteil und hole mir bei jedem Hänger Feedback und Hinweise von ChatGPT, was mir sehr hilft
Der Artikel wirkt fast so, als wäre er selbst von AI geschrieben worden; jedenfalls kann man aus dem eigentlichen Paper schwerlich zu dieser Schlussfolgerung kommen. Das Experiment bestand aus SAT-artigen Essays von weniger als 30 Minuten über vier Monate hinweg, und nur ein Teil davon nutzte AI. Daraus abzuleiten, dass man sichtbar dümmer werde, wenn man einmal im Monat 20 Minuten lang AI nutzt, ist schlicht unsinnig. Was die Studie tatsächlich zeigt, ist, dass Menschen weniger Bindung und weniger Erinnerung an Ergebnisse haben, die sie nicht selbst erzeugt haben. Das gilt genauso für von anderen Menschen erstellte Arbeiten
Ich denke, die Art und Weise, wie man AI nutzt, hängt sehr eng damit zusammen, wie sie das Lernen beeinflusst. Ich selbst denke durch AI eher viel tiefer als sonst, weil ich ständig nachfrage und logisch dagegenhalte. Wenn ich zum Beispiel auf eine schlecht dokumentierte Funktion stoße, nutze ich AI, um den Codefluss zu verstehen, und diskutiere fortlaufend mit ihr über verschiedene Optionen wie bessere Benennung, Umstrukturierung oder Dokumentation. Nur den Teil der Informationssuche erledigt das LLM deutlich schneller, sodass ich mir dort etwas Mühe spare; eigentlich denke ich dadurch eher tiefer nach. Natürlich habe ich dadurch in manchen Bereichen wie
mermaidAbkürzungen genommen, aber dank LLMs konnte ich reale Arbeit überhaupt erst erledigen, während ich sonst wahrscheinlich nur langweilige Routineaufgaben gemacht hätteDiese Studie und viele Artikel dazu wurden so reißerisch interpretiert, dass das Forschungsteam sogar eine eigene FAQ veröffentlicht hat. Der Autor des Papers bittet wiederholt darum, Formulierungen wie „LLMs machen dumm“ nicht zu verwenden
Allein aus technischen Messungen neuronaler Netzwerke auf „langfristigen kognitiven Abbau“ zu schließen, ist überzogen. Zum Beispiel ist das Ergebnis „83 % der LLM-Nutzer konnten sich an keinen einzigen Satz ihres gerade geschriebenen Essays erinnern“ letztlich nur die banale Feststellung, dass Texte, die nicht durch die eigenen Hände gegangen sind, schlechter im Gedächtnis bleiben. Wenn AI den Text an ihrer Stelle geschrieben hat, ist es nur selbstverständlich, dass er nicht durch die eigene Gedankenarbeit gegangen ist