- Die Behauptung „Man muss sich an nichts erinnern“ ist eine alte Illusion
- Digitale Werkzeuge wie Internet, Notiz-Apps und KI behaupten, die Notwendigkeit des Erinnerns überflüssig zu machen, verursachen aber versteckte Kosten für die Denkfähigkeit
- Ohne kritische und analytische Denkfähigkeiten lassen sich Internetsuchergebnisse nicht effektiv nutzen, und der Wissenserwerb bleibt oberflächlich
- Wenn Informationen nur oberflächlich konsumiert werden, ohne tiefes Wissen, schwächt das die kognitive Verarbeitungsfähigkeit des Gehirns
- Methoden wie die Zettelkasten Method und konsequentes Training sind für bedeutsame Wissensarbeit unverzichtbar
Die Illusion digitaler Werkzeuge und des Gedächtnisses
- Die Vorstellung „Man muss sich an nichts erinnern“ ist eine alte Einsicht, die bereits vor Jahrzehnten auftauchte
- Suchmaschinen, ältere Notiz-Apps und KI wiederholen die Behauptung, die Bedeutung des Erinnerns sei verschwunden
- Tatsächlich sind jedoch Grundbildung und Vorwissen über das jeweilige Gebiet unverzichtbar, um die gewünschten Informationen zu finden
Kritisches Denken und die Fähigkeit, das Internet zu nutzen
- In der modernen Gesellschaft gibt es eine starke Tendenz, die notwendigen Denkprozesse zu überspringen und im Internet direkt nur nach Schlussfolgerungen zu suchen
- Diese Tendenz führt zu einer Verringerung von selbstgesteuerten Lerngelegenheiten und Vorwissen und mindert die Fähigkeit, die Qualität von Informationen zu bewerten und sie in tatsächliches Wissen zu verwandeln
- Untersuchungen zufolge fehlt sogenannten Digital Natives die Fähigkeit, im Internet gefundene Informationen kritisch und analytisch zu bewerten
- Um den wahren Wert der Internetsuche zu erschließen, braucht es eine fachbezogene mentale Landkarte
Der Ansatz der Digital Natives und seine Probleme
- Digital Natives beurteilen Informationen oft nur nach oberflächlicher Übereinstimmung, wodurch die Motivation zur kritischen Bewertung nachlässt
- Dieser Ansatz führt zu den folgenden Ergebnissen
- Eine geschwächte emotionale Verbindung zum Material, wodurch Tiefe des Denkens und Vertiefung abnehmen
- Eine oberflächliche Beziehung zu Informationen, ohne dass sich die Gehirnstruktur verändert
- In der Folge wird mit der Zeit das Fundament des Wissens brüchig, je stärker sich Gewohnheiten des oberflächlichen Informationskonsums ansammeln
Die zentrale Voraussetzung von Wissen, Notizen und kritischem Denken
- Echte Wissensbildung muss nicht von KI oder PKM-Tools (Personal Knowledge Management), sondern von der betreffenden Person selbst direkt vollzogen werden
- So kann man etwa ChatGPT einen wöchentlichen Trainingsplan entwerfen lassen, doch ohne Hintergrundwissen lässt sich nicht beurteilen, ob das Ergebnis richtig oder falsch ist
- Ohne tiefes Verständnis wichtiger Konzepte und bei nur oberflächlicher Kenntnis von Begriffen ist es schwer, den tatsächlichen Wert von Informationen zu bewerten
Hintergrundwissen und die interne Verarbeitungsfähigkeit des Gehirns
- Es besteht ein großer Unterschied zwischen bloß oberflächlichen Assoziationen und dem Zustand, bei einem bestimmten Begriff tatsächlich grundlegendes, vielschichtiges Wissen umfassend abrufen zu können
- Der Flaschenhals der Wissensarbeit ist nicht die Menge externer Informationen, sondern die interne Verarbeitungskapazität und der Trainingszustand des individuellen Gehirns
Der Bedarf an den richtigen Werkzeugen und kontinuierlichem Training
- Entgegen der Vorstellung „Man muss sich an nichts erinnern“ ist in Wirklichkeit „Man muss sich an alles erinnern“ die wünschenswerte Richtung
- Nur so werden bedeutsame kognitive Arbeit und wissensbasiertes Denken möglich
- Einfache Werkzeuge (z. B. Spaced Repetition) helfen bei einfachen Aufgaben, fortgeschrittene Werkzeuge (z. B. Zettelkasten Method) bei komplexem Denken
- Tiefgehende Verarbeitung ist letztlich direkt mit dem Training des Gehirns verbunden
- Die Zukunft der Wissensarbeit hängt von einer Haltung ab, die das Training des Geistes nicht aufgibt
Live long and prosper
Sascha
1 Kommentare
Hacker-News-Kommentare
Erstens: AI nach der Antwort fragen. Sie baut etwas, übernimmt das Denken, das ich eigentlich selbst leisten müsste, und dadurch fühlt sich die Arbeit leichter an
Zweitens: AI als Automatisierungswerkzeug für wiederholbare und einfache Aufgaben einsetzen, etwa das Schreiben von Test-Suites oder das Einrichten von Infrastruktur. Das ist tatsächlich schneller als ein Mensch, aber weil man sich dann auf die schwierigen Aufgaben konzentrieren muss, fühlt es sich eher anstrengender an Diese beiden Ansätze lösen völlig unterschiedliche Gefühle aus Beim ersten wird die Arbeit leichter, beim zweiten werden die einfachen Teile automatisch erledigt, sodass man womöglich in einen Zustand gerät, in dem durchgehend mehr Denken und Mühe nötig sind Wenn es im Job auch nur ein wenig Wettbewerb gibt, glaube ich, dass die Person, die nach dem zweiten Muster arbeitet, bei Produktivität und Qualität deutlich überlegen sein wird Aber diese Arbeitsweise fühlt sich mental sehr auszehrend an Verwandter Beitrag
Ich habe den zweiten Ansatz tatsächlich in einem Unternehmen ausprobiert Um damit fast sicher erfolgreich zu sein, muss man den Implementierungsplan größtenteils im Voraus ausarbeiten und überwachen, ob das LLM seltsame Ergebnisse produziert Dabei kommt man kaum noch zu anderen Aufgaben Gefühlt verbessert sich die Produktivität um etwa 10 % bis 20 %
Dieses Gefühl, „Denkarbeit zu komprimieren und nur noch die harten Dinge zu tun“, genau das wollte ich ausdrücken Der echte Flaschenhals im Systemdesign sind nicht die einfachen oder wiederholbaren Dinge, sondern die schwer vorhersagbaren Teile, unbekanntes Terrain, unbeabsichtigte Folgen und Ähnliches. Dabei hilft AI nicht besonders viel Im Gegenteil: Es ist sogar hilfreich, wiederholbare Arbeit nicht vollständig zu automatisieren, sondern einen Teil davon zu behalten Solche Aufgaben halten einen in der Domäne verankert und führen oft auch zu Einsichten in schwierigere Probleme
Ich überlasse AI Architektur, Code-Struktur und Entwürfe auf Algorithmus-Ebene Ich plane auf dieser Ebene und überlasse die eigentliche Implementierung dann vollständig Agenten Tests lasse ich sowohl von mir selbst als auch von mehreren AI-Agenten auditieren Die Pipeline ist zu 100 % automatisiert, und die Ergebnisse sind sehr gut Irgendwie bleibt auch das Gefühl von Engineering erhalten, weil ich dabei stochastische Workflow-DAGs nach meinen Anweisungen orchestriere
Das Problem mit LLMs ist, dass sie nicht einmal einfache Dinge vollständig allein erledigen können Und wenn Menschen eingreifen müssen, können LLMs dumme Verzerrungen auslösen, die sogar die menschliche Intuition trüben Ich denke aber auch, dass diese Idee mit der Entwicklungsgeschichte von Compilern, Type-Checkern, automatisierten Tests, Versionskontrolle und Ähnlichem zusammenhängt
Beim ersten Beispiel, also wenn man nur Fragen stellt und Antworten bekommt, gibt es Situationen, in denen man sogar mehr nachdenken muss Wenn das Generierte nicht genau das tut, was man will, Bugs hat oder kompliziert wird, muss man eine Menge Code analysieren und verstehen, den man nicht selbst geschrieben hat, um den nächsten Schritt machen zu können Beim Lesen dieses Codes kann man leicht Zeit verschwenden Wenn am Ende der Eingabe-Prompt oder die Spezifikation perfekt klar ist und ich den Code dadurch auf demselben Niveau verstehe, als hätte ich ihn selbst geschrieben, ist das kein Problem. Wenn nicht, halte ich es für besser, alles zu löschen und neu zu planen
Zur Behauptung „Man muss sich alles merken, um sinnvolle intellektuelle Arbeit leisten zu können“ In Wirklichkeit muss man sich nicht alles merken Durch Erfahrung, Denken und Schreiben reicht es für sinnvolle Arbeit aus, sich die Einstiegspunkte und die Form dessen zu merken, was als Nächstes kommt
Zitat von Thomas von Aquin: „Die Dinge, die ein Mensch behalten will, müssen in eine geordnete Reihenfolge gebracht werden; Ordnung ist die Kette des Gedächtnisses“ Ich habe diese Stelle in meinem Zettelkasten gefunden
Ich denke, das hängt von der Art der Arbeit ab Bei Dingen mit Echtzeit-Performance, etwa Gesprächen in einer Fremdsprache, muss man Vokabeln sicher beherrschen, und beim Musizieren gilt Ähnliches Beim Schreiben kann man sich Zeit lassen, aber wenn das Hintergrundwissen zu dünn ist, braucht man am Ende trotzdem viel Vorarbeit
Tatsächlich funktionieren LLMs auch auf diese Weise Wie beim menschlichen Gehirn steckt man in das Pre-Training möglichst viele Informationen hinein, und ab einer gewissen Schwelle entstehen Ergebnisse, die menschlichem Denken wie Schlussfolgern oder Tool-Nutzung näherkommen Deshalb halte ich die Hypothese für plausibel, dass auch das Gehirn zu einem schwachen Basismodell würde, wenn ihm zu wenig Vortrainingsdaten zur Verfügung stünden
Ich merke mir nicht alle Antworten, sondern eher nur, wo ich sie finde
Frage dazu, ob damit gemeint ist, „sich nur den Anfangszustand zu merken und den Rest gedanklich nachlaufen zu lassen (Assoziationsmethode)“ oder „sich nur den Ausgangspunkt einer Lösung zu merken, etwa Annahmen oder ein paar Kernideen“ Wer einen Zettelkasten nutzt, dürfte dem ersten Ansatz stark zustimmen
Zur Behauptung „Man muss sich alles merken, um sinnvolle intellektuelle Arbeit leisten zu können“ Wenn Menschen keine Fähigkeit zur Abstraktion hätten, wäre das plausibel Da es aber Abstraktion gibt, reicht es in der Praxis aus, sich nur einen Teil der konkreten Fakten zu merken Entscheidend ist, dass man starke konzeptionelle Modelle und implizites Wissen braucht Implizites Wissen entsteht durch Erfahrung und Feedback, und man baut konzeptionelle Modelle auf, an die man Fakten nach und nach anfügt Am Anfang hilft Auswendiglernen, aber ab einem gewissen Entwicklungsstand kann es eher hinderlich werden Man muss nie das gesamte Werkstück auf einmal im Kopf behalten; mit Erfahrung reicht es, jeweils nur das Nötige in das passende „Framework“ einzupassen Ich denke, die Kontroverse entsteht oft deshalb, weil Menschen, die Auswendiglernen ablehnen, eine mühsame Anfängerphase durchlaufen haben
Zu dieser These „Man muss sich alles merken“ gab es inzwischen mehrere Posts, aber mir scheint, dass dabei oft viele Punkte und viel Kontext verloren gehen Tatsächlich ist es unmöglich, sich alles zu merken, also stimme ich dem zu, dass man versuchen sollte, sich möglichst viel zu merken Am Ende halte ich die Haltung „Ich muss mir sowieso nicht alles merken, also kann ich das ignorieren“ für gefährlich Ich fand, dass die Stoßrichtung des Textes ziemlich stark war: Dinge an den Taschenrechner oder an LLMs auszulagern hilft einem später nicht weiter
Dem Argument „Konzeptionelle Modelle und implizites Wissen sind wichtiger“ stimme ich sehr stark zu Je länger man Informatik und Software Engineering betreibt, desto mehr merkt man, dass es gar nicht so viele wirklich zentrale Konzepte gibt, wie man zunächst denkt Für wirklich erfahrene Ingenieurinnen und Ingenieure ist es essenziell, jedes dieser Konzepte gewissermaßen lebendig erlebt zu haben Wenn man diese Konzepte gut verinnerlicht, kann man fast jedes Computerproblem schnell in seine „konzeptionellen Koordinaten“ einordnen und es dadurch immer wieder anwenden und verstehen
Ich spreche in letzter Zeit oft mit Bekannten über dieses Thema, und für mich ist Engineering am Ende dadurch definiert, „mit einer Frage zu beginnen und ohne klare Lösung zu starten“ Wichtig ist dabei ein ausreichendes Verständnis der Basis, auf der die eigene Schicht aufbaut, also der tieferen Abstraktionsebenen In einer Wissenspyramide gibt es auf jeder Ebene verschiedene Rollen und Spezialisierungen, aber egal, wo man steht: Je besser man die unteren Schichten versteht, desto besser wird die Intuition Wenn man die Grundlagen auslagert, schwächt das nicht nur das kritische Denken, sondern auch die Intuition für die Struktur der Welt, in der man arbeitet
Ich kann Anki, Zettelkasten und ähnlichen Werkzeugen zur Gedächtnisverbesserung durchaus etwas abgewinnen, aber ich finde, dieser Text vereinfacht zu stark Ich denke, es gibt zwei Modelle wissensbasierter Arbeit
Der Punkt, dass AI besonders hilfreich ist, wenn man überhaupt kein Hintergrundwissen hat, ist in letzter Zeit wirklich auffällig Aber genau darin sehe ich das Problem AI hilft einem beim leichten Einstieg, nimmt einem dabei aber die Gelegenheit, selbst zu lernen Lernen ist ein wiederholter Kreislauf aus Aufnahme, Verständnis, Einprägen und Anwendung; wenn man AI endlos promptet und sich nur Antworten geben lässt, findet kaum eigenes Lernen statt
Die Stärke von AI liegt darin, mehrere gute Beispiele für eine „Art“ von Dingen liefern zu können Wenn AI mir mehrere „Unternehmen, die X tun“ nennt, ist das eine Referenz dafür, wie ich mit einer Suchmaschine selbst tiefer recherchieren kann Selbst wenn ich am Ende nicht bei genau den von AI gelieferten Ergebnissen lande, muss ich mir nach dem Input trotzdem mein eigenes Urteil bilden AI ist besonders gut darin, Muster zwischen Wörtern und Eigenschaften sowie in der Art zu erkennen, wie Aussagen über Kategorien formuliert werden
Auch Pilotinnen und Piloten nutzen Hilfsmittel wie Checklisten, die man nicht auswendig wissen muss, und in Notfällen gibt es Dinge, die fast reflexhaft nur aus kodiertem Gedächtnis heraus ausgeführt werden müssen
Für Improvisation oder Live-Performance, etwa Gespräche oder Musik, braucht man ein gutes Gedächtnis, um gut zu sein Wie viel Live-Verarbeitung man will, scheint ein guter Maßstab dafür zu sein, wie viel man sich merken sollte
Zur Behauptung „Wenn du nach dem bloßen Lesen einer Frage nicht sofort eine umfassende Antwort geben kannst, fehlt dir ausreichendes Hintergrundwissen“ Diese Sicht ist zu extrem Zum Beispiel muss man bei der Erstellung eines Trainingsplans nicht jeden einzelnen Detailfaktor vollständig berücksichtigen Auch wenn die Antwort nicht maximal optimiert oder „minmaxed“ ist, kann man mit Beständigkeit immer noch gute Ergebnisse erzielen Das gilt allgemein in vielen Bereichen Man muss kein tiefgehender Experte sein, um ein ordentliches Resultat zu erzielen
In der Mathematik ist es genauso Man kann einen Taschenrechner benutzen, aber mit Zahlensinn und arithmetischer Intuition kann man die Welt viel schneller und genauer verarbeiten Natürlich kann man sich auch auf AI oder Suchmaschinen stützen, aber ein Mindestmaß an Urteilsvermögen muss man selbst haben
Ich fand es immer seltsam, wenn viele Leute sofort mit Excel-Formeln anfangen, ohne Daten zuerst direkt und intuitiv anzuschauen Wenn zum Beispiel A8 den Wert 120 und A7 den Wert 100 hat, ist es eine gute Gewohnheit, die prozentuale Steigerung erst einmal selbst mit den Augen grob zu erfassen Bei AI ist es ähnlich: Statt Antworten in einem völlig unbekannten Gebiet blind zu glauben, sollte man sie zuerst an Werten oder Konzepten prüfen, die man selbst verifizieren kann
Problematisch ist nicht, ob man einen Taschenrechner benutzt, sondern ob man dem Rechnen selbst gegenüber eine Abneigung entwickelt Es ist erstaunlich, wie viel Unsinn man allein dadurch sofort herausfiltern kann, dass man sich ein paar einfache Formeln merkt, etwa für Fläche, Volumen, Dichte oder Energie Das bekannte Beispiel mit dem Pizzadurchmesser zeigt das gut
Der eigentliche Kern ist, dass das Gehirn sich durch Erfahrung „abrichtet“ und weiterentwickelt Wenn man nichts auswendig lernt und sich immer nur auf Suche verlässt, lernt das Gehirn am Ende nur, wie eine Suchmaschine zu funktionieren hat In Situationen, in denen Suche nicht möglich ist, wird der Mangel an Erfahrung dann zu einer fatalen Grenze Natürlich kann so eine Vorgehensweise in der heutigen Zeit trotzdem funktionieren, aber das Grundprinzip, dass sich das Gehirn verbessert, verändert sich dadurch nicht
Meiner Ansicht nach muss man sich nicht alles merken, aber man braucht unbedingt die Erfahrung, Dingen tatsächlich begegnet zu sein Wenn man nicht einmal weiß, was man nicht weiß, ist Wissensarbeit riskant Ich stimme dem Spruch zu: „Lerne von allem ein bisschen und von einem Bereich sehr viel“
Vor dem Internet fragte man die Leute in seiner Umgebung, und wenn sie irgendetwas halbwegs Plausibles sagten, glaubte man es eben Dann kam das Internet, und Suchergebnisse waren oft genauer als zufällige Bekannte Jetzt ist AI da, und auch sie ist nicht perfekt, aber oft vertrauenswürdiger als irgendjemand aus dem Umfeld oder ein zufälliger Blog Die Vorstellung, dass etwas zu 100 % richtig sein muss, wirkt auf mich seltsam Früher haben ohnehin alle einfach angenommen, was irgendwer in ihrer Nähe gesagt hat
Mich würde interessieren, worauf sich die Annahme stützt, dass ein LLM, das Antworten aus zufälligen Blogs aggregiert, genauer ist als eine direkte Suche in Blogs mit nachgewiesener Expertise
Es ist ohnehin falsch, einfach irgendwen zufällig zu fragen Man sollte immer Domänenexpertinnen oder -experten fragen Ich frage meine Frau nicht nach Videospielen und meinen Vater nicht nach Programmierung Schon allein dadurch verringert sich der Bedarf an AI erheblich