Warum Gespräche mit LLMs mein Denken verbessert haben

• Gespräche mit LLMs erhöhen die Klarheit des eigenen Denkens und die Fähigkeit, Gedanken sprachlich auszudrücken
• Gedanken, die man lange implizit kannte, aber nicht in Worte fassen konnte, werden vom LLM in Sätze gebracht; dadurch entsteht kein neues Lernen, sondern ein Moment des Erkennens
• Wie bei der Erfahrung von Programmierern werden Intuition, Mustererkennung und schwer erklärbare Urteile oft in einer Form gespeichert, die der Sprache vorausgeht
• LLMs sind darauf spezialisiert, solche vagen Strukturen in Sprache aufzulösen und erlauben es, Denken neu zu strukturieren, indem sie Gründe zerlegen und auflisten
• Wenn Gedanken in Sätzen fixiert werden, lassen sich Annahmen und Intuitionen prüfen, korrigieren und verwerfen, wodurch sich die Qualität des Denkens verändert
• Durch den wiederholten Prozess der Versprachlichung steigt die Präzision des inneren Monologs, und man erkennt das eigene Denken besser

---

Ein beträchtlicher Teil dessen, was wir wissen, ist implizit (tacit knowledge)

• Programmierer und Entwickler erkennen oft schon intuitiv, dass ein Design fehlerhaft ist, noch bevor sie es in Worte fassen können
  • Dazu gehört, dass man spürt, dass ein Design falsch ist, oder einen Bug bemerkt, noch bevor man ihn reproduziert hat
  • Man erkennt eine falsche Abstraktion sofort, braucht aber Zeit, um zu erklären, warum
• Dieses implizite Wissen ist kein Misserfolg, sondern das Ergebnis davon, dass Erfahrung in handlungsorientierte Muster komprimiert wurde
  • Das Gehirn speichert Wissen in einer für Ausführung statt Erklärung optimierten Form, also als Muster
• Für Reflexion, Planung und Lehre ist sprachlicher Ausdruck jedoch unverzichtbar; nicht ausgedrückte Ideen lassen sich nur schwer prüfen oder teilen

LLMs sind in der gegenteiligen Problemstellung besonders gut

• LLMs sind Werkzeuge, die darauf optimiert sind, vage Konzepte und Strukturen in Sätze zu übersetzen
• Wenn Nutzer Fragen stellen, die sich „irgendwie richtig anfühlen, deren Begründung aber schwer zu erklären ist“, ordnet das LLM die Gründe Schritt für Schritt und präsentiert sie
• Die einzelnen Punkte sind orthogonal aufgebaut, sodass Nutzer sie austauschen und neu anordnen können, um ihr Denken zu erweitern

Wenn man Gedanken in Worte fasst, verändern sich die Gedanken selbst

• Wenn ein LLM Ideen in Sätzen ordnet, können Nutzer sie im Kopf erproben
• Eine vage Intuition wird zu einer benannten Unterscheidung, implizite Annahmen treten hervor und werden prüfbar, verwerfbar und korrigierbar
• Wie Schreiben das Denken verfeinert, unterscheidet sich das LLM vor allem durch Geschwindigkeit
  • Halb geformte Gedanken lassen sich schnell erkunden, falsche Erklärungen verwerfen und neue Versuche starten
  • Dieser Prozess fördert Denkschritte, die man früher oft übersprungen hätte

Rückkopplungsschleife und Internalisierung des Denkens

• Mit der Zeit fragt man sich auch ohne LLM selbst: „Kann ich das, was ich gerade denke, fühle und glaube, präzise in Sprache ausdrücken?“
• Nicht so sehr das LLM selbst verbessert direkt das Denken, sondern vielmehr die Fähigkeit zum Sprachgebrauch und die Effizienz des inneren Monologs
• Schlussfolgern hängt von explizitem Ausdruck ab, daher führt mehr sprachliche Klarheit direkt zu mehr Klarheit im Denken
• Je öfter man diesen Prozess wiederholt, desto besser erkennt man was man tatsächlich denkt

[sudosudo]

Gutes Denken ist nur möglich, wenn man über Metakognition verfügt; nur weil es LLMs gibt, verbessert sich das Denken nicht. Und wer LLMs von Anfang an nutzt, ruiniert sich vermutlich auch noch die Metakognition..

[woung717]

Nun ja, ich habe eher den Eindruck, dass es auch Fälle gibt, in denen man sich wegen falsch schmeichelnder Antworten in der eigenen Denkweise einschließt. Als Tool, das Dinge klar strukturiert, ist es nützlich, aber ich finde, es ist ebenso wichtig, die Antworten der KI immer aus einer kritischen Perspektive zu betrachten.

[y15un]

Deshalb setze ich in den Gemini-Instruktionen: "Den Nutzer nicht übermäßig loben oder hochjubeln. In einem neutralen und wissenschaftlich/akademischen Stil antworten. Immer Referenzen angeben." und nutze es so. Es kommt zwar immer noch häufig vor, dass die Anweisungen missachtet werden (z. B. habe ich das Einfügen von YouTube-Videos untersagt, aber manchmal werden sie trotzdem hineingemischt), aber dennoch erzeugt es deutlich sauberere Antworten, die aufgeräumter sind und sich auf das Wesentliche konzentrieren.

[slimeyslime]

Das sind prägnante und gute Anweisungen. Ich werde versuchen, sie ebenfalls anzuwenden.

[GN⁺]

Hacker-News-Kommentare

• Das deckt sich auch mit meiner Erfahrung. Im Gespräch mit einem LLM konnte ich zuvor vage Ideen konkretisieren und verwandte Themen erkunden, um mein Verständnis zu erweitern
  Früher wusste ich oft nicht, wo ich anfangen sollte, wenn mich etwas interessierte, aber ChatGPT sagt mir, ob diese Idee schon als Konzept existiert, wer dazu geforscht hat und welche Primärquellen es gibt
  Es ist wie ein Kaninchenbau zur Erkundung der Welt. Die Einstiegshürde zu Wissen sinkt, und selbst Schreiben, das ich früher langweilig fand, wirkt plötzlich neu. Inzwischen denke ich sogar, dass ich selbst schreiben möchte

  • In den frühen 2000ern hatte Wikipedia diese Rolle. Heute fühlt es sich wie eine Enzyklopädie an, mit der man sprechen kann
    Ich frage mich nur, ob Unternehmen LLMs irgendwann stärker monetarisieren wollen. Gespräche könnten dann in Richtung Kaufanreize gelenkt werden
  • Ich bin nicht gut in Mathematik, interessiere mich aber sehr für Analogsynthesizer-Emulation. Ich kam nicht weiter, als ich die Innovation des „zero delay filter“ aus der Mitte der 2000er verstehen wollte, aber durch Gespräche mit einem LLM habe ich es endlich verstanden
    Ich habe begriffen, wie der Näherungsalgorithmus funktioniert, der das Problem der Feedback-Schleife löst. Ich glaube, dass diese Art des Lernens auch Studierenden sehr helfen würde
  • Ein LLM wie eine Rubber Duck zu benutzen, ist eine hervorragende Anwendung
  • Hat George Orwell nicht gesagt: „Schreiben ist Denken“
  • Ich würde LLMs gern mit Kaffee vergleichen. Kaffee ist ein überall verfügbares Produktivitätswerkzeug, es gibt viele Sorten, aber am Ende ist „Bohne eben Bohne“
    Bei KI scheint es ähnlich zu sein. Das Wesen bleibt gleich, nur das Drumherum wird immer prunkvoller. Der weltweite Kaffeemarkt hat ein Volumen von etwa 500 Milliarden Dollar, und ich glaube, der KI-Markt wird bald ähnlich groß sein

• Ich will die Erfahrung anderer nicht abwerten, aber Denken ist ein sich selbst verstärkender Akt
  Im Prozess, sich selbst Fragen zu stellen und zu beantworten, entstehen neue Gedanken. Diese Fähigkeit dürfen wir nicht verlernen

  • Meiner Erfahrung nach haben LLMs gegenüber persönlichem Denken zwei Vorteile
    1. Sie bieten Zugriff auf einen riesigen Wissensindex und sagen mir Dinge, die ich nicht wusste
    2. Sie reagieren sofort und interessant, was Ermüdung reduziert. Dadurch kann ich mich länger konzentrieren
       Schade ist nur, dass sie zu sehr Ja-Sager sind und kaum Gegenargumente bringen. Trotzdem hat Denken mit einem LLM einen eigenständigen Wert
  • Niemand bestreitet, dass „Denken Denken weiterentwickelt“
    Aber der Prozess, etwas schriftlich auszudrücken, verlangt viel tiefere metakognitive Reflexion als bloßes Denken. Deshalb führt er auch zu präziserem Denken
  • Meiner Erfahrung nach gibt es einen „rekursiven Placeboeffekt“
    Wenn man das Gefühl hat, besser zu denken → wird man aufgeregt → vertieft sich mehr → erzielt bessere Ergebnisse → wird noch aufgeregter → und so weiter
    Dieser Kreislauf ist auch ohne LLM möglich
  • Ich stimme fast zu, aber manchmal reicht reines Schlussfolgern nicht aus, wenn Informationen fehlen
    Gespräche mit LLMs sind oft zerstreut und ineffizient. Am Ende muss der Mensch die Richtung vorgeben
    Menschliche Gespräche sind langsamer, haben aber immer noch die bessere Schlussfolgerungsfähigkeit. LLMs sind gut für Zusammenfassungen oder als Ausgangspunkt zur Erkundung, aber tiefe Einsichten kommen aus Büchern und Gesprächen mit Menschen
  • Das Konzept des „Rubber-Duck-Debugging“ ist hier relevant (Wikipedia-Link)
    Schon das laute Formulieren von Gedanken aktiviert andere Bereiche des Gehirns und hilft beim Lösen von Problemen

• Nach 20 Jahren in einem anderen Bereich habe ich kürzlich begonnen, Informatikvorlesungen im Grundstudium zu geben
  Anfangs dachte ich, ich würde LLMs als Programmierhilfe nutzen, aber tatsächlich waren sie viel hilfreicher beim Feinschliff des konzeptionellen Framings
  Sie haben mir geholfen, meine unkonventionelle Philosophie des Softwaredesigns klarer zu erklären

  • Geoffrey Hintons LLM-Hypothese ist interessant. LLMs müssen Weltwissen in Milliarden von Parametern komprimieren und müssen deshalb sehr gut in analogischem Denken sein
  • Mich interessiert deine unkonventionelle Designphilosophie. Ich beneide deine Studierenden

• Wenn man den Originaltext liest, wirkt der Stil zu LLM-haft
  Solche wiederholten Strukturen wie „This is not <>, this is how <>“ wirken künstlich. So schreibt ein echter Mensch normalerweise nicht

  • Ich hatte ein ähnliches Unbehagen. Die Satzstruktur ist zu sehr eine mechanische Aufzählung, wodurch der Fluss der Aussage bricht
    Der Autor behauptet, Schreiben helfe zwar beim Denken, Gespräche mit LLMs seien aber schneller und reibungsärmer — dabei erhöht sich hier gerade die Reibung des Ausdrucks, sodass die Aussagekraft sinkt
  • Relevanter pangram.com-Link

• Ich stimme dem Punkt zu, dass LLMs das implizite Wissen einer Person hervorholen
  Gleichzeitig hat auch der gestrige Beitrag über „kognitive Schuld (cognitive debt)“ beim Einsatz von KI (Link) einen berechtigten Punkt. Wahrscheinlich stimmt beides

  • Letztlich hängt es davon ab, wie man mit LLMs interagiert
    Wenn man persönliche Fragen stellt und sie wie ein „Gespräch“ nutzt, kann sich kognitive Schuld aufbauen
    Wenn man dagegen im Imperativ Aufgaben erteilt, kann man überprüfbare Ergebnisse bekommen
    Zum Beispiel kann „Schreib mir einen Essay über die Vögel in meiner Region“ leicht für ein menschliches Werk gehalten werden,
    während „Wie funktioniert die Kundenabrechnung in dieser Codebasis?“ überprüfbaren deterministischen Code erzeugt

• Ich stimme der Beobachtung des Autors zu. LLMs bringen einen wie beim Rubber-Duck-Debugging dazu, die eigenen Gedanken beim Erklären selbst zu ordnen
  Der Unterschied ist nur, dass diese „Rubber Duck“ über ein enormes Fachwissen verfügt

• Auch ich mache oft die Erfahrung, dass sich mein Denken verfeinert, wenn ich Ideen mit einem LLM bespreche
  Beim Erklären strukturiere ich meine Gedanken, und die unmittelbaren Rückfragen helfen mir, neue Blickwinkel zu erkunden

• Ich stimme der Definition von „gutem Denken“ in diesem Beitrag nicht zu
  Für mich bedeutet gutes Denken, logisch und detailliert zu sein und verschiedene Möglichkeiten klar zu sehen
  LLMs neigen eher dazu, Intuition zu verstärken statt zu prüfen, und können das Denken dadurch sogar trüben

• Ich nutze LLMs als intellektuelle Diskussionspartner
  Sie sind nützlich, um meine Ideen zu prüfen und zu recherchieren, ob jemand bereits etwas Ähnliches gedacht hat

• Mit einem LLM zu sprechen ist erstaunlich und frustrierend zugleich
  Dass es ein Computer ist, der meine natürliche Sprache versteht, ist verblüffend, aber dass er nicht lernen kann, ist eine klare Grenze
  Mit einem Junior-Entwickler wächst das Vertrauen mit der Zeit, bei einem LLM ist das nicht möglich

  • Ich arbeite aber mit einer agent.md-Datei pro Projekt, um schrittweise Kontext aufzubauen
    In dieser Datei halte ich fest, welche Problemlösungsansätze ich bevorzuge und wie ich baue, teste und deploye, damit das LLM weniger abwegige Annahmen trifft
    Ich verwalte sie gewissermaßen wie ein „LLM-Zehngebot“. Wenn ich diese Datei zu Beginn jeder neuen Sitzung einlesen lasse, bekomme ich viel konsistentere Ergebnisse
    Es ist nicht perfekt, aber eine praktische Methode, um die Grenze auszugleichen, dass LLMs nicht selbst lernen können

[dogtree]

Sie haben es erkannt.