- Die Bedeutung des von Menschen selbst verfassten wissenschaftlichen Schreibens wird auch im Zeitalter der LLMs weiterhin betont
- Schreiben ist nicht nur ein Mittel zur Vermittlung von Forschungsergebnissen, sondern auch ein Werkzeug zur Präzisierung von Gedanken und zur Entdeckung neuer Ideen
- Von LLMs verfasste Texte mangeln es an Verantwortlichkeit und Authentizität, zudem ist das Risiko der Erzeugung falscher Informationen (Halluzinationen) hoch
- LLMs sind als Werkzeug für bessere Lesbarkeit, Grammatikprüfung und Ideenfindung nützlich, aber wenn man ihnen das gesamte Schreiben überlässt, kann man Chancen für kritisches Denken und kreatives Denken verlieren
- Die Gelegenheit zu Erfahrung und Reflexion beim Aufbau eines kreativen Forschungsnarrativs ist ein wichtiger, dem Menschen eigener Prozess
Der Wert menschlich erzeugten wissenschaftlichen Schreibens im Zeitalter der LLMs
- Wissenschaftliches Schreiben ist ein Kernbestandteil der Forschungsmethodik und eine gängige Praxis, um Forschungsergebnisse zu kommunizieren
- Schreiben ist nicht bloß Berichterstattung über Ergebnisse, sondern ein Prozess, Gedanken auf strukturierte und bewusste Weise zu ordnen und die zentralen Aussagen herauszuarbeiten
- Es gibt auch Forschungsergebnisse, wonach Handschrift positive Auswirkungen auf die Gehirnvernetzung sowie auf Lernen und Gedächtnis hat
Warum menschenzentriertes wissenschaftliches Schreiben notwendig ist
- Es wird die Auffassung vertreten, dass die Bedeutung von wissenschaftlichem Schreiben, das Menschen selbst verfassen, weiterhin anerkannt werden muss
- Mit LLMs lassen sich komplette Fachartikel oder Gutachten schnell verfassen, doch ein LLM kann kein Autor sein (fehlende Verantwortlichkeit)
- Wenn Schreiben Denken ist, dann besteht das Problem darin, dass man bei einem von einem LLM geschriebenen Artikel die „Gedanken“ des Modells liest statt die des Forschers
Grenzen und Vorsichtspunkte beim Einsatz von LLMs
- Aktuelle LLMs können falsche Informationen erzeugen, was als Halluzination bezeichnet wird
- Von LLMs erzeugte Zitate oder Literaturangaben können frei erfunden sein, daher muss alles sorgfältig überprüft werden, was in der Praxis sogar mehr Zeit kosten kann
- Einige Probleme von LLMs könnten durch Modelle, die nur mit wissenschaftlichen Datenbanken trainiert wurden, verbessert werden, doch die tatsächliche Effizienz ist bislang unklar
Positive Einsatzmöglichkeiten von LLMs
- LLMs können nützlich eingesetzt werden, etwa zur Verbesserung der Lesbarkeit, Grammatikprüfung, Recherche und Zusammenfassung verschiedener Fachartikel sowie zum Brainstorming von Ideen
- Sie können auch kreatives Denken unterstützen, etwa beim Überwinden von Schreibblockaden, beim Aufzeigen verschiedener Erklärungsweisen oder beim Entdecken neuer Verbindungen zwischen Themen
Der Wert menschlicher Kreativität und Reflexion
- Wenn man jedoch das gesamte Schreiben an ein LLM delegiert, führt das dazu, dass man Gelegenheiten zur Reflexion über das Forschungsfeld und zum Aufbau eines kreativen Narrativs verliert
- Der Prozess, Forschungsinhalte in eine ansprechende und überzeugende Geschichte zu überführen, ist eine essenzielle menschliche Fähigkeit, die über wissenschaftliche Fachartikel hinausgeht
1 Kommentare
Hacker-News-Meinungen
Ich denke, Lesen ist Denken. Und weil Lesen und Schreiben Teil des Denkprozesses sind, ist es riskant, dies gewohnheitsmäßig an AI-Modelle zu delegieren. Gerade in der prägenden Phase von Schülern sollten sie selbst lernen, über Lesen und Schreiben zu denken — durch Reflexion, Notizen und ständiges Üben. Das ist ähnlich wie beim Gebrauch eines Taschenrechners: Wenn man eine gewisse Grundlage hat, ist der Einsatz eines elektronischen Rechners in Ordnung, aber vorrangig sollte man die Erfahrung machen, im Kopf zu rechnen oder etwas von Hand zu lösen. Das hat mit der Gewohnheit zu tun, Eingabefehler oder Rechenergebnisse zu überprüfen. Ich mache mir Sorgen, wenn junge Schüler, deren Denkvermögen noch nicht gefestigt ist, anfangen, die Arbeit an LLMs abzugeben
Ich würde gern die Geschichte von der Erfindung der Schrift im alten Ägypten als Beispiel anführen (zitiert aus Platons Phaidros). Thot betont gegenüber Thamus den Nutzen der Schrift, aber Thamus warnt, dass die Abhängigkeit von Schrift das Gedächtnis schwäche. Solche Debatten wiederholen sich also seit über 2000 Jahren. Ich selbst denke ebenfalls, dass Thamus recht haben könnte, aber die Realität ist, dass wir heute alle mit Lesen und Schreiben leben
Schon die Handlung selbst, etwas tatsächlich auf Papier zu schreiben, führt zu tieferem Denken. Besonders im Engineering ist diese Verinnerlichung wichtig. Deshalb ist in vielen Tech-Unternehmen eine Dokumentkultur mit Dingen wie RFCs entstanden. Das hilft sowohl dem Verfasser selbst als auch den Reviewern enorm
Lesen bedeutet, den Gedanken anderer zu folgen, Schreiben dagegen ist der Prozess, die eigenen Gedanken direkt zu erforschen. Deshalb ist Schreiben für viele schmerzhaft und zugleich notwendig. Und auch Lehren ist wichtig. Das klare Herausarbeiten von Gedanken ist eine sehr wertvolle und schwierige Aufgabe
Ich sehe den Einfluss von LLMs auf das Denken genauso wie den von Taschenrechnern. Sie lassen einen bestimmte Denkschritte überspringen, ermöglichen dafür aber neue Arten des Denkens. Mein Denken hat durch LLMs zugenommen. Weil LLMs mir repetitive Arbeiten abnehmen, konnte ich mehr Zeit und Energie darauf verwenden, schnell nur das „Signal“ aus Informationen herauszuziehen oder Ideen aus verschiedenen Bereichen zu kombinieren. Ich kann Fehler machen, aber ohne LLM hätte ich ähnliche Fehler gemacht, nur langsamer. Tatsächlich hätte ich in Bereichen, in denen ich kein Experte bin, die Recherche vielleicht ganz aufgegeben oder viel enger gedacht. Wenn man LLMs blockiert, wird das Denken nicht automatisch tiefer. So wie nicht jeder besser in Mathe wird, nur weil Taschenrechner verboten sind — wenn Taschenrechner erlaubt sind, kommen diejenigen, die Mathematik mögen, sogar viel weiter
Diese Kinder werden in einer Zukunft leben, in der AI weit entwickelt ist. Die Welt verändert sich schnell, daher glaube ich, dass Kinder das selbst erkennen werden. Allerdings gibt es auch die Realität, dass der von der Internetgeneration erträumte digitale Überfluss zunehmend zum Albtraum aus überschüssigen Inhalten und Informationskrieg wird
Ich möchte Paul Graham zitieren: „Schreiben ist Denken. Um gut zu schreiben, muss man klar denken, und klar zu denken ist unglaublich schwer. Es gibt eine besondere Form des Denkens, die man nur im eigentlichen Schreibprozess leisten kann. Wenn man nur denkt, ohne zu schreiben, bildet man sich nur ein, wirklich zu denken. Wenn sich die Welt in ‚die, die schreiben‘, und ‚die, die nicht schreiben‘ teilt, führt das zu weitaus gefährlicheren Folgen, als es auf den ersten Blick scheint. Bald wird sie sich in ‚die, die denken‘, und ‚die, die nicht denken‘ teilen.“
https://www.paulgraham.com/writes.html
Denken und Schreiben sind eng miteinander verbunden. Denken und die Nutzung von ChatGPT sind es nicht
Link zu MIT Media Labs „Your Brain on ChatGPT“: https://share.google/RYjkIU1y4zdsAUDZt
Ich frage mich, wie ein LLM tatsächlich eine wissenschaftliche Arbeit „schreiben“ kann. Wenn man ihm zum Beispiel Western-Blot-Ergebnisse, Daten zu bestimmten genetisch veränderten Mäusen oder Single-Cell-Sequenzierungsdaten gibt, muss die Arbeit ein neues Protein aufzeigen und erklären, wie durch Gen-Editing bei Mäusen ein bestimmter Signalweg verändert wird. Welches Material gibt man einem LLM, und wie soll das LLM erkennen, warum diese Entdeckung bedeutsam ist? Meiner Ansicht nach paraphrasiert ein LLM im Wesentlichen nur, was ich ihm auftrage. Das eigentlich Schwierige am Schreiben ist der Teil, in dem man entscheidet, wie man die Geschichte aufzieht
In der Graduate School lernt man in jedem Fach ein Standardformat zum Schreiben von Arbeiten. Wenn ein LLM genügend viele Arbeiten aus diesem Bereich gelernt hat, kann es die vom Nutzer gelieferten Informationen automatisch in die passenden Abschnitte einordnen. Der Großteil der Zeit beim Verfassen einer Arbeit geht ohnehin für Zitate und Formatierung drauf, daher ist es eher gut, wenn ein LLM solche stilistischen und repetitiven Aufgaben übernimmt. Für Wissenschaftler sind Strenge und Klarheit wichtig, aber den lästigen Formatierungskram würde ich gern automatisieren
Ein LLM könnte auch das gesamte Archiv von Arbeiten wie arXiv gelernt haben und relevante Arbeiten dadurch womöglich besser überblicken als Menschen
Auch ein LLM kann zuerst einen Plan oder eine Gliederung schreiben, und das ist ebenfalls eine Form des Schreibens
Selbst Sprechen ist Denken. Deshalb ist die Meinungsfreiheit auch der First Amendment. Wenn jemand mein Recht zu sprechen einschränkt, kontrolliert er auch mein Denken.
Schreiben ist wie eine Superkraft, ähnlich dem „Pensieve“ aus Harry Potter. Es erlaubt, Ideen aus dem Kopf herauszunehmen, sie auf verschiedenen Analyseebenen zu betrachten und Erinnerungen leicht zu speichern und zu ordnen
Das heutige Verständnis von Meinungsfreiheit hat sich tatsächlich erst relativ spät (in den 1910er und 1920er Jahren) etabliert. Davor bedeutete „free speech“ etwas ganz anderes als heute — dazu gab es einen hervorragenden Podcast (u. a. Radiolab)
Zugehörige Website: https://voicebraindump.com
Wenn Menschen sagen „Schreiben ist wichtig“, frage ich mich, ob sie in Wirklichkeit nur meinen: „Wenn ich schreibe, werde ich klüger und fühle mich gut.“ Tatsächlich kombiniere ich Ideen oft lange im Kopf, und erst wenn alles zusammengekommen ist, synthetisiere ich es auf einer höheren Ebene. Es ist leicht, diesen eigentlichen Syntheseprozess mit dem Schreiben selbst zu verwechseln. Hätte ich schon eine Woche vorher versucht zu schreiben, wäre das unproduktiv gewesen
Zumindest bei mir ist das nicht so. Beim konkreten Übertragen von Gedanken, Ideen und Wissen aufs Papier entdecke ich Fehler oder Lücken und bekomme die Gelegenheit, sie zu korrigieren. Es bleibt nicht bei bloßen Korrekturen; mir kommen auch neue Sichtweisen oder Perspektiven — Dinge also, die vorher nicht in meinem Bewusstsein waren. Ich nutze Schreiben als Werkzeug des Denkens. Andere Werkzeuge sind Group Brainstorming oder Diskussionen. Solche Handlungen ergänzen meine Gedanken, machen sie robuster und zeigen mir sogar neue Richtungen oder Verbindungen. Ich empfehle auch Paul Grahams Essay (Ideen in Worte übertragen) und Paul Zissners Buch Writing to Learn. Das als Übung beim Schreibenlernen zu tun, hat eine Art „Lehr“-Effekt und steht auch mit der Feynman-Lernmethode in Zusammenhang
https://paulgraham.com/words.html
Aus meiner persönlichen Erfahrung: Wenn ich tatsächlich schreibe, finde ich Widersprüche und Lücken in meinem Denken oder Wissen. Dieses Finden und Korrigieren ist genau der Grund, warum ich sage: Schreiben ist Denken
Ich stimme nicht zu. Meine Methode besteht darin, zunächst alle noch unverbundenen Gedanken aufzuschreiben und sie dann so lange anzuordnen und umzubauen, bis eine Struktur sichtbar wird. Am Ende entsteht ein synthetisiertes Ergebnis. Eine gewisse Struktur war wohl irgendwo im Kopf, aber sie lag nicht klar offen. Schon das wiederholte Umstellen zeigt, dass Schreiben selbst ein Syntheseprozess ist
Nur wenn man es aufschreibt, entdeckt man Schwachstellen oder Fehler. Wenn man es nicht schreibt, findet man sie meiner Erfahrung nach nie
Das ist eine zu zynische Sichtweise. Menschen denken und arbeiten unterschiedlich, und jeder zieht einen anderen Nutzen daraus. Die meisten sagen das nicht, um mit „Schreiben ist eine Tugend“ anzugeben
Ich kann mich mit der Aussage „Schreiben ist Denken“ identifizieren, aber sie stimmt nur unter bestimmten Bedingungen. Ursprünglich war das nicht so. Tatsächlich haben wir erst, nachdem Schreiben billig geworden ist, gelernt, beim Schreiben unser Denken weiterzuentwickeln. Wenn man die Werke und Tagebücher von Autoren des 18. bis frühen 20. Jahrhunderts ansieht, scheinen Tolstoi, Zweig, Goethe und andere ganze Bücher zuerst im Kopf entworfen und sie dann in 20 bis 30 Tagen am Stück niedergeschrieben zu haben. Früher waren Denken und Schreiben getrennt. In der Moderne hat sich das dank billigem Papier und Computern verändert. Das heißt nicht, dass die heutige Methode falsch ist, aber man sollte nicht missverstehen, dass „Denken = Schreiben“ der einzige Weg sei. Sokrates sagte auch, Schreiben schade dem Gedächtnis (ganz falsch war das nicht), und heute benutzt trotzdem jeder das Schreiben. Die Kritik an LLMs hat etwas seltsam Ironisches. Die Analogie zum Schreiben drängt sich von selbst auf. Kinder, die mit LLMs aufwachsen, werden anders denken
Ich glaube eher, das war eine Reaktion auf die Behauptung „Denken ist Schreiben“. Auch ich denke, dass Denken ohne Schreiben völlig möglich ist. Nur ist Schreiben nicht einfach das Ausschütten fertiger Gedanken, sondern hilft dabei, die eigenen Gedanken im Prozess zu kritisieren, neue Ideen zu entwickeln, zu vereinfachen oder auszuweiten. Wenn man es niederschreibt, lässt es sich auf einer Metaebene viel leichter erneut prüfen
In Zeiten, in denen Papier teuer war, benutzte man für vorübergehende Aufzeichnungen oft Wachstafeln oder Holztafeln. Ich bezweifle, wie verbreitet es tatsächlich war, ein ganzes Buch nur aus dem Gedächtnis zu entwerfen und in einem Zug zu schreiben, und es gibt auch Belege zum Entstehungsprozess von Tolstois Krieg und Frieden
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
Wenn ich in mittelalterlichen philosophischen Werken lange und logische Ausführungen sehe, frage ich mich oft, wie so etwas in einer Zeit möglich war, in der selbst provisorisches Notizpapier nicht selbstverständlich war.
Und zu der Aussage „Kinder, die mit LLMs aufwachsen, werden anders denken“ würde mich interessieren, wie genau anders. Wenn ich sehe, wie heutige Studierende LLMs verwenden, habe ich eher die Sorge, dass sie nicht anders, sondern schlicht weniger denken
Es gibt eine ähnliche, aber etwas andere Perspektive in Larry McEnerneys Theorie. Er unterscheidet zwischen Schreiben zum Denken und Schreiben zur Vermittlung. Schreiben zum Denken gibt es schon seit vor Sokrates, es ist aber eher eine private Handlung. Schreiben zur Vermittlung umfasst ein weites Feld, etwa Romane oder Journalismus. Larry spricht vor allem darüber, dass Studierende, die wissenschaftliche Arbeiten vorbereiten, oft Schwierigkeiten haben, diese beiden Arten zu verbinden
LLMs unterscheiden sich stark vom bisherigen „Schreiben“. Ein LLM ist eher ein kreativer Agent. Ich habe den Vorteil, meine Gedanken im Schreiben mehrfach zu wiederholen und zu überarbeiten. Mit einem LLM übernimmt nun aber „jemand anderes“ das Denken, Schreiben und Editieren, wodurch ich selbst weniger denke. Wenn das Fahrrad eine Möglichkeit ist, mit eigener Kraft weiter zu kommen (Schreiben), und das Auto eine völlig andere Energiequelle (LLM), was wäre dann besser für die körperliche Gesundheit? Und die Behauptung, Tolstoi habe ein ganzes Buch im Kopf gehalten und dann blitzschnell niedergeschrieben, ist interessant. Mich würden konkrete Fälle oder Belege interessieren. Als Adliger wie Tolstoi hatte er vermutlich genügend Ressourcen
Viele verstehen LLMs so, dass sie das menschliche Schreiben selbst ersetzen und dadurch Risiken für die menschliche Entwicklung entstehen. Ich sehe das optimistischer. Wenn gutes Schreiben zu gutem Denken führt, dann trägt jede Bemühung, mein Schreiben zu verbessern, auch zur Verbesserung meines Denkens bei. In diesem Sinn sind LLMs eher eine große Hilfe dabei, die Schreibfähigkeit und darüber hinaus das Denken selbst zu verbessern. Man kann auch starkes Feedback zu Hintergrundwissen oder verwandten Themen bekommen. Wenn man LLMs maßvoll einsetzt, kann man dadurch sogar ein besserer Mensch werden
Immer wenn ich wirklich tief nachdenken muss, öffne ich sublime text und schreibe die Situation so knapp wie möglich zeilenweise auf. Dabei stelle ich mir selbst sehr direkte und grundlegende Fragen und versuche wirklich, das Wesentliche, das Ziel und den Weg zu verstehen. Es fühlt sich an, als würde ich einem Mafiaboss antworten: ohne Ausreden oder Rechtfertigungen, nur die Wahrheit herausfiltern. Dann verstehe ich die Gesamtstruktur und sofort entsteht auch eine To-do-Liste
Mein früherer Manager (und Editor) sagte oft, Schreiben sei „Entdeckung“ (discovery). Das liegt also im Wesentlichen auf derselben Linie wie Denken. Dem stimme ich zu