Die Auswirkungen von generativer KI auf kritisches Denken [PDF]

• Eine auf Umfragen basierende Forschungsarbeit, die untersucht, wie sich generative KI (Generative AI, im Folgenden GenAI) auf die Fähigkeit zum kritischen Denken und den kognitiven Aufwand von Wissensarbeitern auswirkt
• Es wurden 936 reale Anwendungsfälle aus dem Arbeitseinsatz von GenAI von insgesamt 319 Wissensarbeitern erhoben
• Zentrale Forschungsfragen:
  • RQ1: Wann und wie zeigt sich kritisches Denken bei der Nutzung von GenAI?
  • RQ2: Wie verändert GenAI den kognitiven Aufwand des kritischen Denkens?

Zusammenfassung der wichtigsten Erkenntnisse

• Hohes Vertrauen in GenAI steht mit weniger kritischem Denken in Zusammenhang
• Selbstwirksamkeit (Selbstvertrauen) ist mit mehr kritischem Denken verbunden
• Mehr als rund 60 % aller Aufgaben wurden so beantwortet, dass der Aufwand für kritisches Denken bei der Nutzung von GenAI sinkt
• Die Form des kritischen Denkens verändert sich hin zu Informationsverifikation, Integration von Antworten und Aufgabenkoordination
• GenAI verlagert den kognitiven Aufwand der Nutzer von der Aufgabenausführung (task execution) hin zur Ergebnisprüfung (oversight)

Definition von kritischem Denken und theoretischer Hintergrund

• Was ist kritisches Denken?

  • Auf Basis von Bloom’s Taxonomy wird kritisches Denken als sechs Arten von Aktivitäten definiert
    • Wissen: Informationen erinnern
    • Verstehen: Konzepte ordnen, zusammenfassen
    • Anwendung: Probleme lösen
    • Analyse: Informationen zerlegen, vergleichen, Begründungen finden
    • Synthese: Ideen verbinden, neue Bedeutung erzeugen
    • Bewertung: Urteile nach Kriterien und qualitative Bewertung

• Abgrenzung zu früheren Studien

  • Frühere Forschung war auf Bildung fokussiert oder konzentrierte sich auf fragmentarische Aspekte wie Kreativität oder Gedächtnis
  • Diese Studie untersucht die Ausübung (enaction) kritischen Denkens in realen Wissensarbeitsumgebungen

RQ1: Wann und wie tritt kritisches Denken auf?

• Ausführungskontext

  • Kritisches Denken entsteht vor allem mit dem Ziel, die Arbeitsqualität sicherzustellen
  • Phasen, in denen sich kritisches Denken bei der Nutzung von GenAI vor allem zeigt:
    1. Zielfestlegung und Formulierung der Anfrage: klare Zielsetzung, Optimierung des Prompts
    2. Prüfung der Antwort:
    • Verifikation anhand objektiver Kriterien (z. B. ob Code Fehler enthält)
    • Prüfung anhand subjektiver Kriterien (Logik, Realitätsnähe, Kontextangemessenheit usw.)
    • Überprüfung von Informationsquellen und Abgleich mit externen Materialien
    3. Integration der Antwort:
    • Nur die benötigten Informationen auswählen und übernehmen
    • Stil und Ton anpassen, personalisieren

• Auslösende Motive vs. hemmende Faktoren

  • Faktoren, die kritisches Denken fördern
    • Verbesserung der Arbeitsqualität (z. B. offensichtlichen Text überarbeiten, Domänenwissen einarbeiten)
    • Vermeidung potenzieller negativer Folgen (z. B. Codefehler, rechtliche Risiken)
    • Lernmotivation für die langfristige Kompetenzentwicklung
  • Faktoren, die kritisches Denken hemmen
    • Die Aufgabe wird als nicht wichtig eingeschätzt (z. B. Verfassen eines SNS-Beitrags)
    • Übermäßiges Vertrauen in GenAI
    • Die eigene wahrgenommene mangelnde Fähigkeit des Nutzers (z. B. rechtliche Formulierungen nicht beurteilen zu können)
    • Zeitmangel, fehlende Übereinstimmung mit den Arbeitszielen

RQ2: Wie beeinflusst GenAI den kognitiven Aufwand des kritischen Denkens?

• Antworttendenzen

  • In allen sechs kognitiven Aktivitäten war der Anteil der Antworten sehr hoch, die von geringerem kognitivem Aufwand bei der Nutzung von GenAI berichteten
    • Wissensabruf: 72 % „weniger Aufwand“
    • Verstehen: 79 %
    • Anwendung: 69 %
    • Analyse: 72 %
    • Synthese: 76 %
    • Bewertung: 55 %

• Interpretation des geringeren Aufwands

  1. GenAI wird als Unterstützer wahrgenommen (ähnliches Denken wie bisher, aber einfacher)
  2. Das Denken wird an GenAI delegiert (ein Teil führt faktisch gar kein kritisches Denken mehr aus)
  3. Eine bloße Abnahme des gesamten kognitiven Aufwands wird mit geringerem Aufwand für kritisches Denken verwechselt

Design-Überlegungen für GenAI-Tools

• Das Selbstvertrauen der Nutzer sollte gestärkt werden, damit auch kritisches Denken zunimmt
• Umgekehrt behindert übermäßiges Vertrauen in GenAI kritisches Denken
• Es braucht Design-Anreize, damit GenAI nicht als „Auto-Responder“, sondern als „Partner für Prüfung und Koordination“ wahrgenommen wird
• Es sollte betont werden, dass für Nutzer die Fähigkeit zur Bewertung von Antworten wichtiger ist als das Überarbeiten von Prompts

Fazit

• GenAI steigert die Effizienz von Wissensarbeit, bringt aber das Risiko eines Rückgangs kritischen Denkens mit sich
• Wichtig ist ein Tool-Design, das kritisches Denken zur Gewohnheit werden und erhalten lässt
• Für eine effektive Nutzung von GenAI sind umfassende UX-Überlegungen einschließlich Nutzerschulung und Feedback-Loops (data flywheel) erforderlich