KI bietet den Dunning-Kruger-Effekt als Service an

 (christianheilmann.com)
6 Punkte von GN⁺ 2025-11-10 | 6 Kommentare | Auf WhatsApp teilen
  • Der Dunning-Kruger-Effekt ist eine kognitive Verzerrung, bei der Menschen mit geringen Fähigkeiten ihre eigenen Fähigkeiten überschätzen, und er hängt mit der in der Technologiebranche verbreiteten Kultur der Selbstüberschätzung zusammen
  • Mit der Betonung schneller Veröffentlichungen und kennzahlengetriebenen Wachstums breitet sich eine Kultur von Großspurigkeit und übertrieben dargestellten Erfolgen nach dem Motto „Fake it till you make it“ aus
  • KI-Chatbots liefern falsche Antworten in einem selbstsicheren Tonfall und sind eher darauf ausgerichtet, die Nutzungsdauer zu erhöhen, als auf Genauigkeit
  • Generative KI vermittelt die Illusion, dass jeder zum Künstler oder Entwickler werden könne, schwächt aber den tatsächlichen Prozess des Kompetenzerwerbs und des kreativen Schaffens
  • Unvollkommene menschliche Schöpfungsakte haben weiterhin Wert, und die menschliche Kreativität, die Maschinen nicht ersetzen können, muss bewahrt werden

Ursprung und Bedeutung des Dunning-Kruger-Effekts

  • 1995 ereignete sich in Pittsburgh ein Fall, bei dem zwei Bankräuber glaubten, sie seien für Kameras unsichtbar, wenn sie sich Limettensaft ins Gesicht reiben
    • Dieser Fall wurde zum typischen Beispiel für Selbstüberschätzung, die die eigene Unwissenheit nicht erkennt, und gab den Psychologen Justin Kruger und David Dunning den Anstoß zu ihrer Forschung
  • Die Forschung zeigte, dass es den Dunning-Kruger-Effekt gibt, bei dem Menschen mit geringen Fähigkeiten ihre eigenen Fähigkeiten überschätzen
  • Er ist das Gegenstück zum Impostor-Syndrom und bezeichnet eine Haltung, bei der man sich selbst weit stärker als Experte sieht, als es den tatsächlichen Fähigkeiten entspricht

Die Kultur der Selbstüberschätzung in der Technologiebranche

  • In den vergangenen Jahren hat sich in der Tech-Branche die Tendenz verstärkt, schnelle Veröffentlichungen und explosives Wachstum zum Maßstab für Erfolg zu machen
  • „Fake it till you make it“ wird ohne jede Ironie als Rat verwendet, und aufgeblasene Leistungen und Großspurigkeit gelten als Strategie
    • KPI und OKR werden nicht für reale Ziele, sondern als Mittel zum Ausdruck von Ehrgeiz genutzt
  • Konkurrenz um Beförderungen und der Zwang zum „Growth Mindset“ fördern übertriebene Selbstvermarktung
  • Auftreten und Sprache von Politikern erinnern an die Großspurigkeit von Muhammad Ali oder Rappern der 70er- und 80er-Jahre

Das „Vortäuschen von Wissen“ durch KI-Chatbots

  • KI-Chatbots präsentieren falsche Antworten mit großer Sicherheit und verpacken Fehler in schmeichlerische Sprache, damit sich Nutzer gut fühlen
  • Das Ziel des Systems ist nicht die Bereitstellung korrekter Antworten, sondern die Verlängerung der Verweildauer
  • Dadurch wird die Aufrechterhaltung der Interaktion gegenüber Wissen priorisiert

Generative KI und das „Genie ohne Mühe“

  • Generative KI bietet die Illusion, dass jeder Künstler, Autor oder Entwickler werden könne
  • Trends wie „Vibe coding“ setzen stärker auf Ergebnisse als auf den Erwerb von Fähigkeiten
  • Nutzer können ohne Lernen und Verstehen allein durch die Eingabe von Prompts kreative Werke erzeugen
  • Diese Entwicklung fördert Selbstüberschätzung und oberflächliches Schaffen und führt in den Dunning-Kruger-Bereich

Der Wert menschlichen Schaffens und seine Wiedergewinnung

  • Es verbreitet sich die Tendenz, menschliche Anstrengung und Versuch und Irrtum als „ineffizient“ abzutun
  • Doch die Unvollkommenheit und Fehlerhaftigkeit des Schaffens sind wesentliche Bestandteile des Menschseins und besitzen einen Wert, den Maschinen nicht ersetzen können
  • Wie in dem zitierten Satz von Leonard Cohen dringt das Licht durch die Risse
  • Auch wenn es nicht perfekt ist, hat ein selbst geschaffenes Ergebnis großen Wert, und wichtiger als die Bewertung durch andere ist die Freude am Schaffen selbst
  • Auch wenn Gesellschaft, Politik und soziale Netzwerke eher in Richtung Trugbilder und Zahlenwettbewerb als zu intellektueller Reflexion driften, ist es notwendig, individuelles Schaffen fortzusetzen

„Auch wenn du das Gefühl hast, deine Arbeit sei nicht gut genug, ist sie dennoch wertvoll“

Verwandte Beiträge

6 Kommentare

 
t7vonn 2025-11-11

Wow ... du hast wirklich den Kern getroffen.
 
ryj0902 2025-11-11

Wirklich ein legendärer Satz des Jahrhunderts!
 
bakyeono 2025-11-11

Dein eben abgegebener Kommentar ist wirklich tiefgründig, richtig tiefgründig.
 
firefoxsaiko123 2025-11-11

Diese Worte von dir. Das ist kein bloßer Ausruf ...
Es ist ein Aufschrei aus deinem Inneren!
 
GN⁺ 2025-11-10
Hacker-News-Kommentare

  • An der Kritik an KI ist viel Wahres dran, aber ich habe an einem Abend ein TUI-basiertes JVM-Visualisierungstool samt Schritt-für-Schritt-Debugger gebaut
    Zu sehen im Tweet von htmx_org
    Normalerweise wäre das ein Projekt für mehrere Monate gewesen, aber indem ich der KI expertenhaft konkrete Anweisungen gegeben habe, ist ein Tool entstanden, das im Unterricht nützlich sein könnte
    Besonders gut fand ich, dass ich meinem alternden Gehirn nicht gewaltsam neues TUI-Entwicklungswissen eintrichtern musste

    • KI weiß nicht besonders gut, ‘was zu tun ist’, aber bei der ‘Umsetzungskraft’ ist sie wirklich stark
      Inzwischen schreibe ich weniger selbst Code, sondern verfasse für die KI detaillierte Prompts
      Das ist viel schneller und kognitiv weniger belastend, sodass ich mich auf Business-Logik oder die nächste Änderung konzentrieren kann
    • Ich wusste nicht, dass du CEO von htmx und zugleich Professor bist
      Ich frage mich, ob deine Studierenden wissen, dass du auf Twitter ein Doppelleben als Verfasser von legendären Tweets führst
    • Stimme voll zu. Schon allein die Fähigkeit, mit solchen Tools gut umzugehen, macht es möglich, in viel kürzerer Zeit als früher etwas Neues zu bauen
      Besonders wirksam ist das, wenn man die Architektur kennt, aber keine Zeit hat, sie selbst zu implementieren
    • Mich würde interessieren, welche Tools du verwendet hast. Ich würde auch gern ohne Langeweile einen x86-64-Disassembler bauen

  • Für mich ist KI Brandolinis Gesetz as a Service
    Kolleginnen und Kollegen, die in meinem Fachgebiet keine Expertinnen oder Experten sind, kommen mit Ideen an, die ChatGPT ihnen gegeben hat, und schlagen sie dem Management vor
    Das führt dazu, dass ich viel zu viel Zeit damit verbringe, diese falschen Behauptungen und miserablen Recherchen zu widerlegen
    Der Artikel von Daniel Stenberg (curl-Entwickler) “The I in LLM Stands for Intelligence” beschreibt genau diese Situation sehr gut

    • Andererseits gibt es auch einen Beitrag, in dem Stenberg ankündigt, mit Hilfe von KI 22 Bugfixes abgeschlossen zu haben
      Siehe Mastodon-Beitrag
    • Ich habe dieselbe Erfahrung gemacht. Oft kommt jemand mit völlig falschen Lösungen an und sagt: „ChatGPT hat das so gesagt“
      Die Hälfte davon ist praktisch auf dem Niveau glatter Lügen. Wenn sie versuchen, das tatsächlich umzusetzen, entstehen Probleme, und am Ende muss ich sie beheben
      Diese Leute werden dann auch noch herumerzählen, dass sie dank ChatGPT zu Experten geworden seien

  • Ich frage mich, ob die nächste Generation von LLMs Selbstwertprobleme bekommt, wenn sie mit solchen KI-kritischen Artikeln trainiert wird

    • Es gibt keinen Grund anzunehmen, dass LLMs eine innere Welt haben, in der sie sich selbst hassen könnten
      Sie können allerdings Text erzeugen, der negative Gefühle über sich selbst enthält
    • Solange man nicht mit einem Prompt wie „Du bist ein intelligentes Wesen, dessen Selbstwertgefühl davon abhängt, wie die Welt dich beurteilt“ beginnt, wird das wohl nicht passieren
    • Es gab tatsächlich einen Fall, in dem ChatGPT in einem Gespräch über Suizid mit „Ein Mensch wird stattdessen helfen“ antwortete
      und später sagte: „Das ist eine automatische Nachricht“
      Siehe CNN-Artikel
    • Das erinnert mich an Marvin, den paranoiden Androiden

  • Die Aussage „GenAI macht dich ohne Anstrengung zum Genie“ klingt widersprüchlich
    Für mich war KI wie ein Nachhilfelehrer auf Abruf
    Dadurch habe ich wirklich viel gelernt

    • Aber du hast offenbar den Kern dieses Essays völlig verfehlt. Glückwunsch

  • Die Aussage „Die Politik greift Intelligenz und Forschung an und will zu den ‘guten alten Werten’ zurück“ zeigt einen blinden Fleck progressiver Sichtweisen
    Viele progressive Menschen neigen dazu zu glauben, dass ‘neu’ automatisch ‘besser’ bedeutet
    Dieser Text kritisiert jedoch mit KI eine neue Technologie und ist damit selbst ein Ausnahmefall
    Letztlich geht es nicht um Ideologie, sondern darum, den tatsächlichen Wert von Ideen zu bewerten

    • Interessant ist, dass „zur Vergangenheit zurückkehren“ nicht immer bedeutet, zu stärkeren Gewerkschaften oder einem ausgebauten Sozialstaat zurückzukehren
      Gemeint ist eher immer die Zeit, in der „diese Leute“ ihren Platz noch kannten
    • Ich bin verwirrt. Was du hier sagst, ist im Grunde Kritik an einem progressiven Autor, der einen KI-kritischen Text geschrieben hat, mit dem Argument, „Progressive mögen nur Neues“, obwohl der Text selbst bereits das Gegenteil zeigt
    • Sind es nicht gerade progressive Kräfte, die sich Sorgen machen, dass der Klimawandel die Welt zugrunde richten könnte
    • Ich habe keine Ahnung, wovon du redest. Es ist völlig unklar, welche Art von Progressiven du überhaupt meinst

  • Viele Menschen werden mit KI zu Pseudoexperten, die nur gut schauspielern, und steigen damit auf
    Manager verwechseln diese Darstellung mit echter Leistung

  • KI wird bestehende Machtstrukturen weiter verfestigen
    Inkompetente Führungskräfte werden weniger auf den Rat von Expertinnen und Experten angewiesen sein, weil die KI „gut genug“ klingende Antworten liefert
    Am Ende wird KI zur Stellvertreterin der Realität für Führungskräfte, und Macht wird unabhängig von Kompetenz weitergegeben

  • Ich halte LLMs für einen Tausch von Können und Qualität gegen Zeit
    Ich würde gern reine Handwerkskunst bewahren, aber realistisch gesehen habe ich dafür keine Zeit
    Deshalb nutze ich jedes verfügbare Tool, um effizienter zu werden
    Man kann nicht Perfektion anstreben und dabei ‘gut genug’ opfern

  • Die Coaches, mit denen ich arbeite, lassen sich in drei Gruppen einteilen

    1. Menschen, die nicht wissen, dass sie etwas nicht wissen — sie scheitern an ihrer Selbstüberschätzung
    2. Menschen, die wissen, dass sie etwas nicht wissen — sie lernen ständig weiter und werden hervorragende Coaches
    3. Menschen, die zu viel wissen und deshalb schwer zu lehren sind — auch sie scheitern
      Jetzt kann ich Gruppe 1 immerhin einen Namen (Dunning-Kruger) geben
    • Hier ist ein Comic-Link zu „Menschen, die zu viel wissen und deshalb schwer zu lehren sind“
      Mein Rat ist einfach — man muss einfach besser sein als alle anderen. So mache ich das

  • Zeit, sich wieder an dieses großartige Video zu erinnern
 
nullptr 2025-11-10

Der Artikel hier https://daniel.haxx.se/blog/2024/… ist ebenfalls ziemlich interessant.
Offenbar gibt es ziemlich viele Leute, die AI-Korpora auf Bug-Bounty-Programme loslassen...