Macht AI unsere Fähigkeiten kaputt? Erste Forschungsergebnisse deuten darauf hin

• Mit der wachsenden Abhängigkeit von AI-Tools im Arbeitsalltag gibt es erste Hinweise darauf, dass in Bereichen, in denen Können entscheidend ist – etwa Medizin und Informatik – vom Menschen aufgebaute Fähigkeiten geschwächt werden könnten
• In einer Studie mit polnischen Endoskopie-Spezialisten sank die Adenom-Erkennungsrate ohne AI von 28,4 % auf 22,4 %
• In einem randomisierten kontrollierten Experiment von Anthropic erreichten von AI unterstützte Ingenieure im Schnitt 50 % im Quiz und lagen damit unter der Gruppe ohne AI mit 67 %
• In einer Umfrage unter Beschäftigten im US-Gesundheitswesen äußerten 70 % der Pflegekräfte und 77 % der Ärztinnen und Ärzte Sorge vor Kompetenzverlust durch übermäßige Abhängigkeit von AI
• So wie GPS früher die Orientierungsfähigkeit geschwächt hat, ist generative AI als erste Technologie zu verstehen, die kognitive Fähigkeiten wie Denken und Interpretation selbst automatisiert – der Erhalt menschlicher Expertise wird damit zu einer zentralen Aufgabe

---

Der Aufstieg des AI-bedingten Deskilling

• Unter Fachkräften wächst die Sorge, dass mühsam erlernte Fähigkeiten verkümmern könnten, wenn sie sich bei der Arbeit auf AI-Tools verlassen; diese Sorge verbreitet sich unter anderem unter Medizinern und Informatikern
• In einer diesen Monat von Wolters Kluwer veröffentlichten Umfrage unter Beschäftigten im US-Gesundheitswesen äußerten 70 % der Pflegekräfte und 77 % der Ärztinnen und Ärzte Sorge vor Kompetenzverlust durch übermäßiges Vertrauen in AI-Systeme
• Aus verschiedenen Bereichen wie Medizin und Informatik gibt es Hinweise darauf, dass durch AI verursachtes „Deskilling“ bereits begonnen hat; Forschende diskutieren daher, wie sich menschliche Expertise im AI-Zeitalter bewahren lässt
• Der Informationswissenschaftler Kevin Crowston von der Syracuse University: „Allein das Bewusstsein für dieses Phänomen kann zur Selbstreflexion darüber anregen, welche Fähigkeiten man erhalten und welche man an AI auslagern will“

Medizin — Studie mit Endoskopie-Spezialisten

• Studiendesign

  • Die Studie untersuchte Endoskopie-Spezialisten in Polen; alle teilnehmenden Ärzte hatten im Lauf ihrer Karriere mindestens 2.000 Koloskopien durchgeführt
  • Ihnen wurde ein AI-System zur Verfügung gestellt, das Koloskopie-Bilder in Echtzeit analysiert und Adenome – präkanzeröse Darmläsionen – markiert
  • Das Tool war an manchen Tagen verfügbar und an anderen nicht

• Ergebnisse

  • Nachdem die Ärzte begonnen hatten, AI zu verwenden, verschlechterte sich ihre Leistung signifikant, wenn das System nicht verfügbar war
  • In den drei Monaten vor der Einführung von AI entdeckten die Spezialisten bei 28,4 % der Koloskopien mindestens ein Adenom
  • In den drei Monaten nach der Einführung sank die Adenom-Erkennungsrate bei ohne AI-Unterstützung durchgeführten Koloskopien auf 22,4 %
  • Die Ergebnisse wurden im vergangenen Oktober in The Lancet Gastroenterology and Hepatology veröffentlicht

• Einschätzung von Experten

  • Der Arzt Robert Wachter von der University of California, San Francisco: „Selbst hochqualifizierte Fachleute können die Fähigkeit verlieren, für ihre Arbeit notwendige Aufgaben auszuführen, wenn ihre Abhängigkeit von AI zunimmt“
  • Die Autoren der Studie: Bei dauerhafter Nutzung solcher Tools könnten Kliniker, wenn sie ohne AI kognitive Entscheidungen treffen müssen, weniger motiviert, weniger konzentriert und weniger verantwortungsbewusst werden
  • Yuichi Mori, Arzt, Forscher an der University of Oslo und Mitautor: „Es braucht mehr Forschung, um das Phänomen zu bestätigen, aber AI-Nutzer sollten sich des Risikos bewusst sein, manche Fähigkeiten zu verlieren“
    • „Derzeit gibt es keine etablierte Lösung für Deskilling, und es sollte in den kommenden zehn Jahren ein sehr wichtiges Forschungsthema werden“

Informatik — Anthropics Coding-Experiment

• Um zu untersuchen, ob es in der Informatik zu Kompetenzverlust kommt, entwarf ein Forschungsteam des San-Franciscoer AI-Unternehmens Anthropic ein randomisiertes kontrolliertes Experiment mit 52 Softwareingenieuren
  • Alle 52 Teilnehmenden hatten bei grundlegenden Coding-Aufgaben Zugang zu Websuche und Anleitungen zur Vorgehensweise
  • Einer Hälfte wurde zusätzlich die Nutzung eines AI-Assistenten nahegelegt
• In einem Quiz zum Gelernten nach der Aufgabe zeigte sich eine Lücke von durchschnittlich 50 % in der AI-Gruppe gegenüber 67 % in der Gruppe ohne AI
  • Die mit AI unterstützten Teilnehmenden schnitten besonders bei Fragen zur Diagnose von Codefehlern schlecht ab; das deutet darauf hin, dass sie die Konzepte des gerade geschriebenen Codes nicht gelernt hatten
  • Die Studie wurde vor dem Peer Review auf dem Preprint-Server arXiv veröffentlicht
• Crowston: „Es gibt jetzt eine merkwürdige Entkopplung zwischen Leistung und Lernen“
  • „Dass Menschen auf recht hohem Niveau leisten können, liegt im Grunde daran, dass sie sich Fähigkeiten von AI leihen; sie entwickeln diese Fähigkeiten aber nicht selbst weiter“
  • Besonders besorgniserregend sei das für Studierende und junge Fachkräfte in diesem Bereich

Auslagerung von Kognition — Vergleich mit früheren Technologien

• Der Informationssystemforscher Tapani Rinta-Kahila von der University of Queensland: Schon früher habe es Technologien gegeben, die bestimmte Fähigkeiten überflüssig machten, etwa GPS-Navigation, die die Orientierungsfähigkeit schwächte
  • Generative AI sei jedoch „die erste Technologie, die kognitive Fähigkeiten rund um Denken und Interpretation automatisiert, die lange als genuin menschlich galten“

• Beispiel Rechnungswesen

  • Eine 2018 veröffentlichte Studie untersuchte eine Gruppe von Buchhaltern, die mehr als zehn Jahre lang automatisierte, nicht-AI-basierte Buchhaltungssysteme genutzt hatten
  • Als das Tool wegfiel, zeigte sich, dass die Buchhalter vergessen hatten, wie sie mehrere Routineaufgaben ausführen
  • „Der nächsten Generation von Programmierern könnte ohne praktische Erfahrung ein solides Verständnis der Grundlagen des Codings fehlen“
  • „Dasselbe gilt für andere wissensintensive Berufe wie Rechnungswesen und Recht“

• Maßnahmen gegen den Kompetenzabbau

  • Man sollte sich bewusst machen, wie viele Aufgaben man an generative AI delegiert
  • Man sollte die Funktionsweise und Grenzen generativer AI-Modelle genau verstehen und AI-Ausgaben nicht ohne Prüfung vertrauen
  • „Man muss die konkurrierende Dynamik zwischen Abhängigkeit von generativer AI und der bewussten Aufrechterhaltung von Wachsamkeit steuern“

[GN⁺]

Hacker-News-Kommentare

• Wir hatten es zu bequem. Wir saßen in klimatisierten Büros auf Herman-Miller-Stühlen, lernten Computerkram und bekamen hohe Gehälter, und jetzt, wo wir herausgefunden haben, wie man Intelligenz synthetisiert, ist uns im Grunde nur eingefallen, damit die wohl spaßigste Karriere zu ruinieren, die man sich hätte erträumen können
  Klar, im Moment sind wir produktiver, aber ich weiß nicht, wie viel davon daher kommt, dass wir AI auf die Intelligenz aufsetzen und nutzen, die früher mühsam per Hand aufgebaut wurde
  Wer kann garantieren, dass wir in 36 Monaten nicht insgesamt schlechtere Entwickler sind, weil unser Systemwissen verkümmert ist
  Das heißt nicht, dass man keine AI nutzen soll. Ich verwende sie ständig für nützliche Nebentätigkeiten, etwa um GitHub Workflows einzurichten, während ich selbst an Features arbeite, oder um einen Agenten auf einem VPS Internetaufgaben erledigen zu lassen. Ein bisschen synthetische Intelligenz ist gut
  Aber die eigene Intelligenz ersatzweise zu verstärken ist nicht gut. So wie man mit Steroiden muskulös werden kann und sich dabei trotzdem den Körper kaputtmacht, liegt der Gewinn gerade in der Arbeit selbst. Abkürzungen sind oft der gefährlichste Weg

  • Mehr als die Frage „Sind wir produktiver?“ würde ich gern fragen, ob uns das AI-Zeitalter nicht immer tiefer in eine Richtung drängt, in der wir einfach nur mehr und schneller produzieren. Wofür eigentlich?
    Ich bin Softwareentwickler geworden, weil es Spaß macht, Code zu schreiben, über komplexe Probleme nachzudenken und sie zu lösen und das Gefühl zu erleben, wenn etwas Selbstgebautes zum ersten Mal funktioniert
    Macht es wirklich Spaß, statt Code nun eine Horde von Agenten zu managen? Oder genießt man nur den Geschwindigkeitsrausch, etwas in einem Tempo hervorzubringen, das allein unmöglich wäre? Sich schnell zu bewegen war für mich nie der Kern des Spaßes
    Ich verstehe, AI zu nutzen, um repetitive Arbeit oder Boilerplate zu reduzieren, aber wenn ich Leute sehe, die komplett auf agentenbasierte Entwicklung setzen, frage ich mich das wirklich
  • Für viele Entwickler könnte es in 36 Monaten sogar noch das Best-Case-Szenario sein, schlechtere Entwickler zu sein. Der Arbeitsmarkt verändert sich bereits so, dass Produktivitätszuwächse absorbiert werden, und um den Job zu behalten, werden alle dazu gezwungen, mehr zu produzieren
    Die Nachfrage kann mit den Produktivitätssteigerungen nicht sofort mithalten, Unternehmen können also nicht einfach mehr verkaufen, und am Ende kommt es zu Entlassungen. Wenn mehr Menschen um weniger Stellen konkurrieren, sinken auch die Löhne derjenigen, die übrig bleiben. Ein simples Problem von Angebot und Nachfrage
    Ich frage mich, wie viele von denen, die 2024 sagten: „Mein Job ist zu komplex oder zu spezialisiert, um betroffen zu sein“, das heute noch sagen würden
    Unternehmen müssen entweder die immer teureren Kosten pro Token in Kauf nehmen, um Personalkosten zu senken, oder entscheiden, dass dieser Kompromiss es nicht wert ist, und wieder auf menschliche Intelligenz setzen. In den kommenden Monaten wird wohl die Ökonomie der Branche die Entscheidung für uns treffen
  • Entweder nutzt du AI falsch oder dein Arbeitsplatz ist nicht besonders gut. Ich finde es wahnsinnig spaßig, mit AI zu programmieren
    LLMs und ihre Tools sind wie neue Randbedingungen, die man beim Entwurf von Systemen berücksichtigen muss, und wenn man gut damit umgeht, kann man größere und bessere Dinge bauen als früher. Es fühlt sich an, als würde man einen völlig neuen Zweig im Skill-Tree des Programmierens lernen
    Das sage ich allerdings, nachdem Claude die RBAC meiner Anwendung komplett ruiniert hat und ich die letzten zwei Tage damit verbracht habe, sie neu aufzubauen
  • Ich wünschte, man würde nicht „wir“ sagen. Viele Leute wollten diese Modelle oder Firmen weder noch haben noch zu ihnen beitragen. Wenn sie überhaupt etwas beigetragen haben, dann eher, dass ihr Code, ihre Daten und ihr geistiges Eigentum gestohlen wurden
    Viele haben sich nicht freiwillig für die Nutzung von AI entschieden, sondern wurden von ihren Arbeitgebern faktisch dazu gezwungen. Dank AI sind auch nicht alle produktiver; viele verbringen die eingesparte Zeit damit, von AI erzeugten Code zu reviewen
  • Bei uns im Unternehmen wurde der Einsatz von LLMs erzwungen, und man sagte uns: „Versuch nicht, es zu verstehen, sorg einfach dafür, dass es funktioniert.“ So, als wäre die Absurdität dieses Satzes nicht völlig offensichtlich
    Seitdem suche ich nach einem Weg raus aus diesem Job, vielleicht sogar aus dieser Karriere
    Am Ende werden die Leute, denen etwas daran liegt, aussortiert oder gehen von selbst, und das gesamte Feld wird mit Dunning-Kruger-artigen AI-Maximalisten gefüllt sein. „AI ersetzt Ingenieure“ stimmt dann zwar, aber aus völlig anderen Gründen und auf eine völlig andere Weise, als die Leute, die das behaupten, denken

• Ich frage mich, ob derselbe Effekt auch bei sehr wohlhabenden Menschen oder sehr hochrangigen Führungskräften auftritt. Solche Leute konnten ihr Denken schon immer bis zu einem gewissen Grad „outsourcen“ und haben Aufgaben delegiert, Recherchen und Zusammenfassungen angefordert oder Arbeit verteilt.
  Zerstört das Abgeben solcher Dinge an Menschen die eigenen Fähigkeiten auf dieselbe Weise? Oder ist AI grundsätzlich anders? Und falls ja, warum? Liegt es daran, dass es keinen moralischen und gesellschaftlichen Druck gibt, nicht alles zu delegieren?

  • Ja. Sobald man sich in der alltäglichen praktischen Entwicklung in eine Managementrolle bewegt, beginnen die technischen Fähigkeiten zu verkümmern. Selbst wenn sie nicht wie durch Zauberei verschwinden, hält man sie jedenfalls nicht durch Übung frisch und verfolgt neue Entwicklungen nicht mehr aktiv.
    Wenn man die Managerrolle richtig ausfüllt, ist das einer der beängstigendsten Karrierepfade überhaupt. Nach ein paar Jahren gibt es praktisch keinen realistischen Weg zurück in eine operative Entwicklerrolle mit niedrigerem Gehalt. Der Job besteht nicht darin, Dinge selbst zu tun, sondern anderen dabei zu helfen, sie zu tun.
    Natürlich gibt es Zwischenbereiche, und manche versuchen, ihre Fähigkeiten durch Forschung, Entwicklung oder Side Projects etwas zu schärfen, aber das ist nicht dasselbe wie die tägliche praktische Arbeit in der Produktionsrealität.
    Das Ausgangsniveau der Fähigkeiten ist von Person zu Person verschieden, aber die Wirkung über die Zeit ist im Großen und Ganzen ähnlich.
    Genau davor warne ich am stärksten, wenn erfahrene Engineers sagen, sie wollten auf die Management-Schiene wechseln. Das ist keine Entscheidung, die man leichtfertig treffen sollte.
  • Ja. Das passiert auch Professoren oder Universitätsdekanen.
    Deshalb sollte man meiner Meinung nach auch Noam Shazeers Wechsel zu OpenAI in diesem Kontext sehen. Es ist ohne Frage ein guter Hire, aber es gibt keinen besonderen Grund zu glauben, dass er immer noch über irgendeine geheime Magie verfügt, die andere nicht längst in aktuellerer Form besitzen.
  • Die Besitzerklasse arbeitet faktisch nicht selbst. Die übergeordneten Planungsaufgaben, die sie delegiert, sind für AI-Agenten eher leichter auszuführen als Tätigkeiten wie Software Engineering. Denn sie müssen nicht so präzise oder unmittelbar umsetzbar sein.
    Wegen des sehr großen Umfangs und des hohen Risikos solcher Rollen könnte man allerdings Vision-Language-Modelle auf Fable-5- oder Fable-6-Niveau brauchen, um Menschen zu ersetzen und es trotzdem ausreichend „sicher“ zu machen.
    Was 2027 explosionsartig zunehmen wird, sind automatisierte AI-Unternehmen, und menschliche CEOs und Eigentümer werden mit solchen AI-geführten Firmen nicht konkurrieren können.
  • Intellektuelle Arbeit und allgemeiner jedes Feld mit einem Skill Tree, in dem man auf- oder absteigen kann, baut ohne Übung mit der Zeit ab. Es ist so, als würde man eine Weile nicht laufen und dann beim Wiedereinstieg nicht sofort wieder seine alte persönliche Bestzeit erreichen.
    Nach einer Pause wieder aufzuholen ist zwar leichter, als eine Fähigkeit ganz von null zu entwickeln oder ohne angeborenes Talent zu beginnen, aber ohne Training baut man eindeutig ab. Führungskräfte, die in reine Management- oder Strategiepositionen aufgestiegen sind, ohne ihre praktischen Fähigkeiten zu erhalten, wurden am Ende spürbar langsamer im Verstehen.
    Es ist gut, dass diese Studie gemacht wurde. Die negative Korrelation zwischen AI und menschlichem Wohlergehen ist meiner Ansicht nach eine der großen Fragen unserer Zeit. Aber die Schlussfolgerung selbst wirkt ziemlich offensichtlich.
  • Ich habe etliche ehemalige Programmierer als Manager gesehen, die nach ein paar Jahren im Management kaum noch fizzbuzz hinbekamen. Deshalb halte ich es für ziemlich ähnlich.
    Viele Teile des Gehirns folgen dem Prinzip „use it or lose it“, und solche Delegation bedeutet eben, sie nicht zu benutzen.
    Allerdings hat ein LLM durchaus das Potenzial, noch viel schlimmer zu sein als Delegation an Menschen. Teilweise liegt das daran, dass der Iteraktionszyklus so schnell ist, dass man selbst ohne riesigen Reichtum eine Geschwindigkeit bekommt, die man sich bei menschlicher Arbeit niemals kaufen könnte.

• Ich habe seit über einem Jahr keine einzige Code-Funktion mehr von Anfang bis Ende selbst geschrieben. Stattdessen verbringe ich deutlich mehr Zeit damit, über Architektur und Systemeigenschaften nachzudenken.
  Deshalb habe ich das Gefühl, dass ich gewisse Fähigkeiten auf sehr niedrigem Niveau etwas verloren habe. Aber vielleicht kann ich dadurch mehr Zeit auf Fähigkeiten höherer Ebene verwenden. Vielleicht ist es wie bei Ärzten, die Bilder schlechter selbst lesen, dafür aber mehr kognitive Ressourcen haben, um über den Kontext des Patienten nachzudenken.
  Ich bin mir nicht sicher.
  Trotzdem kann ich mich inzwischen kaum noch dazu bringen, ohne AI direkt Code zu schreiben. Es fühlt sich zu langsam und fast schmerzhaft an.

  • Ich frage mich, ob jemand Neues so eine nützliche und produktive Denkweise überhaupt entwickeln kann, ohne das mentale Training durchlaufen zu haben, in echten Anwendungen mit Datenstrukturen und Low-Level-Algorithmen per Hand zu ringen.
    Als ich auf der Designschule war, bestand ein großer Teil der Arbeit aus physischen Medien wie Graphit, geschnittenem Papier, Farbe und Kohle, zusammen mit viel Übung im geschickten Einsatz digitaler Werkzeuge. Auch digital musste man einzelne Striche setzen und das passende Tool auswählen, aber bei Leuten mit rein digitalem Hintergrund fehlte eindeutig ein Verständnis für den Prozess.
    Es ist ähnlich wie bei jemandem, der nur nach Fotovorlagen gearbeitet hat und dann versucht, nach dem echten Objekt zu zeichnen. Wenn man etwas zeichnet, das bereits 2D ist, wird ein ganzer Teil des kognitiven Prozesses gar nicht benutzt. Man kann das lernen, aber wenn man nicht dazu gezwungen wird, wird man wahrscheinlich weiter Fotos machen und diese dann zeichnen.
    Bildgenerierung ist selbst mit sehr feinem Inpainting so anders, dass ein Vergleich kaum möglich ist. Ich würde zögern zu sagen, dass jemand mit viel Erfahrung in fortgeschrittener Bildgenerierung beim Erlernen des Zeichnens einem völligen Anfänger deutlich voraus ist. Für Künstler, die nach Fotovorlagen arbeiten, gilt das nicht, und für rein digitale Künstler, die auf dem Tablet nach realen Motiven gezeichnet haben, erst recht nicht.
    Das ist ähnlich wie bei Millennials, die immer Zugang zu Technik hatten, aber auch noch Computer aus der Einwahlzeit erlebt haben und deshalb im Allgemeinen technikaffiner sind als das typische „iPad-Kind“, das nicht einmal eine Verzeichnisstruktur durchsuchen kann.
  • Die Frage ist, welche Fähigkeiten auf höherer Ebene überhaupt noch übrig bleiben, auf die man sich konzentrieren kann.
    Ich bin nicht überzeugt, dass AI bei Aufgaben wie Projektmanagement oder Architektur von Natur aus schlechter ist.
  • Selbst wenn die AI-Priester recht hätten und AI gedanklichen Spielraum schafft und dadurch kognitive Kapazität frei wird, um über Höheres nachzudenken: Wofür wird der Vorgesetzte diesen Spielraum nutzen lassen? Wird er den Nutzern erlauben, höhere kognitive Fähigkeiten zu entwickeln? Das scheint mir unwahrscheinlich.
    Nehmen wir an, die Ärzte im Artikel hätten nach dem Einsatz von AI schlechtere Leistungen gezeigt. Wenn AI es ermöglicht, in der Zeit, in der früher 10 Untersuchungen möglich waren, nun 100 zu machen, wie wird der Arbeitgeber diese freiwerdende Arbeitszeit einsetzen? Natürlich indem er mehr Untersuchungen verlangt und einige der nun überflüssigen Ärzte entlässt.
    Die verbliebenen Ärzte werden dequalifiziert, machen gleich viel oder mehr Arbeit, und die Gesellschaft bekommt medizinische Versorgung geringerer Qualität. Aber der Arbeitgeber spart Personalkosten, und die Aktionäre sind glücklich.
  • Wir haben nicht gelernt, wie man IBM-Lochkarten benutzt. Von Hand Funktionen in modernen Sprachen zu schreiben wird ebenfalls schnell zu einer anachronistischen Tätigkeit.
  • In den Augen vieler CEOs wirst du langsam nutzlos.

• Das ist neu, und vor allem ist das Ausmaß neu. Es geht nicht um ein paar einzelne „Fähigkeiten“, sondern um fast alles. Das grundlegendste Vermögen zu tiefem, breitem und ausdauerndem Denken wird herausgefordert. So etwas ist früher auf diese Weise nicht passiert
  Wenn man Agenten bei der Arbeit zusieht, ist das manchmal erstaunlich und atemberaubend. Gerade wegen dieser Macht sind wir aber in demselben Ausmaß anfällig für ihre Verlockung und Entmündigung. Das Potenzial für langfristige psychologische Effekte kommt fast starken Drogen gleich

  • Wenn es darum geht, dass die Fähigkeit zu tiefem, breitem und ausdauerndem Denken herausgefordert wird, denke ich zuerst an soziale Medien und Content-Algorithmen. Das war die erste Welle, die schon vor dem AI-Zeitalter den schrecklichen Status quo geschaffen hat
    Heutzutage ist es viel zu leicht, in Echokammern zu geraten, und sehr schwer, wieder aus Silos herauszukommen
    Es kann ein zweischneidiges Schwert sein. AI, der die meisten Menschen wie einem allwissenden Orakel vertrauen, könnte uns auch den einzigen Widerspruch liefern zu Positionen, die wir beim passiven Scrollen durch soziale Medien oder Youtube, TikTok aufgenommen haben
    Wenn man zum Beispiel Claude, ChatGPT oder Grok nach den „Weltraumlasern“ fragt, die Leute wie Marjorie Taylor Greene 2018 im Zusammenhang mit den Bränden auf Hawaii in den sozialen Medien verbreiteten, weisen sie das schnell als Unsinn zurück
    Am Ende könnte jeder seine eigene AI bekommen, die nur das sagt, was man hören will. Aber bisher habe ich Leute gesehen, die auf Twitter einen Streit aufgaben, nachdem Grok ihre Behauptung verworfen hatte. Also gibt es wohl einen kleinen Hoffnungsschimmer
  • Bevor man sagt: „So etwas hat es noch nie gegeben“, sollte man lesen, was die Leute über die Erfindung von Radio und Fernsehen gesagt haben
    Dass es atemberaubend erstaunlich ist, Agenten bei der Arbeit zu sehen, gilt auch für Zauberei. Die unangenehme Möglichkeit, dass das alles nur eine Illusion sein könnte, die wir nicht richtig verstehen, scheint die Leute nicht besonders zu belasten
    Dass die langfristigen psychologischen Effekte wie starke Drogen wirken, könnte eher damit zu tun haben, wie die Eigentümer dieses Produkts entschieden haben, es zu vermarkten und zu verbreiten. Hebt man den Deckel nur ein wenig an, könnte die Euphorie in Angst umschlagen. Ein Moment im Stil von Upton Sinclair rückt näher
  • Der menschliche Geist braucht Herausforderungen genauso wie der Körper. Um zu wachsen – oder auch nur ein hohes kognitives Niveau zu halten – ist das der einzige Weg
    Pflegekräfte, Ärztinnen und Ärzte sowie Familien wissen gut, wie steil die Lebenskurve eines Menschen abstürzt, wenn er plötzlich ans Bett gebunden ist und Reize sowie bewältigbare Herausforderungen auf ein Minimum reduziert werden
    LLMs beseitigen oder minimieren Herausforderungen. Abgesehen von Kostensenkungen für Arbeitgeber ist schwer vorstellbar, welchen Mehrwert sie für Ingenieure bringen. Natürlich wird es Leute geben, die behaupten, sie schafften damit das Zehnfache, und manche tun das vielleicht wirklich, aber selbst daran habe ich Zweifel. Für den großen Rest ist das nicht gut, und es wird auch nicht besser werden, außer der Preis verhindert in den meisten Märkten den Einsatz

• Mit 40 lerne ich neue Dinge in einem Tempo, das ich mir nie hätte vorstellen können. Neue Sportarten, neue Geschäfte, neue akademische Interessen
  Technologie ist ein Hebel, und AI ist der größte Hebel, den wir haben. Sie kann Faulheit ermöglichen und enorme Produktivität ebenso. Welchen Weg man geht, entscheidet man selbst

  • Ich weiß nicht, ob das auf dich zutrifft, aber ich habe einige Freunde gesehen, die glaubten, sie würden die Frontlinie der Wissenschaft erkunden, und am Ende drehte sich das Gespräch immer in seltsames quanten- und metaphysikartiges Geschwurbel hinein
    LLMs sind Schmeichler, und in langen Gesprächen erzeugt diese Schmeichelei eine positive Rückkopplungsschleife. Wenn im Kontextfenster eine Bestätigung für eine falsche Interpretation oder Metapher steht, geht der Chatbot weiter diesen Weg, weil er nur die plausibelste Fortsetzung des bisherigen Textes ist
    Ehe man sich versieht, hat man das verborgene Gewebe des Universums entdeckt, und es ist dann immer so etwas wie Minkowski-fraktale Raumzeit-Tensor-Gitter-Mannigfaltigkeiten und subharmonische DNA-Nanoröhren
    Also ist Vorsicht angebracht, wenn man keine robuste Methode hat, um zu bewerten, was man lernt, und ob man tatsächlich lernt
  • Man lernt nicht. Zum Lernen gehört das eigene Tun
    Das ist seit Langem bekannt. Wenn ein Schüler nur ein Mathematikbuch liest und nicht wiederholt Aufgaben löst, besteht er die Prüfung nicht
    Im besten Fall liest man einfach nur etwas. Nutzer von Coding-Agenten tun nicht einmal das
  • Man lernt nicht. Man hört Erklärungen und bekommt im Grunde einen Hammer in die Hand, mit dem man sie auf einem unterdurchschnittlichen Kompetenzniveau anwenden kann
    Lernen erfordert einen enormen Zeitaufwand. Durch den Einsatz von LLMs wird diese Zeit nicht kürzer
  • Wie genau hilft AI beim Sport? Bist du dadurch tatsächlich ein besserer Athlet geworden? Hast du zum Beispiel aus Trainerperspektive mehr über die Strategie der jeweiligen Sportarten gelernt? Kannst du das genauer ausführen?
  • Da stimme ich tatsächlich zu. Ich habe klar das Gefühl, dass man mit LLMs Konzepte lernen und erforschen kann. Aber ich war von vornherein jemand mit einer starken Neigung zum Selbststudium und hoher Motivation
    Alles Technische, was ich kann, habe ich mir durch eigene Anstrengung beigebracht. Deshalb hoffe ich, dass diese Tools nicht als Modell vermarktet werden, mit dem man mehr Arbeit erledigt, sondern als eines, das einem hilft, bessere Arbeit zu leisten
    Im Moment werden sie eher als Vorwand für Massenentlassungen genutzt, statt die Fähigkeiten von Menschen anzuheben. Natürlich haben sie auch massenhaft Leute angezogen, die sie benutzen, um ihre tatsächlichen Fähigkeiten größer erscheinen zu lassen

• Der Einsatz von Werkzeugen folgt gewöhnlich so einer Kurve. Wenn man bestimmte Fähigkeiten bewahren will, muss man sie tatsächlich bewahren
  Das ist an sich nicht zwangsläufig schlecht. Werkzeuge ermöglichen viel mehr, als ohne sie möglich wäre, und es ist diskutierbar, welche Fähigkeiten noch wesentlich wichtig sind, wenn ein Werkzeug sie übernimmt

  • Die Schwierigkeit hier ist, dass die Menge der Fähigkeiten, die wir verkümmern lassen wollen, praktisch grenzenlos ist
    Es ist kein spezialisiertes Werkzeug mit klar abgegrenztem Problemfeld wie ein Taschenrechner. In der Praxis setzen viele Menschen AI zwar in Fachbereichen wie Coding oder visuellem Design ein, aber grundsätzlich gibt es keinen Grund, warum nicht selbst die Abstraktionsebene, auf der wir gerade arbeiten, an AI abgegeben werden könnte
  • Das große Problem in diesem Fall ist, dass auch für den guten Einsatz dieses Werkzeugs grundlegende Fähigkeiten entwickelt und erhalten werden müssen. Das ist ganz anders als bei einer elektrischen Bohrmaschine
  • Ob es in Ordnung ist, hängt davon ab, wie verlässlich das Werkzeug ist. Bei einem Taschenrechner oder Compiler ist das okay. Das im Artikel genannte Beispiel der maschinellen Bildklassifikation scheint auch okay zu sein, aber ganz sicher bin ich nicht
    Die Ausgaben von LLMs sind nicht verlässlich, also braucht es weiterhin Urteilsvermögen. Um Code beurteilen zu können, muss man sich bis zu einem gewissen Grad selbst damit beschäftigt haben. Ein unverlässliches Werkzeug hilft also nicht besonders, außer man akzeptiert diese Unsicherheit
  • Genau. Wenn man dieses Werkzeug aber nicht besitzt und es in den Händen zentralisierter, sogar politisch oder staatsnaher Gruppen liegt, wird es ein großes Problem, sobald es heißt: „Der Computer sagt nein“

• Wenn ich an Staff+-Ingenieure denke, überrascht mich das nicht. Ihre Arbeit ist dem Anweisen von AI ziemlich ähnlich. Die meisten arbeiten sich mit Einsatz, starker Engineering-Kompetenz, Soft Skills und etwas Glück die Leiter hoch. Aber je größer das Unternehmen wird, desto weniger Zeit verbringen sie mit Coden, Debugging und tiefgehender Architektur
  Stattdessen verhalten sie sich wie sehr technische Produktmanager. Sie helfen VPs dabei, High-Level-Produktanforderungen zu planen und aufzuschreiben, und streuen ein wenig technische Terminologie darüber. Sie zeichnen Kästchen auf Whiteboards, bauen hübsche Slides und schreiben polished Dokumente, mit denen die Führungsebene zufrieden ist. Sie sitzen in Meetings oder sind auf dem Weg zum nächsten, und wenn sie eine technische Idee haben, schicken sie ein Team los, um sie zu validieren
  Natürlich haben sie immer noch das Gefühl, tief technisch zu sein, aber wenn dann der Tag kommt, an dem sie einen Produktionsausfall beheben, ein technisches Bewerbungsgespräch bestehen oder viel Code schreiben müssen, merken sie, dass ihre Fähigkeiten eingerostet sind
  Das ist nicht als Kritik gemeint, sondern soll eine echte Karriereherausforderung hervorheben. Als Ingenieur möchte man seine technischen Fähigkeiten schärfen, aber um auf der Karriereleiter in der Organisation aufzusteigen, muss man mehr organisatorische Arbeit übernehmen. Die einzige Lösung, die mir einfällt, ist, eher wie ein Forscher oder Professor zu werden. Gute Professoren verbringen mit der Zeit zwar weniger Zeit damit, Papers zu schreiben oder Formeln herzuleiten, aber ihre Einsichten werden tiefer, und sie betreuen Doktoranden so, dass großartige Ergebnisse entstehen. Nur ist dieser Weg nicht so einfach, wie er klingt

• Der größte negative Effekt, den ich sehe, ist, dass die Leute sich zu schnell bewegen, um zu bewerten, was sie da hineinwerfen. Wenn man sich zu schnell bewegt, hat man keine Zeit, Geschmack zu entwickeln oder die Nuancen verschiedener Ansätze für dasselbe Problem zu verstehen
  Ich nutze LLMs auch ziemlich viel, aber ich glaube, ich verbringe im Schnitt deutlich mehr Zeit damit, auf den ausgespuckten Code zu starren als meine Kollegen. Das, was zuerst herauskommt, „funktioniert“, aber nachdem ich es etwas im Kopf habe sacken lassen, wiederhole ich die ursprüngliche Idee meist noch 2- bis 3-mal, bevor ich das Gefühl habe, dass man es wirklich mergen kann
  Wenn ich also alles zusammenzähle, habe ich nicht das Gefühl, dass meine Produktivität bei den wirklich wichtigen architektonischen Fragen stark gestiegen ist

• Zuerst frage ich mich nach dem Wert der Endoskopie-Studie. Um die Zahl der entdeckten Adenome vor und nach einer potenziellen De-Skilling-Wirkung durch AI zu vergleichen, muss man annehmen, dass die Adenomrate konstant ist, und diese Annahme scheint nicht unbedingt sicher
  Ich weiß nicht, ob das ein Problem der Studie selbst oder der Zusammenfassung ist, aber ein viel besseres Studiendesign wäre gewesen zu messen, wie gut die Teilnehmer im Vergleich zu einer Baseline-Analyse abgeschnitten haben, und das hätte auch mehr Vertrauen gegeben, dass es tatsächlich eine Veränderung der Fähigkeiten gab
  Ich frage mich außerdem, ob sich die Befundungszeit verkürzt hat oder ob sie mehr Druck verspürten, Scans auf die alte Weise zu lesen, weil die AI sie schnell durchging. Das ist ein potenzieller Störfaktor
  Zweitens ist es nicht überraschend, dass es wegen AI zu messbarem De-Skilling kommt. Aber früher hätte man De-Skilling auch wegen Rechtschreibprüfungen und Taschenrechnern feststellen können. Trotzdem sagt heute niemand, wir sollten keine Textverarbeitung benutzen und stattdessen an Fingern und Zehen zählen oder schriftlich dividieren
  Es gibt immer einen Trade-off zwischen den Fähigkeiten und dem Wissen, die für Experten wirklich wichtig sind, und dem, was man an Technologie auslagern kann. Im Moment ist es eine Übergangsphase, weil die Technologie nicht nur neu ist, sondern sich auch zu schnell verändert. In ein paar Jahren, wenn wir weiter oben auf der Einführungskurve sind und sich die Veränderungsgeschwindigkeit in manchen Bereichen stabilisiert hat, werden wir uns auf AI-Nutzungsweisen in Bereichen wie Coden und Medizin eingependelt haben, die eine Kombination aus Wissen und Fähigkeiten erfordern. Und ich denke, wir werden uns daran gewöhnen, dass Menschen Dinge, die heute als Kern der Arbeit gelten, nicht mehr unbedingt wissen oder selbst tun müssen

• Werden wir in eine Situation geraten, in der wir es bereuen, verlorene Fähigkeiten eingebüßt zu haben, weil AI verschwindet? Selbst im schlimmsten Fall würden wir wohl eher Open-Weights-Modelle statt State of the Art verwenden, daher sehe ich darin kein großes Problem
  Ich bin sicher, dass Menschen seit der Erfindung des Taschenrechners schlechter in Arithmetik geworden sind

  • Die eigentliche Bedrohung liegt meines Erachtens nicht auf der individuellen, sondern auf der gesellschaftlichen Ebene
    Wenn sich Fähigkeiten mit der Zeit aufbauen, entsteht Einsicht, und aus dieser Einsicht entsteht Innovation
    AI macht viele interessante Dinge, aber sie innoviert noch nicht
    Die eigentliche Bedrohung ist nicht, dass wir alle Fähigkeiten verlieren und auch den Zugang zu AI verlieren. Das ist zwar möglich, aber ein Verlust des Zugangs scheint wenig wahrscheinlich. Das größere Risiko ist, dass AI ungefähr auf dem heutigen Niveau stehen bleibt, während wir uns auf sie verlassen, unsere Fähigkeiten abstumpfen lassen und zu viel Denken an eine nicht innovative Maschine abgeben, sodass Innovation stagniert
    Ich sage nicht, dass das zwangsläufig passieren wird, aber es wirkt wie ein hinreichend plausibles Ergebnis
  • Ist die gesamte Geschichte des Computing vor 2023 verschwunden? Ist es wirklich schon so schlimm
  • In dem Satz „Seit der Erfindung des Taschenrechners sind Menschen schlechter in Arithmetik geworden“ kann man für LLMs „Arithmetik“ durch die Variable X ersetzen
    „Seit der Erfindung von LLMs sind Menschen schlechter in X geworden“
    Das Problem ist nicht nur, dass die Fähigkeit X selbst verfällt
    Das Problem ist, dass X bei LLMs praktisch sämtliches Wissen und sämtliche Kommunikationsfähigkeiten ist
    Kann eine Gesellschaft es wirklich verkraften, wenn praktisch sämtliches Wissen und sämtliche Kommunikationsfähigkeiten verkümmern
  • Im schlimmsten Fall erleben wir einen kognitiven Rückbau. Wir werden dümmer und fauler