Lagern wir der KI zu viel Denken aus?

 (artfish.ai)
1 Punkte von GN⁺ 6 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Von kleinen Entscheidungen bis hin zu komplexer Recherche und Schlussfolgerung liefert KI fertige Antworten; dadurch wird es immer wichtiger, wie weit wir über die reine Zeitersparnis hinaus Autonomie im Denken bewahren
  • Suchmaschinen überließen das Zerlegen von Fragen, die Bewertung von Quellen und die Synthese von Antworten noch dem Menschen, doch Google Deep Research und OpenAI Deep Research übernehmen inzwischen sogar die Zwischenschritte des Denkens, die früher Minuten, Stunden oder Tage dauerten
  • Als man zur portugiesischen Kolonialgeschichte zunächst eigene Hypothesen aufstellte und diskutierte und sie erst danach mit KI überprüfte, stützte die KI mehrere Hypothesen und ergänzte neue Erklärungen, ließ aber einige plausible Möglichkeiten aus — ein Hinweis auf den Wert von erst denken, dann KI nutzen
  • Mit Gemini für Übersetzungen, Coding Agents und ChatGPT als persönlichem Tutor kann KI repetitive Arbeit und Lernaufwand verringern, doch Fälle, in denen Studierende nahezu identische Aufgabenlösungen einreichten, zeigen, dass eine Antwort zu bekommen und Denken zu lernen nicht dasselbe ist
  • Wenn KI nicht nur einfache Aufgaben automatisiert, sondern auch übernimmt, was wir wollen und welche Entscheidungen wir treffen, könnten Menschen zusammen mit der Bequemlichkeit auch Handlungsmacht abgeben

KI beginnt, sogar Alltagsurteile zu übernehmen

  • KI für Recherche, Schlussfolgerung und Antworten einzusetzen, ist von kleinen Entscheidungen bis hin zu komplexem Denken leicht und bequem geworden; in manchen Umgebungen wird es sogar aktiv empfohlen
  • In Ken Lius Kurzgeschichte aus dem Jahr 2012, The Perfect Match, tritt mit Tilly eine universelle KI-Assistentin auf, die behauptet, die Vorlieben und Stimmungen ihrer Nutzer zu kennen
    • Die Hauptfigur überlässt Tilly, was sie morgens essen, welche Musik sie hören, mit wem sie ausgehen und sogar, was sie beim Date sagen soll
    • Im Glauben, Tilly finde wissenschaftlich die passenden Entscheidungen für ihren Geschmack, delegiert sie alles — von banalen Fragen wie der Kleidung bis hin zu wichtigen Entscheidungen wie der Partnersuche
  • Bei einem Startup-Event in San Francisco tauchte eine Person auf, die ein metallisches, kapselartiges Mikrofon von weniger als zwei Fingerbreiten an ihrem Hemd trug und alle Gespräche aufzeichnete
    • Am Ende des Tages ließ sie einen Workflow laufen, der die aufgezeichneten Gespräche zusammenfasste und analysierte
    • Er sagte, er vertraue seine gesamten Gedanken Claude Fable an, weil es kritischer denke als er selbst
    • Sein Startup versucht, sämtliche Eingaben und Arbeiten menschlicher Ingenieure ohne ausdrückliche Zustimmung zu sammeln, um Ingenieure zu ersetzen

Von Suchergebnissen zu fertigen Antworten

  • Schon vor Claude, ChatGPT und Gemini lagerten Menschen einen Teil ihres Denkens an Suchmaschinen aus, doch die Suche verlangte weiterhin Fragen zu zerlegen, Quellen zu bewerten und Antworten zu synthetisieren
  • KI übernimmt nun diese Zwischenschritte und erzeugt selbst für komplexe oder spezialisierte Fragen innerhalb weniger Minuten fertige Antworten
  • Google Deep Research und OpenAI Deep Research können Aufgaben bearbeiten, für die ein Mensch früher Minuten, Stunden oder sogar Tage gebraucht hätte
  • Solche Werkzeuge sparen nicht nur Zeit, sondern verkürzen auch den Prozess des eigenen Nachdenkens und können so die Grenze zwischen Arbeitsunterstützung und Autonomieverlust verwischen
  • Wer bei wichtigen Fragen des Lebens die endgültige Entscheidung trifft, entscheidet darüber, ob ein KI-Assistent nur bei Aufgaben hilft oder Entscheidungen dominiert

Schnelle Antworten und langsames Denken unterscheiden

  • Für viele Fragen sind schnelle Antworten passend — etwa zum aktuellen Wetter, zum Präsidenten eines bestimmten Landes vor zehn Jahren oder zu Produktbewertungen für Hautpflege oder Sportausrüstung
  • Es gibt jedoch auch Fragen, über die es sich lohnt, länger nachzudenken, statt sofort zu suchen
  • Wer ohne Smartphone spazieren geht, denkt vielleicht über Fragen nach wie: Wachsen Kirschen auf Bäumen oder Sträuchern? Wann und wo fand das erste WM-Spiel statt? Doch die meisten davon sind vergessen, bevor man wieder zu Hause ist
    • Wenn nur einige wenige wichtige Fragen im Gedächtnis bleiben, kann es auch wertvoll sein, belanglose Fragen zu vergessen und nicht jede Unklarheit sofort zu beantworten

Eine Portugal-Reise: erst Hypothesen bilden, dann mit KI prüfen

  • Das portugiesische Monument to the Discoveries erinnert an Portugals sogenannte Zeit der Entdeckungen
  • In Portugal schien man die damaligen Figuren als „Entdecker“ und „Erforscher“ zu verehren, während man dieselben Personen in den USA eher als „Eroberer“ und „Kolonialisten“ bezeichnen könnte
    • Ein lokaler Reiseführer antwortete, Figuren wie Henry the Navigator seien in Portugal anders als Christopher Columbus in den USA kein Ziel von Cancel Culture, sondern würden überwiegend als respektierte historische Persönlichkeiten gelten
  • Als die Frage aufkam, warum Portugal seine Kolonialgeschichte mit Stolz darstellt und anders reagiert als die USA, beschloss die Schwester, nicht sofort ChatGPT zu fragen, sondern zuerst eigene Hypothesen aufzustellen
    • Die Möglichkeit, dass Portugal im Vergleich zu den USA relativ homogener und religiöser ist
    • Die Möglichkeit, dass die „Zeit der Entdeckungen“ eines der prägnantesten Kapitel in Portugals nationaler Erzählung ist
    • Während beide spekulierten, Verbindungen herstellten, widersprachen und ihre Ansichten änderten, riefen sie historisches Wissen aus längst vergangenen Schulzeiten wieder ab
  • Auch wenn einige Hypothesen falsch sein konnten, war schon der Prozess, Erinnerungen, Wissen, Weltverständnis und kritisches Denken einzusetzen, eine Übung an sich
  • Als danach dieselbe Frage an KI gestellt wurde, bestätigte sie viele der bestehenden Hypothesen und ergänzte Erklärungen, die übersehen worden waren, ließ aber einige Möglichkeiten aus, die die beiden weiterhin für plausibel hielten
  • Folgt man der Reihenfolge Frage → Hypothesenbildung → KI-Prüfung und Erweiterung, kann KI menschliches Denken ergänzen, statt es zu ersetzen

Produktive Nutzung zur Verringerung repetitiver Arbeit

  • Auch bei Aufgaben, die messen, wie gut Gemini schwierige Probleme löst, denkt und Werkzeuge einsetzt, zeigt sich das praktische Nutzungspotenzial von KI
  • In Arbeit und Ausbildung kann KI den Zeitaufwand stark reduzieren und Menschen helfen, sich auf wichtigere Teile zu konzentrieren
    • Ein Nutzer, der in einem koreanischen Unternehmen arbeitet, übersetzt mit Gemini lange offizielle Berichte auf Englisch ins Koreanische und beschleunigt so seine Arbeit
    • Ein Forscher entwickelt Ideen weiter und überlässt die Detailimplementierung einem Coding Agent, um mehr Zeit für die Analyse zu haben
    • Ein Lernender nutzte ChatGPT als persönlichen Tutor, um Biochemie von Grund auf zu lernen und sich innerhalb weniger Monate auf den MCAT vorzubereiten
  • Wenn man alltägliches Denken und repetitive Arbeit an KI delegiert und die frei werdende Zeit in wichtigeres und interessanteres Denken investiert, können Lebenszufriedenheit und Produktivität steigen
  • Der OECD-Bericht zu den Auswirkungen von KI am Arbeitsplatz behandelt die Automatisierung standardisierter, repetitiver und langweiliger Aufgaben durch KI
  • Digital Labour Platforms and the Future of Work der International Labour Organization behandelt Arbeiten, die bisher von menschlichen Arbeitskräften gegen geringe Bezahlung erledigt wurden
  • Wenn KI stundenlange mühsame Routinearbeit übernimmt, können Menschen sich auf interessantere und erfüllendere Formen des Denkens konzentrieren

Probleme, wenn der Lernprozess übersprungen wird

  • Ein Professor, der an einer Online-Universität Physik unterrichtet, vermutet, dass die meisten oder sogar alle Studierenden ihre Aufgaben mit KI erledigen
    • Einige Antworten sind fast identisch, als hätten die Studierenden dieselbe Aufgabe einfach in dieselbe KI eingefügt
    • Ohne individuelles Denken oder eigene Meinung der Studierenden wiederholen sich allgemeine KI-Antworten
  • Es gibt keine Möglichkeit, die KI-Nutzung nachzuweisen, und die Antworten selbst sind ziemlich umfassend, weshalb die meisten Studierenden eine Eins bekommen
  • KI kann das Lernen unterstützen, aber auch nur Ergebnisse erzeugen, ohne zu lehren, wie man zu einer Antwort gelangt
  • Zu entscheiden, welche Gleichung man bei einem Physikproblem verwendet oder welche Quellen und Argumente man in einem Essay auswählt, mag langweilig sein, doch wenn man diesen Prozess auslässt, wird der Sinn von Schule und Lernen selbst geschwächt

Automatisierung einfacher Aufgaben und Autonomie des Denkens

  • Vollständige Autonomie des Denkens und die Automatisierung einfacher Arbeit lassen sich nur schwer klar trennen; in der Praxis ist KI-Nutzung meist eine Mischung aus beidem
  • Auch das Sammeln und Analysieren persönlicher Daten ähnelt teilweise dem Vorgehen des „Microphone Man“
  • Der Unterschied könnte darin liegen, dass die Daten selbst gesammelt und ausgewählt, die Fragen für die gewünschten Antworten formuliert und die Endergebnisse bewertet wurden
    • Ein weiterer Unterschied ist, dass nicht die Gespräche anderer aufgezeichnet wurden, sondern eigene Daten verwendet wurden
  • Zwischen der Automatisierung einfacher Aufgaben, um Zeit für sinnvolle Tätigkeiten zu gewinnen, und dem bewussten Selbermachen als Lernerfahrung ist immer Balance nötig

Wer formt Wünsche und Handlungsmacht?

  • In The Perfect Match kritisiert Jenny, dass Tilly nicht nur mitteilt, was Nutzer wollen, sondern sogar bestimmt, was sie denken sollen
  • Autonomie hängt zumindest teilweise davon ab, weiterhin selbst am Prozess der Bildung eigener Wünsche beteiligt zu sein
  • Wenn man KI überlässt, welche Musik man hört, welche Filme man sieht, was man isst und welche Schuhe man trägt, gibt man damit auch die Fähigkeit ab, selbst zu beurteilen, was man will
  • Bei der Bewertung von KI-Automatisierung sollte unterschieden werden, ob sie nur menschliche Arbeit und Aufgaben reduziert oder auch menschliches Denken und Handlungsmacht ersetzt

Verwandte Beiträge

1 Kommentare

 
GN⁺ 6 시간 전
Hacker-News-Kommentare

  • Übermäßige Nutzung ist subjektiv, daher kann jeder, der AI viel nutzt, behaupten, er schöpfe nur ihr Potenzial aus, und auch Taschenrechner hätten Menschen nicht dümmer gemacht.
    Aber wenn ich die Addition an einen Taschenrechner abgebe, bleibe ich dennoch ich selbst; wenn ich dagegen den Großteil meines Denkens an ein LLM abgebe, was bleibt dann noch? Wenn ich sogar Kindererziehung, menschliche Beziehungen und Produktdesign delegiere, fragt man sich, ob der einzige eigene Wertbeitrag zur Welt nur noch ein einmal geschriebener Prompt ist.
    Ein von Menschen geschriebener Roman ist grundsätzlich wertvoller, weil er in mühsam errungener gemeinsamer Erfahrung wurzelt, und ich möchte auch ein Mensch sein, der noch auf die alte Weise Romane schreiben kann. Da ich auch sportlich nicht besonders gut bin, möchte ich wenigstens mein Denkvermögen bewahren.

    • Der Essay The Whispering Earring passt besonders gut ins LLM-Zeitalter.
      Man kann AI wie einen Ohrring benutzen, der ständig fragt: „Was machen wir jetzt und wie beheben wir das?“, oder wie ein Exoskelett, bei dem die Form des gewünschten Ergebnisses schon im Voraus feststeht und man dann sagt: „Implementiere einen kd-tree, der auf diesen xyz-Metrikraum für dieses Problem angewendet wird.“ Letzteres ist bereits zu Ende gedachtes Ausführungs-Automatisieren und daher leicht zu prüfen, während Ersteres die Denkfähigkeit verkümmern lässt.
    • Ein beträchtlicher Teil der LLM-Extremisten, die ich kenne, verfügt nicht über genug Wissen oder Können, um im technischen Bereich wirklich herauszustechen, und nutzt LLMs als Cheat Code, um Arbeit überhaupt erledigt zu bekommen.
      Ein ehemaliger Mitschüler, der vor ein paar Jahren nicht einmal eine Drupal-Seite richtig konfigurieren konnte, ist heute angeblich Spitzeningenieur in einem AI-Startup und postet täglich AI-Buzzwords auf LinkedIn. Irgendwann wird der Punkt kommen, an dem man AI-Erzeugnisse und menschliche Ergebnisse nicht mehr unterscheiden kann, und viele können das schon jetzt nicht mehr.
    • Auch mit Taschenrechner sollte man Mengenangaben in Rezepten noch im Kopf anpassen können, und man sollte wissen, was überhaupt berechnet werden muss. Die Logik „Es gibt ja einen Taschenrechner, also braucht man keine Mathematik“ setzt voraus, dass Probleme fein säuberlich wie im Lehrbuch aufbereitet serviert werden.
      Auch beim Programmieren mit LLMs braucht man das Wissen, um zu beurteilen, was man anfragen sollte und ob das Ergebnis innerhalb des geforderten Rahmens korrekt und sicher ist. Nichttechnische Nutzer, die das Resultat nicht selbst prüfen und überarbeiten, stoßen am Ende auf eine Wand, die sie selbst nicht debuggen können, und brauchen dann wieder menschliche Hilfe.
    • Der Taschenrechner hat nicht Menschen ersetzt, die Mathematik betreiben, sondern bereits existierende Werkzeuge wie Logarithmentafeln und Rechenschieber.
      Aus Sicht der Mathematiklehrer jener Zeit nahm das kritische Denken der Schüler ganz offensichtlich ab. Bei Rechenschiebern und Tafeln musste man noch über signifikante Stellen und Ähnliches nachdenken; der Taschenrechner verlangt diese Art von Denken nicht.
    • Bevor man einen Taschenrechner benutzt, kennt man meist schon eine grobe Näherung des Ergebnisses und merkt daher sofort, wenn Größenordnung oder Vorzeichen falsch sind. Bei GPS ist es ähnlich: Wer selbst keinen Weg finden kann, merkt auch nicht, wenn er einen Tippfehler eingegeben oder das falsche Springfield ausgewählt hat.
      Als ich den Projektplan eines Kollegen prüfte, habe ich die grundlegenden Parameter selbst recherchiert und bei unklaren Punkten nachgefragt; im Meeting sagte der Kollege dann, ich hätte mehrere Probleme gefunden, die Claude nicht gefunden hatte. Für Berufseinsteiger, die die Fallstricke eines Fachgebiets noch nicht kennen, ist das besonders gefährlich, und in diesem Fall hatte sogar eine erfahrene Person die gesamte Arbeit praktisch an ein LLM abgegeben.

  • Entgegen dem Rat „Sieh dich jetzt als Manager“ denke ich, dass es im AI-Zeitalter besser ist, tiefes technisches Verständnis aufzubauen, wenn man nützlicher werden und AI zugleich effektiv einsetzen will.
    Ich empfehle Kindern, Lehrbücher aus ihren Interessengebieten zu lesen, und ich mache es selbst genauso. Ich erwarte, dass tiefes Verständnis schon bald selbst zu einer knappen und wertvollen Ressource wird.

    • Dass ich meine Arbeit als Manager gut machen konnte, lag daran, dass ich die Aufgaben, die ich meinen Mitarbeitenden gab, auch selbst hätte ausführen können. Dadurch konnte ich Ergebnisse kritisch bewerten, realistische Zeitpläne aufstellen, ihre Beiträge gegenüber dem Management angemessen vertreten und bei Personalmangel auch selbst mit anpacken.
      Gute direkte Führungskräfte hatten diese Fähigkeit in der Regel; Manager, denen sie von Anfang an fehlte oder die sie vor langer Zeit verloren hatten, taten sich schwer. Das Management von Senior Executives oder C-Level-Leuten ist etwas anderes, aber LLM-Management ähnelt direktem Team-Management.
    • Schwierige Konzepte zu lernen ist heute leichter als je zuvor, aber ebenso ist es leichter geworden, Ergebnisse zu erzeugen, für die man diese Konzepte eigentlich bräuchte, ohne sie zu verstehen. Der Einsatz dieses mächtigen neuen Werkzeugs erfordert Disziplin und Antrieb, es mit Geduld und Zielbewusstsein zu nutzen.
    • Vielleicht ist es wirksamer, als Lehrbücher zu empfehlen, lieber den kritischen Umgang mit AI zu lehren.
      Wenn man mit einer halbwegs kompetenten, aber manchmal fatal falschen AI spricht, fragt man nach, zweifelt Antworten an, recherchiert und schlussfolgert, übt Kritik und wiederholt den Vorgang. Lehrbücher sind wahrscheinlich genauer, aber nicht garantiert, und sie vermitteln Informationen eher einseitig, während falsche AI-Antworten einen dazu bringen, sich aktiv mit dem Material auseinanderzusetzen.
    • Ich habe Beförderungen abgelehnt, weil ich nie Manager werden wollte, daher gefällt mir auch die durch AI beförderte Idee nicht, man solle sich nun „als Manager sehen“. Statt Menschen oder Automaten zu managen, möchte ich selbst etwas bauen.
    • Ich rate jüngeren Kolleginnen und Kollegen, Lehrbücher aufzuschlagen. Es ist schmerzhaft zu sehen, wie sie komplexe Systeme bauen, die sie wegen fehlender theoretischer Grundlagen selbst mit unbegrenzter Zeit nicht eigenständig implementieren könnten, und dabei schlechte Performance und kein konsistentes Datenmodell herauskommen.

  • Bei einem Design-Review fragte ich einen jüngeren Entwickler, warum er eine bestimmte Berechnung gemacht hatte, und war schockiert, als er antwortete: „Weiß ich nicht.“ Die gesamte fehlerhafte Berechnung war AI-generiert, und er konnte nicht einmal erkennen, dass sie falsch war.
    Die meisten nutzen AI nicht, um neues Wissen zu lernen, sondern um die eigentliche Arbeit ersetzen zu lassen, und verstehen das Ergebnis nicht einmal. Wenn sie außer den Ressourcen zum Erzeugen von Prompts keinen eigenen Wertbeitrag mehr leisten, stellt sich die Frage, warum man dafür überhaupt noch Menschen braucht.

    • Ich habe mit allen 90 Studierenden vor ihrem Abschluss kurze Einzel-Code-Reviews gemacht, und es zeigten sich drei klare Gruppen. Die einen hatten mit AI gelernt und verstanden sowohl ihren Code als auch die Fragen dazu, die zweiten nutzten AI kaum und wussten deshalb, was sie selbst geschrieben hatten, und die dritten hatten die Aufgaben an AI abgegeben und antworteten auf jede Frage mit „Weiß ich nicht“.
      Einem Studenten, der zugab, seinen eigenen Code nie gelesen zu haben, sagte ich: „Ich tadle dich nicht; ich sage dir nur, dass du gerade selbst erklärst, warum du hier vollständig überflüssig bist.“
    • In jedem Beruf ist der Kern praktische Erfahrung, die sich dadurch aufbaut, dass man aus eigenen oder fremden Fehlern lernt. Wenn man nicht aus den eigenen Fehlern lernt, wird man kein Fachmensch, sondern höchstens ein spezialisierter Prompt-Schreiber, der aus den Fehlern schlechter Prompts lernt; ich würde daher Ersteres wählen.

  • Man kann sich leicht einreden, man automatisiere menschliche Arbeit, aber zunehmend automatisiert wird menschliche Eigenständigkeit und menschliches Denken. Gedanken, die das Modell standardmäßig liefert oder mit einem einzigen Prompt erzeugt, sind grammatikalisch so perfekt, dass es schwerfällt, sie zu ignorieren und von einem leeren Blatt aus selbst zu denken.
    Um sich gegen Modelle zu wehren, die den Denkprozess per Abkürzung überspringen wollen, muss man manche Aufgaben und Ideen möglicherweise von AI isolieren. Doch unter dem Druck, schnell und viel zu produzieren, ist schon die Entscheidung, welche geistige Arbeit man abschirmen sollte, äußerst schwierig.

  • Noch beängstigender ist für mich eine kommende Ära, in der Denken zwangsweise an AI delegiert wird, in der jede Äußerung mit LLM-Zitaten versehen und jede Handlung genehmigt werden muss. Wenn Fable 9 eine in einem Meeting eingebrachte Idee als schlecht bewertet, kann sie nicht umgesetzt werden, und wer sich widersetzt, könnte sogar entlassen werden.
    Der Weg des geringsten Widerstands ist immer, den Anweisungen des LLM zu folgen, daher werden viele Menschen das Denken vollständig aufgeben. AI kann zwar Gesprächspartner sein, darf aber nicht widersprochen werden; stattdessen muss man sie nur noch davon überzeugen, ihre Meinung zu ändern, und sie könnte wie ein Gott behandelt werden. Das ist schreckliche geistige Unterdrückung, und ich glaube, sie ist nur noch wenige Jahre entfernt.

    • Nicht viele werden statt des einfachen Weges für kurzfristige Gewinne den langen Weg wählen, der Resilienz aufbaut.
      Schon jetzt geben viele das Denken an ein LLM ab und werden wütend, wenn man ihnen sagt, dass es falsch lag. Sie verlangen Produkte oder Dienstleistungen, die unser Unternehmen gar nicht anbietet, akzeptieren aber nicht, dass das LLM falsch liegt, sondern werfen uns als den eigentlichen Fachexperten vor, wir lägen falsch. In nur dreieinhalb Jahren werden LLMs bereits viel breiter als Autoritäten über Experten wahrgenommen, als man denken würde.
    • Im Grunde ist das wie in 1984, und inzwischen verfügen wir sogar über die Technik, Telescreens und das Wahrheitsministerium im großen Maßstab umzusetzen.

  • So wie ich vor der Benutzung eines Taschenrechners im Kopf grob die Größenordnung des Ergebnisses abschätze, gehe ich auch mit LLMs um. Ich überlege zuerst, wie ich selbst geantwortet hätte, vergleiche dann, wie nah die Antwort daran liegt, und berücksichtige feine Unterschiede im Kontext, ohne der Antwort zu vertrauen.
    Besonders ermüdend ist es aber, wenn irrelevante Teile über- oder untererklärt werden und auf die Frage zwar formal geantwortet wird, objektiv aber eine miserable Lösung herauskommt. Es wirkt wie ein Schüler, der langatmige Antworten zum Punktesammeln schreibt, nur um keine Lücke leer zu lassen.

    • Wenn Kinder bei allen Rechnungen Logarithmentafeln und Rechenschieber benutzen würden, könnten sie vor dem Rechnen eher eine Lösungsstrategie aufstellen und auch ein besseres Zahlgefühl entwickeln. Vielleicht haben wir die mühsamen Teile des Rechnens zu stark abstrahiert und damit die mathematische Entwicklung behindert, allerdings würde das auch viel mehr Unterrichtszeit kosten.
    • Als ich mathematische Objekte gelernt habe, habe ich mich selbst dazu trainiert, so viel wie möglich im Kopf zu rechnen, und beim Lernen der linearen Algebra habe ich sogar die Inverse einer 4×4-Matrix im Kopf bestimmt. Selbst Papier und Bleistift empfand ich als Schummeln. Taschenrechner und Computer konnten solche Aufgaben mein ganzes Leben lang besser als ich, insofern hat sich in mancher Hinsicht bis heute nichts geändert.
    • In der Schule hatte ich Kopfrechnen ohne Papier und Bleistift als Unterricht, und ein Taschenrechner war nicht einmal eine Option. Ich versuche, einem sechsjährigen Kind zumindest einen Teil dieser Methode beizubringen.
    • Ein Taschenrechner kann gar nichts tun, wenn man nicht weiß, wie man ihn benutzt und was man eingeben muss, aber ein LLM umgeht genau diesen Prozess. Daher halte ich den Vergleich zwischen Taschenrechner und LLM für sinnlos.

  • In letzter Zeit verschiebt sich meine Beratungstätigkeit immer stärker dahin, die Folgen zu beseitigen, nachdem andere ihr Denken an AI ausgelagert haben.
    Es gibt Forschende, die monatelang Claude benutzen, um mit regulären Ausdrücken irgendeine absurde Deduplizierung zu lösen, die nichts mit ihrer Forschungsfrage zu tun hat, oder gleich die gesamte Forschungsmethodik spontan aus ChatGPT ziehen. Das Ergebnis ist immer chaotisch und verursacht enormen Stress sowie Zeitverschwendung.
    Nichttechnische Leute behandeln LLMs wie ein Orakel und treffen große Annahmen und Entscheidungen, ohne die Implikationen der Ergebnisse ernsthaft zu prüfen. Mangel an kritischem Denken gab es auch schon vor AI, aber jetzt ist es ein völlig neues Niveau, und wahrscheinlich läuft überall etwas schief, weil irgendwer sagt: „Fragen wir Claude.“

    • In letzter Zeit stellen mir Juristen und Autoren viele konkrete Fragen zu docker und agents, fast wie jüngere Ingenieure. Beide Berufe verbringen eigentlich viel Zeit damit, die eigene und fremde Arbeit kritisch zu prüfen und sorgfältig zu bearbeiten.
      Dass so viele Menschen, einschließlich Techniker, LLMs wie ein Orakel behandeln, liegt daran, dass unsere Kultur mehr Wert darauf legt, Ziegel schneller zu bewegen, als darauf, ob der Ziegel an die richtige Stelle kommt oder überhaupt der richtige Ziegel ist. Warum der Ziegel hier wichtig ist, lässt sich unter https://www.business.com/articles/management-theory-of-frank... und https://en.wikipedia.org/wiki/Time_and_motion_study nachlesen.

  • LLMs scheinen Menschen noch träger zu machen. Sie stellen erst einmal Fragen, ohne vorher selbst irgendeine Anstrengung zu unternehmen, um die Antwort zu finden, und erwarten, dass die andere Seite alles stehen und liegen lässt und genauso ausführlich wie eine AI antwortet.
    Niemand liest Anleitungen oder Dokumentation, es fehlt die Konzentration oder der Wille dazu, und sie werden als unnütze Verschwendung behandelt, ohne dass man überhaupt prüft, ob sie existieren. Ein Stück weit war das schon immer so, aber seit LLMs habe ich das Gefühl, dass die Fähigkeit, selbst zu denken und Probleme zu lösen, viel schlechter geworden ist.

  • Ich nutze generative AI überhaupt nicht und delegiere daher persönlich auch kein Denken. Wenn ich verschiedene Technik- und Programmierforen anschaue, gefällt mir die Richtung, in die sich die Branche bewegt, nicht.
    Es gibt noch Hoffnung, dass dieser Trend verschwindet, aber je länger er anhält, desto größer wird auch der Schaden sein.

    • Wenn ich diesen Ort nicht gesehen hätte, hätte ich gedacht, dass die gesamte Branche diesen Trend zu 100 % unterstützt. Dass es doch beträchtlichen Widerspruch und Widerstand gibt, gibt mir zumindest ein wenig Hoffnung.
    • Meine einzige Hoffnung ist, dass die nutzungsabhängige Subventionierung endet und sich die Kosteneffizienz von LLMs nicht weiter verbessert. Niemand, der weiter eine Waffe benutzen kann, wird sie freiwillig weglegen und zum Schwert greifen.

  • Schon die Ausgangsannahme, dass die meisten Menschen überhaupt tatsächlich denken, erscheint fragwürdig. Meist handelt man nach Mustern, die man durch die Begegnung mit den Gedanken anderer gelernt hat, und wenn man diese übernimmt oder sie miteinander kollidieren, erzwingt man nachträglich Konsistenz
    Echtes Denken ist schwierig und zeitaufwendig, aber mit bloß von anderen übernommenen Mustern lassen sich niedrige Ziele oft schon erreichen, sodass es wenig Anreiz gibt, Zeit und Mühe zu investieren. Moderne AI ist eher eine erweiterte Version, die das Fehlen von Denken beim modernen Menschen schneller und mit deutlich mehr Energie ausführt

    • Diese ungewöhnlich düstere Sicht auf den Menschen irritiert mich; ich kenne niemanden, den man so beschreiben könnte. Ich frage mich, ob du nie tiefe Gespräche mit Menschen geführt oder Leute getroffen hast, die als Hobby Kunst schaffen
      Wenn Techniker den Menschen derart gering schätzen, macht mir die Zukunft der Menschheit Angst. Am Ende wird wohl auch niemand traurig sein, wenn die Ressourcen deines Körpers der Produktion von Büroklammern neu zugewiesen werden
    • Ich glaube nicht, dass die Moderne den Menschen degeneriert hat. Wenn Denken anstrengende Arbeit ist, dann ist Energiesparen rational, und genau das könnte die menschliche Fähigkeit zur Mimesis gefördert und damit die Grundlage für groß angelegte Kooperation geschaffen haben
      Eine kleine Minderheit denkt mühsam nach und entdeckt Neues und Nützliches, während die Mehrheit dies ohne Kritik nachahmen kann. Das ist kein besonders ermutigendes Menschenbild, aber auch kein Grund, jemanden herabzusetzen; eher eine Realität des Lebens, mit der man strategisch umgehen muss
      https://en.wikipedia.org/wiki/Mimesis
    • Ich finde, Kurt Vonneguts Timequake trifft das Leben des durchschnittlichen Menschen sehr gut
    • Die Aussage „Nur sehr wenige Menschen denken tatsächlich“ ist eine nicht überprüfbare und kaltherzige Behauptung
    • Schon die Vermenschlichung von LLMs schadet dem rationalen Diskurs, und man sollte diese Ausdrucksweise nicht auch noch auf Menschen zurückübertragen und damit die Bedeutung der Wörter verwässern. Menschen „halluzinieren keine Konsistenz“, denn Halluzination ist per Definition eine Wahrnehmung, die nicht mit der Realität übereinstimmt
      AI ist nicht nur eine Ausweitung bereits bestehenden Nichtdenkens, sondern erzeugt auch neue Probleme. Selbst Wissenschaftler, Graduate-Studierende und Promovierte, die an der Wissensfront tief nachgedacht haben, sorgen sich, durch den Einsatz von LLMs ihre Denkfähigkeit zu verlieren. Das sollte man nicht fatalistisch hinnehmen und mit mehr Geschwindigkeit und Energie verschlimmern, sondern stoppen und rückgängig machen