Es tut mir leid, aber der bereitgestellte Link enthält keinen gültigen Artikelinhalt. Wenn Sie einen anderen Artikel oder Inhalt bereitstellen, helfe ich Ihnen gern bei der Zusammenfassung und Übersetzung.
Es tut mir leid, aber der bereitgestellte Link enthält keinen gültigen Artikelinhalt. Wenn Sie einen anderen Artikel oder Inhalt bereitstellen, helfe ich Ihnen gern bei der Zusammenfassung und Übersetzung.
1 Kommentare
Hacker-News-Meinungen
Wirkt wie eine Selbstverständlichkeit. Wenn man Zeit darauf verwendet, selbst zu recherchieren, lernt man deutlich mehr, als wenn man die Antwort auf eine Frage sofort bekommt.
Es mag Menschen geben, die diszipliniert genug sind, auch bei einer sofort gelieferten Antwort noch weiter zu recherchieren, aber die meisten sind es nicht. Und Unternehmen wollen schnelle, „effiziente“ und „wettbewerbsfähige“ Lösungen statt langfristige Nachteile zu vermeiden.
Heute stehen wir an der Schwelle zu einer neuen Ära, in der Lesen durch KI-Suche und -Abruf ersetzt wird, und die Sorge, dass KI zur Krücke wird und die jüngere Generation schwächt, ist berechtigt. Allerdings wissen wir nicht, wie es ausgehen wird; bislang gibt es keine Anzeichen dafür, dass KI-Nutzung der Geschäftsleistung schadet, und die größere These, dass „AGI enorme gesellschaftliche Veränderungen auslöst“, dürfte wahrscheinlich stimmen.
Lernen hängt mit Neugier zusammen, und Neugier hängt nicht mit der Schwierigkeit der Recherche zusammen. Wer neugierig ist, stellt auch dann weitere Fragen, wenn er die Antwort direkt bekommt; wer nicht neugierig ist, hört dort auf. Wir alle stehen auf den Schultern von Riesen, und das ist nichts Schlechtes, sondern etwas Gutes. Es mag Vorteile haben, auf die Riesen zu verzichten und selbst auf diese Höhe hinaufzuklettern, aber als Methode der Wissensvermittlung halte ich das für deutlich weniger effektiv.
Vor 30 Jahren erwartete man, dass alle klüger würden, wenn sie sofortigen Zugang zum Wissen der Menschheit hätten. Doch selbst mit Wikipedia scrollen die meisten durch empörungsgetriebene Videos, die weder Wissen vermitteln noch ein gutes Gefühl geben. Natürlich sind Fälle erstaunlich, etwa jemand in Pakistan, der auf dem Handy programmiert und ein vim-Plugin wartet, aber das ist eher ein Effekt bei einer Minderheit, die die Chance bekommt, ein Werkzeug zu nutzen, als ein Effekt auf die durchschnittliche Menschheit insgesamt.
Ein Physiker sagte einmal in einem YouTube-Interview, dass es der physikalischen Forschung helfe, dass inzwischen jeder Physiker ChatGPT Fragen auf Graduiertenniveau zu aktuellen Papers stellen und so Wissen zwischen Teilgebieten der Physik überbrücken kann.
Wenn man Senior Engineers aus Projekten herauszieht, um Juniors anzuleiten, und die Juniors dann Fähigkeiten und Berufserfahrung gewinnen und zu einem anderen Unternehmen wechseln, bleibt das Unternehmen mit einem negativen ROI zurück. Am Ende ist es eine Tragik der Allmende, und heute ist es ähnlich, nur mit anderen Mechanismen. Es könnte zu einem Mangel an erfahrenen Software Engineers kommen, aber die Art, wie die Branche Engineers einsetzt und arbeiten lässt, ist so verschwenderisch, dass es wohl noch eine Weile Spielraum gibt, einen Mangel auszuhalten.
Es geht weniger darum, eine Antwort zu bekommen, sondern eher darum, teure Sackgassen zu vermeiden.
Dieses Problem hat zwei Seiten und kann etwas kontrovers sein. Wenn man ChatGPT zu irgendeinem Thema befragt, stellt man auf Basis der Antwort normalerweise weitere Fragen; die meisten davon sind dumme Fragen, aber dabei fühlt es sich so an, als nehme man Informationen auf, analysiere sie und gehe aus Neugier tiefer hinein.
Im Vergleich zur Internetrecherche hat das Vorteile, aber je tiefer man einsteigt, desto häufiger liest man Texte, in die die Sichtweise einer Person eingeflossen ist. Solche Texte vermitteln oft das Gefühl, dass bereits festgelegt wurde, welche Fragen wichtig sind, aus welchem Blickwinkel man sie betrachten sollte und was die Schlussfolgerung ist. Das ist zwar lehrreich, aber es bleiben immer neue Fragen.
Der Unterschied ist Neugier. Wenn man neugierig auf ein Thema ist, lernt man; wenn nicht, nimmt man die Antwort und ist zufrieden. Das ist keine Faulheit, und man kann nicht auf alles neugierig sein.
Der Unterschied liegt darin, dass eine einzelne Instanz die politische Ausrichtung des Modells festlegt und dieses Modell mit weitaus mehr Menschen interagiert als ein einzelner Meinungsbeitrag.
Ich glaube, ich habe nie eine Frage auf Stack Overflow gestellt. Es war leicht abzusehen, wie diese Community mit einer Frage umgehen würde, bei der ich Sorge hätte, dumm zu wirken. Diesen Modellen kann man dagegen alle möglichen dummen Fragen stellen, ohne sich Sorgen zu machen, und das ist gut.
Eine „neugierige“ Diskussion mit ChatGPT zu führen bedeutet letztlich, das Internet durch einen Filter zu durchsuchen, in dem sich die eigenen Vorurteile und die Vorurteile von ChatGPT mischen. Es kann sich so anfühlen, als sei man entkommen, aber man ist immer noch im Internet. Das Internet beantwortet Fragen jetzt nur mündlich; es ist immer noch das Internet.
Ich sage das schon, seit OpenAI ChatGPT erstmals veröffentlicht hat. Die Gefahr von LLMs, die überall einsetzbar sind und scheinbar auf jede Frage eine Antwort haben, liegt weniger in ihrer bloßen Existenz als in ihrem verführerischen Charakter.
Die eigentliche Gefahr ist die Versuchung, sofort das nächstgelegene LLM um eine Antwort zu bitten, statt ein Problem in Ruhe selbst durchzudenken. Das Manipulieren eines Problems im eigenen Kopf, also kritisches Denken, ist letztlich eine Fähigkeit und wird nur durch bewusstes, diszipliniertes Üben besser.
Wenn ich ein Projekt habe, bei dem der Einstieg schwerfällt, ist es fast reibungslos, ChatGPT zu fragen, und ehe ich mich versehe, arbeite ich am Projekt, und acht Stunden später ist es fertig. Wenn ich bei der Installation einer nervigen Library feststecke, löst ChatGPT das für mich, sodass ich nicht frustriert aufgebe. Es hilft mir mehr als jedes andere Tool, in einen Flow-Zustand zu kommen und darin zu bleiben, und ist ein gutes Mittel gegen Prokrastination.
Für diesen Zweck ist ein LLM ein Werkzeug derselben Art wie Google: ein Mittel, um Informationen abzufragen, abzurufen und aufzunehmen. Wie bei Google sind die Suchergebnisse nicht das Ziel, sondern ein Mittel. Wie es heißt: „Ein Monat im Labor spart eine Woche in der Bibliothek“ — auch zehn Minuten Fragen an Claude/ChatGPT/Copilot können einem etwas ersparen. Ist es auch Faulheit, einen Privatlehrer zu engagieren?
Dass man Antworten schnell abrufen kann, ist nicht gefährlich. Ähnliche Diskussionen gab es in den 90ern über Google oder in den 70ern über Taschenrechner. Für mich beschleunigen LLMs nur einen Prozess, bei dem ich ohnehin manuell im Internet gesucht hätte, und um gut kritisch zu denken, muss man mehr Fragen stellen.
Meist löse ich es dann selbst oder mir fällt eine bessere Primärquelle ein.
Auf arXiv gibt es einen Preprint, und oben auf Seite 18 steht, was metakognitive Trägheit ist: „Im Kontext der Mensch-KI-Interaktion definieren wir metakognitive Trägheit so, dass Lernende sich auf KI-Unterstützung verlassen, metakognitive Belastung externalisieren und verantwortungsvolle metakognitive Prozesse weniger effektiv mit Lernaufgaben verknüpfen.“
„Metakognitive Belastung“ scheint hier die kognitive und metakognitive Anstrengung zu bezeichnen, die nötig ist, damit Lernende ihren Lernprozess effektiv regulieren, wenn sie Aufgaben bearbeiten, die aktive Selbstüberprüfung, Planung und Bewertung erfordern.
Der Artikel sieht dies ähnlich wie kognitives Outsourcing, bei dem man ein Tool schwierige kognitive Arbeit übernehmen lässt, und geht davon aus, dass einem dadurch die Gelegenheit genommen wird, Fähigkeiten zu entwickeln, und man vom Tool abhängig wird.
https://arxiv.org/pdf/2412.09315
Das „Trägheit“ zu nennen, ist reduktionistisch. Sich „auf die Hilfe von etwas zu verlassen“ ist schließlich der Zweck jeder Technologie.
Bei diesem Problem gibt es eindeutig Ambivalenz. Einerseits erinnert es an die Aussage: „Niemand läuft mit einem Taschenrechner in der Tasche herum“, und daran, dass Kinder in der realen Welt völlig hilflos werden würden. Später landeten Taschenrechner in fast jeder Tasche, und den Kindern ging es trotzdem gut.
Andererseits sind auch die Vorteile wichtig, die man daraus zieht, das Lernen zu lernen, Medienkompetenz zu entwickeln sowie eigenständig zu recherchieren und Schlüsse zu ziehen.
Die Antwort liegt vermutlich irgendwo in der Mitte: LLMs eher als Lernhilfen zu nutzen, statt sie zum Endziel zu machen.
In letzter Zeit habe ich gesehen, wie Gen Z bei Kartenspielen, die Addition erfordern, oder beim Berechnen von Wechselgeld ins Straucheln gerät. Für Millennials ist das Grundschulniveau.
Wie viele Menschen können heute noch ein Pferd satteln, ohne Uhr die Zeit ablesen, ein Hemd nähen, Stoff herstellen, mit primitiven Werkzeugen jagen oder Feuer machen? Man kann Kinder vor KI verstecken, oder man kann ihnen beibringen, mit KI zu wachsen. Wenn man sehen will, was passiert, wenn man Dinge ablehnt, die sich zu futuristisch anfühlen, kann man sich die Amish ansehen. Das ist ein respektables Leben, aber wie viele der Menschen, die das hier lesen, würden es wählen?
Ein Freund fragte ChatGPT nach der Biografie eines Musikers, und es war etwas beängstigend, dass er nicht die Wikipedia-Seite mit denselben Informationen und Quellen lesen konnte. Meine Mutter sagte, sie habe ChatGPT benutzt, um eine „Capsule Wardrobe“ zu erstellen, und ich dachte nur: Schau dir doch einfach deine Kleidung an und wirf weg, was du nicht trägst. Warum sollte ein Computer so einfache Entscheidungen treffen?
Ich bin mir nicht sicher, ob man LLMs als Lernhilfe verwenden sollte. Ich habe nie gesehen, warum sie besser sein sollten als Online-Suche oder eigene kreative Geschichten, und wenn es eindeutige Use Cases gibt, in denen LLMs nützlich sind, würde ich sie gern hören.
Realistisch gesehen wird der Maßstab dafür steigen, wie schnell man auf breites Wissen und Details zugreifen kann. Wenn man Details bei Bedarf sehr schnell nachschlagen kann, hat es großen Wert, mehrere Bereiche auf mittlerem Niveau zu verstehen. Je tiefer man einsteigt, desto langsamer wird das Lernen ohnehin. Bei komplexen Aufgaben musste man die Details, selbst wenn man sie kannte, trotzdem noch einmal überprüfen, weil sie wichtig waren.
Beim Einheitskreis erinnere ich mich fast nur noch reflexhaft an Vielfache von π/4; Vielfache von π/6 gehen auch, aber langsam. Trotzdem glaube ich nicht, dass ich ein schlechterer Mathematiker geworden bin, nur weil ich solche Dinge nicht sofort auswendig weiß. Bei trivialen Problemen bin ich vielleicht etwas langsamer, aber komplexe Probleme kann ich weiterhin lösen.
Integrationsformeln schlage ich in einem kleinen Tabellenbuch oder bei Wolfram Alpha nach. Selbst wenn ich sie selbst herleiten könnte, würde ich nicht davon ausgehen, dass sie zu 100 % stimmen. Metakognitive Faulheit hat sich bei mir bereits festgesetzt. Wenn wir aber einen Weg finden, sie aufzuhalten, bevor sie sich zu kompletter Hirnfäule ausbreitet, dürfte es in Ordnung sein. Wenn wir Studierenden beibringen, kritisch zu denken, und Wege finden, KI so einzusetzen, dass sie uns unterstützt, statt uns zu den Raumschiffmenschen aus Wall-E zu machen, können wir überleben.
Das Abstract definiert nicht, was metakognitive Faulheit ist, und liefert allein durch die Beschreibung der vorherigen Ergebnisse auch nicht genug Kontext, um die Bedeutung ausreichend zu erschließen.
Für mich persönlich ist ChatGPT gegenüber der Google-Suche eindeutig darin besser, dass man zu einer ersten Antwort immer weiter nuanciertere Fragen stellen kann. Bei klassischer Suche sinkt mit jeder Folgesuche der Grenznutzen der Neugier im Verhältnis zur investierten Zeit. Je präziser man die Frage formuliert, desto schwieriger wird es, Ergebnisse zu finden, die nicht SEO-optimiert sind; stattdessen bekommt man eher Artikel für allgemeine Leser ohne neue Informationen oder Spezialmaterial, das umfangreiches Fachwissen voraussetzt. Ein LLM baut ziemlich gut Brücken zu der Antwort, die ich haben will.
Ich habe gehört, dass Junior Engineers in diese Falle getappt sind. Statt Kolleginnen und Kollegen ihre Wissenslücken zu zeigen, fragen sie den Chatbot alles. Selbst wenn der Chatbot grobe Fehler vermeidet, bemerken die Juniors subtile Fehler nicht.
Das klingt sehr ähnlich wie die Methode, einen bestimmten Wikipedia-Artikel zu finden und dann den Quellen zu folgen, um den Originaltext zu finden, in dem „die Antwort, die ich haben will“ erstmals auftauchte.
Die Möglichkeit von Halluzinationen muss man einkalkulieren, aber die Tatsache, jederzeit einen unermüdlichen Erklärer zur Verfügung zu haben, erhöht bei mir eher die Motivation, dichte technische Informationen zu erkunden und neue Konzepte zu verstehen. Allerdings scheint der Wille, auf einem leeren Blatt mit dem Schreiben zu beginnen, abzunehmen. Ich erkunde das Thema mit ChatGPT, bekomme eine grobe Gliederung und grundlegende Inhalte und schreibe dann weiter.
In manchen Fällen liefert das LLM sogar konkrete Suchstrings, die man in eine Suchmaschine eingeben kann, um Inhalte zu verifizieren. Suche ist massiv kaputt, und das ist ungefähr seit 2014 so, als auf Googles Ergebnisseiten mehr Werbung als Ergebnisse zu erscheinen begann.
Handys und Laptops haben für jemanden wie mich, der ohne sie aufgewachsen ist, einiges verändert. Vor etwa 20–25 Jahren wurde mir klar, dass man mit ein, zwei Websuchen, höchstens zwei oder drei, fast jede Tatsache herausfinden kann; vor etwa 10–15 Jahren bekam man dann ein vernetztes Gerät in die Tasche, das das auf Anfrage jederzeit erledigt
Seit etwa fünf Jahren habe ich aber angefangen, das in sozialen Situationen meist bewusst nicht zu tun. Wenn mir mitten im Gespräch eine nebensächliche Tatsache einfällt, die ich gern wüsste, unterbreche ich nicht den Fluss, hole nicht den Bildschirm heraus und starre darauf, um die Antwort zu liefern, sondern bleibe einfach bei der Person
In den 80ern und 90ern gab es in einer Pub-Quiz-artigen Atmosphäre noch hitzige Debatten über kleine Fakten, die beide nicht sofort wussten. Heute ist die Antwort so leicht zu finden, dass so etwas fast verschwunden ist; es ist völlig verloren gegangen. Ich vermisse es nicht, aber es hat mir sehr bewusst gemacht, wie sehr mein Bewusstsein an Fakten gebunden ist, die per Websuche erreichbar sind, und ich weiß nicht, ob es mir gefällt, so große Teile meines Gehirns an Orte außerhalb meiner Kontrolle auszulagern
Reines Allgemeinwissen zu lernen, um dem Gedächtnis zu helfen, ist auch eine Möglichkeit
Es heißt oft, von generativer KI erzeugter Code müsse vollständig von Menschen überprüft werden. Man müsse sicherstellen, dass es keine offensichtlichen Fehler gibt und dass er „das Richtige“ gemäß den Anforderungen baut
Anekdoten von Praktikern, die generative KI so einsetzen, sagen: Für erfahrene Entwickler, die wissen, worauf sie achten müssen, ist sie ein gutes Werkzeug. Denkt man aber an Leute, die gerade erst lernen und nicht wissen, was sie tun, dann wissen sie auch nicht, worauf sie achten müssen. Wissen sie, was use-after-free ist oder dass sie fragen sollten, wie Cache-Speicher funktioniert? Kennen sie die Namen von Algorithmen und Datenstrukturen? Erkennen sie den Moment, in dem generative KI Unsinn erzählt?
Solche Forschung ist schwierig, aber wichtig. Auch wenn die Stichprobe klein ist, ist sie interessant, und ich frage mich, ob jemand sie replizieren kann
break-Anweisungen in C-Code einzubauenEtwa so:
while (condition) { do_stuff(); if (!condition) { break; } }. Als man nachforschte, war die Gemeinsamkeit ChatGPT: Studierende, die gefragt hatten, wie Schleifen funktionieren, hatten alle Varianten der Antwort bekommen: „Um eine Schleife zu verlassen, verwendebreak()“. In der Informatik macht man das so nicht; es ist nicht nur unnötig, sondern macht formale Beweise auch komplizierter. Deshalb musste man in die Prüfung den Hinweis aufnehmen, „so vorzugehen, wie es im Unterricht gelernt wurde“, und eine allgemeine einmalige Ausnahme einräumenZum Beispiel bin ich Programmierer, aber in Mathematik miserabel. Ich möchte Spiele entwickeln und kann das auch tatsächlich, aber die Mathematik macht den Fortschritt oft viel schwieriger. Ich habe bereits Spiele entwickelt und veröffentlicht, aber Mathematik bremst mich ständig aus. Ich weiß genau, welches Verhalten und Ergebnis ich will, aber ich finde nicht immer heraus, wie ich dorthin komme
LLMs helfen sehr dabei, solche Teile als kleine Black Boxes abzuspalten. Ich weiß, dass das Ergebnis stimmt, bin mir aber nicht zu 100 % sicher, wie es zustande kommt. Wenn sie falschen Code liefern, merke ich das, weil ich weiß, wonach ich suche und warum; es fehlt nur das „Wie“. Es ist ähnlich wie bei einer Drittanbieterbibliothek, deren interne Funktionsweise man nicht vollständig versteht, die man aber nutzen kann, wenn man ihre öffentliche API versteht – nur dass man den Code in die eigene Codebase übernimmt und jede Menge Unit-Tests darum baut
Ich teste gerade das Reasoning-LLM deepseek-r1 mit dem hervorragenden
rustlings-Tutorial. Es ist gut dokumentiert und Lösungen sind online leicht zu finden, daher eignet es sich als fauler Test zur Bewertung von Coding-Aufgaben und um zu sehen, ob es an der Zeit ist, sich einen neuen Job zu suchen und Software Engineering nur noch als Hobby zu betreibenDer Grund, warum ich mit
rustlingsteste, ist auch, seinen Wert als Lernwerkzeug für Studierende und künftige Kollegen zu beurteilen. So etwas könnte vielleicht als Lehrer nützlich sein. Auch der Rust-Compiler gibt sehr gute Ratschläge, sodass es eine ausgezeichnete Baseline zum Vergleich mit LLM-Ausgaben gibtUnterm Strich sieht es nicht so aus, als würde deepseek-r1 in absehbarer Zeit jemanden ersetzen. Es erzeugt enorme Textmengen, aber das meiste ergibt keinen Sinn und ist fast immer grauenvoll falsch. Allerdings können unerfahrene Entwickler oder Anfänger – besonders Anfänger – verwirrt werden und auf den falschen Weg geraten; sie laufen Gefahr, ihr rationales Denken an etwas auszulagern, das plausibel klingt, es tatsächlich aber nicht ist
Derzeit wirkt es so, als sei eine übermäßige Abhängigkeit vom weitschweifigen Gerede statistischer Modelle schädlich für die Ausbildung und die Leistung künftiger Entwickler. Für die vielleicht letzte Generation altmodischer Software Engineers, die mit Kaffee und Tränen der Frustration trainiert wurden und sich selbst mit Code und Architektur herumschlagen mussten, könnte ein goldenes Zeitalter anbrechen. Denn irgendjemand muss den von LLMs massenhaft produzierten Müll reparieren
Der Zweck scheint eher darin zu liegen, über diese Ausgabe eine Schicht zu legen, die die endgültige Antwort aufbereitet, statt die Ausgabe unverändert zu verwenden.
Ich habe kurz bevor Stack Overflow richtig populär wurde mit dem Programmieren angefangen und erinnere mich, dass es damals schon massenhaft Blogposts gab wie „Stack Overflow wird faule Entwickler hervorbringen“ und „Das ist das Ende echter Entwickler“. Ich will dem nicht widersprechen; ich finde nur interessant, dass sich dieses Gefühl im Lauf der Zeit wiederholt und sich nur die Details ändern
Sokrates kritisierte in Platons Phaidros, dass das Schreiben „Vergessen in den Seelen der Lernenden erzeugen“ werde; Leonard Euler meinte, man solle Logarithmen aus ersten Prinzipien herleiten statt Logarithmentafeln zu verwenden, und Lord Kelvin war der Ansicht, mechanische Rechenmaschinen würden dazu führen, dass die Ausbildung der Schlussfolgerungsfähigkeit von Schülern vernachlässigt werde.
In Henry Fords Autobiografie gibt es eine Passage, in der ein Farmer im Jahr 1907 sagte, ein Benzintraktor werde „Kinder faul und nutzlos machen“ und sie daran hindern, Landwirtschaft zu lernen; und 1877 berichtete die New York Times über die Sorge von Lehrern, Bleistifte mit Radiergummi würden Schüler nachlässig machen, weil sie vor dem Schreiben nicht mehr nachdenken müssten.
Augustus De Morgan sagte, Schüler, die sich auf gedruckte Einmaleins-Tabellen verlassen, verstünden Zahlen nicht und würden zu „bloßen Rechenmaschinen“; John Philip Sousa kritisierte, der Phonograph werde Menschen davon abhalten, Instrumente zu lernen, und auch Richard Feynman sorgte sich, dass Schüler durch Taschenrechner die Fähigkeit zum Schätzen und zum Verständnis mathematischer Zusammenhänge verlieren könnten.
Man könnte noch weiter fortfahren. Claude hat mir gleich 15 Beispiele geliefert. In 20 Jahren werden wir, sofern AI uns nicht alle umbringt, vermutlich zurückblicken und feststellen, dass die Arbeit mit LLMs nicht die Krücke war, für die viele sie heute halten.