Die Technologie der Zukunft ist nicht ‚AI‘, sondern Konzentration

• LLMs sind nützlich für die Automatisierung wiederkehrender Aufgaben und für Brainstorming, aber blinde Abhängigkeit kann zu einem Rückgang der Problemlösungsfähigkeit führen
• Besonders bei wirklich neuen Problemen ist die Zuverlässigkeit von LLMs gering, weshalb das Urteilsvermögen menschlicher Ingenieure wichtig bleibt
• Suchmaschinen wie Google bieten ein Gleichgewicht zwischen Exploration und Exploitation, aber LLMs drängen sofort nur zur „Nutzung“ (Exploitation)
• Die Gewohnheit, sich nur auf schnelle Antworten zu verlassen, führt zu einem Rückgang zentraler Problemlösungsfähigkeiten und der Konzentration (Focus)
• Die entscheidende Fähigkeit der Zukunft wird weniger der Umgang mit AI sein als die zutiefst menschliche Fähigkeit zu tiefem Denken und Konzentration

---

LLMs sind mächtig, sollten aber mit Vorsicht verwendet werden

• LLMs helfen stark dabei, repetitive Aufgaben zu automatisieren, Code zu schreiben oder beim Debugging zu unterstützen
• Wegen Problemen wie Bias, Inkonsistenzen und Halluzinationen (hallucination) müssen Ausgaben jedoch immer überprüft werden
• Die Trainingsdaten enthalten zwar Lösungen für bestehende Probleme, aber für tatsächlich neue Probleme ist ihre Reaktionsfähigkeit gering
• Wenn Ingenieure sich zu sehr auf LLMs verlassen, kann das letztlich die eigene Problemlösungsfähigkeit schwächen

Die Gefahr unkritischer Übernahme

• Wenn Antworten von LLMs übernommen werden, ohne sie zu verstehen, verlagert sich der Fokus von der Problemlösung hin zum bloßen Erhalt einer Antwort
• Das Lösen komplexer Probleme erfordert letztlich die Ansammlung grundlegender Fähigkeiten und Denkkraft, und LLMs können das nicht ersetzen
• Wichtig ist nicht nur das Ergebnis, sondern das Verständnis, warum etwas so gelöst wird, und der Denkprozess dahinter

Der wichtige Unterschied zwischen Suchmaschinen und LLMs

• Suchmaschinen ermöglichen einen ausgewogenen Ansatz zwischen Exploration und Exploitation
• LLMs dagegen versuchen von Anfang an, eine Antwort zu liefern, und Nutzer neigen dazu, diese ohne Verifizierung direkt zu verwenden
• Systeme, in denen es nur Nutzung ohne Exploration gibt, fördern Instabilität und Abhängigkeit

Das eigentliche Ziel der Informatik: Werkzeuge, damit Menschen sich auf Problemlösung konzentrieren können

• Menschen haben Werkzeuge entwickelt, um repetitive Arbeit zu verringern, und die Kontrolle über Algorithmen lag dabei beim Menschen
• Heute nimmt jedoch durch den Druck, schnell Ergebnisse liefern zu müssen, die Gelegenheit zum Training von Konzentration und Denkfähigkeit ab
• Diese Entwicklung könnte am Ende zu einer Schwächung menschlicher Kreativität und tiefen Denkens führen

Die wahre Technologie für die Zukunft: Konzentration (Focus)

• Je weiter sich Technologie entwickelt, desto wichtiger werden die einzigartig menschlichen Fähigkeiten zu denken und sich zu konzentrieren
• Wichtiger als die Leistungsfähigkeit von AI ist die menschliche Fähigkeit, komplexe Probleme zu erkennen und zu lösen
• Nicht die Fähigkeit, LLMs zu nutzen, sondern Konzentration und das Verständnis für das Wesentliche werden mit hoher Wahrscheinlichkeit zu den entscheidenden Skills der Zukunft

[GN⁺]

Hacker-News-Kommentare

• Dass neue Studierende ihre Konzentration verlieren, ist üblich. Nicht nur LLMs, sondern fast jede App und jedes Startup konkurrieren darum, die begrenzte Aufmerksamkeit der Nutzer zu gewinnen

  • LLMs haben die Hürde beseitigt, bei der Studierende sich anstrengen mussten, um Antworten zu finden. Man gewöhnt sich leicht an schnelle Antworten und vergisst leicht zu fragen, warum etwas funktioniert
  • Richtig eingesetzt können LLMs jedoch das Erforschen unterstützen. Ich habe Momente gesehen, in denen Studierende der ersten Antwort widersprachen und tiefere Einsichten entdeckten
  • Das eigentliche Risiko ist nicht das Tool, sondern dass man vergisst, wie man es sorgfältig nutzt

• Ein Aimbot in Gunbound zu benutzen, machte die Spieler nicht besser. Es zerstörte das Spiele-Ökosystem

  • Ich weiß nicht, ob die Menschheit einen „Literacy-Aimbot“ verantwortungsvoll nutzen kann
  • ABS hat das Bremsen bei glatten Bedingungen einfacher und sicherer gemacht. Die Menschen haben dadurch nicht gelernt, besser zu bremsen, und glauben immer noch, dass das Auto schneller anhält, wenn man das Pedal stärker tritt
  • Viele Menschen brauchen Konzentration. Manche nicht, und sie sollten skalieren. Manche Systeme brauchen einen Aimbot, andere nicht
  • Die Zukunft erfordert, dass alle Arten von Technologien koexistieren

• Suchmaschinen bieten eine gute Wahl zwischen Exploration (Ergebnislisten und Seiten durchgehen) und Exploitation (auf das oberste Ergebnis klicken)

  • LLMs bieten diese Wahl nicht
  • LLMs sind sehr nützlich für Exploration. Sie helfen dabei, komplexe Probleme zu lösen und Ideen zu verfeinern. Sie können Feedback-Schleifen erzeugen, die selbst mit menschlichen Partnern schwer zu erreichen sind

• Sich konzentrieren zu können, wirkt heute wie ein Privileg

  • In den 90ern konnte man wochenlang ohne Unterbrechung arbeiten. Heute gibt es immer Manager, die Updates oder Planungen wollen
  • Die eigentliche Arbeit gerät gegenüber Gesprächen ins Hintertreffen

• In einer informationsreichen Welt bedeutet der Reichtum an Informationen den Mangel an etwas anderem. Informationen verbrauchen die Aufmerksamkeit der Empfänger

  • Der Reichtum an Informationen führt zu Armut an Aufmerksamkeit, und diese muss effizient verteilt werden

• Das Gegenteil von Konzentration ist Reaktivität. Wenn man auf SO postet, kann man eine präzise Antwort bekommen, aber man braucht die Geduld, die richtige Frage zu formulieren und auf Antworten zu warten

  • Ein LLM kann einem sofort etwas Falsches sagen. Es ist reaktiv
  • Großartige Engineers müssen gegenüber Teammitgliedern, Managern, Kunden und dem Business reaktiv sein. Sie müssen sich aber auch Zeit für Konzentration nehmen
  • Nach Covid gab es einen großen kulturellen Wandel, als alle, die weder asynchron arbeiteten noch remote waren, online gingen
  • Reaktivität lässt sich leicht messen, Qualität und Wachstum dagegen nur schwer

• Wenn ich LLMs benutze, verliere ich meine Konzentration

  • Copy-Paste, Copy-Paste. Kein echtes Verständnis der Lösung
  • Vielleicht kann ich mehr erledigen, aber ich habe keinen Spaß daran. Jetzt kann ich nicht mehr zum Googeln zurückkehren
  • Ich wünschte, sie wären nie erfunden worden

• Es wird eine andere Art von Konzentration sein

  • Bei Technologie wird regelmäßig vorhergesagt, dass sie Fähigkeiten entwertet, die zuvor als wichtig galten
  • Taschenrechner haben dafür gesorgt, dass Kinder keine Kopfrechenaufgaben mehr von Hand lösen müssen. Dennoch braucht man weiterhin die Fähigkeit, Ergebnisse zu interpretieren
  • Suchmaschinen haben es ermöglicht, innerhalb von Sekunden Antworten zu finden. Dennoch muss man weiterhin wissen, wonach man suchen sollte und wie man das Gefundene nutzt

• Schon vor 10 Jahren gab es Experten, die sagten, Smartphones und Social Media würden alles verändern. Man muss lernen, sie klug zu nutzen

• Ich stimme nicht zu, die LLM-Revolution mit dem Aufstieg von Suchmaschinen wie Google in den 90ern gleichzusetzen

  • LLMs fördern unmittelbare Exploitation. Nutzer können explorieren, wenn die erste Lösung nicht funktioniert
  • Die meiste Nutzung von LLMs ähnelt tatsächlich Suchmaschinen: bestehende Designentscheidungen erklären, nach einer passenden Bibliothek suchen oder verwandte Suchanfragen erzeugen