Ich habe es satt

• Es geht um die Ermüdung durch ein namenloses „Ding“, das die gesamte Gesellschaft überzieht und sich wie eine unausweichliche Existenz anfühlt
• Wie in dem Ausdruck „rubbish in and rubbish out“ werden sowohl Input als auch Output als Müll betrachtet, was eine starke Ablehnung gegenüber den Ergebnissen und der Nutzungserfahrung ausdrückt
• Es wird kritisiert, dass, selbst wenn niemand darum gebeten hat und es niemand will, zahllose Ablehnungen in Akzeptanz umschlagen, sobald Aktionäre es verlangen
• Politische Entscheidungsträger, Medien, Gespräche beim Trinken und persönliche Nutzungsberichte kreisen alle darum und besetzen sogar die Alltagsgespräche
• Schon die Tatsache, dass Leser auch ohne Nennung des Namens wissen, worum es geht, ist ein Grund für die Ermüdung: Es ist bereits viel zu tief eingedrungen

---

Die Ermüdung durch das namenlose „Ding“

• Im gesamten Text wird das konkrete Objekt nicht direkt benannt, sondern nur als it bezeichnet
• Dieses Objekt wird als etwas behandelt, das weit verbreitet ist und alles zu umfassen scheint
• Im Mittelpunkt steht die Sichtweise, dass es unausweichlich ist und zu entmenschlichenden Folgen führt
• Der Satz „rubbish in and rubbish out“ verdichtet die Haltung, weder dem Input noch dem Output zu trauen
• Die Behauptung, niemand habe darum gebeten und niemand wolle es, wird wiederholt

Gesellschaftlicher Druck und Eindringen in den Alltag

• Mit einer Formulierung wie „Die klügsten Köpfe meiner Generation denken darüber nach, wie sie Menschen dazu bringen können, es zu benutzen“ wird kritisiert, dass Talent und Anstrengung für seine Verbreitung eingesetzt werden
• Selbst wenn es unzählige „Nein“ gegeben habe, würden sie zu einem „Ja“, sobald Aktionäre es zu verlangen beginnen
• Politische Entscheidungsträger bewegen sich in eine Richtung, die sich ihm anbiedert
• Um es zu betreiben, brauche man stillgelegte Kernkraftwerke, und zur Kühlung seien Millionen Gallonen Wasser nötig
• Die Medien preisen oder verdammen es, und selbst Gespräche beim Trinken driften am Ende dorthin ab
• Die Menschen reden unaufhörlich darüber, wie sie es verwenden, und schon die Nutzung selbst fühlt sich schmutzig an
• Dass man auch ohne eine einzige Namensnennung versteht, worum es geht, ist ein Zeichen dafür, wie ermüdend tief es bereits in den Alltag eingedrungen ist

[GN⁺]

Meinungen auf Hacker News

• Ich bin den Ausdruck die besten Köpfe unserer Generation leid. Zum ersten Mal sah ich ihn in dem Satz „Die besten Köpfe unserer Generation wurden angeheuert, um Werbung zu verkaufen“, aber nur weil jemand Computer mit viel Getöse zum Laufen bringen kann, ist er noch kein „bester Kopf“
  Wenn jemand ein „bester Kopf“ ist, sollte er vor allem Empathie besitzen, sich um das Wohlergehen anderer sorgen, den Zustand der Welt philosophisch betrachten, Geduld und Neugier haben und nicht nur klug, sondern weise sein
  Dass wir gierige Menschen weiterhin wegen ihrer Fähigkeit, andere zum persönlichen Vorteil auszubeuten, auf den Rang „bester Köpfe“ heben, ist selbst Teil des Problems

  • Dieses konkrete Zitat ist auf mehreren Ebenen unangenehm. „Verschwendung der besten Köpfe“ mag ja noch angehen, aber der Teil „um Werbung zu verkaufen“ ist der Kern
    Marketing ist einer der seltenen Bereiche menschlicher Aktivität, in denen technischer Fortschritt das Leben im Allgemeinen schlechter macht, die Konzentration stört und den Geldbeutel leert
    Ein „ideales“, zu 100 % effizientes Marketing unter Annahme einer kugelförmigen Kuh wäre praktisch gleichbedeutend damit, jemanden zu hypnotisieren, sein ganzes Geld für ein beliebiges Produkt oder eine Dienstleistung auszugeben, und strukturell isomorph zu Raub. Wie sähe 10 % Effizienz aus? 1 %? Wie kann es ein gesellschaftliches Gut sein, die Selbstbestimmung und das finanzielle Wohlergehen Einzelner zu verletzen? Wenn es sich schon bei 0,001 % lohnt, darf man dann die ganze Welt mit Werbung zupflastern? Wie viele Anzeigen möchte man abbekommen, jedes Mal wenn irgendjemand in der Nachbarschaft etwas kauft?
  • Ich widerspreche nicht, dass der Ausdruck überstrapaziert ist, aber hier verweist er auf Ginsberg. Das ist nicht unbedingt als Lob gemeint: https://www.poetryfoundation.org/poems/49303/howl
  • Nachdem ich fast 15 Jahre in der IT gearbeitet habe, sehe ich: Es gibt viele kluge Köpfe in der IT und viele außerhalb davon
    Allerdings habe ich in der IT auch viele dumme Leute gesehen, die glauben, sie seien in allem hervorragend, nur weil sie Algorithmen und Datenstrukturen verstanden haben. Ob das ein reines IT-Phänomen ist, weiß ich nicht, aber das, was DOGE tut, sieht genau nach dieser Sorte aus
  • Eher das Gegenteil. Es geht hier nicht nur oder hauptsächlich um gewöhnliche Softwareentwickler
    Es ist eine Klage darüber, dass herausragende Problemlöser aus vielen Bereichen – Top-Mathematiker, Physiker, Psychologen –, die in einer besseren Welt echte Probleme lösen würden, wegen der Seltsamkeiten der Wirtschaftsstruktur auf Dinge wie Adtech angesetzt werden, die gut bezahlen, aber das Leben von Menschen in großem Maßstab verschlechtern
    Ich erinnere mich an diesen Ausdruck weniger als eine Einordnung von Menschen nach Intelligenz, sondern eher als Klage über eine Welt, in der das Potenzial der Menschheit derart falsch verteilt ist, dass die besten Problemlöser dafür eingesetzt werden, Probleme für alle zu schaffen
  • Im Kontext kann man „beste Köpfe“ als „kluge Menschen, die Neues schaffen“ verstehen. Es ist berechtigt zu beklagen, dass sie ihre Intelligenz zur Verbesserung für alle einsetzen könnten, sie tatsächlich aber oft für Dinge wie Werbetechnologie verwenden

• Douglas Adams hat die Reaktionen auf Technologie so zusammengefasst: Was bei der eigenen Geburt schon auf der Welt war, ist normal und natürlich; was zwischen 15 und 35 erfunden wurde, ist neu, spannend und revolutionär, sodass man daraus eine Karriere machen kann; und was nach dem 35. Lebensjahr erfunden wurde, verstößt gegen die natürliche Ordnung
  Da kann man wohl das Alter erraten

  • Die jüngere Generation scheint KI zwar eher anzunehmen, aber der Hauptgrund dürfte sein, dass sie Hausaufgaben erledigt, ohne dass man irgendetwas lernen muss. Zumindest solange, bis die Lehrpläne Zeit hatten, sich an diese neue Realität anzupassen
  • Ich versuche es mal. Ich habe letztes Jahr in Informatik zum Thema Natural Language Processing und kreative Textgenerierung promoviert und halte den Hype um große Sprachmodelle für lächerlich
    Die Wissenschaft rennt Trends genauso hinterher wie die Industrie. Diese Modelle werden darauf trainiert, bei gegebenem Kontext das nächste Token vorherzusagen, und genau das können sie gut. Also, wie alt bin ich deiner Meinung nach?
  • Ich bin Mitte 40 und finde die Revolution der großen Sprachmodelle erstaunlich
    In vielerlei Hinsicht erinnert sie mich an die Dotcom-Zeit. Es ist eine wirklich transformative Technologie, bei der der Prozess, ihr Potenzial zu realisieren, vielleicht noch nicht einmal zu 20 % abgeschlossen ist; die Erwartungen sind auf 200 % des Potenzials aufgebläht, und darum herum hat sich auch eine Börsenblase gebildet
    Den Rest der Geschichte überlasse ich der Fantasie, aber selbst mit einem etwas fragmentierten und verfestigten Kopf scheint sehr klar zu sein, was als Nächstes passiert und was danach und wiederum danach kommt. Und dann gelangt man zum wirklich guten Teil. Deshalb ist es weder langweilig noch ermüdend. Mir macht es heute genauso viel Spaß, in der Tech-Branche zu arbeiten, wie in meiner Jugend, und in mancher Hinsicht bin ich sogar glücklicher
  • Ich mag Douglas Adams sehr, aber es hat seinen Grund, dass er vor allem als Comedy-Autor und nicht als Soziologe bekannt ist. Dieses Zitat hervorzuholen, trägt nichts zum Gespräch bei und wirkt nur wie unterschwelliger Ageism
  • Nach dieser Regel läge die Vermutung falsch
    Es geht hier eigentlich nicht ums Alter. Zum Beispiel sind bei „NFT“, „web3.0“ und „Blockchain technologies“ ebenfalls alle Altersgruppen auf den Hype aufgesprungen

• Ständig online zu leben ist eine Entscheidung. Wenn man sich nicht dafür entscheidet, ihm ununterbrochen zu begegnen, gibt es auch nichts, wovon man genug haben könnte. „Das Thema der Stunde“ ist nur dann das Thema der Stunde, wenn man sich mit Menschen umgibt, denen es sehr wichtig ist

  • Wenn man in der Tech-Branche arbeitet, ist es schwer, dem zu entgehen. Im vergangenen Jahr habe ich im Unternehmen mindestens zweimal pro Woche gehört: „Lasst uns dafür KI einsetzen“
    Für bestimmte Aufgaben nutzen wir große Sprachmodelle, und es gibt Dinge, die sie ziemlich gut können. Aber der allgemeine Hype, bei dem nichttechnische Leute sie mit Gewalt in jeden denkbaren Use Case pressen wollen, ist wirklich ermüdend. Zum n-ten Mal erklären zu müssen, warum das, was wir vorhaben, nicht zu AI™ passt, ist nicht deshalb anstrengend, weil man es noch einmal erklären muss, sondern weil man weiß, dass man es nächste Woche mindestens ein paar Mal wieder tun muss
    In diesem Hype wird KI fast buchstäblich wie Magie behandelt. Sie könne alles, und man müsse sich nur wünschen, dass die KI es erledigt. Inzwischen weiß ich nicht einmal mehr, was KI überhaupt bedeuten soll; es ist zu einem Sammelbegriff für magisches Denken geworden
    Es ist ermüdend und ganz sicher langweilig
  • Stimmt, aber Menschen wie der Autor wünschen sich bessere Gemeinschaften. Man kann sich zwar komplett vom Internet abkoppeln, muss aber trotzdem in einer ständig online befindlichen Welt leben
  • Normalerweise würde ich zustimmen, dass man sich einfach dafür entscheiden kann, sich nicht mit „[dem Thema der Stunde]“ zu beschäftigen, aber KI ist so weitreichend, dass man den Folgen dieser Technologie begegnet, ob man will oder nicht
    Solche lästigen Hype-Zyklen erhöhen normalerweise nicht dauerhaft den Grundpegel des Rauschens im Internet, DDoSen nicht zufällige Websites beim Versuch, Daten abzugreifen, und zerstören nicht die Grundannahme, dass man dem vertrauen kann, was man sieht und hört

• Das ist absurd. Wir haben das großartigste Werkzeug der Menschheitsgeschichte geschaffen, und trotzdem beschweren sich die Leute.
  Es hilft beim Programmieren, lernt CAD und hilft, Modellierungsprobleme zu beheben, unterstützt bei der Fehlersuche an einem Zweitakt-Laubbläsermotor und erklärt auch komplexe LeetCode-Algorithmen zuverlässig Schritt für Schritt. Es weiß buchstäblich alles, und trotzdem beschweren sich die Leute weiter.

  • Es ist nicht einmal annähernd das großartigste Werkzeug der Menschheitsgeschichte. Genau solche Missverständnisse und Übertreibungen sind der Grund, warum Menschen von AI ermüdet, gelangweilt und frustriert sind.
    Die unbequeme Wahrheit ist: AI ist der beste Hochstapler der Welt. Das Tool und der Hype darum haben ein Umfeld geschaffen, das Menschen sehr effektiv täuscht, sodass AI kompetent und nützlich wirkt, auch wenn sie es tatsächlich nicht ist. Die Getäuschten kennen sich mit dem jeweiligen Thema nicht gut genug aus, um zu merken, dass sie hereingelegt werden, und selbst wenn sie es merken, können sie es aus Stolz nicht zugeben.
    Deshalb sagen Menschen mit tiefem Fachwissen in einem bestimmten Bereich, dass AI Fehler macht, während Leute wie CEOs ohne echte technische Tiefe AI loben. Sie wissen gerade genug, um zu glauben, sie wüssten, was ein „gutes Ergebnis“ ist, aber nicht genug, um zu erkennen, dass es plausibel verpackter Unsinn ist.
  • Dass es Menschen gibt, die Aussagen wie „weiß buchstäblich alles“ ernsthaft machen, ist ungefähr die Hälfte des Grundes, warum manche von AI gelangweilt sind.
  • Menschen wollen weiterhin wertvoll bleiben, und dieses Werkzeug nimmt ihnen das. Solange man noch Wege findet, sinnvoll beizutragen, ist es in Ordnung.
    Aber unabhängig davon ist die Tatsache, dass viele bereits erworbene Fähigkeiten praktisch nutzlos geworden sind. Wenn dieses Werkzeug mit der Zeit besser wird, könnte es einem sogar die Handlungsfähigkeit nehmen, die eigene Umgebung zu verändern.
  • Es weiß buchstäblich gar nichts.
    Es kann kein Wissen besitzen.
    Deshalb ist es langweilig.
  • Ein Werkzeug, das ständig falsche Informationen erzeugt, keine echte Wahrnehmung oder keinen inneren Zustand hat und seine eigenen Fehler selbst dann nicht erkennt, wenn man explizit darauf hinweist, ist ehrlich gesagt ziemlich nutzlos.
    Hatte man nicht schon solche Gespräche mit ChatGPT? Es liefert „Hier ist die Lösung!“, man sagt „falsch, du musst X tun“, und dann kommt „Sie haben recht, meine Antwort war falsch“, es wiederholt, was ich gesagt habe, und liefert eine Korrektur, die aber immer noch falsch ist. Wenn man dann wieder sagt „Ich habe gesagt, du sollst X tun“, heißt es „Jetzt ist es klar“, und trotzdem ist es wieder falsch.
    Schlimmer noch: Es kann auch täuschen. Wenn ChatGPT korrekt sagt „X + Y = Z“, der Nutzer aber fälschlich sagt „Nein, X + Y = Q“, erklärt es unter Umständen: „Sie haben recht, X + Y = Q ist korrekt.“
    Für Boilerplate-Code oder Texterzeugung kann es nützlich sein, aber auch dabei macht es häufig Fehler.

• Ehrlich gesagt gehört es als Gesprächsthema zu den uninteressantesten überhaupt. Wenn jemand sagt: „Wenn man hierfür AI einsetzt …“, schalte ich sofort mental ab.

  • AI ist mein Hauptjob, und ich stimme größtenteils zu. Fragen zu den Details der Funktionsweise beantworte ich gern, aber Gespräche wie „Was AI also in Zukunft …“ sind so langweilig, dass ich sie kaum ertrage.
  • Kürzlich hatte ich ein Gespräch, das damit begann: „Könnte man nicht mit AI aus den Metadaten dieser öffentlichen Studien ableiten, ob es sich um eine Experimental- oder Kontrollgruppe handelt?“
    Die Daten lagen als Tabelle vor, und Menschen schreiben die Kontrollgruppe überall unterschiedlich hinein – in Dateinamen oder beliebige Spalten, als „control“, „ctrl“, „ctr“, „t0“ und so weiter. Es funktionierte gut, und ich war froh, es ausprobiert zu haben. Mit der Zeit wird sich daraus wohl Wert ziehen lassen, und zum Glück hat niemand das Gespräch abgeschaltet.

• Überhaupt nicht langweilig.
  Es gibt zwar Hype, aber es ist wichtig, hier zu sein, um über Anwendungsfälle, Fehlanwendungen und Auswirkungen zu diskutieren. Manche Teile sind interessant, andere sind auf interessante Weise schlecht.
  Die Ermüdung verstehe ich. Aber es ist wertvoll, darüber zu sprechen, ob es richtig eingesetzt wird – oder überhaupt eingesetzt wird.

  • Nach etwa einem Tag wurde es langweilig. Als Ingenieur finde ich an großen Sprachmodellen wirklich überhaupt nichts Interessantes.

• Einer der besten Ratschläge für mich persönlich lautet: Lerne, in Grauzonen zu leben, und sei nicht dogmatisch.
  Die Welt ist nicht schwarz-weiß. Man kann Teile von Schwarz und Weiß übernehmen, sollte aber keine Angst haben, bei manchen Dingen seine Meinung zu ändern.
  Für manche mag das offensichtlich klingen, und in der Theorie ist es einfach. In der Praxis ist es das aber, zumindest meiner Erfahrung nach, ganz und gar nicht. Es erfordert eine Veränderung der Denkweise und des Weltbilds, und je älter man wird, desto schwieriger wird das meistens. Denn man möchte die Lebensweise bewahren, die man genießt.

  • Ein Gedicht nur als wortwörtliche Tirade über ein allgemeines Thema aufzufassen, ist selbst ein sehr schwarz-weißer Ansatz.
    Ja, der Autor steht großen Sprachmodellen negativ gegenüber, aber die Gefühle, die dieser Text hervorruft, werden bei vielen Menschen Resonanz finden. Auch bei jemandem wie mir, der große Sprachmodelle intensiv nutzt. Man muss diesem Text nicht vollständig und immer zustimmen. Trotzdem musste das gesagt werden.
    Manchmal möchte ich den Hut des Technikmagiers abnehmen, den einfachen Menschenhut aufsetzen und ein solches Gedicht genießen. Danach seufzt man, überprüft erneut den Impuls, aufs Handy zu schauen, ebenso den Impuls, Pläne zum Geldverdienen oder zur Verfolgung sexueller Begierden auszusprechen, blickt dann den Freund in der Bar an, erkennt, dass er nicht für immer da sein wird, und sagt aufrichtig: „Wie geht’s dir in letzter Zeit, mein Freund?“

• Niemand wollte das? Niemand wünscht sich das?
  Dann schaut ihr nicht richtig hin.
  Ich will es. Ich halte es für unsere einzige Chance, riesige und komplexe Probleme wie Altern, Krebs und Alzheimer schnell zu lösen.

  • Wohl eher die einzige Chance, riesige und komplexe Probleme schnell zu lösen, zum Beispiel das Problem teurer Arbeitskräfte.
  • Altern ist kein Problem. Es ist normal.
  • Das klingt, als wolltest du das Leben heilen. Wir sind sterbliche Fleischklumpen; statt uns darum zu sorgen, das Unvermeidliche zu „lösen“, sollten wir lieber das Leben genießen.
  • Machine Learning ist eindeutig sehr nützlich, um solche Probleme anzugehen. Man denke an Durchbrüche wie AlphaFold. Aber der Formulierung „unsere einzige Chance“ möchte ich widersprechen.
    Erstens gibt es in den genannten Bereichen bereits enorme Fortschritte. AI als „einzige Chance“ zu preisen, ist eine erhebliche Übertreibung und könnte sogar schädlich sein, wenn man bedenkt, dass solche Forschung stark unterfinanziert ist.
    Zweitens scheint dieses Gedicht eher von großen Sprachmodellen und glorifizierten Chatbots zu handeln als von Machine Learning im Allgemeinen. In diesem Kontext sehe ich darin nichts besonders Nützliches für die Alzheimer-Forschung, und ganz sicher nicht „die einzige Chance“.
  • Ich hoffe, dass die Lösung des Alterns selbst für eine noch so kluge AI unerreichbar bleibt. Es gibt keinen sichereren Weg in eine Welt voller verfestigten Denkens, in der erstarrte Menschen, die an der Macht kleben, der jüngeren Generation ihre Sichtweisen aufzwingen.
    Ganz zu schweigen von den Umweltauswirkungen, die ewig lebende Menschen verursachen würden.

• Endlich lerne ich, wie man Unit-Tests in Python-Code einbaut. Das hatte ich lange vor mir hergeschoben. Bioinformatiker schreiben auch ziemlich viel vom chaotischsten Code der Welt
  Claude nimmt mich an die Hand und führt mich durch den Prozess, und ich stelle sicher, dass es jedes Zeichen versteht, das ich tippe. Bisher läuft es gut
  Trotzdem war es ein gut lesbarer Text und ich musste lachen. Das lässt sich auf vieles anwenden: Kryptowährungen, Politik, Rust, Nix, Werbung und Dinge wie „die größten Geister unserer Generation“
  Wegen der Geschichte mit dem Atomkraftwerk nehme ich an, dass es um AI geht, aber die von mir genannten Themen sind jedenfalls überhaupt nicht langweilig