Wir haben 'Bullshit' automatisiert

Diskussionen rund um KI

• Die Diskussion über KI begann mit der Frage nach der Bedeutung von KI in Afrika.
• In jüngster Zeit ist das Interesse an der Zukunft der KI gestiegen, nachdem der US-Präsident und der britische Premierminister per Executive Order und Gipfeltreffen das Thema KI aufgegriffen haben.
• Es wird die Frage aufgeworfen, dass KI in Wirklichkeit 'bullshit' erzeugt, der nicht auf Logik oder Fakten, sondern auf prädiktivem Text basiert.

Wie KI funktioniert

• Der MIT-KI-Professor Rodney Brooks fasst ChatGPT so zusammen, dass es „Dinge erzeugt, die sich gut anhören“.
• Das „sich gut Anhörende“ bedeutet einen Algorithmus, der im Internet gefundenen Text nachahmt, und das „Erzeugen“ verweist auf grundlegende Zufälligkeit auf Basis von prädiktivem Text.
• Auch andere führende KI-Forscher vertreten eine ähnliche Ansicht; in technischeren Details wird dies etwa im Paper über 'stochastic parrots' erläutert.

KI und Wahrheit

• Geoffrey Hinton, der als „Pate“ der KI gilt, warnt vor der Gefahr, dass Chatbots weniger intelligent sind, als dass sie überzeugend wirkenden Text erzeugen.
• In einer Welt, in der Belege und Logik nicht respektiert werden, besteht die Sorge, dass Systeme, die ohne Belege oder Logik arbeiten, durch Überzeugungskraft zu Herrschern werden könnten.
• In Harry Frankfurts 'On Bullshit' wird 'bullshit' als etwas beschrieben, das die Autorität der Wahrheit nicht ausdrücklich zurückweist, sondern sie ignoriert.

KI und gesellschaftliche Auswirkungen

• Warum war der britische Premierminister von KI und einem automatisierten 'bullshit generator' beeindruckt?
• David Graebers Analyse in 'Bullshit Jobs' legt den wahren Charakter von KI offen.
• Mehr als 30 % der britischen Beschäftigten glauben, dass ihre Arbeit der Gesellschaft keinerlei Wert bietet.
• Ein Teil der Hochschulbildung bereitet junge Menschen darauf vor, sich bürokratischen Prozessen anzupassen, ohne große Erwartungen an das Leben zu haben.

Training von KI-Systemen

• KI-Systeme werden mit gewaltigen Archiven von 'bullshit' aus Twitter, Facebook und Reddit sowie mit Texten trainiert, die auch reale Fakten enthalten.
• In ChatGPT gibt es keinen Algorithmus, der überprüft, welche Teile wahr sind; deshalb werden die Ausgaben als 'bullshit' definiert.
• Twitter fördert Politiker, denen es gleichgültig ist, ob etwas wahr ist, und Archive ihrer Aussagen können zum Training automatisierter 'bullshit generator' verwendet werden.

Meinung von GN⁺

• Das Wichtigste an diesem Text ist, dass die von KI erzeugten Inhalte nicht auf Wahrheit und Logik beruhen, sondern 'bullshit' hervorbringen können, der Menschen überzeugt.
• Das kann gesellschaftliche Gespräche und die Qualität von Informationen beeinflussen, und mit der Weiterentwicklung der KI-Technologie wird dieses Problem noch wichtiger werden.
• Das ist für Menschen interessant, weil es hilft, die potenziellen Auswirkungen von KI auf unseren Alltag und den Arbeitsmarkt zu verstehen und sich auf die Veränderungen vorzubereiten, die die Technologie mit sich bringen wird.

[GN⁺]

Hacker-News-Kommentare

• Zusammenfassung des ersten Kommentars:

  • LLMs (Large Language Models) arbeiten danach, ob etwas „wie die richtige Antwort aussieht“, und für Nicht-Experten ist es schwierig zu beurteilen, ob die Antwort eines LLM korrekt ist.
  • Für Experten sind LLMs nützliche Werkzeuge, da sie in ihrem eigenen Fachgebiet die Genauigkeit der vom LLM gelieferten Code-Snippets beurteilen können.

• Zusammenfassung des zweiten Kommentars:

  • ChatGPT wurde mit Daten aus verschiedenen Quellen trainiert und erzeugt Antworten, ohne zwischen genauen Fakten und unsicheren Informationen zu unterscheiden.
  • Menschen lernen auf ähnliche Weise, daher sollte man den Ausgaben von LLMs nicht vollständig vertrauen.

• Zusammenfassung des dritten Kommentars:

  • Die von LLMs gelieferten Antworten ähneln der Erzeugung des vorhersehbaren nächsten Tokens in menschlichen Gesprächen.
  • Obwohl LLMs sich noch in einem frühen Stadium befinden, zeigen sie bereits beträchtliche Fähigkeiten, Probleme durch Gespräche zu lösen.

• Zusammenfassung des vierten Kommentars:

  • LLMs ahmen menschliche Sprache nach und damit auch die im Sprachbau kodierten Schlussfolgerungsfähigkeiten.
  • LLMs fehlt zwar ein präzises Gedächtnis, aber das kann ausgeglichen werden, wenn man mit geeigneten Prompts die relevanten Informationen einbezieht.

• Zusammenfassung des fünften Kommentars:

  • LLMs nutzen beim Lösen von Problemen einen gesprächsbasierten Ansatz und bringen dadurch Innovation in den Arbeitsablauf.

• Zusammenfassung des sechsten Kommentars:

  • LLMs sind eine auf sprachliche Fähigkeiten spezialisierte Technologie; Probleme können entstehen, wenn sie nicht mit einem umfassenderen Schlussfolgerungssystem oder einer Faktendatenbank integriert werden.

• Zusammenfassung des siebten Kommentars:

  • LLMs können manchmal ungenaue Antworten liefern, aber je nachdem, wie Nutzer sie einsetzen, können sie die Produktivität steigern.

• Zusammenfassung des achten Kommentars:

  • Sprache selbst kann als ein „Bullshit-Generator“ betrachtet werden, der unabhängig von „Wahrheit“ funktioniert, und LLMs nutzen diese Eigenschaft der Sprache aus.

• Zusammenfassung des neunten Kommentars:

  • Das französische Wort „baratineur“ bezeichnet jemanden, der unabhängig von Wahrheit oder Lüge das sagt, was man hören möchte, und könnte für LLMs ein passenderer Ausdruck sein.

• Zusammenfassung des zehnten Kommentars:

  • Wenn von LLMs erzeugter Code die Anforderungen erfüllt, ist er kein „Bullshit“ und kann in bestimmten Kontexten nützlich eingesetzt werden.