Ist er ein moderner Prophet oder nur eine Bullshit-Maschine? – Wie man in der ChatGPT-Welt erfolgreich ist

• Wir erwarten, dass superintelligente Computersysteme ein Zeitalter der Innovation und des Wohlstands einläuten werden
• Seit dem Auftauchen von ChatGPT nennen es manche einen Propheten der Moderne, während andere es als Maschine für Unsinn abtun
• Technikexperten und PR-Verantwortliche behaupten, dass LLMs unsere Art zu arbeiten, zu lernen, zu spielen, zu kommunizieren, zu erschaffen und uns zu vernetzen revolutionieren werden
• KI wird nahezu jeden Aspekt des Alltagslebens beeinflussen
• Sie verbessert die Zugänglichkeit des Computings erheblich, indem sie Menschen ermöglicht, in normaler Sprache mit Computern zu sprechen
• Doch so nützlich KI-Systeme auch sein können, besteht zugleich das Risiko, dass das Informationsumfeld mit gigantischen Mengen an Unsinn übersättigt wird

"Diese Technologie wird die revolutionärste sein, die die Menschheit je geschaffen hat, und sie kann mit der Erfindung des Buchdrucks, der Elektrizität und des Internets verglichen werden"
— Sam Altman, CEO von OpenAI

• Ob man es mag oder nicht: LLMs haben in unserem Leben bereits ihren Platz eingenommen
• Wir lesen online Inhalte, die von LLMs erzeugt wurden, und viele Menschen interagieren mit LLM-Chatbots
• Manche nutzen LLMs auch, um selbst Inhalte zu erstellen

Wie man im Zeitalter der LLMs überlebt

• In Lektionen von 5–10 Minuten wird erklärt, was LLMs sind und wie sie funktionieren
• Man kann lernen zu unterscheiden, wann sie Zeit und Mühe sparen können und wann sie besonders fehleranfällig sind
• Es ist wichtig zu lernen, inmitten übertriebener Marketingversprechen wirklich nützliche Informationen von aufgebauschten Behauptungen zu unterscheiden

Inhaltsverzeichnis der Lektionen

• Lektion 1: Autocomplete auf Hochtouren (Autocomplete in Overdrive)
• Lektion 2: Das Wesen des Bullshit (The Nature of Bullshit)
• Lektion 3: Turing-Tests und Bullshit-Benchmarks (Turing Tests and Bullshit Benchmarks)
• Lektion 4: Computer, mit denen man sprechen kann (Computers You Can Talk To)
• Lektion 5: Schwer zu verstehen, noch schwerer zu reparieren (Hard to Understand, Harder to Fix)
• Lektion 6: Nein, das tun sie nicht! (No, They're Not Doing That!)
• Lektion 7: Vom Stimmenklonen bis zu Shrimp Jesus (From Voice Cloning to Shrimp Jesus)
• Lektion 8: Giftpilze und Hundepässe (Poisonous Mushrooms and Doggie Passports)
• Lektion 9: Blaue Links sind wichtig (Blue Links Matter)
• Lektion 10: Die menschliche Kunst des Schreibens (The Human Art of Writing)
• Lektion 11: Bildung im Wandel? (Transforming Education?)
• Lektion 12: Der KI-Wissenschaftler (The AI Scientist)
• Lektion 13: Bullshit-Maschinen für Bullshit-Arbeit (Bullshit Machines for Bullshit Work)
• Lektion 14: Authentizität (Authenticity)
• Lektion 15: Künstliche Intelligenz und menschliche Dummheit (Artificial Intelligence and Human Stupidity)
• Lektion 16: Der Fehler des ersten Schritts (The First-Step Fallacy)
• Lektion 17: Deine ganz eigene Truman Show (Your Own Private Truman Show)
• Lektion 18: Demokratie (Democracy)

[GN⁺]

Hacker-News-Kommentare

• Dieser Artikel ist voller sehr selbstsicherer Aussagen über KI, aber es fehlt an Belegen, und manches scheint falsch zu sein

  • Die Behauptung, KI habe „keine grundlegende Wahrheit“, ist falsch
  • Die Aussage, KI könne nicht logisch schlussfolgern, ist übertrieben
  • Auch dass KI nicht erklären könne, wie sie zu einem Schluss gekommen ist, stimmt nicht
  • Solche selbstsicheren Aussagen ähneln eher Kritik an schwachen Modellen

• Ein Freund arbeitet in einem Team, das Regierungspolitik beeinflusst, und ein jüngeres Teammitglied hat einen Bericht voller Zahlen geschrieben, die aus einem LLM stammten

  • Der Bericht war ungenau und nicht vertrauenswürdig
  • Entwickler verstehen in der Regel gut, wie LLMs funktionieren, und können Ungenauigkeiten in den Ausgaben prüfen und korrigieren
  • Viele Menschen werden solchen Werkzeugen vertrauen, und ungenaue Inhalte werden überhandnehmen

• Die aktuelle Version von KI kann für Studierende gefährlich sein und sie sogar schlechter machen

  • Wenn ich nichttechnischen Freunden helfe, betrachte ich das Tempo der Veränderungen und betone, dass die Zuverlässigkeit den Möglichkeiten deutlich hinterherhinkt
  • Feindliche Umgebungen sind weiterhin ungelöst, und Prognosen sind unsicher
  • Vorhersagen von papageienartigen Menschen sind nicht vertrauenswürdig
  • Weil es RL gibt, sind Behauptungen über automatische Selbstkorrektur übertrieben
  • Pessimisten liegen wahrscheinlich falsch, aber diejenigen, die ihre Argumente abtun, verstehen weniger als die Pessimisten

• Der Abschnitt „The AI scientist“ war hervorragend

  • Er tappt nicht in die Falle der Papageien-Argumentation, sondern zeigt positive Anwendungsfälle von KI
  • Er stellt positive Anwendungen von KI in der Wissenschaft sowie schädliche und zeitraubende Beispiele objektiv dar

• Dieses Material ist grundlegend, aber für ein breites Publikum nützlich

  • Es war gut, dass erwähnt wurde, man solle Modelle nicht vermenschlichen
  • Es wäre für politische Entscheidungsträger über 50 nützlicher, diesen Kurs zu hören, als für Studienanfänger mit 19

• Es ist sinnlos, LLMs nur deshalb als Papageien zu bezeichnen, weil sie den nächsten Token vorhersagen

  • Menschen sagen auf einer Tastatur ebenfalls die nächste Taste voraus
  • Diese Sichtweise ist nur ein Verschließen der Augen vor der kommenden technologischen Revolution

• Für Studierende ist es herausfordernd, sich in einer KI-Umgebung zurechtzufinden

  • Ich überlege, dieses Material mit Studierenden zu teilen
  • Studierende, die LLMs für alles verwenden wollen, werden sich wahrscheinlich nicht mit dem Material beschäftigen
  • Ich schlage vor, einen Absatz hinzuzufügen, der erklärt, warum Schreiben ohne LLMs im wissenschaftlichen Bereich wichtig ist

• Ich wünschte, der Titel wäre nicht so technologiefeindlich

  • Ich möchte diesen Kurs bei der Arbeit voranbringen, aber so könnte ich wie eine negative und störende Person wirken

• Dieses Material ist eine hervorragende Ressource

  • Ich entwerfe gerade einen Kurs für Medizinstudierende, der grundlegendes Wissen über die Entwicklungen bei ML und LLM vermittelt
  • Ziel ist es, Verständnis für Medical ML zu schaffen, die Möglichkeiten der Technologie zu zeigen und einen Weg für eine sichere Einführung aufzuzeigen

• Ich habe dieses Material wirklich sehr gern gelesen

  • In Lesson 11 habe ich ein paar Tippfehler gefunden
  • In „No one is going to motivated by a robotic...“ fehlt „be“
  • In „People who are given a possible solution to a problem tend to less creative at...“ fehlt „be“