Richard Stallman: „Warum man ChatGPT nicht verwenden sollte“

• Richard Stallman weist darauf hin, dass ChatGPT ein System ohne Intelligenz ist und lediglich Wörter kombiniert, ohne ihre Bedeutung zu verstehen
• Da dieses System Ausgaben unabhängig von ihrem Wahrheitsgehalt erzeugt, nennt er es einen „Bullshit-Generator (bullshit generator)“
• Er warnt davor, dass diese Täuschung der Öffentlichkeit, generativen Systemen Intelligenz zuzuschreiben, zu fehlgeleitetem Vertrauen führt
• ChatGPT ist proprietäre Software, bei der Nutzer weder ausführbare Dateien noch den Quellcode erhalten können, und ist nur über Server zugänglich
• Rechenvorgänge auf den Servern anderer auszuführen, sollte abgelehnt werden, weil dies die Computing-Freiheit der Nutzer beeinträchtigt

---

Der nicht-intelligente Charakter von ChatGPT

• Stallman definiert „Intelligenz“ (intelligence) als die Fähigkeit, etwas zu verstehen oder zu wissen
  • ChatGPT kennt die Bedeutung seiner erzeugten Ausgaben nicht und erkennt nicht einmal, dass Wörter Bedeutung tragen
• Daher wird ChatGPT als kein intelligentes System, sondern als bloßes System zur Sprachkombination eingeordnet

Charakter als „Bullshit-Generator“

• Er bezeichnet ChatGPT als „bullshit generator“, womit ein System gemeint ist, das Ergebnisse unabhängig von ihrem Wahrheitsgehalt erzeugt
• Aus demselben Grund erwähnt er, dass auch andere generative Systeme dasselbe Problem haben

Fehlgeleitetes Vertrauen der Öffentlichkeit

• Viele Menschen unterliegen dem Irrtum, dass solche Systeme intelligent seien, und bringen ihnen dadurch fehlgeleitetes Vertrauen entgegen
• Stallman ruft dazu auf, das Bewusstsein dafür zu stärken, dass man solchen Systemen nicht vertrauen sollte

Das Problem als proprietäre Software

• ChatGPT ist nicht veröffentlichte Software, die Nutzer weder kopieren noch ausführen können
  • Es werden nicht einmal ausführbare Dateien bereitgestellt; nutzbar ist es ausschließlich über die Server von OpenAI
• Diese Struktur macht die Nutzer vom Server abhängig und verhindert eine unabhängige Nutzung

Beeinträchtigung der Computing-Freiheit

• Stallman erklärt ausdrücklich, dass die eigenen Rechenvorgänge auf den Servern anderer auszuführen die Computing-Freiheit zerstört
• Unter Verweis auf ein GNU-Philosophiedokument stellt er die grundlegende Frage: „Wem dient dieser Server wirklich?“

---

Quelle: Richard Stallman, „Reasons not to use ChatGPT“, stallman.org, 2024
Urheberrecht: Der Text darf gemäß dem Hinweis im Original unter denselben Bedingungen kopiert und verbreitet werden