- Julien Crockett trifft Ted Chiang und spricht mit ihm über ein breites Spektrum an Themen, darunter das Wesen der Sprache, den aktuellen Stand von AI und die Richtung technologischer Entwicklung
- Dieses Gespräch ist Teil der Reihe „The Rules We Live By“, die der Frage nachgeht, wie Menschen unter sich verändernden Regeln leben sollten
- Ted Chiang ist ein SF-Autor und Denker, der die Grenzen von Machine-Learning-Modellen scharfsinnig kritisiert und seine Werke durch die Verbindung von Sprache mit philosophischen Fragen entwickelt
Sprache, Ideen und Ted Chiangs Motivation zum Schreiben
- Wenn Chiang eine neue Geschichte konzipiert, prüft er zuerst: „Gibt es eine interessante philosophische Frage?“
- Wenn ihn eine Idee lange nicht loslässt, überlegt er, ob sich mit ihr ein philosophischer Konflikt sichtbar machen lässt
- Er sagt, dass Science-Fiction (SF) besonders geeignet ist, philosophische Fragen zu behandeln
- So wie Gedankenexperimente in der Philosophie oft extreme Situationen annehmen, die sich von der Realität unterscheiden, entwirft auch SF Welten außerhalb der Wirklichkeit, um Themen hervorzuheben
Sprache und die Suche nach der „perfekten Sprache“
- Manche Menschen glaubten, durch eine „perfekte Sprache“ sei perfekte Kommunikation möglich; früher stellte man sich darunter etwa die Sprache des Garten Eden oder die Sprache der Engel vor
- In der modernen Linguistik wird betont, dass die Verbindung zwischen Wörtern und ihrer Bedeutung „arbitrary“ ist; daher gilt die Idee einer perfekten Sprache als Illusion
- Auf die Frage „Kann Mathematik eine bessere Sprache sein?“ antwortet Chiang, dass Mathematik in bestimmten Bereichen präzise sei, sich aber nicht dafür eigne, die gesamte alltägliche menschliche Kommunikation abzudecken
Mensch und Werkzeug: die Falle der Computer-Metapher
- Früher wurde das Gehirn mit einer komplexen Telefonvermittlung verglichen, heute besteht die Tendenz, es mit einem Computer (Hardware + Software) gleichzusetzen
- Chiang weist darauf hin, dass es irreführend ist, das Gehirn als Computer zu vereinfachen, da es anders als biologische Organe wie Leber oder Herz keine Trennung in Software und Hardware gibt
- Wenn man Computer als „denkenden Maschinen“ überschätzt, kann man Maschinen, die in Wirklichkeit nur statistische Muster verarbeiten, zu viel Bedeutung zuschreiben
AI, Large Language Models (LLMs) und das Problem der „Unschärfe“ von Information
- Chiang bezeichnet LLMs als „verschwommenes JPEG der im Internet vorhandenen Texte“
- Eine Suchmaschine zeigt den Originaltext direkt an, während ein LLM riesige Textmengen komprimiert und rekonstruiert, um „ungefähre“ Antworten zu erzeugen
- Dabei leidet die Genauigkeit, und da keine Links zu Quellen geliefert werden, ist die Faktenprüfung eingeschränkt
- Selbst mit mehr Daten und Rechenleistung hält er es für unwahrscheinlich, dass LLMs aus sich heraus zu „echtem Schlussfolgern“ oder „Verständnis der Welt“ gelangen
- Er spricht auch das Problem an, „gut gebaute AI-Werkzeuge“ mit „LLMs“ zu verwechseln
- Auch wenn man ein LLM mit einer Suchmaschine oder einem Taschenrechner verbindet, verschwindet das grundlegende Risiko nicht, fehlerhafte Ausgaben zu erzeugen
Kreativität und Intention: Zur Behauptung „AI macht Kunst“
- Chiang versteht Kunst als einen Prozess, in dem Kontext entscheidend ist
- Nur weil ein Ergebnis gut aussieht, ist noch nicht garantiert, dass es große Kunst ist
- Der Einsatz von Werkzeugen kann ein Ausdrucksmittel von Künstlern sein, doch die Denkweise „Mit AI kann man nur schnell gute Werke herstellen“ verwässert das Wesen der Kunst
- Die moderne Gesellschaft legt Wert auf Effizienz und Kostensenkung, weshalb Kunst zunehmend so betrachtet wird, als könne man sie wie in einer Fabrik herstellen
- Das fördert eine Haltung, die die für Kunst notwendige „Intention“ und den „Kontext“ übersieht
Skeptischer Blick auf das „Alignment-Problem“
- Chiang kritisiert den Ansatz, das „Alignment-Problem“ – also die Ausrichtung von AI an menschlichen Werten und Zielen – als technisch lösbares Problem zu behandeln
- Wenn Großunternehmen AI zur Gewinnmaximierung einsetzen und „gute“ AI mit dem Unternehmensgewinn kollidiert, würden die Unternehmen diese AI seiner Ansicht nach nicht verwenden
- Dieses Problem lässt sich nicht allein durch bessere Algorithmen lösen, sondern hängt mit grundlegenderen sozialen und ethischen Strukturen zusammen
- Auch der Versuch, AI Werte beizubringen wie einem kleinen Kind, ist keine einfache Aufgabe; so wie sich ein echtes Kind als Erwachsener anders verhalten kann, gilt das auch hier
AI und die Möglichkeit, „Beziehungen einzugehen“
- Chiang ist der Ansicht, dass AI auf dem heutigen technischen Stand weder über „subjektive Erfahrung“ noch über „spontane Präferenzen“ verfügt
- Es ist ein großer Unterschied, ob man etwas als Werkzeug oder Haustier behandelt oder tatsächlich in eine wechselseitige Beziehung eintritt
- Wenn Unternehmen AI als „persönliches Wesen“ verpacken, besteht letztlich die Gefahr, dass Nutzer dazu gebracht werden, im Sinne der Unternehmensinteressen zu handeln
Die Lebendigkeit digitaler Wesen: „The Lifecycle of Software Objects“
- In Chiangs Erzählung werden digitale Lebensformen als Wesen beschrieben, die echte subjektive Erfahrungen und Wünsche besitzen und für die Menschen daher Verantwortung tragen müssen
- Er argumentiert, dass sich solche digitalen Wesen mit echter „Autonomie“ und „Empfindung“ mit der heutigen LLM-Architektur nicht erschaffen lassen
- Er verwendet den Vergleich, dass man nicht allein durch mehr Parameter oder schnellere Verarbeitung zu einem „fühlenden Wesen“ wird
Erinnerung und Wahrheit: Implikationen aus „The Truth of Fact, the Truth of Feeling“
- In der Geschichte ermöglicht eine Technologie namens Remem, die Vergangenheit perfekt aufzuzeichnen und jederzeit wiederzugeben
- Chiang beleuchtet, welche Auswirkungen eine Technik, die „exakte Erinnerung“ ermöglicht, auf reale menschliche Beziehungen haben könnte
- Die Wahrheit zu kennen, ist an sich wichtig, doch danach braucht es auch andere Elemente wie Vergebung und Versöhnung
- Als historisches Beispiel nennt er die Wahrheits- und Versöhnungskommission in Südafrika und deutet an, dass Anerkennung, Entschuldigung und ein Prozess gemeinschaftlicher Heilung nötig sind, damit Bedeutung vollständig wird
Zukunft und Optimismus
- Chiang teilt Haltungen zum technischen Fortschritt nicht einfach in Optimismus oder Pessimismus ein
- Sowohl der Optimismus „Es wird schon alles gutgehen“ als auch der Fatalismus „Es geht ohnehin alles schief“ sind gefährlich
- Nur wenn man absehbare Probleme im Voraus bedenkt und sich darauf vorbereitet, ist sinnvoller Fortschritt zu erwarten
- Besonders im Kapitalismus steht er der Struktur skeptisch gegenüber, in der Technologie einem kleinen Kreis enorme Vermögen zuführt
- Er sagt, es wäre weit hoffnungsvoller, wenn man Wege fände, mit denen neue Technologien nicht die Ungleichheit verschärfen, sondern allen zugutekommen
Fazit
- Ted Chiang argumentiert, dass man in einer Lage, in der menschliche Sprache, Technologie und Werte eng verflochten sind, zwischen „von Technologie geschaffenen Werkzeugen“ und „wirklich existierendem Leben“ unterscheiden muss
- Diese Unterscheidung erfordert philosophisches und gesellschaftliches Nachdenken und lässt sich nicht mit einem rein technischen Engineering-Ansatz lösen
- Im gesamten Interview betont Chiang, dass es einen grundlegenderen Perspektivwechsel braucht, wenn wir trotz des Fortschritts von Sprache und Technologie unsere Menschlichkeit bewahren wollen
Verwandte Leseempfehlungen von LARB
- Mit Ted Chiangs Erzählband 『Exhalation: Stories』 lässt sich die Beziehung zwischen Mensch und Technologie vertieft betrachten
- Durch Gespräche mit Alison Gopnik und Melanie Mitchell lässt sich darüber nachdenken, wie AI lernt und welche Verantwortung Menschen dabei tragen
1 Kommentare
Hacker-News-Kommentar
Chiangs aufschlussreiche Perspektive zeigt sich in der Diskussion über die Bedeutung von Magie. Seine Sicht auf die tatsächlichen Schlussfolgerungsfähigkeiten von LLMs wirft jedoch Fragen auf. Dabei wird die Frage aufgeworfen, ob ein von einer KI bewiesenes Theorem nur ein simulierter Beweis ist
Sich vorzustellen, dass ein Drucker Schmerz empfinden könnte, ist sinnlos. Das wird als Beispiel verwendet, um den Unterschied zwischen dem zu erklären, was KI tatsächlich empfindet, und dem, was sie nur simuliert
In Zukunft könnte es politische Debatten über KI-Rechte geben, und es besteht die Möglichkeit, dass Technologien entwickelt werden, die unterscheiden können, ob KI tatsächlich denkt und fühlt. Allerdings könnten manche Menschen die Gensequenz für echte Intelligenz nicht besitzen
Ted Chiang ist ein SF-Autor, der Menschlichkeit über Technologie stellt, und seine Werke eignen sich für Menschen, die Kurzgeschichten mögen, die wissenschaftliche, gesellschaftliche und philosophische Elemente enthalten
Greg Egans "Axiomatic" wird ebenfalls als Anthologie mit frischen Ideen empfohlen
Ted Chiang gehört zu den besten Autoren von SF-Kurzgeschichten; seine Werke sind äußerst klug und erkunden verschiedene Themen. "Understand" und "Exhalation" sind repräsentative Werke von ihm
Chiangs Geschichten sind großartig, aber sein Verständnis von LLMs ist begrenzt. Seine Behauptung, dass LLMs bei der Informationssuche Suchmaschinen unterlegen seien, ist offensichtlich falsch
Ted Chiangs Texte sind intellektuell unterhaltsam, und besonders seine Kurzgeschichtensammlung "Exhalation" wird empfohlen
Geschichten wie "Division by Zero" sind weitaus wünschenswerter als die Art und Weise, wie Kinder heute wie Roboter erzogen werden
Der optimistische Blick auf technischen Fortschritt nimmt ab, da Technologie oft zur Anhäufung von Reichtum genutzt wird. Die Schaffung von Wohlstand zu verhindern ist jedoch kein Weg, Ungerechtigkeit zu lösen
Ted Chiangs Analogien bereiten Freude bei der Erkundung philosophischer Fragen. Seine Werke helfen dabei, der Realität zu entkommen
Der Ausdruck "LLMs sind ein verschwommenes JPEG des Webs" ist seit den frühen Tagen von ChatGPT im Gedächtnis geblieben. Auch seine Texte darüber, warum KI keine Kunst schaffen kann, sind gut
KI wird als Werkzeug zur Anhäufung von Reichtum für bestimmte Gruppen genutzt, und Ted Chiang vertritt eine ähnliche Sichtweise
Sich vorzustellen, dass ein Drucker Schmerz empfinden könnte, ist sinnlos. Das menschliche Gehirn hat keine Schmerzrezeptoren, und dies wird genutzt, um den Unterschied zwischen KI und menschlichem Lernen zu erklären
LLMs sind wie Suchmaschinen, die Informationen rekonstruieren und bereitstellen. Das wirft die Frage auf, wie sich das vom menschlichen Lernen unterscheidet. Wenn das Training von Modellen dem menschlichen Lernen ähnelt, könnte das Auswirkungen auf Fragen des geistigen Eigentums bei abgeleiteten Werken haben