„Aber dann ist es genau so gekommen.“ – Casey Muratoris Kommentar zu Eric Schmidts Abschlussrede

 (youtu.be)
1 Punkte von GN⁺ 12 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Der Kern von Eric Schmidts Rede liegt weniger bei den Buhrufen über KI als in der Formulierung, die zwar die Nebenwirkungen des Internets anerkennt, dabei aber den Ort der Verantwortung verwischt
  • Seine Zeit in der Google-Führung fiel mit der Phase zusammen, in der sich Internet-Geschäftsmodelle wie Werbung, Datensammlung, Verhaltensmanipulation und A/B-Tests verfestigten
  • Der Rahmen, wonach „dieselben Werkzeuge“ sowohl für gute als auch für schlechte Zwecke genutzt wurden, lässt Dark Patterns eher wie ein Nebenprodukt als wie eine entworfene Struktur erscheinen
  • Obwohl er Studierenden rät, in die Räume zu gehen, in denen über KI entschieden wird, fehlt eine Fehleranalyse dazu, was bei früheren Technologien schiefgelaufen ist
  • Wenn KI nicht denselben Weg wie das Internet gehen soll, muss anerkannt werden, dass die schlechten Seiten der Vergangenheit nicht von selbst entstanden sind, sondern das Ergebnis menschlicher Gestaltung waren

Verwischte Verantwortung in der Abschlussrede

  • Eric Schmidts Abschlussrede an der University of Arizona ist vor allem wegen der Buhrufe auf seine KI-Aussagen bekannt geworden, doch der wichtigere Teil liegt in der ersten Hälfte, in der er die Nebenwirkungen des Internets anspricht
  • Schmidt sagt, er habe geglaubt, dass die Verbindung aller Menschen auf der Erde und der Zugang zu den Informationen der Welt zur Demokratisierung von Wissen, zur Linderung von Armut und zu einer klügeren und freundlicheren Gesellschaft führen würden
  • Zugleich räumt er ein, dass dieselben Werkzeuge Menschen isoliert haben, dass Plattformen, die allen eine Stimme geben sollten, die öffentliche Debatte beschädigt haben und dass sie Wut belohnten, die schlimmsten Instinkte verstärkten und die Art, wie wir miteinander sprechen und umgehen, verrohten
  • Niemand habe Technologien bauen wollen, die Demokratien polarisieren und junge Generationen ängstlich machen, und er formuliert es sinngemäß als: „Das war nicht unser Plan, aber dann ist es genau so gekommen“
  • Während die erwarteten guten Folgen aktiv beschrieben werden, werden die schlechten Folgen mit passiven Formulierungen behandelt, wodurch unklar bleibt, wo die Verantwortung liegt

Seine Position als Google-Manager

  • Schmidt war von 2001 bis 2017 CEO und in weiteren Führungsrollen bei Google tätig; diese Zeit überschneidet sich mit der Phase, in der die Dark Patterns des Internetgeschäfts entwickelt und in der Branche etabliert wurden
  • Google wird als das Unternehmen behandelt, das Internet-Geschäftsmodelle wie Werbung, Datensammlung, Manipulation des Nutzerverhaltens und die Praxis, alles per A/B-Tests zu optimieren, maßgeblich vorangetrieben hat
  • Wenn Steve Wozniak über die frühen Apple-Computer sagen würde, dass er keine geschlossenen Ökosysteme oder Gerätekontrolle beabsichtigt habe, könnte das glaubwürdig klingen; bei Schmidt lässt sich dieselbe Distanz jedoch schwer anwenden
  • Problematisch erscheint, dass Schmidt sich selbst nur als jemanden sieht, der ein „Werkzeug“ namens Suchmaschine gebaut hat, und dies gedanklich von den Schichten aus Werbegeschäft, Datensammlung, Verhaltenssteuerung und Dark Patterns trennt
  • Der Rahmen, wonach „dasselbe Werkzeug“ für ein positives X wie auch für ein negatives Y genutzt wurde, lässt schlechte Folgen eher wie Nebenprodukte eines edlen Ziels erscheinen statt wie bewusst entworfene und gebaute Strukturen

KI-Aussagen und die Buhrufe der Studierenden

  • Im späteren Teil der Rede fordert Schmidt die Studierenden auf, in die Räume zu gehen, in denen KI-bezogene Entscheidungen getroffen werden, dort ihre Stimme einzubringen und menschliche Werte sowie Urteilsvermögen mitzunehmen
  • Technologie sei an sich nur ein Werkzeug; Menschen entschieden, worauf optimiert werde, und in der Lebenszeit der Studierenden würden diese „Jemanden“ die Studierenden selbst sein, sagt er
  • Es folgt eine Botschaft, sich für „Freiheit“, „offene Debatte“, das „langsame, chaotische, aber schöne Projekt, mit Menschen anderer Meinung zusammenzuleben“, „Gleichheit“ und „vielfältige Perspektiven“ zu entscheiden
  • Diese Studierenden haben jedoch nie eine andere Gestalt von Technologie erlebt wie frühere Generationen; sie kennen nur eine von Dark Patterns geprägte Technologie, die man nicht besitzt, deren Daten bei anderen gespeichert werden, in der Verhalten verfolgt, Daten verkauft und Menschen für Werbung ins Visier genommen werden
  • Dass ausgerechnet ein zentraler Entscheider früherer Technologiezyklen solchen Studierenden sagt, sie sollten sich mit Begeisterung in die nächste Technologiewelle stürzen, hat eine komplexere Bedeutung, als es der bloße Eindruck eines Anti-KI-Buhrufes nahelegt

Was fehlt, sind Entschuldigung und Fehleranalyse

  • Schmidt erkennt zwar an, dass die schlechten Folgen der Vergangenheit während seiner Amtszeit und im Raum seiner Entscheidungen entstanden sind, legt aber keine Reflexion darüber vor, warum es zu diesem Scheitern kam
  • Es fehlt jede Erklärung dazu, warum zugelassen wurde, dass sich auf einem nützlichen Werkzeug schlechte technische und geschäftliche Schichten aufbauen konnten, warum das nicht verhindert wurde und an welchen Punkten Verantwortung übernommen werden müsste
  • Wirklich wertvoller Rat für die Studierenden wäre nicht der Appell gewesen, in die Räume neuer Technologien zu gehen, sondern eine konkrete Analyse dessen, was bei früheren Technologien schiefgelaufen ist und welche Entscheidungen genau zu diesen Ergebnissen geführt haben
  • Die Angst vor KI kommt nicht aus einer abstrakten Furcht vor Technologie selbst, sondern aus der Erinnerung daran, dass Entscheider im Silicon Valley bei der letzten Welle neuer Technologien die Dark-Pattern-Version gebaut haben
  • Wenn ohne Entschuldigung, ohne Anerkennung von Verantwortung und ohne einen Plan zur Vermeidung von Wiederholungen nur die passive Formulierung bleibt, „so ist es eben gekommen“, dann wächst das Misstrauen, dass auch KI denselben Weg wie das Internet nehmen wird

Bedingungen, um die nächste Wiederholung zu verhindern

  • Die schlechten Seiten des Internets sind nicht automatisch entstanden, nachdem das Werkzeug für die Massen freigegeben wurde, sondern waren das Ergebnis davon, dass Menschen die schlechten Teile tatsächlich gebaut haben
  • Damit KI nicht denselben Weg wie das Internet geht, muss anerkannt werden, warum das geschehen ist und welche Entscheidungen genau zu diesen Folgen geführt haben
  • Nicht nur die nächsten Schmidt-Generationen, sondern auch Figuren wie Schmidt selbst, die heute noch Einfluss im Silicon Valley und in Washington DC haben, müssen davon überzeugt werden, dass frühere Entscheidungen die heutige Technologielandschaft geformt haben
  • Ohne Anerkennung und Reflexion durch die Verantwortlichen besteht die Gefahr, dass sich im nächsten Technologieschub dieselben Geschäftsmodelle und Dark Patterns wiederholen
  • Die Schlussfolgerung, dass es beim nächsten Mal besser laufen muss, darf nicht aus Technologieoptimismus entstehen, sondern aus einem verantwortungsvollen Umgang mit den Fehlern der Vergangenheit

Verwandte Beiträge

1 Kommentare

 
GN⁺ 12 시간 전
Lobste.rs-Kommentare

  • Für Leute, die es lieber lesen möchten, gibt es ein Transkript

  • Sehenswert. Casey war schon immer klug, aber dieses Thema war deutlich gewichtiger als die Technikthemen, über die er sonst spricht

    • Stimme zu. Ich wusste nicht, was ich erwarten sollte, aber er bringt ziemlich starke Argumente vor
      Schmidt sagt den Studierenden sinngemäß, sie sollten Menschlichkeit in die Räume bringen, in denen über Technologie entschieden wird, und das klingt erst einmal plausibel. Aber wenn man sich anschaut, wie es gerade läuft, werden Entscheidungen über Technologien, die alle betreffen, wie etwa KI, von anderen Leuten getroffen, während der Rest von uns offenbar gar nicht in diesem Raum ist

  • Wie im Text hervorgehoben wird, ist der entscheidende Punkt die Stelle, an der die Sprache plötzlich vollständig ins Passiv wechselt. Er sagt nicht: „Wir haben das gebaut, es hatte schlimme Folgen, und das war unsere Schuld“, oder „Wir haben einen furchtbaren Fehler gemacht“ oder „Hier haben wir versagt“
    Joseph Weizenbaum hat genau dieses Problem schon 1976 in Computer Power And Human Reason benannt. Selbst Spitzenmanager stellen sich als unschuldige Opfer von Technologien dar, für die sie weder Verantwortung tragen noch die sie verstehen, und so löst sich Verantwortung in der Vorstellung auf, „dass es in der Tragödie zwar Handlungen gab, aber keine Handelnden“. Der Mythos technischer, politischer und sozialer Unvermeidlichkeit wirkt wie ein starkes Beruhigungsmittel, das das Gewissen betäubt und die tatsächlich existierenden Akteure von Verantwortung entlastet
    Formulierungen nach dem Muster „Das System ist verantwortlich, nicht die Menschen“ wiederholen sich, und selbst die Frage, ob wir so eine Zukunft überhaupt wollen, verschwindet. Übrig bleibt nur die Haltung, dass sie eben kommt, nicht aufzuhalten ist und sich nicht rückgängig machen lässt

  • Unheimlich, aber es hat meine Sorgen gut eingefangen. Ich bin eines der Kinder des Internets dieser Ära, und dieses Video fühlt sich an, als hätte es diesem Gefühl einen Namen gegeben

  • Casey war selbst gegenüber zu hart. Das ist ein sehr gut gemachtes Video und passt auch gut zu meiner Reaktion, als ich die Schlüsselszenen dieser Rede gesehen habe
    Und die Anspielung auf I Think You Should Leave war auch lustig. Hier gibt es sehr viel von dieser Stimmung à la „Wir versuchen alle herauszufinden, wer das getan hat“

  • Diese Haltung nach dem Motto „Wir wollten doch nur eine bessere Welt schaffen, und dann sind irgendwie schlechte Dinge passiert“ sagt wirklich über vieles etwas aus. Eric Schmidt ist im wörtlichen Sinn heuchlerisch und rationalisiert wie viele Menschen, die mit ihrem Handeln Schaden angerichtet haben, sein eigenes Verhalten
    Ein weiterer wichtiger Aspekt ist die Generationenfrage. Schmidts Generation hält zu viel politische und wirtschaftliche Macht in den Händen. Junge Menschen heute sind nicht dumm, sie sehen, was vor sich geht. Ihr Leben wird von älteren Leuten kontrolliert, und die sagen der jungen Generation, sie müsse mit unsicherer Beschäftigung, wirtschaftlicher Not, dystopischer Technologie und Umweltkrise zurechtkommen. Gleichzeitig behaupten sie, das alles sei „einfach passiert“, obwohl jeder weiß, dass genau diese Leute die Situation herbeigeführt haben. Dass die Studierenden buhen, ist nur natürlich. Ich hätte es auch getan.