Um Werbung zu verkaufen, erschaffen wir die Hölle [Video]

• Die Bedrohung durch künstliche Intelligenz liegt nicht bei Robotern, sondern in der Art, wie Machthaber künstliche Intelligenz einsetzen
• Digitale Werbung und Überzeugungsstrukturen entwickeln sich in die Richtung, die Schwächen jedes einzelnen Nutzers zu erkennen und auszunutzen
• Machine-Learning-Algorithmen sagen menschliches Verhalten auf eine Weise voraus und lenken es, die wir nicht verstehen können
• Datensammlung und algorithmische Manipulation werden für Politik und gesellschaftliche Einflussnahme eingesetzt
• Wir müssen die Struktur digitaler Systeme transparent neu gestalten und Technologie so weiterentwickeln, dass menschliche Werte gewahrt bleiben

---

Künstliche Intelligenz und Macht: die realistische Gefahr

• Die eigentliche Angst vor künstlicher Intelligenz gilt nicht Terminator-ähnlichen Robotern, sondern dem Risiko, dass Machthaber künstliche Intelligenz manipulieren, um Menschen zu kontrollieren
• Wie in George Orwells "1984" könnten Überwachungssysteme Realität werden
• Unternehmen entwickeln Technologien, die persönliche Freiheit und Würde verletzen können
• Firmen wie Facebook, Google, Amazon, Alibaba und Tencent konzentrieren sich auf Datensammlung und -analyse über Werbung

Die Entwicklung digitaler Werbung und von Überzeugungsstrukturen

• Frühere Werbung war auf begrenzten physischen Raum und Targeting angewiesen, doch in der digitalen Welt ist personalisierte Überzeugung für jeden Einzelnen möglich
• Internetwerbung erzeugt auf Basis dessen, was wir gesehen, gesucht und besprochen haben, endlos nachlaufende personalisierte Anzeigen
• Anders als in der physischen Welt kann der digitale Raum Überzeugungsstrukturen in Echtzeit in Milliardenmaßstab betreiben

Die Stärke und Grenzen von Machine-Learning-Algorithmen

• Machine-Learning-Algorithmen werden genutzt, um mit großen Datenmengen individuelles Verhalten vorherzusagen und zu manipulieren
• Selbst Programmierer verstehen nicht vollständig, wie das Innere der Algorithmen funktioniert
• Je mehr Daten vorhanden sind, desto leistungsfähiger werden die Algorithmen; deshalb versuchen Unternehmen, so viele Daten wie möglich zu sammeln

Soziale Medien und politische Manipulation

• Facebook und YouTube können mithilfe von Algorithmen politische Neigungen analysieren und beeinflussen
• So nutzt Facebook etwa nicht öffentliche Pinnwände, um Informationen nur bestimmten Bevölkerungsgruppen anzuzeigen
• Es gibt Fälle, in denen schon ein einzelner einfacher Beitrag das Wahlverhalten von Hunderttausenden verändert hat
• Der Empfehlungsalgorithmus von YouTube erzeugt den "Rabbit-Hole"-Effekt, der Nutzer in extreme Inhalte hineinzieht

Warum digitale Systeme neu gestaltet werden müssen

• Wir befinden uns derzeit in einer Situation, in der wir nicht wissen, welche Informationen wir sehen und was andere Menschen sehen
• Algorithmen können persönliche Merkmale wie Ethnie, politische Neigung und sexuelle Orientierung erkennen
• China verstärkt sein Überwachungssystem mit Gesichtserkennungstechnologie, und auch der Westen ist ähnlichen Risiken ausgesetzt
• Digitale Technologien müssen auf Grundlage menschlicher Werte neu aufgebaut und transparent gemacht werden
• Das erfordert umfassende Veränderungen von Technologie über Kreativität bis hin zu politischen Strukturen

Fazit: Verantwortung, die mit digitaler Technologie wächst

• Digitale Plattformen sind wertvolle Werkzeuge, können aber zugleich zu einer ernsten Bedrohung für Einzelne und die Gesellschaft werden
• Das derzeitige System ist eine Struktur, in der wir als "Ware" gehandelt werden
• Für eine bessere Zukunft brauchen wir Transparenz in der Technologie, menschenzentrierte Werte sowie kreative und politische Veränderungen
• Wir müssen erkennen: "Technologie mit enormem Potenzial kommt mit enormen Risiken"

[GN⁺]

Hacker-News-Kommentare

• Die meisten Internetanzeigen wirken leer und betrügerisch

  • Wenn Anzeigen nicht so sind wie die oben beschriebenen, ist das in Ordnung
  • Ich nutze uBlock Origin, weil der Algorithmus nicht weiß, welche Anzeigen er mir zeigen wird
  • Ich finde, Werbung sollte nicht bezahlte Promotion sein, sondern so gute Werbung, dass Menschen sie tatsächlich sehen wollen
  • Ich mag Werbemusik wie Splendor Song Chalta rahe und höre sie deshalb weiter
  • Die meisten Anzeigen wirken wie Betrug, der verspricht, reich zu werden
  • Ich hasse diese Verkäufer betrügerischer Kurse und denke, dass die Werbeökonomie von Betrügern dominiert wird
  • Es fühlt sich an, als würde dadurch ein Albtraum für die Privatsphäre und eine Dystopie geschaffen
  • Ich würde den Dienst gern nutzen, ohne Werbung zu sehen
  • Ich erwarte keine großen Einnahmen von normalen Kunden statt von Geschäftskunden
  • Ich fühle eine moralische Verpflichtung gegenüber Open Source, aber da Unternehmen selbst hosten können, bin ich hin- und hergerissen
  • Das System wird vom Geld gesteuert, und wenn das Geld knapp wird, wird Moral wahrscheinlich ignoriert
  • Es gibt zu viel Konkurrenz, und die Ideen unterscheiden sich nicht stark genug, also probiere ich Werbung aus

• Um Werbung zu vermeiden, nutze ich in Safari AdBlock Pro und AdBlock

  • Da ich viel Zeit auf YouTube verbringe, habe ich Premium abonniert und die Erweiterung UnTrap for YouTube gekauft, um Empfehlungen auszublenden
  • Ich besuche oft BlueSky, Hacker News und YouTube, nutze aber weder X, TikTok, Instagram noch Facebook
  • Ich versuche, Amazon nicht zu nutzen

• Ich habe mich oft über Einkommensungleichheit beschwert, aber dadurch wird vieles erklärt

  • Menschen können es sich nicht leisten, Geld für Dienste auszugeben, also wird Geld verdient, indem man ihre Aufmerksamkeit abgreift
  • Weil das Produkt kostenlos ist, gibt es keine Erwartung an Support für Nutzer

• Man akzeptiert Cookies, schaut Werbung, schließt Newsletter-Pop-ups und sieht sich dann ein Video über Werbung an

  • Das bringt es wirklich auf den Punkt

• Die Telemetrie-Implementierung von Reddit ist extrem aggressiv

  • Der Endpoint zum Sammeln von Events ändert sich bei jedem Laden der Seite zufällig
  • Alle URLs zur Event-Erfassung sind gültige API-Endpoints, die auch für andere Zwecke verwendet werden
  • Mit üblichen Adblockern ist das schwer zu blockieren
  • Ich halte das für bösartig

• Es gibt viele Kommentare darüber, dass es ja Adblocker gibt, aber sie verfehlen den Punkt

  • Der Schaden der werbefinanzierten Internetökonomie beschränkt sich nicht einfach darauf, Werbung zu sehen
  • Der gesamte Inhalt und die Struktur des Internets werden an diese Ökonomie angepasst und dadurch verzerrt
  • Suchmaschinen, SEO, Mechanismen zur Inhaltsentdeckung sowie Art und Vielfalt der Inhalte hätten besser sein können

• Ich frage mich, ob man einen Angriff starten könnte, der Menschen beim Konsumieren von Werbung spoofed und dadurch Werbemetriken bedeutungslos macht