In US-Social-Media-Prozess wird Meta und Google vorgeworfen, „Sucht per Design“ geschaffen zu haben

• In Los Angeles hat der erste US-Geschworenenprozess dieser Art begonnen: Social-Media-Unternehmen wird vorgeworfen, absichtlich süchtig machende Plattformen entwickelt und Gewinne über die psychische Gesundheit von Kindern gestellt zu haben
• Die Anwälte der Klägerseite argumentieren, Meta und YouTube hätten eine Strategie der „addiction by design“ verfolgt und Kindern Sucht „ins Gehirn eingebaut“
• Metas Anwälte entgegnen, die psychischen Probleme der Klägerin seien nicht durch Instagram, sondern durch das familiäre Umfeld und Mobbing in der realen Welt verursacht worden
• Der Prozess gilt als Bellwether-Klage und dürfte als Präzedenzfall für Schadensersatzhöhe und Richtung in Hunderten ähnlicher Verfahren in den USA dienen
• Mark Zuckerberg wird nächste Woche als Zeuge aussagen; Strategien aus den Tabakprozessen der 1990er- und 2000er-Jahre werden nun in ähnlicher Form auf Social-Media-Unternehmen angewendet

---

Überblick über den Prozess und zentrale Streitpunkte

• Vor einem kalifornischen Gericht hat ein historischer Social-Media-Prozess begonnen: Meta und Googles YouTube wird vorgeworfen, Kindern hochgradig süchtig machende Apps aufgedrängt zu haben
• Das Verfahren vor einer Jury in Los Angeles könnte einen rechtlichen Präzedenzfall dafür schaffen, ob Social-Media-Konzerne ihre Plattformen absichtlich so entworfen haben, dass sie bei Kindern Sucht auslösen
• Meta-CEO Mark Zuckerberg soll nächste Woche im Zeugenstand erscheinen; Instagram-Chef Adam Mosseri wird ab Mittwoch vor Gericht erwartet
• Zu Metas Plattformen gehören neben Instagram auch Facebook und WhatsApp

Vorwürfe der Klägerseite

• Klägeranwalt Mark Lanier sagte in seinem Eröffnungsplädoyer, in diesem Fall gehe es um die zwei reichsten Unternehmen der Geschichte, die Sucht in die Gehirne von Kindern hineinkonstruiert hätten
• Er bezeichnete den Fall als „so einfach wie A-B-C“ und stapelte Spielzeugklötze, wobei A für Addicting (süchtig machend), B für Brains (Gehirne) und C für Children (Kinder) stehe
• Er behauptete, „sie bauen nicht einfach Apps, sie bauen Fallen“, und nutzte dazu einen Spielzeug-Ferrari und einen Mini-Spielautomaten als Requisiten
• Er argumentierte, Meta und YouTube hätten „addiction by design“ verfolgt
• Der Mutter der Klägerin Kaley sei nicht mitgeteilt worden, dass YouTubes „Ziel die Sucht der Zuschauer“ sei; zudem habe das Unternehmen selbst Zweijährige angesprochen und dabei ein „ernstes“ Suchtrisiko ignoriert

Metas Gegenargumente

• Metas Anwalt Paul Schmidt entgegnete, die Probleme der Klägerin mit Selbstwertgefühl, Körperbild und Glücksempfinden seien nicht auf Instagram, sondern auf familiäre Probleme und Mobbing in der realen Welt zurückzuführen
• Er fragte die Geschworenen: „Wenn Instagram verschwände, aber alles andere in Kaleys Leben gleich bliebe, hätte sich ihr Leben dann völlig verändert, oder hätte sie weiterhin unter denselben Problemen gelitten?“
• Zudem verwies er darauf, dass in den als Beweismittel vorgelegten Krankenakten nirgendwo eine Instagram-Sucht erwähnt wird

Hintergrund des Falls und die Klägerin

• Unter Vorsitz von Richterin Carolyn Kuhl behandelt der Prozess die Vorwürfe einer 20-jährigen Frau, die als Kaley G.M. bezeichnet wird und seit ihrer Kindheit von Social Media abhängig geworden sei, was zu schweren psychischen Schäden geführt habe
• In Hunderten Klagen gegen Social-Media-Unternehmen wird behauptet, junge Nutzer seien durch Inhalte abhängig geworden und hätten Depressionen, Essstörungen, psychiatrische Einweisungen und sogar Suizid erlitten
• Der Fall ist als Bellwether-Klage eingestuft; sein Ausgang dürfte Maßstäbe für den Verlauf ähnlicher Verfahren und die Höhe möglicher Entschädigungen in den USA setzen

Parallelen zu Klagen gegen die Tabakindustrie

• Die Anwälte der Klägerseite greifen auf Strategien zurück, die bereits in Verfahren gegen die Tabakindustrie in den 1990er- und 2000er-Jahren eingesetzt wurden
  • Die Struktur ähnelt der damaligen Argumentation, Tabakkonzerne hätten trotz Kenntnis der Schädlichkeit ihrer Produkte weiterverkauft
• Matthew Bergman, Gründer des Social Media Victims Law Center, sagte, es sei „das erste Mal, dass Social-Media-Unternehmen wegen Schäden an Kindern vor einer Jury stehen“
  • Das Team des Zentrums ist an mehr als 1.000 ähnlichen Verfahren beteiligt

Section 230 und rechtliche Fragen

• Große Internetkonzerne haben sich bisher auf Section 230 des US-Kommunikationsanstandsgesetzes (Communications Decency Act) berufen und argumentiert, sie seien nicht für Inhalte verantwortlich, die von Social-Media-Nutzern veröffentlicht werden
• In dieser Klage wird jedoch geltend gemacht, die Unternehmen seien für das Geschäftsmodell selbst verantwortlich, das darauf ausgelegt sei, die Aufmerksamkeit der Nutzer festzuhalten und Inhalte zu fördern, die der psychischen Gesundheit schaden könnten
• Die Klägerseite will Sachverständige aufrufen, die darlegen sollen, dass sich das Gehirn Jugendlicher noch nicht so weit entwickelt hat, dass es den Einflüssen der Algorithmen von Instagram und YouTube standhalten kann

Reaktionen der Unternehmen

• Meta verwies auf jüngste Bemühungen um verstärkte Schutzmechanismen für junge Nutzer und erklärte, man arbeite „stets daran, besser zu werden“
• YouTube-Sprecher Jose Castaneda wies die Vorwürfe zurück und sagte, die Behauptungen in der Klage seien nicht zutreffend
• Die Anwälte von YouTube werden der Jury am Dienstag ihr Eröffnungsplädoyer vortragen

Weitere Beklagte und verbundene Klagen

• Auch Snapchat und TikTok waren als Beklagte benannt, schlossen jedoch vor Prozessbeginn Vergleiche ab; die Bedingungen wurden nicht veröffentlicht
• Einschließlich Klagen von Schulbezirken laufen vor dem Bundesgericht in Nordkalifornien und vor Gerichten in Bundesstaaten im ganzen Land weitere Verfahren, die riskante Praktiken von Social-Media-Plattformen gegenüber Jugendlichen anprangern
• Eine separate Klage gegen Meta, in der dem Unternehmen vorgeworfen wird, Gewinne über das Wohlergehen jugendlicher Nutzer gestellt zu haben, wurde am Montag auch in New Mexico eröffnet

[GN⁺]

Hacker-News-Kommentare

• Als ich bei dem Unternehmen gearbeitet habe, hing jede Woche ein neuer Aushang an der Innenseite der Toilettenkabinentür
  In einer Woche stand dort, „Feed-Videos müssen Nutzer innerhalb von 0,2 Sekunden fesseln“, und es wurde betont, dass sich so wissenschaftlich ein Sucht-Effekt erzeugen lasse
  In diesem Moment wurde mir klar — das Unternehmen betrachtete die Nutzer als „Beute“. Unser Ziel war es, Werbekunden davon zu überzeugen, dass wir „Werkzeuge besitzen, mit denen sich das Gehirn der Nutzer neu programmieren lässt“
  • Letztlich kann man das auch so verstehen, dass Menschen sehr schnell das Interesse verlieren und man deshalb die Kernbotschaft sofort vermitteln muss, wenn man ihnen Werbung zeigen will
  • Die Formulierung „Nutzer als Beute“ ist beängstigend, aber realistisch gesehen gar nicht so weit hergeholt
  • Menschen außerhalb technischer Berufe wissen oft nicht, wie unverhohlen sie manipuliert werden
    Ich habe statistische Experimente wie A/B-Tests und dynamische Preisalgorithmen gemacht, und Freunde sind oft schockiert, wenn sie davon erfahren
    Reaktionen wie „Amazon zeigt also nicht allen denselben Bildschirm?“ überraschen mich immer wieder
    Diese Manipulation ist innerhalb von Unternehmen kein Geheimnis, und bei Manipulation unter dem Namen „Optimierung“ empfindet niemand Schuldgefühle
    Deshalb habe ich die D2C-Branche am Ende verlassen. Mir wurde klar, dass man den Nutzern dort keinen echten Wert bietet, sondern ihnen eher schadet
    Im B2B-Bereich gibt es immerhin echte Beziehungen, sodass kurzfristige Manipulation weniger verlockend ist
  • Ironischerweise könnten Facebook-Mitarbeiter selbst am leichtesten zu „programmieren“ sein, wenn schon so einfache Toiletten-Aushänge bei den Mitarbeitern Wirkung zeigten
  • Ich habe nie bei einem FAANG-Unternehmen gearbeitet, aber Toiletten-Aushänge klingen schon etwas seltsam
    Es klingt teils nach Unternehmensmitteilung, teils nach privater Aktion. Falls es ein Foto gibt, würde ich das wirklich gern sehen
• Ein großer Teil der Tech-Industrie basiert auf der Aufmerksamkeitsökonomie
  Wenn Daten mit dem Ziel optimiert werden, Nutzer den ganzen Tag in einer App zu halten, entsteht am Ende ein produktähnliches Suchtmittel
  • Ich kann nicht nachvollziehen, dass so kluge Leute nicht bemerkt haben sollen, dass sie beim Aufbau eines Sucht-Systems mithelfen
    Ich frage mich, ob das einfach ein moralisches Problem ist oder ob es an sozialem Gespür fehlt
  • In einer idealen Welt müsste man Unternehmen, die bei Kindern Sucht auslösen, strafrechtlich verfolgen und ihre Gewinne einziehen
    Aber die Realität sieht anders aus. Ohne Regulierung setzen Unternehmen weiterhin schädliches Verhalten fort, solange es netto profitabel ist
  • Das erinnert mich an die „Umpty Candy“-Geschichte aus den Judge-Dredd-Comics der 80er
    Das war keine Droge, sondern eine Süßigkeit, die allein durch optimierten Geschmack süchtig machte
  • Tatsächlich war in den letzten 5–6 Jahren für mich Hacker News am süchtig machendsten
    Auch der HN-Algorithmus bringt mich dazu, mehrmals am Tag vorbeizuschauen.
    Wenn es nur einmal täglich aktualisiert würde, gäbe es diese Sucht nicht.
    Am Ende betreibt also auch HN „Sucht durch Design“
  • Viele Probleme des Internets stammen vom Modell „kostenloser Dienst + Werbeeinnahmen“
    Inzwischen denke ich eher, dass wir ein bezahltes Internet brauchen.
    Früher glaubte ich, „Information will frei sein“, aber inzwischen habe ich das Gefühl, dass wir Mauern brauchen
• Selbst wenn tatsächlicher Schaden rechtlich bewiesen wird, ist fraglich, ob es überhaupt Abhilfemaßnahmen geben wird
  Bei der Opioidkrise endete es bei der Familie Sackler letztlich auch mit Verhandlungen über Geldstrafen
  Wenn man solche Präzedenzfälle sieht, wirkt es, als könnten Big-Tech-Unternehmen sich über Jahrzehnte durch Berufungen der Verantwortung entziehen
  • Schon früher gab es bei Tabak, Drogen und verarbeiteten Lebensmitteln das gleiche wiederkehrende Muster von Suchtindustrien
    Etwa als Philip Morris statt auf Zigaretten auf Lebensmittel setzte, die „aus der Packung in den Mund“ gehen
    Aber die heutigen Social-Media-Unternehmen scheinen nicht einmal noch dieses Maß an Verantwortungsgefühl zu haben
  • Wenn es in diesem Fall besonders um für Minderjährige konzipierte Suchtmechanismen geht, frage ich mich, ob das die rechtliche Bewertung verändern könnte
• Ich habe gehört, ein Anwalt habe Bauklötze gestapelt und gesagt, „dieser Fall ist so einfach wie A-B-C“
  Ehrlich gesagt wirkte das auf mich ziemlich kindisch, aber bei Geschworenen kann so eine theatralische Inszenierung durchaus funktionieren
  • Im Auswahlprozess für Geschworene werden ohnehin bereits besonders engagierte oder fachkundige Menschen ausgeschlossen
    Am Ende wird der Gerichtssaal zu einer Art Bühne, und Anwälte spielen wie Schauspieler
  • Solche Requisiten-Inszenierungen können auch ein Signal dafür sein, dass schwache Beweise kaschiert werden sollen
    Der Anwalt von Meta habe stattdessen betont, „das Problem liege am familiären Umfeld und an Mobbing in der Schule“,
    und hervorgehoben, dass es in den Krankenakten keinen Hinweis auf Sucht gebe
    Wie damals, als Videospiele verteufelt wurden, fühlt es sich auch diesmal so an, als werde wieder die Erzählung bemüht, „die Gehirne der Kinder süchtig zu machen“
    Man sollte auch bedenken, dass solche Klagen am Ende zu Regulierungen wie Discords Richtlinie zur Identitätsprüfung führen
  • Diese wortspielartige Inszenierung ist eine Strategie, um „Sucht, Gehirn, Kinder“ in den Köpfen der Geschworenen zu verankern
  • Am Ende müssen Slogans einfach und emotional leicht erinnerbar sein
• Der Satz „Man baut keine Apps, man baut Fallen“ ist mir im Gedächtnis geblieben
  Bisher ist das allerdings nur das Eröffnungsstatement des Anwalts, also sollte man auf die tatsächlichen Beweise warten
  • Wer YouTube Shorts benutzt hat, hat die Beweise vielleicht schon selbst erlebt
  • Ich warte darauf, dass in internen E-Mails auftaucht, dass Umsatz wichtiger war als die Gesundheit der Nutzer
• Wenn man per A/B-Testing das Engagement steigert, entstehen womöglich unbeabsichtigt süchtig machende Systeme
  Das ist ähnlich wie bei amerikanischem Essen, das immer süßer wird
  Am Ende ist es wie eine Tragik der Allmende: Alle tragen ein bisschen Verantwortung, aber niemand hört auf
  • Laut internen Dokumenten soll das Unternehmen jedoch die Sucht von Kindern erkannt und trotzdem nichts unternommen haben
    Deshalb wurde diese Klage eingereicht
  • Dieses Phänomen ungehindert laufen zu lassen, war ein politisches Versagen. Der Staat hätte statistisch schädliche Muster regulieren müssen
  • Weil Führungskräfte keine Beweise in E-Mails hinterlassen, wird es schwierig sein, Vorsatz nachzuweisen
  • Auf die Frage „Wer sollte die Verantwortung tragen?“ ist die Antwort klar — nicht die Kinder, sondern das Unternehmen
• Ich habe einmal einen YouTube-Mitarbeiter gefragt, „Benutzen deine Kinder YouTube Kids?“
  Er antwortete: „Auf gar keinen Fall, bei uns zu Hause ist das verboten“
  Mit diesem einen Satz habe ich alles verstanden — es gibt einen klaren Grund, warum sie ihr eigenes Produkt nicht konsumieren
• „Wollen Restaurants nicht auch, dass Gäste wiederkommen, und schreiben Autoren nicht auch so, dass man das Buch nicht aus der Hand legen kann?“
  Letztlich konkurrieren alle Medien darum, Aufmerksamkeit zu gewinnen
  Ich denke, es ist wichtig, dass der Einzelne Informationshygiene wahrt
  • Aber das ist etwas anderes. Ein Restaurant mischt seinem Essen kein Kokain bei
    Lesesucht ist im Gegenteil eher positiv
    Das Problem ist eine Struktur, in der die Selbstkontrolle beim Konsum geschwächt wird
    Für Autos, Medikamente und Klimaanlagen gibt es Sicherheitsstandards, aber für Social Media gibt es überhaupt keine Regulierung
    Entscheidend ist, dass es bislang keinen ausgleichenden Schutzmechanismus für Verbraucher gibt
  • In Lebensmitteln sind suchterzeugende Stoffe verboten, und ein Buch ist eine freiwillige Wahl,
    aber Social Media erzeugt ungewollte Sucht. Am Ende bleibt nur, ganz damit aufzuhören
  • Wenn man den Mechanismus der Dopaminausschüttung versteht, erkennt man, dass das etwas anderes ist als bloßes „Aufmerksamkeitserregen“
  • Wenn ich dir heimlich gewohnheitsbildende Stoffe in dein Getränk mischen würde, wäre das eindeutig falsch
  • Restaurants werden geschlossen, wenn sie Hygienevorschriften verletzen, aber Plattformen werden überhaupt nicht sanktioniert
• Am Ende werden die CEOs wie in der Tabakindustrie behaupten, „wir wussten es nicht“
  Aber auch diesmal wird es wohl kaum dazu kommen, dass jemand zur Verantwortung gezogen wird
  • Wie bei dem Satz „Ich habe nicht die Drogen genommen, die Drogen haben mich genommen“
    besteht auch bei Social-Media-Sucht die Gefahr, dass daraus eine Logik der Verantwortungsvermeidung wird
• Wenn Empfehlungsalgorithmen im Abstand von 1–2 Sekunden darauf ausgelegt sind, Aufmerksamkeit festzuhalten, dann ist das weniger „Engagement“ als vielmehr auf Sucht ausgelegtes Design
  Für eine bewusste Entscheidung des Nutzers bleibt dann kaum noch Raum