Gerichtsdokumenten zufolge soll Meta Risiken für Kinder heruntergespielt und die Öffentlichkeit in die Irre geführt haben

• Neu veröffentlichte Gerichtsdokumente legen nahe, dass Meta Probleme bei der Sicherheit von Kindern kannte und die Risiken dennoch herunterspielte oder vertuschte
• Laut internen Aussagen gab es eine nachsichtige Richtlinie, nach der mit Sexhandel verbundene Accounts erst nach „17 Verstößen“ gesperrt wurden, und auch das Meldeverfahren für sexuelle Ausbeutung von Kindern war kompliziert
• Die Unterlagen enthalten verschiedene interne Forschungsergebnisse zu verschlechterter psychischer Gesundheit bei Jugendlichen, unangemessenen Kontakten zwischen Erwachsenen und Minderjährigen sowie süchtig machenden Algorithmen
• Meta soll diese Forschungsergebnisse weder dem Kongress noch der Öffentlichkeit offengelegt und die Einführung von Schutzfunktionen für Jugendliche über Jahre verzögert haben
• Die Klage ist eine groß angelegte Sammelklage mit mehr als 1.800 Klägern und mehreren US-Bundesstaaten und verschärft die Debatte über die Verantwortung von Big Tech beim Jugendschutz

---

Überblick über die Klage

• In Unterlagen der Kläger, die beim US-Bezirksgericht für den nördlichen Bezirk von Kalifornien eingereicht wurden, wird behauptet, Meta habe von schwerwiegenden Schäden auf den eigenen Plattformen gewusst und diese dennoch heruntergespielt oder verschleiert
  • Als Grundlage dienen interne Dokumente, Aussagen früherer und aktueller Führungskräfte sowie interne Forschungsunterlagen
• An der Klage beteiligt sind die Muttergesellschaften von Instagram, TikTok, Snapchat und YouTube; mehr als 1.800 Kläger nehmen daran teil
• Die Kläger behaupten, diese Unternehmen hätten mit einer „Growth-first-Strategie“ die geistige und körperliche Gesundheit von Kindern missachtet

Vorwürfe zu Sexhandel und Meldungen sexueller Ausbeutung von Kindern

• Instagram habe zwar eine Null-Toleranz-Politik gegenüber Material zur sexuellen Ausbeutung von Kindern vertreten, laut Klägern habe es für Nutzer jedoch keinen einfachen Weg gegeben, solche Inhalte zu melden
• Ein ehemaliger Sicherheitsverantwortlicher bei Instagram sagte aus, es habe eine Richtlinie gegeben, nach der mit Sexhandel verbundene Accounts erst nach 17 Verstößen gesperrt wurden
• Ein Meta-Sprecher wies dies zurück und erklärte, Accounts mit Verdacht auf Menschenhandel oder Ausbeutung seien sofort entfernt worden

Vorwurf der Irreführung des Kongresses und der Vertuschung psychischer Gesundheitsforschung

• Interne Forschung kam zu dem Ergebnis, dass die Nutzung von Instagram und Facebook Angstzustände und Depressionen bei Jugendlichen verstärkt
• In einer „Deaktivierungsstudie“ von 2019 nahmen Angst, Depression und Einsamkeit bei Nutzungsstopp ab, doch Meta brach die Studie ab und veröffentlichte die Ergebnisse nicht
• Auf eine Anfrage des Senats im Jahr 2020, ob es einen Zusammenhang zwischen Jugenddepression bzw. -angst und der Nutzungsdauer gebe, antwortete Meta „No“
• Die Kläger argumentieren deshalb, „Meta habe den Kongress belogen“

Vorwurf der Duldung unangemessener Kontakte zwischen Erwachsenen und Jugendlichen

• 2019 schlugen Forscher vor, Jugendkonten standardmäßig auf privat zu stellen, doch das Growth-Team widersetzte sich aus Sorge vor sinkender Beteiligung
  • Bei einer Umstellung auf privat wurde ein Rückgang von jährlich 1,5 Millionen jugendlichen Nutzern erwartet
• Laut interner Analyse hätten sich durch private Standardeinstellungen täglich 5,4 Millionen unerwünschte Interaktionen vermeiden lassen
• Meta setzte dies jedoch erst 2024 umfassend um; bis dahin soll es zu Milliarden unangemessener Kontakte gekommen sein
• Meta entgegnete, seit 2021 würden Konten von unter 16-Jährigen standardmäßig privat gestellt

Strategie zur gezielten Gewinnung jugendlicher Nutzer

• Interne Dokumente zufolge wurde die „Sicherung der Zeit von Teenagern“ seit 2017 zu einem Kernziel
• Meta arbeitete mit Schulen, PTAs und Scholastic zusammen, um Werbemaßnahmen für Schüler durchzuführen
• Interne Forschung zeigte, dass sich Meta der Existenz von Nutzern unter 13 Jahren bewusst war; 2018 nutzten 40 % der 9- bis 12-Jährigen Instagram täglich
• Einige Mitarbeiter kritisierten dies mit den Worten, „auf 11-Jährige zu zielen ist wie die Strategie von Tabakfirmen“
• Stand 2022 gab es 216 Millionen Nutzer mit nicht verifiziertem Alter

Gescheiterte Versuche zur „Schadensminderung“ bei Instagram

• Die Funktion zum Ausblenden von Likes von 2019 (Project Daisy) zeigte positive Effekte auf das Selbstwertgefühl der Nutzer, wurde aber aus Sorge vor sinkenden Werbeeinnahmen gestoppt
• Bei Beauty-Filtern wurde das Risiko einer Verschärfung von Unzufriedenheit mit dem eigenen Körper und Essstörungen festgestellt, sie wurden jedoch aus Sorge vor schlechteren Wachstumskennzahlen wieder eingeführt
• Forscher entwickelten einen KI-Klassifikator zum Blockieren von Inhalten, die Aussehensvergleiche fördern, doch das Management stoppte das Projekt

Unzureichende automatische Löschung schädlicher Inhalte

• Metas KI löscht Inhalte zu Suizid, Essstörungen und sexueller Ausbeutung von Kindern nicht automatisch, selbst wenn sie sich zu 100 % sicher ist
  • Inhalte, die Selbstverletzung verherrlichen, werden nur bei 94 % Sicherheit entfernt
• Eine interne Untersuchung von 2021 ergab, dass mehr als 8 % der 13- bis 15-Jährigen angaben, in der vergangenen Woche Beiträge zu Selbstverletzung gesehen zu haben
• Meta erklärte, das Unternehmen habe das größte Volumen an Erkennung und Meldung von Material zur sexuellen Ausbeutung von Kindern in der Branche und kombiniere KI mit menschlicher Prüfung, um Fehlklassifikationen zu vermeiden

Vorwurf des Wissens über Suchtpotenzial und dessen Verharmlosung

• Ein interner Forscher bezeichnete Instagram als „wie eine Droge“
• In einer Untersuchung von 2018 berichteten 58 % der US-Nutzer von „problematischer Nutzung“, doch nur 3,1 % wurden im öffentlichen Bericht erwähnt
• Funktionen zur Begrenzung der Nutzung wie Quiet Mode wurden aus Sorge vor negativen Auswirkungen auf Wachstumskennzahlen zurückgestellt
• Forscher forderten eine Offenlegung mit dem Hinweis, „das Produkt nutze die menschliche Psychologie aus, um die Nutzungszeit zu verlängern“, doch Meta setzte dies nicht um

Offizielle Stellungnahme von Meta

• Meta wies alles zurück und sprach von „verzerrten Behauptungen auf Basis selektiver Zitate und Missverständnisse“
• Das Unternehmen betonte, seit mehr als zehn Jahren Schutzfunktionen für Jugendliche auszubauen, Tools für elterliche Kontrolle bereitzustellen und Teen Accounts eingeführt zu haben
• Die 2024 eingeführten Teen Accounts umfassen automatisch private Konten für 13- bis 18-Jährige, blockierte Benachrichtigungen nachts, Einschränkungen bei Nachrichten von Erwachsenen und Funktionen mit elterlicher Zustimmung

Fazit

• Die Unterlagen der Kläger legen interne Belege dafür vor, dass Meta Wachstum und Umsatz über die Sicherheit von Jugendlichen gestellt habe
• Meta widerspricht und erklärt, die Sicherheitsfunktionen würden kontinuierlich weiter ausgebaut
• Die Klage gilt als zentraler Streitfall um die Verantwortung von Social-Media-Unternehmen beim Schutz von Kindern und um Transparenz

[GN⁺]

Hacker-News-Kommentare

• Ein Meta-Sprecher sagte, man habe „seit mehr als 10 Jahren auf die Stimmen der Eltern gehört und Veränderungen zum Schutz Jugendlicher vorgenommen“, aber für mich klingt das wie eine Tabakfirma, die sich mit Filtern um die Gesundheit sorgt

  • Alle Führungskräfte der Tabakfirmen haben unter Eid gelogen und am Ende nur Geldstrafen gezahlt

• Die meisten Menschen wissen, dass Meta ein Unternehmen ist, das schreckliche Dinge getan hat
  Aber ich frage mich, was sich tatsächlich ändert. Bisher gab es nur einfache Geldstrafen und formale Sanktionen. Ich würde gern wissen, ob es einen konkreten Plan gibt, um diese Situation zu beenden

  • Ich habe früher einmal für ein Unternehmen gearbeitet, das unethisch innerhalb des gesetzlichen Rahmens gehandelt hat. Am Ende habe ich die Struktur verstanden und das Unternehmen verlassen
    Der Grund, warum solche Unternehmen existieren können, ist letztlich, dass Entwickler sie technisch überhaupt erst möglich machen
    Wenn wir unzufrieden sind, sollten wir den Menschen sagen, sie sollen solche Unternehmen verlassen. Viel Geld zu haben bedeutet nicht, dass es wertvoll ist
    Aber wenn die USA alle riesigen Social-Media-Unternehmen wie Meta schließen würden, würden zahlreiche Entwickler ihre Arbeitsplätze verlieren
  • Im Kern ist das ein Kartellrechtsproblem. Meta ist so groß, dass es sich strukturell nicht selbst verbessern kann
    Grundsätzlich ist die Anreizstruktur des Regierungssystems auf Kapitalinteressen fixiert
    Selbst wenn man Probleme im Gesundheitswesen oder beim Wohnen behebt, profitieren am Ende doch Versicherer oder die Immobilienbranche
    Zwischen Entscheidungsfindung und dem Willen der Bürger gibt es nur eine schwache Verbindung, während die Verbindung zum Kapital viel zu stark ist
    Wenn sich das nicht ändert, wird jede Veränderung nur kosmetisch bleiben
    Ich denke, wir brauchen einen Übergang zur direkten Demokratie, aber die meisten halten das für unrealistisch
    Trotzdem könnten Reformen wie Ranked-Choice Voting ein kleiner Anfang sein
  • Ich möchte die Frage stellen: „Was genau sollte man dann tun?“ Es braucht nicht nur Wut oder Bestrafung, sondern praktische Alternativen
  • Solange Kapital sehr viel mächtiger ist als Arbeit, wird sich diese Geschichte immer wiederholen
  • Ich frage mich, ob es in den USA tatsächlich Versuche gibt, so etwas wie eine corporate death penalty für Unternehmen einzuführen

• Wie viele Menschen bereits wissen, besteht die Arbeit solcher Unternehmen darin, Daten zu sammeln, ohne externe Auswirkungen zu analysieren
  Das heißt, Gewinne und negative Folgen sind untrennbar miteinander verbunden

  • Besonders schockierend ist, dass Meta-Mitarbeiter offenbar wussten, dass ihre Technologie sexuelle Ausbeutung von Kindern ermöglicht, und trotzdem weggesehen haben
    Vielleicht haben Bonuszahlungen und Aktienoptionen das Schuldgefühl überdeckt

• Metas Geschäftsmodell steht in direktem Widerspruch zum menschlichen Glück

  • Das stimmt, aber gleichzeitig müssen auch Einzelpersonen, die schädliche Entscheidungen getroffen haben, zur Verantwortung gezogen werden

• Jemand fragte: „Ist das dasselbe wie dieser Beitrag?“ und verwies auf einen früheren Thread

  • Ja. Deshalb habe ich den Beitrag als Duplikat gemeldet

• Ich bin schockiert, dass Meta eine Richtlinie hatte, nach der „mit Menschenhandel verbundene Accounts nach 17 Verstößen gesperrt werden“
  „Bis zu 16 Mal gibt es also nur Verwarnungen — was für eine völlig irre Regel ist das bitte?“, lautet die Kritik

  • Es wird erwähnt, dass dieser Kommentar umstritten ist und Downvotes erhält

• Es wird geraten, vor dem Posten eines neuen Beitrags zu prüfen, ob bereits eine bestehende Diskussion dazu existiert

• Mit dem Hinweis „Das ist ein Duplikat“ wird der Link zur bestehenden Diskussion geteilt

• Meta ist meiner Meinung nach der Tabak unserer Zeit. Die Mitarbeiter sollten sich schämen
  Es ist eine der größten Organisationen, die der psychischen Gesundheit von Jugendlichen, besonders Teenager-Mädchen, schadet

  • Aber das ist ihnen egal. Opportunisten leben einfach weiter so

• Social Media wird von künftigen Generationen als etwas so Schädliches wie Tabak oder Alkohol wahrgenommen werden
  Besonders die psychische Gesundheit von Teenager-Mädchen verschlechtert sich rapide
  Filter, Fan-Plattformen und Druck in Bezug auf das Aussehen verstärken Ängste und bedrohen tatsächlich Menschenleben