US-Gerichtsunterlagen behaupten, Meta habe ‚kausale‘ Belege für die Schädlichkeit sozialer Medien verborgen

• In US-Gerichtsunterlagen wird behauptet, Meta habe kausale Belege für psychische und gesellschaftliche Schäden auf seinen Plattformen zurückgehalten
• Den Unterlagen zufolge fanden interne Studien einen direkten Zusammenhang zwischen der Nutzung sozialer Medien und negativen Auswirkungen, diese Ergebnisse wurden jedoch nicht öffentlich gemacht
• Dieses Material kam im Verlauf von Klagen ans Licht, die sich mit dem Schutz jugendlicher Nutzer und der Rechenschaftspflicht von Plattformen befassen
• Meta hat zu den Vorwürfen bislang weder eine offizielle Stellungnahme noch eine konkrete Erwiderung veröffentlicht
• Die Enthüllung wird als Vorgang mit erheblichem Einfluss auf die Debatte über Transparenz von Social-Media-Unternehmen und den Bedarf an Regulierung bewertet

---

Zentrale Inhalte der Gerichtsunterlagen

• Im Zuge von Verfahren in den USA öffentlich gewordene Gerichtsunterlagen nähren den Verdacht, Meta habe Ergebnisse interner Forschung zurückgehalten
  • Den Unterlagen zufolge hatte Meta die kausalen Auswirkungen der Social-Media-Nutzung auf die psychische Gesundheit identifiziert, diese jedoch nicht extern offengelegt
  • Die betreffende Forschung behandelt Daten zu negativen Erfahrungen von Jugendlichen und jungen Nutzern
• Laut den Gerichtsunterlagen werden diese internen Materialien als Beleg für negative Folgen von Plattformdesign und Nutzererfahrung angeführt

Kontext von Klagen und Regulierung

• Die neuen Angaben sind Teil von Klagen, die von mehreren US-Bundesstaaten und Privatpersonen eingereicht wurden
  • In den Klagen wird beanstandet, Meta habe die Risiken für die psychische Gesundheit der Nutzer gekannt und dennoch keine angemessenen Maßnahmen ergriffen
• Die Gerichtsunterlagen stützen sich auf interne Kommunikation und Forschungsberichte von Meta

Aktueller Stand von Metas Reaktion

• Der Artikel hält fest, dass Meta zu den aktuellen Vorwürfen weder eine offizielle Stellungnahme noch eine Erwiderung abgegeben hat
• Weitere Erklärungen oder Klarstellungen des Unternehmens sind bislang nicht bekannt

Gesellschaftliche Auswirkungen

• Die Enthüllung belebt die Debatte über den Einfluss sozialer Medien auf die psychische Gesundheit von Jugendlichen erneut
• Es wird die Möglichkeit aufgeworfen, dass Regulierungsbehörden und Gesetzgeber eine stärkere Plattformtransparenz und verpflichtende Offenlegung von Daten prüfen werden
• Auch eine Ausweitung der Diskussion über die gesellschaftliche Verantwortung von Technologieunternehmen und Standards für die Offenlegung interner Forschung ist möglich

Ausblick

• Das Gerichtsverfahren läuft weiter; die Frage, ob zusätzliche Beweise veröffentlicht werden, könnte zu einem zentralen Streitpunkt werden
• Der Fall könnte langfristige Auswirkungen auf Regulierungspolitik für soziale Medien und den internen Umgang von Unternehmen mit Daten haben

[GN⁺]

Hacker-News-Kommentare

• Ich erlebe gerade den kognitiven Abbau meines Vaters und wie er über Meta-Apps betrogen wurde.
  Als ich auf Marketplace suchte, stellte sich heraus, dass alle Verkäufer Betrüger waren. So etwas verursacht in einer Familie großes Leid.
  Zu Zeiten von Fernsehen oder Zeitung wären Betrugsmaschen in diesem Ausmaß nicht möglich gewesen. Rechtlicher Online-Schutz für ältere Menschen und Jugendliche ist dringend nötig, und das Internet wird erst besser, wenn Unternehmen für Werbung und Betrugsaccounts Verantwortung übernehmen.
  • Meine Großmutter hat durch einen Promi-Imitationsbetrug ebenfalls ihr gesamtes Vermögen verloren. Die Bank hat das Geld erstattet, aber der Täter operiert aus Nigeria und wurde nicht gefasst.
    Das Telefon des Betrügers war mit ihrem Google-Konto verknüpft. Wir haben versucht, sie aufzuklären, aber sie scheint es nicht vollständig zu verstehen.
    Es war emotional schwer, auf dem Laptop Beweise zu sammeln. Die Meta-Plattformen sind ein Tummelplatz für Betrüger und müssen unbedingt zur Verantwortung gezogen werden.
  • Ich habe Ähnliches erlebt. Wer in den letzten zehn Jahren bei Meta gearbeitet hat, hat meiner Meinung nach wissentlich dazu beigetragen, die Gesellschaft zu verschlechtern. Egal wie hoch das Gehalt ist, ein Mindestmaß an Gewissen sollte man haben.
  • Man sollte auch darauf achten, welche Videos den eigenen Eltern auf YouTube empfohlen werden. Gerade bei Inhalten zu Psychologie, Religion und Alternativmedizin gibt es viele seltsame Kanäle.
  • Es hat mir das Herz gebrochen, von dem Fall in New Jersey zu lesen, in dem ein älterer Mensch mit psychischer Erkrankung starb, als er zu einem Date mit einem Meta-Bot gehen wollte.
  • Wir alle haben solche Erfahrungen. Diese Plattformen spalten Familien und erleichtern Kriminellen den Zugang zu verletzlichen Menschen, wodurch sie die Gesellschaft zerstören.
• Inzwischen stehen alle Big-Tech-Unternehmen wegen unethischen Verhaltens in der Kritik.
  Aber ich glaube, Meta ist der einzige Fall, in dem gesellschaftlicher Schaden erkannt und trotzdem Wachstum und Gewinn priorisiert wurden.
  Die Kombination aus „Wachstum zuerst“, „datengetrieben“, „Engagement-Optimierung“ und „Werbe-Monetarisierung“ ist der Kern des Problems.
  • Solche Beispiele gibt es auch in anderen Branchen. Öl- und Gas- sowie Tabakunternehmen sind typische Fälle.
  • Die gesellschaftliche Wirkung groß angelegter Werbung fördert letztlich künstliche Nachfrage und Unzufriedenheit. Das Internet hat zwar auch positive Effekte, aber insgesamt sehe ich die negativen Wirkungen als stärker an.
  • Das ist ein Problem auf derselben Ebene wie bei Chemieunternehmen, die krebserregende Stoffe vertuscht haben.
  • Auch andere Branchen wie Robinhood sind nicht anders. Unter dem Namen Markteffizienz wird schädliches Verhalten immer wieder reproduziert.
  • Das erinnert mich an die Fälle, in denen Radiomoderatoren nach dem Völkermord in Ruanda zu lebenslanger Haft verurteilt wurden.
• Wir alle kennen dieses Problem. Entscheidend ist, was wir dagegen tun.
  Nur zu erklären, man werde „Facebook aufgeben“, reicht nicht aus.
  Die Suchtwirkung sozialer Medien ist mit Tabak oder Alkohol vergleichbar, zugleich haben sie aber auch Wert als Kommunikationsmittel.
  Wir müssen die schlechten Teile entfernen und alternative Systeme schaffen.
  Es ist möglich, Plattformen zu bauen, die nicht US-Konzernen gehören und der Gesellschaft echten Wert geben.
  Wir als Techniker und Ingenieure müssen selbst aktiv werden.
  Dazu habe ich einen Beitrag auf mu.xyz veröffentlicht.
  • Im Moment sind clientseitige Schutztechnologien die größte Hoffnung. Aber selbst sie könnten aus Profitgründen Dark Patterns enthalten.
• Unternehmen können sich nicht selbst überwachen.
  Schon in den 1980er Jahren gibt es Aufzeichnungen, dass Ölunternehmen in internen Dokumenten die globale Erwärmung erkannt hatten.
  • Wenn Unternehmen sich nicht freiwillig überwachen, braucht es Strafen für Versagen.
    Zum Beispiel sollte es für Organisationen, die sich zur Zerstörung des Planeten verschwören, eine Art Unternehmens-Todesstrafe geben.
  • Interne Dokumente von Shell reichen bis 1962 zurück.
    Zugehöriger Artikel: Desmog - Shell spielte frühe Warnungen herunter
    Die Theorie des Treibhauseffekts stammt aus den 1850er Jahren, das erste Klimamodell wurde 1896 veröffentlicht.
    JSTOR-Artikel
  • Keine Organisation ist zu Selbstaufsicht fähig. Deshalb braucht es ein System aus Checks and Balances.
    Britannica-Erklärung
  • Es gibt Studien, wonach ExxonMobil schon in den 1970er Jahren genaue Vorhersagen gemacht hatte.
    Harvard-Artikel
  • Bereits in den 1980er Jahren war die globale Erwärmung wissenschaftlich verstanden.
• Ich war schockiert, ein Dokument zu sehen, wonach Meta ein Konto erst nach 17 Versuchen von Sexhandel/Menschenhandel gelöscht habe.
  Ich kann wirklich nicht nachvollziehen, wie man glauben konnte, dass solche Nutzer dem Wachstum helfen würden.
  • Wie bei Apples CSAM-Scan-Richtlinie ist die Festlegung eines Schwellenwerts zur Vermeidung von Fehlalarmen ein komplexes Problem.
    Dennoch kann dadurch die Vorstellung entstehen: „Bis 24 ist es noch in Ordnung.“
  • Vermutlich war die Zuverlässigkeit des automatischen Erkennungsalgorithmus gering, weshalb mehrere „Strikes“ festgelegt wurden.
  • Auch Meta-Mitarbeiter intern waren über dieses Problem besorgt. Doch Zuckerberg sagte direkt, dass es keine Priorität sei.
    In einer wachstumsorientierten Venture-Capital-Kultur steht Wachstum vor Kindersicherheit.
  • Die Interpretation des Dokuments könnte überzogen sein. Es könnte auch ein Missverständnis des internen Flag-Systems sein.
• Ich glaube, in 100 Jahren werden Menschen schockiert auf die Social-Media-Sucht der letzten 20 Jahre zurückblicken.
  • Ich denke sogar, dass Social-Media-Enthaltsamkeit viel früher zum Allgemeinwissen werden wird.
    Die frühere moralische Panik um Fernsehen oder Spiele ähnelt der heutigen Debatte.
    Inzwischen verbreitet sich in sozialen Medien die Angst vor kurzen Videoformaten.
  • In 100 Jahren könnte die Welt schon so vollständig von AI-Inhalten überrollt sein, dass niemand mehr Zeit hat, darüber schockiert zu sein.
  • Um 2040 werden Dramen, die in den 2010er und 2020er Jahren spielen, Social-Media-Sucht wohl so darstellen wie früher das Rauchen.
  • Auch Smartphone-Sucht ist ernst. Vor allem ihre Auswirkungen auf Jugendliche sind bereits ausreichend erforscht.
• Meta sollte boykottiert werden. Sonst werden soziale Medien Kinder zerstören.
• Ich war schockiert über das Zitat, in dem Zuckerberg sagt: „Kindersicherheit hat nicht die höchste Priorität, ich konzentriere mich stärker auf den Aufbau des Metaverse.“
  • Allerdings kann das Argument „Denkt an die Kinder“ auch zur Falle jeder Debatte werden. Ein Gleichgewicht ist nötig.
• Ich habe Facebook Anfang der 2010er Jahre aufgegeben, und die Entzugserscheinungen waren fast dieselben wie beim Rauchstopp.
  Auch die danach empfundene Ruhe und Klarheit waren ähnlich. Schon damals wurde mir die Suchtwirkung sozialer Medien klar.
  • 2014 veröffentlichte Facebook eine Arbeit über ein Experiment zur emotionalen Manipulation durch den News Feed.
    PNAS-Paper-Link
    Als ich sah, dass 700.000 Menschen ohne Zustimmung als Versuchspersonen benutzt wurden, löschte ich sofort mein Konto.
  • Ich mochte Facebook ohnehin nie besonders, aber als ich meine Forensucht aufgab, fühlte es sich an, als würde ich eine Glücksspielsucht überwinden.
    Menschen sind Wesen, die nach sozialer Interaktion süchtig werden können, deshalb sollten solche Plattformen wie Glücksspiel reguliert werden.
  • Ich habe vor einem Monat mit Twitter(X) aufgehört und dabei dieselben Gefühle wie beim Rauchstopp erlebt.
  • Ich habe Facebook aufgegeben, aber nichts hat sich verändert. Denn der News Feed hatte die sozialen Verbindungen bereits zerstört.
• Das erinnert mich an Upton Sinclairs Satz: „Es ist schwer, jemanden etwas verstehen zu lassen, wenn sein Gehalt davon abhängt, es nicht zu verstehen.“
  Viele Techniker ignorieren wegen hoher Gehälter den Schaden, den sie verursachen.
  Und wenn sie FAANG verlassen, wird es als „mutige Entscheidung“ dargestellt, obwohl ihr Leben letztlich weiterhin von demselben extraktiven System getragen wird.