Geschworenengericht befindet Meta im Zusammenhang mit Kindesmissbrauchsfällen auf seinen Plattformen für verantwortlich

• Eine Jury im Bundesstaat New Mexico urteilte, dass Meta Kinder auf Facebook und Instagram nicht vor Sexualstraftätern geschützt hat und damit gegen das Landesrecht verstoßen habe
• Meta wurde wegen „unfairer und irreführender Geschäftspraktiken“ sowie „gewissenlosen Verhaltens“ verantwortlich gemacht und zu 375 Millionen US-Dollar Schadensersatz verurteilt; das Unternehmen kündigte Berufung an
• Der Fall ist das erste Juryurteil zu den Schutzpflichten von Social-Media-Unternehmen gegenüber Jugendlichen und der erste Fall, in dem Meta vor Gericht dafür verantwortlich gemacht wurde
• Im Prozess wurde durch Aussagen von Whistleblowern und ehemaligen Führungskräften kritisiert, dass der Algorithmus Kriminellen in die Hände gespielt habe
• Das Urteil gilt als bedeutender Präzedenzfall für eine stärkere rechtliche Verantwortung von Social-Media-Unternehmen und die Festlegung von Standards zum Jugendschutz

---

Jury in New Mexico erkennt Meta wegen Versagens beim Schutz vor sexueller Ausbeutung von Kindern die Verantwortung zu

• Eine Jury im Bundesstaat New Mexico urteilte, dass Meta gegen das Landesrecht verstoßen habe, weil das Unternehmen nicht vor den Risiken seiner Plattformen warnte und Kinder nicht vor Sexualstraftätern schützte
  • Meta wurde für „unfaire und irreführende Geschäftspraktiken“ sowie „gewissenlose Handlungen“ verantwortlich gemacht und zu insgesamt 375 Millionen US-Dollar Schadensersatz verurteilt
  • Meta erklärte, gegen das Urteil Berufung einlegen zu wollen, und teilte mit, man stimme dieser Entscheidung „respektvoll nicht zu“
• Der Fall geht auf eine 2023 eingereichte Klage von New-Mexico-Justizminister Raúl Torrez zurück, die auf der Behauptung beruhte, Meta habe Facebook und Instagram zu einem Tummelplatz für Sexualstraftäter gemacht, die Kinder ins Visier nehmen
  • Die Staatsanwaltschaft des Bundesstaats hatte Schadensersatz in Milliardenhöhe gefordert, doch die Jury sprach einen geringeren Betrag zu
  • In nachfolgenden Verfahrensschritten könnte das Gericht zusätzliche Sanktionen oder Änderungen an der Plattform anordnen
• Das Urteil ist das erste Juryurteil in einer Reihe von Klagen zur Verantwortung von Social-Media-Unternehmen für den Schutz Jugendlicher und zugleich der erste Fall, in dem Meta vor Gericht dafür verantwortlich gemacht wurde
  • Parallel läuft in Los Angeles die Urteilsfindung in einer separaten Klage gegen Meta und YouTube, in der behauptet wird, suchtfördernde Funktionen hätten die psychische Gesundheit von Jugendlichen geschädigt
  • In den gesamten USA wurden Hunderte ähnlicher Klagen von Einzelpersonen, Schulen und Bundesstaaten eingereicht
• In dem sechs Wochen dauernden Prozess kamen Whistleblower aus dem Inneren von Meta und ehemalige Führungskräfte zu Wort
  • Der frühere Director of Engineering bei Meta, Arturo Bejar, sagte aus, seine 14-jährige Tochter sei auf Instagram sexuell angesprochen worden, und kritisierte, dass Metas personalisierter Algorithmus auch Kriminellen zugutekomme
  • Der ehemalige Vizepräsident Brian Boland sagte aus, für CEO Mark Zuckerberg und die damalige COO Sheryl Sandberg habe Sicherheit keine Priorität gehabt
  • Demgegenüber erklärte Instagram-Chef Adam Mosseri, man habe Jugendschutzfunktionen wie „Teen Accounts“ eingeführt
• Meta erklärte, 40.000 Mitarbeiter seien für Sicherheit zuständig, und das Unternehmen investiere massiv in den Jugendschutz
  • Auf Metas Kritik, die verdeckten Ermittlungsaccounts der Generalstaatsanwaltschaft hätten echte Kinderfotos verwendet, entgegnete Torrez, dies sei ein Angriff zur Ablenkung von der eigenen Verantwortung
  • Meta betonte die Entwicklung von Technologien zur Verhinderung sexueller Ausbeutung von Kindern und die Zusammenarbeit mit Strafverfolgungsbehörden und kündigte an, die Ende-zu-Ende-verschlüsselte Messaging-Funktion von Instagram einzustellen
  • Torrez bezeichnete das Urteil als einen „historischen Sieg gegen Meta, das Profite über die Sicherheit von Kindern gestellt habe“

Zentrale Fragen, die die Jury prüfte

• Die Jury bewertete, ob Meta falsche oder irreführende Aussagen über die Sicherheit seiner Plattformen gemacht hat oder Plattformdesigns bewusst so gestaltet hat, dass sie Jugendlichen schaden
  • Nach Angaben der Generalstaatsanwaltschaft von New Mexico wurden gefälschte Kinderaccounts auf Facebook und Instagram betrieben und erhielten dort sexuelle Angebote und Anfragen nach explizitem Material
  • Drei erwachsene Männer, die mit diesen Accounts Kontakt aufgenommen hatten, wurden im Mai 2024 festgenommen; zwei von ihnen sollen ein reales Treffen mit einem Account versucht haben, der sich als 12-jähriges Mädchen ausgab
• Interne Aussagen bei Meta deuteten darauf hin, dass die Verbindungsmechanismen des Algorithmus von Kriminellen missbraucht werden können
  • So wurde ausgesagt: „Wenn sich jemand für junge Mädchen interessiert, verstärkt die Plattform Verbindungen, die zu diesem Interesse passen.“
• Metas Entscheidung zur Einstellung der Ende-zu-Ende-Verschlüsselungsfunktion wurde als Maßnahme genannt, um den Zugang für Ermittlungsbehörden zu verbessern
  • Meta erklärte, „kaum jemand nutze diese Funktion“, daher werde sie bei Instagram entfernt, während verschlüsselte Nachrichten bei WhatsApp weiterhin unterstützt würden
• Ravi Sinha, bei Meta für Richtlinien zur Kindersicherheit verantwortlich, sagte aus, das Unternehmen habe zur Verhinderung von Kindesausbeutung mit Strafverfolgungsbehörden zusammengearbeitet und entsprechende Technologien entwickelt
  • Meta-Sprecher Andy Stone kritisierte die Ermittlungen in New Mexico als „ethisch problematisch“, worauf Torrez dies als „Versuch, sich der Verantwortung zu entziehen“ zurückwies
• Das Urteil gilt als wichtiger Präzedenzfall im Trend zu mehr rechtlicher Verantwortung für Social-Media-Unternehmen
  • Es könnte auch künftige Klagen zum Jugendschutz in anderen Bundesstaaten und auf Bundesebene beeinflussen

[GN⁺]

Hacker-News-Kommentare

• Viele jubeln bei einem Urteil gegen Meta, ohne die Details zu lesen, aber man sollte erkennen, dass solche Klagen einer der Hauptgründe dafür sind, dass Funktionen wie Ende-zu-Ende-Verschlüsselung (E2EE) zurückgedrängt werden
  In der Klage des Bundesstaats New Mexico wurde die Sorge geäußert, dass Ermittlungsbehörden Straftäter schwerer fassen können, wenn Jugendliche auf Instagram E2EE nutzen dürfen. Während des Prozesses kündigte Meta an, die Unterstützung für E2EE-Nachrichten auf Instagram bis Ende dieses Jahres einzustellen
  Die Klage des Bundesstaats New York griff sogar die Unterstützung von E2EE selbst an (Reuters-Artikel)

  • Entscheidend ist, Transparenz und Wahlfreiheit der Verbraucher sicherzustellen
    Konten von Kindern sollten als Struktur mit elterlicher Aufsicht eingestuft werden, sodass Eltern Inhalte prüfen oder die nötigen Werkzeuge konfigurieren können
    Im Internet sollte jedoch grundsätzlich jeder als Erwachsener behandelt werden, und wenn Eltern die Online-Aktivitäten ihrer Kinder erlauben, sollten sie entsprechend die Verantwortung für die Aufsicht tragen
    Solche Regulierungen sollten nur für kommerzielle Produkte gelten und nicht für nichtkommerzielle Community-Projekte
  • Dass Minderjährige kein E2EE nutzen dürfen, ist für mich in Ordnung, aber ich bin dagegen, es allen zu verbieten. Ich habe zwei Kinder
  • Als Plattformbetreiber denke ich, dass E2EE bei kostenlosen Diensten keinen praktischen Nutzen hat. Stattdessen lädt man sich nur unvorhersehbare rechtliche Haftung auf
  • Zentralisierte Organisationen und proprietäre Software können kein echtes E2EE bieten. Per Update kann jederzeit eine Backdoor eingebaut werden
    Es wäre besser, sie dazu zu zwingen, mit diesem Security Theater aufzuhören, und diejenigen, die echte Privatsphäre brauchen, würden sich dann Alternativen suchen
  • Das ist der Kern des Problems. Es hilft Kindern nicht wirklich, und Meta wird dadurch auch nicht ernsthaft getroffen. Am Ende führt es nur zu geschwächter Privatsphäre und stärkerer Überwachung

• Ich finde es verdächtig, dass sich international gerade ein Konsens bildet, nach dem Motto: „Jetzt ist es Zeit zu handeln.“ Besonders beunruhigend ist, dass Identitätsprüfung (ID verification) gleichzeitig über mehrere Kanäle vorangetrieben wird

  • Beides kann gleichzeitig wahr sein. Kinder sollten nicht Werbealgorithmen ausgesetzt werden, aber die Lösung darf nicht in ein System der Massenüberwachung münden
  • Das Problem ist nicht die Regulierung der Nutzer, sondern dass man die Social-Media-Industrie selbst regulieren muss. Nutzer haben kein Geld zum Lobbyieren, Unternehmen aber stecken Milliarden hinein
  • Meta soll 2 Milliarden Dollar für diese Politik der Identitätsprüfung in Lobbyarbeit gesteckt haben (zugehöriger Kommentar)
  • Interessant ist, dass Gen Z soziale Netzwerke inzwischen eher viel vorsichtiger nutzt
    Mein Teenager-Kind und dessen Freunde verwenden meist nur private Gruppenchats, und soziale Medien nutzen sie fast nur noch im „Read-only“-Modus. Sie posten weder Fotos noch persönliche Informationen
    Übermäßig exponiert ist eher die Millennial-Generation. Wenn man sieht, wie viele Familienfotos und private Dinge sie teilen, ist das schon fast peinlich
  • Wenn diese Entwicklung parallel zu E2EE und Einschränkungen des allgemeinen Computings stattfindet, wirkt es, als würde sich der Westen in keine andere Richtung bewegen als China

• Die Klage des Bundesstaats New Mexico beruhte auf einer Untersuchung der Meta-Plattformen mit einem gefälschten Profil, das sich als Kinderkonto ausgab; dabei näherten sich tatsächlich erwachsene Männer und machten sexuelle Angebote
  Dem Artikel nach zu urteilen scheint E2EE nicht der zentrale Streitpunkt zu sein. Meta kündigte zwar während des Prozesses an, E2EE einzustellen, aber ein direkter Zusammenhang ist unklar

  • Allerdings gibt es seit Jahren Druck, E2EE zu deaktivieren, mit der Begründung, dass dadurch die Erkennung von Sexualdelikten an Kindern erschwert werde. Diese Entscheidung könnte Teil derselben Entwicklung sein
    Eine andere Lesart wäre, dass es eine Folge davon ist, dass Meta seinen Plan aufgegeben hat, das Messaging von WhatsApp, Facebook und Instagram zu integrieren

• Wir wollen keine Altersverifikation, wir wollen E2EE. Aber weil wir Meta nicht mögen, jubeln wir über dieses Urteil. Realistisch gesehen kann man nicht beides gleichzeitig haben

  • Beides ist voneinander unabhängig. Altersverifikation richtet vielmehr noch größeren Schaden an. Zur Lösung des eigentlichen Problems trägt sie ebenfalls nicht bei
  • Bei der Ablehnung von Altersverifikation gibt es zwei Gruppen: Menschen, die sie aus Prinzip ablehnen, und Menschen, die sie ablehnen, weil sie wissen, dass die tatsächliche Umsetzung missbraucht werden wird
  • Nur weil keine gesetzliche Pflicht besteht, kann man nicht alles als Schutzschild verwenden. Meta kennt das Alter seiner Nutzer bereits fast vollständig
    Wenn ein 40-jähriger Nutzer einem 13-Jährigen jeden Tag Nachrichten schickt, ist es wichtig, das zu erkennen. Meta weiß von solchen Dingen und konzentriert sich trotzdem nur auf Haftungsvermeidung
    Außerdem ist es gut möglich, dass Metas E2EE ohnehin eine Backdoor hat
  • Es fehlt an einer belastbaren Begründung dafür, warum man nicht beides gleichzeitig haben könnte

• Meta hat durch eigene Forschung von der Schädlichkeit seiner Produkte gewusst und das ignoriert. Jetzt, da der Schutzschirm von Section 230 schwächer wird, fürchte ich, dass andere Unternehmen daraus die Lehre ziehen: „Dann machen wir lieber gar keine Forschung mehr“
  Meta tat so, als würde man dort „Sicherheit“ ernst nehmen, um Talente anzuziehen, in Wirklichkeit galt aber immer Wachstum zuerst
  In den vergangenen Jahren haben sich sowohl Meta als auch X verändert und den Zugang für externe Forschende blockiert; sie sind datenmäßig abgeschotteter geworden

• Solche Strafen müssen groß genug sein, um das Verhalten von Unternehmen zu ändern. 375 Millionen Dollar sind bei Metas Größenordnung bloß eine buchhalterische Randnotiz

  • Es ist nur ein Urteil im Bundesstaat New Mexico. Gegen Meta wurden für Tausende Verstöße Strafen von bis zu 5.000 Dollar pro Fall verhängt, und in Los Angeles läuft ebenfalls eine ähnliche Suchtklage
  • Genau, New Mexico ist nur ein kleiner Bundesstaat, und in anderen Bundesstaaten werden ähnliche Klagen folgen

• Soziale Netzwerke für Kinder sollten direkt von den Eltern beaufsichtigt werden. E2EE existiert bereits und lässt sich nicht abschaffen. Wer will, kann jederzeit einen eigenen verschlüsselten Chat-Dienst bauen

• Diese Strafe entspricht nur etwa 0,6 % von Metas Jahresgewinn.
  Wenn 50 Bundesstaaten mit derselben Größenordnung klagen würden, könnte das ein Schlag von 30 % sein. Bei höheren Summen wären das historische Sanktionen. Das sollte weltweit ausgeweitet werden

  • Genau, warum auf die 50 US-Bundesstaaten beschränken? Die ganze Welt sollte mitmachen

• Diese Strafe ist viel zu klein. Es fehlen ein paar Nullen

  • Genau genommen ist es eher keine Strafe, sondern eine Gebühr (fee)