Richter beenden die Section-230-Immunität von Big Tech

Das Ende der Section-230-Sonderbehandlung für Big Tech

• Algorithmen sind kein Freifahrtschein mehr. Das Berufungsgericht des 3. Bezirks entschied, dass TikTok sich wegen des Vorwurfs vor Gericht verantworten muss, Kinder zu Selbstverletzung verleitet zu haben. Damit gerät das Geschäftsmodell von Big Tech ins Wanken

• Section 230 ermöglichte es Big-Tech-Unternehmen, Verantwortung abzuwehren, indem sie behaupteten: „Der Algorithmus war’s.“ Das Berufungsgericht des 3. Bezirks stellte diese Auslegung nun auf den Kopf und beendete den Schutzschirm, der große Tech-Unternehmen selbst bei schädlichem Verhalten vor Verantwortung bewahrte

• Der TikTok-Algorithmus empfahl einem 10-jährigen Mädchen Videos, die zu Selbstverletzung anstifteten; das Mädchen ahmte dies nach und starb. Die Mutter des Mädchens reichte daraufhin Klage gegen TikTok und ByteDance wegen Produkthaftung, Fahrlässigkeit und widerrechtlicher Tötung ein, doch das untere Gericht sah keine Haftung, da TikTok lediglich die Äußerungen anderer gehostet habe

• Section 230 ist ein 1996 erlassenes Gesetz, das „interaktive Computerdienste“ von der Haftung für Äußerungen Dritter freistellt, wenn sie diese hosten. Mit dem Wachstum des Internets und einer immer weiteren Auslegung durch die Rechtsprechung konnten Big-Tech-Unternehmen das Gesetz jedoch missbrauchen

• Big-Tech-Unternehmen nutzten Section 230, um Verantwortung für Nutzeräußerungen abzuwehren und zugleich über zielgerichtete Werbung Gewinne zu erzielen. Das führte dazu, dass Unternehmen selbst dann nicht haften mussten, wenn Nutzer geschädigt wurden

• Das Berufungsgericht des 3. Bezirks entschied, dass die Art, wie TikToks Algorithmus personalisierte Videos empfiehlt, als eigene Äußerung von TikTok gewertet werden kann. Das bedeutet, dass TikTok sich vor Gericht verantworten muss

• Dieses Urteil stellt die bisherige Auslegung von Section 230 grundlegend infrage und könnte dazu führen, dass Big-Tech-Unternehmen für Nutzeräußerungen haften. Das dürfte erhebliche Auswirkungen auf die Geschäftsmodelle von Big Tech haben

• Als Nächstes dürfte der Fall mit hoher Wahrscheinlichkeit vor den Supreme Court gehen, und die Debatte über die Auslegung von Section 230 wird weitergehen

Zusammenfassung von GN⁺

• Dieser Artikel behandelt, wie Big-Tech-Unternehmen Section 230 nutzten, um Verantwortung zu vermeiden, und welches Urteil die Gerichte dazu gefällt haben
• Mit der veränderten Auslegung von Section 230 steigt die Wahrscheinlichkeit, dass Big-Tech-Unternehmen für Nutzeräußerungen haften müssen
• Das könnte erhebliche Auswirkungen auf die Geschäftsmodelle von Big Tech haben, und die juristischen Auseinandersetzungen dürften weitergehen
• Andere Projekte mit ähnlichen Funktionen sind Google, Meta und Twitter

[GN⁺]

Hacker-News-Kommentare

• Derzeit überwiegen Kommentare, die meinen, dies werde zum Ende der sozialen Medien und zu staatlicher Zensur führen

  • Soziale Medien seien voreingenommen und übernähmen die Rolle der Kuratierung von Inhalten
  • Das Urteil besagt, dass algorithmische Kuratierung Unternehmen nicht von ihrer Verantwortung befreit
  • Das kann als eine Art Netzneutralität verstanden werden
  • Ich möchte abwarten, ob soziale Medien dadurch besser werden

• Es gibt eine Stellungnahme der Verfasser von Section 230 aus dem Fall Google v. Gonzalez

  • Section 230 schützt jede Form der Inhaltsdarstellung, einschließlich gezielter Empfehlungen
  • Dies fördert Innovation und unterstützt die Übertragung von nutzergenerierten Inhalten in Echtzeit

• Es gab einen Fall, in dem TikTok Kindern über seinen Algorithmus die Blackout Challenge empfohlen hat

  • TikTok wusste um die Gefährlichkeit dieser Challenge, hat aber dennoch keine angemessenen Maßnahmen ergriffen
  • Es geht um ein ähnliches Problem wie in Gonzales vs. Google, nämlich ob die Empfehlung von Videos zur Unterstützung des Islamischen Staats Terrorismus gefördert hat

• Es gab einen Fall, in dem ein Algorithmus Kindern gefährliche Inhalte empfohlen hat

  • Dass ein Algorithmus bestimmte Inhalte empfiehlt, gilt als Ausdruckshandlung der Plattform
  • Section 230 schützt nur Informationen Dritter, nicht aber die Ausdruckshandlungen der Plattform

• Neue Gesetze könnten Online-Nutzer, insbesondere Kinder, schützen

  • Es gibt die Sorge, dass der Wegfall von Section 230 großen Tech-Unternehmen eher nützen könnte
  • Die Markteintrittsbarrieren für Startups würden steigen

• Es gibt die Erwartung, dass die Ära des rechtsfreien Raums im Internet enden wird

  • Man muss sich eine Welt ohne Section 230 vorstellen
  • Auch das frühere Internet war in Ordnung, und auch das künftige Internet könnte in Ordnung sein

• Es gibt eine Debatte darüber, ob große Tech-Plattformen als Sprecher reguliert werden sollten

  • Plattformen spielen die Rolle von Vermittlern, und es gibt die Ansicht, dass die rechtliche Struktur nicht zum Internetzeitalter passt

• TikTok trägt Verantwortung für die Kuratierung und Empfehlung bestimmter Videos

  • Section 230 schützt Informationen Dritter, nicht aber die Ausdruckshandlungen der Plattform

• Es gibt die Meinung, dass Social-Media-Unternehmen mit zielgerichteter Werbung keine Margen von 40 % halten könnten, wenn sie Kinder schützen müssten

  • Wenn Section 230 abgeschafft wird, könnten Unternehmen ihre Plattformrolle bewahren, indem sie Inhalte überhaupt nicht mehr moderieren
  • Das könnte das Internet in einen Zustand wie bei 4chan versetzen