Richter bremsen Section-230-Immunität von Big Tech aus

• Das US-Berufungsgericht für den Third Circuit entschied in einem Fall, in dem der Empfehlungsalgorithmus von TikTok der zehnjährigen Nylah Anderson ein Video zur „Blackout Challenge“ zeigte, dass TikTok sich nicht allein mit der Section-230-Immunität einer Klage entziehen kann
• Kernfrage war nicht, ob die Plattform lediglich Beiträge Dritter gehostet hat, sondern ob die Handlung, Videos auf der „For You Page“ auf Basis von Alter, Interaktionen und Metadaten auszuwählen und zu empfehlen, TikToks eigene Äußerung war
• Das Urteil greift die Logik aus Moody v. NetChoice gewissermaßen umgekehrt auf: Wenn eine Plattform für kuratierte Feeds Schutz nach dem First Amendment beansprucht, kann diese Kuratierung auch im Rahmen von Section 230 als eigene Äußerung der Plattform gelten
• Richter Paul Matey vertrat in einer zustimmenden Stellungnahme, TikTok sei nicht als Herausgeber des Challenge-Videos, sondern als Distributor zu betrachten; die frühe Section-230-Rechtsprechung habe die Unterscheidung zwischen Herausgeber und Distributor fälschlich aufgehoben
• Das Urteil hält im Third Circuit die Tür für Haftungsklagen wegen algorithmischer Empfehlungen offen und könnte unmittelbare Auswirkungen auf eine Anrufung des Supreme Court, Gesetzgebung im Kongress, Geschäftsmodelle von Plattformen und Klagestrategien der Klägerseite haben

---

Entscheidung des Third Circuit zum Empfehlungsalgorithmus von TikTok

• Das US-Berufungsgericht für den Third Circuit sah TikTok nicht als durch Section 230 von Verantwortung befreit an und hob die Klageabweisung der Vorinstanz auf
• Im Kern ging es darum, dass TikTok per Algorithmus ein von Dritten hochgeladenes Video auf der personalisierten „For You Page“ der zehnjährigen Nylah Anderson empfahl und bewarb
  • Das Video zeigte die „Blackout Challenge“, die Zuschauer dazu auffordert, sich selbst beim Ersticken zu filmen
  • Nachdem Nylah das Video gesehen hatte, ahmte sie die Challenge nach und erhängte sich unbeabsichtigt tödlich
  • Nylahs Mutter Tawainna Anderson verklagte TikTok und mit ByteDance verbundene Unternehmen nach dem Recht des Bundesstaats Pennsylvania wegen Produkthaftung, Fahrlässigkeit und widerrechtlicher Tötung
• Die Vorinstanz wies die Ansprüche ab, weil TikTok lediglich fremde Äußerungen gehostet und keine eigenen Äußerungen getätigt habe
• Richter Paul Matey kritisierte in der Urteilsbegründung, TikTok lese „Section 230 des Communications Decency Act so, als erlaube sie Gleichgültigkeit gegenüber dem Tod eines zehnjährigen Mädchens“

Wie Section 230 immer weiter ausgedehnt wurde

• Section 230 wurde 1996 geschaffen, um zu klären, ob Online-Board-Dienste wie Prodigy oder CompuServe für Nutzerkommentare haften
• Die Grundstruktur sieht vor, dass ein interactive computer service nicht für Äußerungen anderer haftet, wenn er diese hostet, sondern nur für eigene Äußerungen verantwortlich ist
• Auch wenn Plattformen in gutem Glauben den Zugang zu Material beschränken, das sie als obszön, anstößig, übermäßig gewalttätig, belästigend oder anderweitig unangemessen ansehen, sollten sie dafür nicht haften
• Seitdem ist das Internet so stark gewachsen, dass es Social Media und datengetriebene Überwachungswerbung umfasst, die 1996 noch nicht existierten; Gerichte weiteten den Anwendungsbereich von Section 230 auf Onlinehandel, Hotelbuchungsseiten und andere Dienste aus
• Nach Zeran v. America Online des Fourth Circuit von 1997 folgten acht Berufungsgerichte einer extensiven Auslegung, wodurch eine Rechtsprechung entstand, nach der Plattformen selbst dann nicht haften, wenn sie Schäden begünstigt haben

Der doppelte Schutz, den Plattformen erhalten haben

• Große Plattformen argumentieren, ihre Aktivitäten seien Äußerungen, wenn sie Regulierung abwehren und Schutz nach dem First Amendment verlangen; wenn sie für Verleumdung oder rechtswidrige Äußerungen verantwortlich gemacht werden sollen, berufen sie sich hingegen auf Section-230-Immunität und behaupten, sie seien nur ein Gefäß für Äußerungen anderer
• Diese Struktur wurde dafür kritisiert, ein von einem Gericht so bezeichnetes „lawless no-man’s-land“ geschaffen zu haben
• Im Zusammenhang mit der Section-230-Immunität wurden Schadensfälle aus vielen Bereichen genannt
  • Fälle, in denen Grindr sexuelle Gewalt erleichtert haben soll
  • Fälle, in denen Auskunfteien Regulierung wegen Fehlern in Kreditauskünften vermeiden wollten
  • Fälle, in denen Facebook ethnische Gewalt geschürt haben soll
  • Fälle, in denen der IRS 2023 mehr als eine Million Steuererklärungen als Identitätsbetrug markierte und die Informationen vor allem von LinkedIn- oder Meta-Websites gesammelt worden sein sollen
  • Fälle, in denen Betrüger sich auf Facebook als Soldaten ausgeben und Romance-Scams über große Distanzen betreiben
  • Fälle, in denen Social-Media-Unternehmen Spielsüchtige mit „Social Casino“-Apps targeten
• Clarence Thomas kritisierte 2022 die expansive Auslegung von Section 230 und wies darauf hin, dass Facebook Menschenhändler deshalb nicht von der Nutzung seiner Dienste abgehalten habe, weil dies Nutzerzahlen und Werbeeinnahmen verringert hätte

Das Urteil wendet die NetChoice-Logik auf Section 230 zurück

• In den vergangenen Jahren haben Gerichte in Fällen wie Lemmon v. Snap begonnen, Section 230 enger zu fassen, indem sie schädliche Funktionen von Tech-Plattformen nicht als Frage des Äußerungsrechts, sondern aus Sicht des Produkthaftungsrechts behandelten
• Der Supreme Court verhandelte 2023 Gonzalez v. Google und Twitter v. Taamneh, legte sich zu Section 230 selbst aber inhaltlich nicht fest
• In Moody v. NetChoice hielt der Supreme Court Gesetze aus Florida und Texas, die Diskriminierung politischer Standpunkte durch große Plattformen verhindern sollten, für wahrscheinlich verfassungswidrig
  • Er entschied, dass die redaktionelle Entscheidungsfreiheit von Plattformen, politische Äußerungen aus kuratierten Feeds auszuschließen, durch das First Amendment geschützt ist
  • Zugleich unterschied er Fälle, in denen ein Feed ohne eigenständige Inhaltskriterien nur auf das Onlineverhalten eines Nutzers reagiert und ihm gewünschte Inhalte liefert; dann handle es sich nicht um Äußerung und Regulierung sei möglich
• Das US-Berufungsgericht für den Third Circuit wandte diese Logik auf Section 230 an
  • Wenn ein Plattformalgorithmus eine redaktionelle Entscheidung darüber widerspiegelt, Äußerungen Dritter in bestimmter Weise zu bündeln, dann sei dies eine nach dem First Amendment geschützte eigene Ausdrucksform der Plattform und auch nach Section 230 primäre Äußerung
• Da TikToks Algorithmus auf Basis von Nutzeralter, Demografie, Onlineinteraktionen und weiteren Metadaten maßgeschneiderte Videobündel für die FYP kuratierte und empfahl, kann dies als eigene Äußerung von TikTok behandelt werden

Richter Paul Mateys Argument zur Distributor-Haftung

• Richter Paul Matey stimmte der Aufhebung der vorinstanzlichen Entscheidung zu, brachte aber eine gesonderte Begründung vor, die Section 230 noch stärker einschränken würde
• Sein Kernpunkt ist, dass TikTok nicht als Herausgeber (publisher) des Challenge-Videos, sondern als Distributor zu betrachten sei
• Traditionell wurde etwa beim Verkauf obszönen Materials zwischen der Verantwortung von Autoren und Verlegern, die das Material erstellt haben, und der Verantwortung von Distributoren wie Buchhandlungen, Bibliotheken oder Zeitungskiosken unterschieden
• Die frühe Section-230-Rechtsprechung beseitigte diese Unterscheidung zwischen Herausgeber und Distributor; Matey hält diese Rechtsprechung für falsch
• TikTok, das algorithmische Verstärkung betreibt, sei aus der traditionellen Perspektive des Common Carriage eher als Distributor zu verstehen; dieser Ansatz berührt sich auch mit den Bedenken von Rohit Chopra und mehreren Supreme-Court-Richtern

Regulierungsdynamik jenseits der Parteigrenzen und mögliche Folgen

• Die Fragen rund um Big-Tech-Macht und Äußerungen lassen sich nicht schlicht entlang parteipolitischer Linien trennen
  • Am Supreme Court stehen Clarence Thomas und Ketanji Brown Jackson teils auf einer anderen Seite als Brett Kavanaugh und Elena Kagan, während Amy Coney Barrett als Swing Justice beschrieben wird
  • Sowohl Trump als auch Biden stehen Section 230 ablehnend gegenüber
  • Regulierer aus Republikanern und Demokraten wie Brendan Carr, Rohit Chopra und Lina Khan sorgen sich seit Jahren über den Missbrauch von Section 230
• Im aktuellen Fall des Third Circuit stimmten die von Obama ernannte Richterin Patty Shwartz und der von Trump ernannte Richter Peter J. Phipps in der Sache überein; der von Trump ernannte Richter Paul Matey vertrat die Ansicht, Section 230 müsse noch weiter zurückgeschnitten werden
• Das Urteil bewirkt, dass der Third Circuit von der Section-230-Auslegung vieler anderer Gerichte abweicht; der Fall dürfte weiter angefochten werden und könnte bis vor den Supreme Court gelangen
• Wenn Section 230 nicht mehr als Schutzschild wirkt, steigt die Möglichkeit von Klagen, die Plattformen für Facebook-Betrug mit Soldaten-Imitation, Unterstützung von Verstößen gegen Glücksspielgesetze der Bundesstaaten, massenhaften Identitätsdiebstahl, sexuelle Gewalt, Kindesmissbrauch und gewöhnliche Verleumdungsansprüche verantwortlich machen
• Silicon Valley könnte Lobbyarbeit vorbereiten, damit der Kongress eine „Reform“ von Section 230 gesetzlich regelt, und einige Führungskräfte könnten prüfen, ihre Geschäftsmodelle an ein Umfeld anzupassen, in dem Plattformen für ihr eigenes Handeln haften

[GN⁺]

Hacker-News-Meinungen

• Die aktuelle Reaktion scheint dahinzugehen, dass dieses Urteil das Ende von Social Media bedeute oder zu staatlicher Zensur führe, aber ich denke, so eindeutig lässt sich das nicht sagen.
  Der Kern ist, dass Social Media nicht neutral ist und auswählt, was Menschen zu sehen bekommen. Wenn man nicht einfach eine neutrale Partei ist, die Inhalte hostet, dann verschwindet die Verantwortung nicht nur deshalb, weil diese Auswahl algorithmisch erfolgt – so lese ich die Entscheidung.
  Im weiteren Sinne könnte man das auch als eine Art Netzneutralität betrachten. Heute pushen Social Platforms bestimmte Inhalte und stufen andere herunter; wenn Menschen überwiegend über Feeds interagieren, entsteht ein ähnliches Phänomen wie bei der Priorisierung zwischen ISPs und Websites.
  Persönlich bin ich gespannt, welche Veränderungen dieses Urteil auslösen wird. Die meisten Social Sites sind so furchtbar geworden, dass ich außer HN nirgendwo mehr einen Account habe; vielleicht könnte Social Media dadurch wieder erträglicher werden.

  • Vielleicht verstehe ich die Bedeutung falsch, aber derzeit scheint HN so zu funktionieren, dass es zwar von dang und anderen moderiert wird, aber zugleich durch Section 230 geschützt ist und nicht für Beiträge der Nutzer haftet.
    Nach diesem Urteil könnte HN jedoch wegen der Moderation für alle Beiträge haften, und es gäbe möglicherweise nur zwei Optionen: die Moderation einstellen und wie 4chan werden, oder anonyme Accounts blockieren und über die Nutzungsbedingungen die Verantwortung der Poster stark verschärfen beziehungsweise alle Kommentare manuell freigeben, also die Moderation deutlich ausbauen.
    Ich weiß nicht recht, wie der Betrieb einer Website möglich sein soll, die User Content moderiert und dennoch der Haftung für illegale Inhalte entgeht.
  • Gerade die Problemstellung „Social Media ist nicht unvoreingenommen“ ist der Zweck von Section 230.
    Ursprünglich war das Recht so angelegt, dass Plattformen, sobald sie auch nur ein wenig moderierten, für alles haften konnten, was Nutzer posteten. Section 230 sollte ermöglichen, Spam, Pornografie und Trolling zu entfernen oder herabzustufen, ohne wegen anderer Inhalte verklagt zu werden, die nicht entfernt wurden.
  • Der Aufstieg von Social Media beruhte zu einem erheblichen Teil auf Kuratierung. Nutzer und besonders Werbekunden wollten eine kuratierte Umgebung, und genau das war der zentrale Unterschied zum damals wie eine gesetzlose Zone wirkenden World Wide Web.
    Die Vorstellung, dass Kuratierung an sich das Problem sei, fiel mir immer schwer nachzuvollziehen. Die Option, ohne Social Media einfach direkt im Web zu veröffentlichen, gab es immer, aber die Menschen haben sich wiederholt seltener dafür entschieden. Im Extremfall könnte dieses Urteil nur noch diese Option übrig lassen.
    Allerdings glaube ich nicht, dass es tatsächlich so weit kommt; wahrscheinlicher ist, dass die Betriebskosten steigen und sich in den Anzeigenpreisen niederschlagen. Das Ökosystem könnte schrumpfen, aber sicher ist: Die Zugbrücke über dem Burggraben der großen Social-Media-Unternehmen wird weiter hochgezogen, und der Wettbewerb nimmt ab.
  • Die zentrale Behauptung des Autors läuft letztlich darauf hinaus: Wenn man sicherstellen muss, dass Kinder durch das Produkt keinen Schaden nehmen, gibt es keine Möglichkeit, ein Social-Media-Unternehmen mit zielgerichteter Werbung und 40 % Marge zu betreiben.
  • Medien sind im Allgemeinen voreingenommen, ob sozial oder nicht. Redaktion, Artikelauswahl, Framing, Schreiben und Weiterverbreitung enthalten alle Bias.
    Statt nach unvoreingenommenen Medien als Ideal zu suchen, wünsche ich mir eher, dass Bias offengelegt wird. Ein Medium sollte genug über sich selbst preisgeben und offenlegen, wo seine Verzerrungen liegen, damit ich es beurteilen kann.
    Das ist auch nicht sehr weit von der Denkweise des Gerichts entfernt. Redaktionelle Auswahl ist Ausdruck, und auch eine „For You“-Seite ist redaktionell zusammengestellt und damit TikToks eigener Ausdruck – so die Logik. Der allgemeineren Feststellung, dass Social Media insgesamt ein unangenehmer Ort ist, stimme ich allerdings zu.

• In dieser Sache hängt es davon ab, was TikTok wusste.
  In der Entscheidung heißt es, TikTok habe, bevor Nylah das Video sah, gewusst, dass 1) die tödliche Blackout Challenge sich in der App verbreitete, 2) der Algorithmus sie gezielt Kindern auslieferte und 3) mehrere Kinder gestorben waren, nachdem sie sie auf ihren For You Pages gesehen hatten. Trotzdem habe TikTok gar nichts oder völlig unzureichende Maßnahmen ergriffen, um die Verbreitung zu stoppen und zu verhindern, dass Kinder sie sehen, und habe sie weiterhin Kindern wie Nylah empfohlen.
  Um zu sehen, was TikTok „wusste“, muss man sich das Dokument „App. 31–32“ ansehen. Möglicherweise braucht man dafür einen Pacer-Account, und ich frage mich auch, ob Missbrauchsmeldungen ignoriert wurden.
  Ein ähnlicher Streitpunkt ging auch in Gonzales vs. Google (2023) bis vor den Supreme Court. In dem Fall ging es darum, ob die Empfehlung von Videos, die zur Unterstützung des Dschihad des Islamischen Staates aufriefen, dazu geführt hatte, dass jemand in den Kampf zog und starb; das Gericht wies die terrorismusbezogenen Ansprüche zurück und behandelte die Section-230-Frage nicht.
  https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC

  • Wenn ich mich richtig erinnere, hatte oder hat TikTok eine starke Content-Moderation-Pipeline, bei der Videos mit mehr als ein paar Tausend Aufrufen von Menschen geprüft werden.
    Dieses Prüfverfahren wurde entwickelt, um den deutlich strengeren Ausdrucksstandards des chinesischen Markts zu genügen, eröffnet hier aber eher eine größere Haftungsmöglichkeit.
    Ich kann den entsprechenden Artikel nicht wiederfinden; er ist in Flussdiagrammen wie „wie man ein Video viral macht“ untergegangen, und diese Materialien lassen die Entscheidung aus, „wann etwas verboten wird“.
  • Vermutlich sind Seiten A31–32 des Anhangs zum Schriftsatz der Berufungskläger die fragliche Stelle: „The TikTok Defendants Knew the Deadly Blackout Challenge Had Killed Multiple Children“
    https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
    Die übrigen Unterlagen sind hier:
    https://www.courtlistener.com/docket/67500541/tawainna-ander...
  • Diese Tatsachenlage ist für die Frage der CDA-Haftung selbst möglicherweise nicht besonders wichtig, aber sie ist definitiv wichtig für die Frage der Schuld, wenn man voraussetzt, dass Haftung überhaupt möglich ist.

• TikTok empfahl und bewarb über seinen Algorithmus Videos von Dritten auf der personalisierten „For You Page“ der 10-jährigen Nylah Anderson; eines davon war die „Blackout Challenge“, die Zuschauer dazu anstiftete, sich bei einer Selbststrangulation zu filmen.
  Nachdem Nylah das Video gesehen hatte, machte sie die Challenge nach und erhängte sich unbeabsichtigt — https://cases.justia.com/federal/appellate-courts/…
  Der Algorithmus hat also gewissermaßen zufällig ein Kind dazu gebracht, sich selbst zu erhängen. Auf mehreren Websites läuft Code, der Nutzern anhand ihrer Demografie Artikel zum Lesen empfiehlt; in diesem Code gibt es keinen Mechanismus, der verhindert, dass Kindern Beiträge über Selbststrangulation empfohlen werden.
  Letztlich beruht das auf der Annahme, dass Kunden, die diese Software verwenden, solche Inhalte nicht posten, dass Menschen mit ähnlicher Demografie sie nicht lesen und dass ein Kind sie, selbst wenn es eine Empfehlung bekommt, nicht liest und nachmacht. Wenn diese Annahme scheitert, müssen dann ich oder mein Arbeitgeber haften?

  • Ich denke ja.
    Man sollte nicht etwas tun, woraus man Nutzen zieht, sich aber nicht um die Folgen kümmern und nur deshalb automatische Immunität erwarten, weil es ein Algorithmus ist. Gewinne mitzunehmen und Verantwortung zu vermeiden ist feige und kindisch, und kindisches Verhalten braucht Aufsicht durch Erwachsene.
  • Wenn jemand ein miserables Produkt baut und Menschen verletzt werden, liegt die Verantwortung dann normalerweise nicht beim Hersteller?
  • Dieser Algorithmus klingt so, als würde er unmoderierte Inhalte an Kinder ausspielen. Das ist eine heikle Lage, in der beide Seiten starke Argumente vorbringen können; daher scheint es ein vernünftiger Rat zu sein, diesen Fall weiter genau zu beobachten.
  • Ein Teil der Klage lautet, dass TikTok wusste, dass diese Inhalte beworben wurden und dass es infolgedessen in anderen Fällen bereits zum Tod von Kindern gekommen war.
    Demnach wusste TikTok, bevor Nylah das Video sah, dass sich die Blackout Challenge in der App verbreitete, dass der Algorithmus sie Kindern ausspielte und dass mehrere Kinder gestorben waren, nachdem sie sie auf ihren For You Pages gesehen hatten. Trotzdem habe TikTok nichts oder nicht genug unternommen, um die Verbreitung zu stoppen oder sie Kindern nicht anzuzeigen, und habe sie Kindern weiter empfohlen.
    Hält man ein solches Verhalten für legal? Würde man nichts tun, wenn man wüsste, dass Kinder direkt wegen der Inhalte sterben, die man ausliefert?
  • Wenn ein Produkt aktiv zu Todesfällen bei Kindern beiträgt, sollte der Hersteller haften.
    Allerdings geht es bei dieser Plattform um Artikelempfehlungen und möglicherweise nicht um einen Dienst, bei dem man sich dabei filmt, populäre Trends nachzumachen. Kinder sind vielleicht nicht die Zielnutzer oder überhaupt keine Nutzer. In vielerlei Hinsicht ist die Situation anders als bei TikTok.

• Das Gericht sah es so, dass der Algorithmus einer Plattform, wenn er redaktionelle Entscheidungen darüber widerspiegelt, wie Äußerungen Dritter auf gewünschte Weise zusammengestellt werden, ein eigenes „expressives Produkt“ der Plattform ist und durch den First Amendment geschützt wird.
  Die Logik lautet: Wenn der Supreme Court davon ausgeht, dass eine Plattform geschützte primäre Äußerung tätigt, wenn sie mit einem expressiven Algorithmus Bündel fremder Inhalte auswählt, dann liegt es nahe, dies auch bei Section 230 als primäre Äußerung zu betrachten.
  Dem stimme ich schon seit Langem zu. Das ist kein „natürliches Ergebnis“ wie eine chronologische oder Thread-basierte Sortierung oder eine durch Endnutzerempfehlungen bzw. Moderationsgewichtungen außerhalb der Kontrolle der Website bestimmte Reihenfolge, sondern eine Frage der Auswahl.

  • Wenn ich als Forenadministrator offensichtliche Spambot-Beiträge lösche, habe ich dann eine redaktionelle Entscheidung getroffen, die mich für alle Beiträge haftbar macht, die ich nicht gelöscht habe?
    Wenn mein Forum ein enges Thema wie 4×4-Offroading behandelt und ich einen eindeutig von einem Menschen geschriebenen Beitrag lösche, der aber stark off-topic ist, etwa über US-Politik, macht mich das ebenfalls für alle nicht gelöschten Beiträge verantwortlich?
    Wo verläuft diese Grenze für Menschen, die keine riesige Rechtsabteilung wie ein Silicon-Valley-Unternehmen haben?

• Wer über die Absicht von Section 230 oder darüber sprechen will, in welchem Umfang Section 230 auf algorithmische Targeting-Empfehlungen anwendbar ist, sollte sich den Amicus Brief von Ron Wyden und Chris Cox, den Mitautoren von Section 230, in Google v. Gonzalez (2023) ansehen.
  Laut Wydens Pressemitteilung „schützt Section 230 gezielte Empfehlungen im gleichen Maße wie andere Arten der Inhaltsanzeige; diese Auslegung verwirklicht den Zweck des Kongresses, Innovationen bei der Anzeige und Moderation von Inhalten zu fördern“. Die Echtzeitübertragung nutzergenerierter Inhalte sei zur Grundlage der Online-Aktivität geworden, und der Schutz durch Section 230 sei heute ebenso unverzichtbar wie zum Zeitpunkt seiner Verabschiedung.
  [PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
  https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...

  • Der Satz in Wydens Pressemitteilung scheint im Gegensatz zu der Argumentation zu stehen, die Chris Cox in einem Aufsatz vorgebracht hat.
    Cox schrieb, die Rechtsprechung habe festgestellt, dass Section 230 kein Schutzschild sein könne, wenn eine Website in irgendeiner Weise an der Erstellung oder Entwicklung illegaler Inhalte mitgewirkt habe. In FTC v. Accusearch wurden die Telefonaufzeichnungen zwar von anderen erstellt, doch das Gericht sah darin, dass die Website private Informationen in ein öffentlich verkauftes Produkt verwandelte, eine „Entwicklung“ der Information und verneinte deshalb die Immunität.
    Weiter erklärte er, dass man bei der Schaffung von Section 230 wollte, dass die Rechtsregeln der Offline-Welt auch im Internet weiter gelten. Das bedeutet, dass jedes Unternehmen, ob online oder in einem stationären Geschäft, für seine eigenen rechtlichen Pflichten verantwortlich sein muss.
    Letztlich spielt die ursprüngliche Absicht in diesem Fall jedoch keine große Rolle; ausgelegt wird das Gesetz von den Gerichten. Tatsächlich ist Section 230 ein Teil des Communications Decency Act, der vom Supreme Court größtenteils für unwirksam erklärt wurde.
    https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
  • Ich bin skeptisch, ob Ron Wyden 1996 algorithmische Social Feeds vorhergesehen hat. Ziemlich sicher scheint aber, dass er erhebliche Lobbygelder von Interessengruppen erhält.

• Ich habe nichts dagegen, neue Gesetze zu schaffen, von denen die Gesellschaft glaubt, dass sie Schäden für Online-Nutzer, insbesondere für Kinder, reduzieren.
  Wenn es aber in Richtung Abschaffung von Section 230 geht: Begünstigt das dann nicht nur große Tech-Unternehmen, die bereits über enorme juristische Ressourcen sowie Fähigkeiten zur maschinell gestützten oder manuellen Moderation verfügen? Die Eintrittsbarrieren für Startups würden untragbar.
  Es klingt so, als hätten die etablierten Unternehmen bei der Haftung für nutzergenerierte Inhalte praktisch freie Fahrt gehabt und seien groß genug geworden, und nun trete die Regierung die Leiter weg.

  • Die Behauptung des Autors ist, dass die Art, wie diese Unternehmen gewachsen sind, nur im heutigen rechtlichen Umfeld tragfähig ist. Die Logik ist also, dass der Größenvorteil dadurch ausgeglichen wird.
  • Section 230 verschwindet nicht. Dieser Fall entstand, weil das Gericht der Ansicht war, TikTok habe gefährliche Inhalte, die zum Tod einer Person führten, wissentlich in den Vordergrund gestellt.
  • Ich würde darauf wetten, dass es mit zunehmender Größe schwieriger wird. Wie will man Zehntausende gleichzeitige Klagen abwehren?
  • Nicht unbedingt. Für Startups könnte sich auch ein neuer Markt für Content-Moderation eröffnen.

• Die Deutung, dass die Grundfrage nicht lautet, ob große Tech-Plattformen als Sprecher reguliert werden sollten, ist ziemlich gut. Sie sind weniger sprechende Akteure als vielmehr Vermittler.
  Diese Sicht stützt sich auf vorinternetliche Rechtsbegriffe wie Verteiler und Produzenten. Es gibt die Vorstellung, dass Rechts- und Regierungsstrukturen komplett umgebaut werden müssten, weil sie nicht dafür entworfen wurden, das Internetzeitalter zu bewältigen; dieser Fall ist aber auch als Gegenbeispiel relevant und wichtig.

  • Wenn sie sehr sorgfältig auswählen, was jeder einzelnen Person gezeigt und nicht gezeigt wird, dann sind sie mehr als bloße Vermittler.

• Ausgezeichneter Artikel. Der Autor scheint ziemlich viele Annahmen über die weitere Entwicklung zu treffen, aber die Begeisterung darüber, dass die Ära des „gesetzlosen Niemandslands“ Internet endet, kann ich nachvollziehen.
  Das passt auch gut in die aktuelle Zeit, in der wir auf die Katastrophe durch generative KI-Inhalte warten. Man tauscht eine Katastrophe gegen eine etwas freundlichere und menschenfreundlichere andere Katastrophe aus.
  Auch vor dem CDA gab es das Internet, und meiner Erinnerung nach war es ziemlich großartig. Auch danach kann es ein Internet geben. Wenn riesige Unternehmen nicht den ganzen Tag enorme Summen ausgeben, um unsere Amygdala mit Unsinn zu reizen, könnte es ein deutlich weniger überfüllter, weniger toxischer, weniger aufreizender und weniger süchtig machender Ort werden.

  • Ich habe das Urteil gelesen: https://cases.justia.com/federal/appellate-courts/ca3/22-306...
    Der Kernpunkt von Richter Matey ist, dass Section 230 TikTok für seine Handlungen nur insoweit immunisiert, als das Unternehmen das Blackout-Challenge-Video auf seinen Servern gehostet hat.
    Bei dieser Definition entsteht für die Gerichte ein kniffliges technisches Problem. Aus meiner Arbeit im Web verstehe ich unter „Hosting“, irgendwo eine Datei zu speichern. Sehen die Gerichte das auch so? Oder umfasst es auch Serving, Caching, Indexierung, Links, Formatierung und Rendering? Wenn ein Publisher für irgendeinen Teil davon haftet, bewegt sich die Branche an einen Ort, der sich stark von 1995 unterscheidet.
  • Für mich ist das „gesetzlose Niemandsland“ der beste Teil des Internets, daher klingt es verrückt, sein Ende zu begrüßen.

• Das Urteil selbst sagt, dass es hier nicht um Section 230 insgesamt geht, sondern um TikToks konkrete Auswahl und Bündelung von Videos.
  TikTok haftet nicht für den Nutzerinhalt selbst, sondern für den Teil, in dem es den Bereich „For You“ zusammengestellt hat. Ob aus politischen Motiven oder so, wie Facebook oder Twitter es tun: Es ergibt Sinn, dass es nicht in Ordnung ist, Menschen zu manipulieren. Deshalb ist Section 230 nicht am Ende.
  Ich fände es gut, wenn „For You“ oder YouTube-Empfehlungen verschwinden würden. Chronologische Timelines sind am besten und würden ein gewisses Maß an Vernunft zurückbringen. Wenn dir etwas nicht gefällt, folge dem Account eben nicht.
  Das Urteil sah den TikTok-Algorithmus, der Nylahs FYP die Blackout Challenge empfahl, als TikToks eigene „expressive Tätigkeit“ an; weil die der Klage zugrunde liegende Information nicht von einem Dritten bereitgestellt wurde, sondern die algorithmische Empfehlung von TikToks FYP war, sperrt Section 230 den Anspruch nicht.

  • Du sagst, wenn es dir nicht gefällt, folge dem Account nicht; aber wie findet man ihn am Anfang? Über die Suche?
    Wenn es gar kein Filtering gibt, ist auch das ein Algorithmus, der zur Manipulation von Menschen genutzt werden kann, und sichtbar wäre nur ein Berg von SEO-Seiten. Haftung auf diese Weise offen zu lassen, ist ein Sumpf, der für das Internet kaum gute Ergebnisse bringen dürfte.
  • Ich weiß nicht, wie eine chronologische Sortierung bei einem Dienst wie TikTok funktionieren soll. Wenn das Ziel ist, interessante Inhalte passend zu den eigenen Interessen zu entdecken, hat chronologische Sortierung keinen großen Wert.
  • Wenn Manipulation von Menschen das Problem ist, dann darf man neben Facebook oder Twitter auch CNN, MSNBC, New York Times, NPR usw. nicht auslassen.
  • In der Aussage „Chronologische Timelines sind am besten und werden Vernunft zurückbringen“ steckt eine enorme Arroganz, die bereits entschieden hat, was gut für mich ist.
    Selbst wenn YouTube-Empfehlungen oder der TikTok-Algorithmus mich „manipulieren“, ist das für mich persönlich völlig in Ordnung.

• Im Grunde scheint es immer stärker in Richtung staatlicher Kontrolle über soziale Netzwerke zu gehen. Das wirkt wie ein weltweiter Trend: Der Staat legt die Regeln fest, nach denen Kommunikationsdienste und soziale Netzwerke funktionieren

  • Ich bin kein Jurist, aber Facebook von vor etwa 20 Jahren wäre unter diesem Urteil wohl größtenteils in Ordnung gewesen. Es zeigte schließlich nur an, was Personen gepostet hatten, die man als Freunde markiert hatte.
    Wenn Facebook jedoch bestimmte Inhalte gezielt hervorheben wollte, entstünde genau dann eine potenzielle Haftung.
    Das in dieser Klage beanstandete Verhalten besteht darin, dass TikTok wusste oder hätte wissen müssen, dass es Challenges an Minderjährige targetete, bei denen Kinder sich mit hoher Wahrscheinlichkeit verletzen konnten, wenn sie sie nachahmen. Das geht weit über bloße Moderation hinaus und ist zugleich die Art von Handlung, die mehrere Social-Media-Unternehmen vor Gericht selbst als eigene Äußerung des Unternehmens bezeichnet haben
  • Ganz und gar nicht. Es geht nur darum, ob soziale Netzwerke für ihre eigenen Empfehlungen Haftungsfreistellung erhalten.
    Es wird anerkannt, dass die Auswahl dessen, was gezeigt wird, eine Form freier Meinungsäußerung sein kann, die Folgen haben kann; das ist kein Versuch, diese Äußerung zu kontrollieren
  • Alle großen Plattformen setzen bereits EU-Recht statt US-Recht durch. Jeder Online-Dienst, der aktiv Nutzer in der EU adressiert, muss moderieren, wenn er sich vor Haftung für nutzergenerierte Inhalte schützen will.
    Die betreffende Richtlinie ist 2000/31/EG und bereits 24 Jahre alt. Sie ist der Vorläufer des EU DSA, und ebenso wie der DSA hat auch 2000/31/EG einen extraterritorialen Anwendungsbereich
  • Warum sollte eine gewählte Regierung mit Checks and Balances schlechter sein als gesichtslose Unternehmen?
  • Unternehmen und Geschäftsbetriebe haben nicht von Natur aus Rechte, sondern nur, weil wir ihnen bestimmte Rechte eingeräumt haben; und diese Rechte sind bereits begrenzt.
    Zum Beispiel erlauben wir keine Werbung für Tabak, Alkohol oder Cannabis an Kinder. Jetzt sollten Unternehmen auch die Folgen dafür tragen, Kindern dummen Unsinn wie die „Blackout Challenge“ zu schicken.
    „Irgendein Idiot hat es auf unserer Plattform gepostet“ und diesen Beitrag zu bewerben, zu empfehlen und an alle auszuspielen sind völlig verschiedene Dinge. Unternehmen müssen für ihr eigenes Handeln verantwortlich sein