Überarbeiteter NO-FAKES-Gesetzentwurf: noch größere Bedrohung für Meinungsfreiheit und Innovation im Internet

• Der NO FAKES Act wurde überarbeitet und hat sich zu einer noch schwerwiegenderen Bedrohung für freie Meinungsäußerung und Innovation im Internet entwickelt
• Der überarbeitete Gesetzentwurf geht weit über die Regulierung bloßer digitaler Nachbildungen hinaus und verlangt das Sperren und Filtern von Tools, Diensten und Apps
• Es wird ein Zwangssystem eingeführt, mit dem allein auf Basis einer Meldung Inhalte, Tools und sogar die Identität von Uploadenden sofort gesperrt bzw. offengelegt werden können
• Durch die Schwächung des Rechts auf anonyme Meinungsäußerung und den Aufbau einer neuen Zensurinfrastruktur geraten sowohl normale Nutzer als auch Entwickler unter Druck
• Große IT-Konzerne profitieren stärker davon, während die Markteintrittsbarrieren für neue Dienste und Entwickler massiv steigen

---

Überblick über den Gesetzentwurf und die wichtigsten Änderungen

• Der NO FAKES (Nurture Originals, Foster Art and Keep Entertainment Safe) Act sollte ursprünglich das Problem generativer KI-basierter digitaler Nachbildungen lösen
• Die aktuelle Überarbeitung schafft nun ein weitreichendes neues System geistiger Eigentumsrechte (IP) und verlangt nicht nur Schadensvermeidung, sondern Zensur auf Ebene des gesamten Internetsystems
• Während sich der frühere Entwurf auf ein Bildlizenzsystem konzentrierte, weitet die Neufassung den Regulierungsbereich auf Bilder, Tools, Dienste und Apps sowie alle bei der Erstellung verwendeten Elemente aus

Anordnungen zur Sperrung von Tools und Diensten

• Der überarbeitete NO FAKES Act erklärt alle Unternehmen, die illegale Werkzeuge, Dienste oder Apps zur Bilderzeugung bereitstellen, vertreiben oder hosten, zu Regulierungszielen
• Wenn ein Tool überwiegend zu diesem Zweck genutzt wird oder nur eingeschränkten kommerziellen Nutzen hat, kann es allein durch eine Meldung gesperrt werden
• Es besteht das Risiko, dass bereits die Entwicklung innovativer Tools durch eine bloße Meldung gestoppt wird, wodurch im Urheberrechtskonflikt das „Vetorecht gegen Innovation“ von Rechteinhabern gestärkt wird

Ausweitung des Melde- und Filtersystems

• Mit Schutzmechanismen, die noch schwächer sind als im bestehenden DMCA-Urheberrecht, ist eine sofortige Sperrung von Inhalten und Tools allein aufgrund einer Meldung möglich
• Durch die verpflichtenden Re-Upload-Präventionsfilter (Replica Filter) werden auch ähnliche Fälle automatisch blockiert
• Nicht nur Tools, Apps und Dienste können entfernt werden, sondern sogar die Offenlegung der Identität von Uploadenden ist allein auf Basis einer Meldung möglich
• Es gibt zwar Ausnahmeregelungen für Parodie, Satire und Kommentare, doch wegen der tatsächlichen Prozesskosten sind sie in der Praxis wenig wirksam

Risiken für anonyme Meinungsäußerung und Privatsphäre

• Ohne richterliche Genehmigung kann bereits über einen Court Clerk eine Subpoena (subpoena from a court clerk, Anordnung zur Vorlage von Informationen) ausgestellt werden, um Identitätsdaten von Uploadenden anzufordern
• In ähnlichen Systemen gab es bereits zahlreiche Fälle von Missbrauch zur Unterdrückung kritischer Äußerungen
• Schon die Offenlegung der Identität selbst birgt die Gefahr konkreter Schäden für Ruf, Privatsphäre und mehr

Bedrohung für Innovation und neue Dienste

• Durch die Anforderungen zum Aufbau neuer rechtlicher und technischer Infrastrukturen steigen die Markteintrittsbarrieren für Startups und neue Dienste sprunghaft an
• Für bestehende große IT-Unternehmen ist dies vorteilhaft, während die Entwicklung und Einführung neuer innovativer Tools und Dienste selbst gehemmt wird
• Weil schon eine einfache Meldung zur Sperrung führen kann, werden auch legitime kreative Tätigkeiten und Nutzerrechte beeinträchtigt

Regulierungsziel und tatsächliche Wirkung

• Der US-Kongress hat zuletzt auch Maßnahmen wie Take It Down zur Regulierung sexueller Bildinhalte verabschiedet, wodurch der Druck zu übermäßiger Online-Überwachung weiter zunimmt
• Das eigentliche Ziel von NO FAKES ist weniger der Schutz von Betroffenen als vielmehr die Konzentration kommerzieller Kontrolle über digitale Bilder
• Das Ergebnis ist, dass sowohl normale Nutzer als auch Entwickler Nachteile erleiden und das Innovationsökosystem des Internets negativ beeinflusst wird

[crawler]

Ich habe es gelesen und trotzdem nicht verstanden, also musste ich erst einmal eine ganze Weile danach suchen.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Anscheinend liegt die Wahrscheinlichkeit, dass das geänderte Gesetz umgesetzt wird, bei 5 %.
Das ist doch absurd.

[GN⁺]

Hacker-News-Kommentare

• Die neue Version von NO FAKES würde praktisch alle Internet-Gatekeeper dazu zwingen, a) Inhalte nach Eingang einer Meldung schnell zu entfernen, b) zusätzlich zu den ohnehin schon problematischen Copyright-Filtern zwingend auch Duplikat-Filter einzusetzen, um wiederholte Uploads zu verhindern, c) sogar Tools zu filtern und zu entfernen, die möglicherweise zur Erstellung eines Bildes verwendet wurden, und d) allein auf Grundlage der Behauptung, etwas sei „kopiert“, auch noch die Identität des Uploaders offenzulegen Solche Systeme können kleine Unternehmen nicht einführen, und große Unternehmen kümmert das kaum

  • Solche Regulierung wirkt eher wie das Ergebnis davon, dass Großkonzerne dafür lobbyieren, die Markteintrittsbarrieren für kleinere Wettbewerber zu erhöhen Diese Art von Regulatory Capture führt dazu, dass selbst Unternehmen, die ursprünglich Innovation propagierten, ab einer gewissen Größe oder Gewinnspanne am Ende ins Lager der Regulierungsbefürworter wechseln
  • Große Unternehmen haben eher die Ressourcen, so etwas umzusetzen, und genau diese Regulierung wird für kleine Firmen zu einem unüberwindbaren Burggraben (moat) Das Problem ist aber noch viel gravierender: Solche Systeme könnten selbst zur typischen Infrastruktur sozialer Kontrolle in autoritären Regimen werden Sie bergen das Risiko, regimekritischen Kräften die Stimme zu nehmen, ihnen ihre Räume zum Sprechen und Publizieren zu entziehen, ihre Identität an die Regierung auszuliefern und selbst Solidarität mit Dissidenten zu etwas zu machen, das alle fürchten
  • Tatsächlich ist zu erwarten, dass solche Systeme auf großen Plattformen, die wichtige Online-Communities betreiben, noch stärker dazu genutzt werden, Stimmen zu unterdrücken, die der Regierung missfallen
  • Im Kern könnte es sich um ein System handeln, das alles als „fake“ brandmarkt, um angeblich systemfeindliche Stimmen zu erkennen und zu unterdrücken
  • Der Einwand, dass kleine Unternehmen so etwas kaum einführen können, ist berechtigt Die EFF (Electronic Frontier Foundation) scheint sich inzwischen kaum noch für das eigentliche Wesen von Internetfreiheit zu interessieren und stattdessen nur noch auf Schlagzeilen vom Typ „Big Tech ist schlecht“ zu setzen Ich halte es durchaus für zutreffend, dass Big Tech über Jahrzehnte hinweg de facto als wohlwollender Verwalter gesellschaftlicher Information fungierte, und vor dem Hintergrund einer Zeit, in der unbeaufsichtigte Leute Anfang 20 massenhaft Daten der US-Bundesregierung auf ihre MacBooks kopieren, wirkt diese Rhetorik anachronistisch Wir erleben eine ausgewachsene Datenschutzkatastrophe, und die EFF tadelt nur die Clickstreams von Meta und ByteDance

• Vor 15 Jahren hätte diese Lage noch völlig absurd gewirkt, heute fühlt sie sich eher wie eine längst entschiedene Debatte an

  • Eigentlich lag der Wendepunkt schon eher vor 25 Jahren, und mit Gesetzen wie dem PATRIOT Act nach 2001, die die Privatsphäre faktisch aushebelten, wurde die Situation bereits irreversibel
  • Wirklich überraschend ist das nicht Überwachungskapitalismus ist so lange zur Grundlogik gesellschaftlicher Organisation geworden, dass all das inzwischen als normal gilt Die Welt von heute wirkt bittererweise wie ein „Survival Game“, in dem jeder nur noch für sich selbst und den eigenen Vorteil kämpft
  • Inzwischen unterstützt sogar die Linke aktiv Zensursysteme unter dem Vorwand von „Fake News“-Bekämpfung und emotionalem Schutz, nur damit dieselben Systeme später ironischerweise gegen linke und rechte Systemkritiker gleichermaßen zurückverwendet werden

• Grundsätzlich liegt all diesen Debatten die Annahme zugrunde, dass das jeweilige Medium gesellschaftlich als „Social Media“ geteilt wird In geschlossenen Communities oder privaten Räumen stellt sich daher die Frage, ob solche Gesetze dort nicht weitgehend nutzlos wären Vielleicht wollten wir am Ende tatsächlich das Ende von Social Media

  • In der Wissenschaft ist längst bekannt, dass der Kern des Problems im Plattformdesign liegt Die eigentliche Lösung ist nicht die oberflächliche Debatte über Freiheit und Verantwortung, sondern dass der Staat Social Media zur Einführung algorithmischer Reibung zwingt In der politischen Realität fehlt dafür wegen wirtschaftlicher Interessen allerdings jeder Wille zur Veränderung Im Gegenteil: Das gegenwärtige Chaos, die Spaltung und die Verwirrung des Systems nützen den herrschenden Eliten

Referenzstudien: • MIT Aral & Eckles (2019): Die Einführung von Reibung reduziert die Verbreitung von Fehlinformationen deutlich, ohne die Meinungsfreiheit einzuschränken • Mozilla/Stanford (2020~2022): Reibung wie „erneute Bestätigung vor dem Teilen“ kann die Verbreitung von Fake News um bis zu 50 % senken • Twitter (2021): Wenn vor dem Upload ein Faktencheck-Prompt angezeigt wird, entscheiden sich rund 25 % für das Bearbeiten oder Löschen des Tweets

• Tatsächlich wäre es extrem schwierig, die Kategorie „Social Media“ rechtlich sauber zu definieren

• Warum verbietet man nicht einfach Lügen selbst und richtet gleich eine Art „Wahrheitsministerium“ ein? Versuche, Lügen zu regulieren, führen de facto nur dazu, dass die jeweils herrschende Regierung bestimmte Narrative bevorzugt

• Selbst wenn man alle Bilder durch Duplikat-Filter schickt, kann man mit AI anhand desselben Prompts hunderte komplett unterschiedliche Ergebnisse erzeugen, und jetzt soll AI auch noch die „Bedeutung“ von Bildern beurteilen Am Ende ist das nur gut für Chiphersteller und Stromversorger

• Persönlich stehe ich womöglich im Gegensatz zum Autor des Ursprungsposts Der Vergleich von NO FAKES mit dem DMCA scheint mir nicht besonders gut begründet

Ein Artikel mit einer anderen Perspektive: https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate

• Solche Unternehmen bzw. politischen Interessenakteure sind einflussreich genug, um einer Elefanten Schlangehaut zu verkaufen

Wie leicht ich doch auf solche PR-Artikel hereinfalle

• Ich hätte gern eine sehr einfache Ein-Satz-Zusammenfassung ohne Lobbying- und Panikmache-Debatte Geht es bei diesem Gesetz darum, die Nutzung von Content-Wasserzeichen zu legalisieren, um Bearbeitungen urheberrechtlich geschützter Werke zu verhindern, oder geht es um etwas anderes?

Ich würde gern genau wissen, was konkret unter den tatsächlichen Anwendungsbereich fällt

• Es hat nichts mit Wasserzeichen zu tun Jeder kann ohne jeden Beleg behaupten, dass beliebige gehostete Inhalte „fake“ seien, und dann trägt der Host rechtlich die Beweislast dafür, dass sie echt sind Prinzip ist sofortige Entfernung; das Missbrauchspotenzial erinnert an den DMCA, ist aber deutlich umfassender Es wird ein neues Rechtekonzept eingeführt, bei dem es faktisch unmöglich ist, legitimen Datenbesitz tatsächlich nachzuweisen Am Ende schafft das nur noch mehr Anreize, Server außerhalb der USA zu verlagern

• Ich habe den Originaltext nur grob überflogen, aber vom Eindruck her wirkt es wie eine DMCA-Version für Bilder/Tools/abgeleitete Werke, die zusätzlich vollständige Logs zur Nachverfolgung von Erstellern, Werkzeugen und Veröffentlichenden verlangt Allerdings habe ich den Gesamtkontext des Gesetzentwurfs nicht vollständig erfasst

• In Tennessee treten ab dem 1. Juli mehrere Gesetze gleichzeitig in Kraft, die generative AI in ihrer Gesamtheit betreffen

Das Problem ist, dass das Parlament des Bundesstaats die Begriffe offenbar falsch verstanden hat, weshalb der Wortlaut so extrem weit gefasst wurde, dass er faktisch schon den bloßen Besitz einer GPU illegalisiert Beispiel: Es gibt bereits Witze wie „Hast du überhaupt eine Lizenz für die Nutzung von Tensor Cores?“ Dazu kommen landesweit Vorstöße für Gesetze, die Cannabis noch strenger regulieren würden als der Farm Bill auf Bundesebene Umgekehrt hat der Gouverneur von Texas ein ähnliches Gesetz wegen verfassungs- und rechtsstaatlicher Bedenken angemessen abgelehnt

• Ich stimme der Behauptung nicht zu, dass „dieses Gesetz Reddit zerstören wird“

Macht es dir Angst, dass es Orte gibt, an denen jeder frei sprechen kann? Dort tauchen eben manchmal auch unerwartet „schlechte Meinungen“ auf

• Entscheidend ist die Unterscheidung zwischen einer Plattform, die Inhalte so kuratiert, wie Nutzer es ausdrücklich wollen, und einer Plattform, die ihnen willkürlich neue Inhalte empfiehlt Abgesehen von eindeutig Illegalem wie CSAM sollte eine Plattform nicht bestimmen, was Nutzern vor Augen geführt wird
• Nach derselben Logik müsste dann auch Hacker News verschwinden
• Der Text „You are Wrong About Section 230“ sollte zu Section 230 immer wieder genannt werden: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-youre-wrong-about-section-230-communications-decency-act/ Der Kernpunkt ist, dass Section 230 selbst nirgendwo eine Unterscheidung zwischen Publisher und Plattform kennt Diese Unterscheidung und ihre Bedeutung wurden nur als Streitpunkt aufgeblasen, haben aber keine reale Substanz