Überarbeiteter NO FAKES Act: Noch größere Bedrohung für Meinungsfreiheit im Internet und Innovation
(eff.org)- Der NO FAKES Act, der Schäden durch generative KI-Repliken verhindern soll, steht in der Kritik, weil er sich zu einem Instrument für neue Immaterialgüterrechte und eine Zensurinfrastruktur ausweitet, die Meinungsfreiheit im Internet und Innovationen beeinträchtigen könnte
- Der Anwendungsbereich wurde über die Repliken selbst hinaus auf Tools, Apps und Services ausgedehnt, mit denen solche Inhalte erstellt werden können, sodass Entwickler und Hosting-Anbieter schon durch bloße Behauptungen von Rechteinhabern einem Haftungsrisiko ausgesetzt sein könnten
- Diensteanbieter sollen nach Erhalt einer Meldung nicht nur das beanstandete Material oder Tool entfernen, sondern auch erneute Uploads verhindern, was ihnen faktisch eine Filterpflicht auferlegen könnte
- Nutzeridentifizierende Informationen könnten bereits per Vorladung verlangt werden, die nicht von einem Richter, sondern von einem Gerichtsschreiber ausgestellt wurde, wodurch legale Ausdrucksformen wie anonyme Kritik, Satire und Kommentare abgeschreckt werden könnten
- Compliance-Kosten und das Risiko von Löschungen könnten es neuen Diensten erschweren, mit Big Tech zu konkurrieren, und zugleich die Investitionsanreize für die Entwicklung legaler Kreativ-Tools senken
Von der Reaktion auf generative KI-Repliken zu einem umfassenden Rechteapparat
- Der NO FAKES Act ist die Abkürzung für Nurture Originals, Foster Art and Keep Entertainment Safe Act und ist ein Gesetzesvorhaben, das neue Immaterialgüterrechte schaffen will, um Bedenken über von generativer KI erzeugte „Repliken“ zu adressieren
- Die EFF kritisiert, dass bereits der ursprüngliche Entwurf kein Schutzinstrument war, das gezielt schädliche Falschdarstellungen bekämpft, sondern vielmehr ein auf Bundesebene ausgeweiteter Ansatz für ein Lizenzsystem für Bilder
- Nach Ansicht der EFF fehlt dabei die notwendige Balance zum Schutz von Parodie, Satire und legaler Meinungsäußerung
- Der überarbeitete Entwurf verschärft diesen Ansatz noch, indem er eine neue Zensurinfrastruktur fordert, die nicht nur Bilder, sondern auch Produkte und Services umfasst, die zu ihrer Erstellung verwendet werden
Eine Struktur, die auch Tools und Services ins Visier nimmt
- Die erste Version konzentrierte sich auf digitale Repliken, doch die neue Version weitet den Geltungsbereich auf Tools aus, mit denen Bilder erzeugt werden können, die weder von der betroffenen Person, dem Rechteinhaber noch gesetzlich genehmigt sind
- Auch Akteure, die solche Tools entwickeln, vermarkten oder hosten, könnten haftbar gemacht werden
- Es gibt einige Einschränkungen
- Das Tool muss primär für die Erstellung nicht genehmigter Bilder ausgelegt sein oder
- seine kommerziellen Nutzungsmöglichkeiten außerhalb der Erstellung nicht genehmigter Bilder müssen begrenzt sein
- Nach Auffassung der EFF könnten Entwickler jedoch schon durch bloße Behauptungen ins Visier geraten, weshalb diese Einschränkungen kaum als ausreichender Schutz taugen
- Kritiker sagen, diese Regelung könne Rechteinhabern faktisch das schon lange gewünschte Vetorecht gegen Innovation verschaffen, wie es aus Urheberrechtsdebatten bekannt ist
Löschmeldungen und Filterpflicht
- Der bisherige NO FAKES Act schuf ein der DMCA ähnliches System von Meldung und Entfernung, das nach Ansicht der EFF sogar noch weniger Schutzvorkehrungen enthielt
- Der neue Entwurf richtet sich gegen mehr Diensteanbieter und verlangt nicht nur, Material oder Tools zu entfernen, sondern auch spätere erneute Uploads zu verhindern
- Dadurch entsteht ein System, in dem Anbieter ihren Haftungsschutz verlieren könnten, wenn sie keine breit angelegten Filter einsetzen
- Schon Urheberrechtsfilter verursachen zahlreiche Probleme
- Eigentlich sollten sie nur dann Inhalte zur menschlichen Prüfung markieren, wenn ein Upload wie eine vollständige Kopie eines Werks erscheint
- In der Praxis können jedoch auch ähnliche, aber nicht identische Inhalte markiert werden, etwa wenn verschiedene Personen dieselbe gemeinfreie Musik aufführen
- Es gibt auch Fälle, in denen schon einige Sekunden Übereinstimmung als Rechtsverletzung markiert wurden
- Zudem berücksichtigen sie oft nicht ausreichend Kontexte, die rechtlich zulässig sein können
- Derzeit sind Urheberrechtsfilter keine gesetzliche Pflicht, doch NO FAKES könnte eine solche Pflicht gesetzlich verankern
- Der Gesetzentwurf enthält zwar Ausnahmen für Parodie, Satire und Kommentar, doch für Menschen, die sich Prozesskosten nicht leisten können, dürften sie kaum einen wirksamen Schutz darstellen
Vorladungsregel bedroht anonyme Meinungsäußerung
- Der aktuelle Text würde es jeder Person erlauben, von einem Gerichtsschreiber statt von einem Richter eine Vorladung zu erhalten und damit einen Dienst zur Herausgabe nutzeridentifizierender Informationen zu zwingen
- Laut EFF ist für dieses Verfahren keinerlei Form von Nachweis erforderlich
- Ähnliche Instrumente wurden in Urheberrechtsfällen bereits missbraucht
- Etwa indem jemand, der sich durch Kritik gestört fühlt, per Vorladung versucht, Kritiker zum Schweigen zu bringen
- Zur Kritik gehören oft auch Aussagen des Klägers selbst als Beleg, was ein klassischer Fall von Fair Use sein kann
- Trotzdem werden Vorladungen ausgestellt, und wenn Dienste nicht sehr aktiv gegenhalten, kann die Identität eines Nutzers offengelegt werden
- Eine Offenlegung der Identität kann spätere Äußerungen abschrecken und Nutzern Reputationsschäden oder persönliche Nachteile zufügen
Belastung für Innovation und Wettbewerb
- Nach Ansicht der EFF sind viele Menschen mit dem aktuellen Zustand von Big Tech unzufrieden, werden aber zugleich stärker in die Nutzung großer Tech-Konzerne gedrängt und erleben eine schlechtere Servicequalität
- NO FAKES könnte es neuen Diensten erschweren, Big Tech herauszufordern, weil die für die Rechtskonformität nötige Infrastruktur erheblich ausgeweitet würde
- Die EFF meint, es könnte kein Zufall sein, dass einige große Unternehmen der neuen Version von NO FAKES wohlwollend gegenüberstehen
- Auch die Forderung nach der Entfernung von Tools, Apps und Services könnte Innovation bremsen
- Sie kann Menschen schaden, die solche Dienste für legitime kreative Zwecke nutzen
- Und sie senkt die Investitionsanreize für Tools oder Services, die schon aufgrund bloßer Behauptungen offline genommen werden könnten
- Die EFF weist darauf hin, dass der Kongress vor einigen Monaten bereits Take It Down verabschiedet hat, das sich auf Bilder mit intimem oder sexuellem Inhalt konzentriert
- Auch dieses Gesetz übe problematischen Druck auf Plattformen aus, Online-Äußerungen aktiv zu überwachen, einschließlich derzeit verschlüsselter Kommunikation
- Wenn dem Kongress Schäden für die Privatsphäre wirklich Sorgen bereiten, sollte er nach dieser Ansicht zunächst die Wirkung der jüngsten Regulierung abwarten, bevor er weitere Internetregulierung vorantreibt
- Die EFF kritisiert, NO FAKES schütze weniger die Opfer schädlicher digitaler Repliken, sondern konzentriere vielmehr die Kontrolle über die kommerzielle Nutzung digitaler Bilder
2 Kommentare
Ich habe es gelesen und trotzdem nicht verstanden, also musste ich erst einmal eine ganze Weile danach suchen.
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
Anscheinend liegt die Wahrscheinlichkeit, dass das geänderte Gesetz umgesetzt wird, bei 5 %.
Das ist doch absurd.
Meinungen auf Hacker News
Die neue Version von NO FAKES scheint so aufgebaut zu sein, dass fast jeder Gatekeeper im Internet nach einer Benachrichtigung Äußerungen entfernen, erneutes Hochladen dauerhaft verhindern, zusätzlich zu den ohnehin schon stark mangelhaften Copyright-Filtern einen zwangsläufig überzogenen Replikatfilter einführen, sogar Tools entfernen und filtern muss, die möglicherweise zur Erstellung eines Bildes verwendet wurden, und allein auf die Behauptung einer Person hin, sie sei „repliziert“ worden, die Identität des Uploaders offenlegen soll.
Das wirkt wie ein System, das kleine Unternehmen nicht umsetzen können und große Unternehmen nicht sorgfältig umsetzen werden.
Wegen dieser regulatorischen Vereinnahmung neigen Unternehmen, die in ihrer frühen Phase als „disruptive Innovatoren“ Regulierung ablehnten, dazu, ab einer bestimmten Größe und Profitabilität auf die Seite der Regulierungsbefürworter zu wechseln.
Aber es wirkt noch viel schlimmer als das. Es ist eine lehrbuchhafte Infrastruktur für Tyrannei.
Sie unterdrückt die Äußerungen von Menschen, die gegen das Regime sind, nimmt ihnen Megafone und Druckerpressen weg, verlangt, Gegner zu identifizieren und dem Regime auszuliefern, und pflanzt jedem Angst vor Sanktionen ein, den das Regime — durch Handeln oder Unterlassen — als Unterstützer von Gegnern betrachten könnte.
Die EFF hat schon vor langer Zeit aufgehört, sich für die großen Fragen der Internetfreiheit zu interessieren, und scheint jetzt nur noch eine Parade von Schlagzeilen nach dem Muster Big Tech Bad zu liefern.
Jahrzehnte später ist Big Tech immer noch ein recht moderater Verwalter gesellschaftlicher Informationen, während zugleich unbeaufsichtigte MAGA-Typen Anfang 20 die gesamte Bundesregierung auf ihr MacBook ziehen — vor diesem Hintergrund wirkt diese Haltung enorm weltfremd.
Das Ende technischer Privatsphäre ist längst da, aber die EFF meckert für den Klickstrom weiter über Meta und ByteDance. Wie bei allen anderen im Internet scheint es am Ende auch bei ihnen das zu sein, worum sie sich wirklich kümmern.
Vor 15 Jahren wäre das absurd gewesen, aber inzwischen ist es nur noch auf ein totes Pferd einschlagen.
Persönlich habe ich das Gefühl, dass die Welt immer stärker ums Überleben kämpft und zugleich immer mehr in Richtung „Ich habe meins, du bist mir egal“ driftet.
Jetzt wird das sowohl gegen die Linke selbst eingesetzt werden als auch gegen rechte Dissidenten, die sich den märchenhaften Narrativen der bestehenden Ordnung widersetzen.
Mir scheint, all das setzt voraus, dass solche Medien über soziale Medien geteilt werden.
In privaten Communities wirkt der Gesetzestext bedeutungslos. Vielleicht ist das ja das, was wir wollten, aber noch nicht erreicht haben: das Ende der sozialen Medien.
Die Lösung besteht darin, zu fordern, dass die Regierung Social-Media-Unternehmen zur Einführung eines algorithmischen Reibungskoeffizienten zwingt.
Allerdings beseitigen die entsprechenden wirtschaftlichen Anreize den politischen Willen für eine solche Veränderung.
Die herrschenden Schichten profitieren von der Verwirrung, Spaltung und dem Chaos, das soziale Medien in ihrer derzeitigen Form verbreiten. Sie mögen es ziemlich genau so, wie es ist.
Als einschlägige Forschung nannten Aral & Eckles (MIT, 2019), dass Reibung die Verbreitung von Desinformation reduziert, ohne die Meinungsfreiheit einzuschränken; Studien von Mozilla und Stanford (2020–2022) sahen, dass Reibung wie Aufforderungen zum Abbrechen des Teilens die Verbreitbarkeit von Fake News um bis zu 50 % senkt; und in Twitters Experiment von 2021 änderten oder löschten Nutzer in 25 % der Fälle ihren Tweet, nachdem ihnen vor dem Posten ein Hinweis zur Faktenprüfung angezeigt worden war.
Warum verbietet man nicht gleich das Lügen und schafft ein Wahrheitsministerium?
Versuche, Lügen zu regulieren, sind nur eine Verpackung, um Narrative durchzusetzen, die einer bestimmten politischen Sichtweise nützen.
In dieser Sache könnte ich dem Autor überhaupt nicht zustimmen. Er stellt mehrere ziemlich kühne Behauptungen auf, etwa den Vergleich mit dem DMCA, liefert aber offenbar nicht viele Belege.
Gegenposition: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
Auf solche Blogposts könnte ich auch leicht hereinfallen.
Alle Bilder müssten durch einen Replikatfilter laufen, aber KI macht es viel zu einfach, schon mit einem einzigen Prompt deutlich unterschiedliche Bilder zu erzeugen. Dann braucht man also eine KI, die die „Bedeutung“ eines Bildes erschließt.
Insgesamt klingt das nach sehr guten Nachrichten für Chiphersteller und Stromerzeuger.
Ich brauche wirklich eine einfache englische Erklärung, was dieses Gesetz tatsächlich bewirkt, ohne Lobbying oder agitatorische Katastrophenrhetorik.
Bedeutet das Gesetz, dass Unternehmen Wasserzeichen in ihre Inhalte einbetten, damit andere Unternehmen keine abgeleiteten Inhalte auf Grundlage dieser Inhalte erstellen können? Wie genau funktioniert das?
Es sieht nach etwas DMCA-Ähnlichem für Bilder, Tools und abgeleitete Werke aus, einschließlich aller Logs, die nötig sind, um Ersteller, Tools und Poster nachzuverfolgen.
Aber wie gesagt, ich habe ihn nur überflogen.
Es erlaubt jedem, ohne Beweise Beschwerde über beliebige irgendwo gehostete Inhalte einzulegen, legt der Person, die diese Inhalte hostet, die rechtliche Beweislast für eine negative Tatsache auf — nämlich dass es kein „Fake“ ist — und verlangt rechtlich, die Inhalte zu entfernen, sobald es technisch möglich ist, also faktisch sofort.
Damit ist es ähnlich missbrauchsanfällig wie der DMCA, aber die Forderungen sind weiter gefasst und die Rechtfertigung nahezu unmöglich, weil eine neue, vage definierte Kategorie rechtlichen Eigentums an Inhalten geschaffen wird.
Kurz gesagt: ein hervorragender Grund, Hosting aus den USA heraus zu verlagern.
Tennessee setzt am 1. Juli mehrere Gesetze zu generativer KI in Kraft, und interessanterweise ist dieses umfassende Verbot — vielleicht weil der Gesetzgeber die Begriffe missverstanden hat — so weit gefasst, dass es faktisch sogar den Besitz einer GPU verbietet.
So eine Situation à la: „Hey, hast du eine Lizenz für diesen Tensor Core?“
Aber immerhin verbietet es Marihuana landesweit stärker, als es der Federal 2018 Farm Bill erlaubt hat, also ist ja alles gut. /s
Der kluge Gouverneur des benachbarten Texas hat ein ähnliches Gesetz wegen Verfassungswidrigkeit und möglicher rechtlicher Anfechtungen per Veto gestoppt.