Bundesstaat New York bringt Gesetzentwurf ein, der Warnhinweise „AI-generated“ für von KI erzeugte Nachrichteninhalte vorschreibt

• Im Parlament des Bundesstaats New York wurde ein Gesetzentwurf eingebracht, der Warnhinweise für von KI erzeugte Nachrichteninhalte und eine menschliche Prüfung vorschreibt
• Der Gesetzentwurf trägt den Namen „NY FAIR News Act (New York Fundamental Artificial Intelligence Requirements in News Act)“ und soll Transparenz in der Nachrichtenbranche sowie den Schutz des Journalismus stärken
• Zu den wichtigsten Bestimmungen gehören Offenlegung des KI-Einsatzes, redaktionelle Prüfung und Schutzvorkehrungen für vertrauliche Informationen
• Der Entwurf weist auf die Gefahr von Falschinformationen und Plagiaten in KI-generierten Inhalten hin und enthält zudem Arbeitnehmerschutzklauseln wie das Verbot von Entlassungen oder Lohnkürzungen bei Medienbeschäftigten
• Große Mediengewerkschaften wie WGA-East, SAG-AFTRA, DGA und NewsGuild of New York unterstützen den Entwurf; er gilt als Reaktion auf Vertrauensverluste und Bedrohungen für Arbeitsplätze durch die Einführung von KI

---

Überblick über den NY FAIR News Act

• Der von der Senatorin Patricia Fahy und der Abgeordneten Nily Rozic gemeinsam eingebrachte NY FAIR News Act verlangt von Nachrichtenorganisationen, KI-generierte Inhalte klar zu kennzeichnen
  • Für „Inhalte, die im Wesentlichen unter Einsatz generativer künstlicher Intelligenz erstellt wurden“, muss ein Warnhinweis (Disclaimer) angebracht werden
  • Dies gilt nicht nur für Artikel, sondern für alle Formen von Nachrichteninhalten, darunter Audio, Bilder und visuelle Materialien
• Alle KI-generierten Inhalte müssen vorab von menschlichen Beschäftigten mit redaktioneller Kontrolle geprüft werden
• Auch innerhalb von Redaktionen muss ob und wie KI eingesetzt wird gegenüber Mitarbeitenden wie Journalistinnen und Journalisten offengelegt werden

Zentrale Regulierungspunkte des Gesetzentwurfs

• Er enthält zahlreiche Regelungen zur Stärkung der KI-Transparenz
  • Nachrichtenorganisationen müssen Schutzvorkehrungen für vertrauliche Informationen, insbesondere zu Quellen, einrichten, auf die KI zugreifen könnte
  • Enthalten ist auch eine Ausnahmeklausel zum Urheberrechtsschutz: Fälle, in denen nach dem Urheberrecht eine menschliche Urheberschaft anerkannt wird, sind ausgenommen
• Der Entwurf benennt ausdrücklich Probleme bei der Verlässlichkeit von KI-Erzeugnissen
  • Die Gesetzgeber führen an, dass KI-Inhalte „falsch oder irreführend sein können“ und die Möglichkeit von „unzulässiger Übernahme von Zitaten oder Plagiaten“ besteht

Reaktionen aus Medienbranche und Gewerkschaften

• Der Entwurf erhält breite Unterstützung von wichtigen Gewerkschaften der Medienbranche
  • Beteiligt sind unter anderem WGA-East, SAG-AFTRA, DGA und NewsGuild of New York
  • Die NewsGuild-Sprecherin Jennifer Sheehan bestätigte, dass die Gewerkschaft über die Auswirkungen der KI-Einführung und den Schutz von Arbeitsplätzen diskutiert
• Die NewsGuild startete im Dezember 2025 die Kampagne „News Not Slop“, die Schutzvorkehrungen für den KI-Einsatz in Redaktionen fordert
  • In New York City veranstaltete die Gewerkschaft von Business Insider eine Kundgebung gegen Artikel, die mit einer KI-Byline veröffentlicht wurden

Schutz des Journalismus und arbeitsrechtliche Bestimmungen

• Der Entwurf enthält Bestimmungen, die Entlassungen, Aufgabenabbau sowie Kürzungen von Löhnen und Sozialleistungen aufgrund der Einführung von KI verbieten
  • Damit wird versucht, Bestimmungen, die in den vergangenen Jahren in einzelne Tarifverträge von Redaktionen aufgenommen wurden, gesetzlich zu verankern
• Senatorin Fahy erklärte, „KI könnte Journalismus und öffentliches Vertrauen bedrohen“, und verwies darauf, dass 76 % der US-Amerikanerinnen und US-Amerikaner besorgt seien, dass KI Nachrichteninhalte stehlen oder reproduzieren könnte

Hintergrund und Bedeutung

• New York ist das Zentrum der US-Medienindustrie; der Vorstoß soll gleichzeitig die Glaubwürdigkeit des Journalismus und den Schutz von Beschäftigten stärken
• Der Gesetzentwurf gilt als der erste Versuch einer Gesetzgebung auf Ebene eines US-Bundesstaats, der KI-Transparenz, Urheberrecht und Arbeitsrechte gemeinsam umfasst

[GN⁺]

Hacker-News-Kommentare

• Es überrascht mich, dass Nachrichten über Gesetzgebung rund um KI derzeit kaum behandelt werden.
  Allein im Bundesstaat New York gibt es mehrere Gesetzentwürfe, etwa RAISE (Sicherheitsprotokolle für Frontier-KI, Aufsicht, Meldung von Vorfällen), S8420A (Offenlegungspflicht für KI-generierte Personen in Werbung), GBL Article 47 (Krisenerkennung und Warnhinweise bei KI-Chatbots), S7676B (Schutz der KI-Abbildrechte von Schauspielern), NYC LL144 (Überwachung von Verzerrungen bei KI-Recruiting-Tools) sowie den SAFE for Kids Act zur Begrenzung algorithmischer Feeds für Minderjährige (anhängig).
  Selbst wenn eine App nur Nutzer in New York bedient, könnten mindestens drei davon anwendbar sein.
  Das Rechtssystem der US-Bundesstaaten wirkt wie ein noch komplexeres Minenfeld als die EU-Regulierung.

  • Viele denken, dass solche Gesetze in der Praxis nicht durchgesetzt werden.
    Ich glaube eher, dass sie so durchgesetzt werden, dass ehrliche Entwickler übermäßig bestraft werden.
  • Es wäre gut, wenn Gesetze wie der SAFE for Kids Act so ausgeweitet würden, dass sie für alle Nutzer einen Schalter zum Deaktivieren algorithmischer Feeds vorschreiben.
    Nicht nur zum Schutz von Minderjährigen, sondern damit Nutzer selbst wählen können; das könnte helfen, Vertrauen zurückzugewinnen.
  • Letztlich halte ich es für wahrscheinlich, dass KI-Recruiting am Ende vollständig verboten wird.
    Nichtdeterministische Systeme lassen sich schließlich nicht vollständig auditieren.
  • Warnhinweise auf Veröffentlichungen anzubringen, ist wegen der Meinungsfreiheit juristisch eine schwierigere Aufgabe.
    Realistischer wäre vielleicht, wenn Mediengewerkschaften oder Gilden freiwillig kennzeichnen, ob KI eingesetzt wurde.
  • Dass die USA über EU-Regulierung spotten, ist eine Art Selbstrechtfertigung.
    Tatsächlich steckt man in einem auf Großkonzerne zugeschnittenen Rechtssystem fest und hält sich trotzdem für überlegen.

• Ich denke, wir brauchen eine Kennzeichnung für „Originalberichterstattung“.
  Die meisten Nachrichten sind aufbereitete Informationen und damit von KI ersetzbar, aber die Rolle von Reportern mit eigener Recherche ist nicht ersetzbar.
  Bei allen Artikeln sollten Quellen angegeben werden, und wenn eine KI falsche Links erzeugt, ist das ein starkes Warnsignal.

  • Meine Website Forty.news behandelt Nachrichten von vor 40 Jahren, und trotzdem höre ich oft: „Dafür braucht es Quellen.“
    Ironischerweise genießen große Medien Vertrauen, obwohl ihre Quellen oft oberflächlich sind.
  • Colorado Sun versieht jeden Artikel mit einem Label für die Art der Berichterstattung.
    Das geht auf den frühen Civil-Ansatz zurück.
  • So wie man die Herkunft von Lebensmitteln kennen möchte, ist auch Transparenz über die Herkunft von Informationen wichtig.
    Der Schutz anonymer Quellen von Journalisten sollte dabei natürlich eine Ausnahme bleiben.
  • Es gibt bereits Labels wie „exclusive!“, aber das ist keine echte Quellenkennzeichnung.

• KI-generierte Nachrichten sollten zwingend von menschlichen Redakteuren geprüft werden.
  Organisationen müssen Verantwortung für KI-Ergebnisse übernehmen; es darf nicht bei einem bloßen Haftungsausschluss als Warnhinweis bleiben.
  Es darf nicht zu einer formalen Compliance-Show wie bei Sicherheitszertifizierungen verkommen.
  Wenn durch fehlerhafte KI-Berichterstattung Schaden entsteht, sollte das Medium haften.

  • Gleichzeitig verbreitet nicht einmal der Präsident KI-manipulierte Videos mit Konsequenzen.
    Verantwortung muss zuerst ganz oben eingefordert werden.

• Im Idealfall sollte es illegal sein, KI-Erzeugnisse als menschliche Werke auszugeben.

  • Wenn man allerdings alles mit Warnhinweisen versieht, droht es wie bei Prop 65 bedeutungslos zu werden.
    Wenn Warnungen inflationär werden, ignorieren die Menschen das Signal.
    Nur wenn man es auf Nachrichtenartikel beschränkt, bleibt die Glaubwürdigkeit der Warnung erhalten.
  • Die Definition von „KI-generiert“ ist unklar.
    Selbst Smartphone-Kameras oder Photoshop nutzen KI.
  • Es ist auch schwer, nachlässige menschliche Arbeit von KI-Erzeugnissen zu unterscheiden.
  • Veröffentlichen ist nicht bloß Schreiben, sondern umfasst Recherche, Redaktion, Prüfung und weitere Schritte.
    In jeder dieser Phasen kann KI eingreifen.
  • Letztlich ist die Grenzziehung zwischen KI-unterstützt und KI-generiert der Kernpunkt.

• Ich mache mir Sorgen, dass ein solches Gesetz am Ende wie Prop 65 dazu führt, dass auf allen Inhalten steht: „Mit KI erstellt“ oder ähnlich.
  Eine vage Formulierung wie „größtenteils unter Beteiligung von KI“ wäre ein Paradies für Anwälte.
  Siehe Prop-65-Wiki.

  • Andererseits könnte das Filterung von Nicht-KI-Inhalten ermöglichen.
  • Wahrscheinlicher ist aber, dass es wie die meisten Pflichtwarnungen formal und bedeutungslos wird.
  • Vielleicht wird „No AI!“ stattdessen zur Premium-Option für Wohlhabende.
    Selbst Lektorat oder Korrekturlesen könnte dann als „wesentliche Urheberschaft“ gelten.
  • Andererseits gibt es auch Studien, wonach Prop 65 tatsächlich den Einsatz von Chemikalien in Unternehmen reduziert hat.
    Laut diesem Washington-Post-Artikel haben 78 % der Hersteller ihre Rezepturen angepasst.

• Ich habe beim W3C eine Working Group zur Standardisierung der Offenlegung von KI-Inhalten gestartet.
  Wir arbeiten an einem Standard, mit dem Websites freiwillig offenlegen können, in welchem Maß KI beteiligt war.
  Siehe die W3C-Seite und das GitHub-Repository.

  • Es gab die Frage, wie man daran teilnehmen kann.

• New York möchte, dass 3D-Drucker das Drucken von Waffenteilen erkennen.
  Solche Regeln werden am Ende aber wohl nur von gutwilligen Nutzern eingehalten.
  Es gibt keine perfekte Methode, KI-generierte Inhalte zuverlässig zu erkennen; Aufklärung und Sensibilisierung sind die realistischere Lösung.

• Am Ende werden wohl alle Websites einen Hinweis anbringen wie: „Diese Website kann nach Maßstäben des Bundesstaats New York KI-Inhalte enthalten.“

  • Daraufhin kam auch scherzhaft der Vorschlag, es gleich wirklich so zu machen.

• Wenn Medien bei allen Inhalten Warnhinweise anbringen, verliert die Warnung ihren Wert.
  Falls Regulierungsbehörden das untersagen, könnten Medien im Gegenzug sogar anfangen, KI für alle Inhalte zu nutzen.
  Ich würde das den „Sesame-Effekt“ nennen.

  • Ich nutze als Datenjournalist KI teilweise selbst, lege das aber immer im Methodik-Abschnitt offen.
    Medien, die pauschal auf jeden Artikel Warnhinweise kleben, halte ich nicht für vertrauenswürdig.
  • Umgekehrt könnten Medien, die tatsächlich menschliche Prüfung vornehmen, mit mehr Abonnenten rechnen.
  • Auch eine Differenzierungsstrategie wie „Alle unsere Inhalte wurden von Menschen geprüft“ wäre möglich.

• Letztlich dreht sich diese ganze Debatte um eine Kultur des blinden Vertrauens in KI-Ergebnisse.
  Warnhinweise sind nur ein Provisorium; nötig ist Verantwortlichkeit in den Entscheidungsstrukturen selbst.
  Wir experimentieren mit einem konsensbasierten System, bei dem mehrere unabhängige KI-Agenten abstimmen und sich gegenseitig prüfen.
  Testen kann man das mit dem Open-Source-CLI consensus.tools.

  • Die meisten Content-Produzenten priorisieren jedoch Geschwindigkeit und Kostensenkung vor Genauigkeit.
    In einer Realität, die bereits mit minderwertigen Inhalten überflutet ist, sind Konsenssysteme zu teuer, um breit eingesetzt zu werden.
    Deshalb bleibt zumindest eine minimale Pflicht zu Warnhinweisen weiterhin notwendig.