Nightshade: Ein offensives Werkzeug für Künstler im Kampf gegen AI-Art-Generatoren

Was ist Nightshade?

• Generative AI-Modelle und ihre Trainer haben gezeigt, dass sie Online-Inhalte für das Modelltraining nutzen können.
• Inhaltsinhaber und Kreative haben kaum Werkzeuge, um zu verhindern, dass ihre Inhalte unabhängig von ihrem Willen als Trainingsdaten für generative AI-Modelle verwendet werden.
• Nightshade ist ein Werkzeug, das Bilder in für das Modelltraining ungeeignete Datenbeispiele umwandelt und dabei hilft, Modelltrainer abzuschrecken, die Urheberrechte ignorieren und Daten ohne Erlaubnis scrapen.

Funktionsweise und Grenzen von Nightshade

• Nightshade verwandelt Bilder in „vergiftete“ Beispiele, sodass Modelle, die ohne Zustimmung trainiert werden, unerwartete Verhaltensweisen erlernen.
• Das Werkzeug soll Modelle nicht zerstören, sondern die Kosten für das Training mit nicht lizenzierten Daten erhöhen, sodass das Lizensieren von Bildern durch Kreative zu einer praktikablen Alternative wird.
• Nightshade funktioniert ähnlich wie Glaze zur Abwehr von Stilimitation, aber während Glaze ein defensives Werkzeug ist, wurde Nightshade als offensives Werkzeug entwickelt, das Merkmalsrepräsentationen in AI-Bildmodellen verzerrt.

Nightshade vs. Glaze

• Glaze ist ein defensives Werkzeug, das einzelne Künstler nutzen, um sich vor Angriffen durch Stilimitation zu schützen.
• Nightshade ist ein offensives Werkzeug, das Künstler gemeinsam einsetzen können, um Modelle zu stören, die Bilder ohne Zustimmung scrapen.
• Idealerweise wenden Künstler sowohl Glaze als auch Nightshade auf ihre Werke an, wenn sie diese online veröffentlichen.

Risiken und Grenzen

• Die durch Nightshade verursachten Veränderungen sind bei Kunstwerken mit flachen Farben und weichen Hintergründen stärker sichtbar.
• Wie bei Sicherheitsangriffen oder -abwehr ist es unwahrscheinlich, dass Nightshade auf lange Sicht zukunftsfest bleibt.
• Nightshade wurde so entwickelt, dass es ohne Netzwerkverbindung läuft, sodass keine Daten oder Kunstwerke an uns oder andere übertragen werden.

Nightshade und WebGlaze

• Nightshade v1.0 wurde als eigenständiges Werkzeug entwickelt und bietet keine Funktionen zur Abwehr von Imitation wie Glaze.
• Es wird derzeit getestet, wie Nightshade und Glaze zusammenarbeiten; sobald dies bereit ist, soll Nightshade als Zusatzfunktion in WebGlaze veröffentlicht werden.

Meinung von GN⁺

• Nightshade ist ein innovatives Werkzeug, mit dem Kreative ihr Urheberrecht schützen und AI-Modelltrainern, die Bilder unerlaubt verwenden, eine Warnung senden können.
• Das Werkzeug kann sich positiv auf das digitale Kunst-Ökosystem auswirken, indem es die unbefugte Nutzung kreativer Werke abschreckt und Lizenzvereinbarungen mit Rechteinhabern fördert.
• Die Kombination aus Nightshade und Glaze bietet Künstlern eine neue Möglichkeit, ihre Werke online sicherer zu teilen.

[GN⁺]

Hacker-News-Kommentar

• Link zum Paper: arXiv:2310.13828
  • Dieses Paper scheint Artefakte in einem Ausmaß einzuführen, das für viele Künstler schwer akzeptabel ist.
• Diese Technik
  • a) funktioniert bei Trainingsprozessen der letzten Generation gerade so,
  • b) funktioniert bei modernen Trainingsprozessen (GPT-4V, LLaVA, BLIP2-Labeling usw.) überhaupt nicht,
  • c) dürfte selbst dann, wenn sie wirksam und populär wird, leicht zu umgehen sein.
  • Auch Glaze, die frühere Arbeit der Autoren, scheint nicht wirksam zu sein, und die Ergebnisse könnten stärker dargestellt sein, als sie tatsächlich sind.
• Solche Werkzeuge haben am Markt vermutlich keine Erfolgschance, und es gibt Möglichkeiten, sie sofort zu umgehen, ohne die menschliche Wahrnehmung zu beeinflussen.
  • Wenn Künstler oder andere verhindern wollen, dass menschliche Ergebnisse für das Training verwendet werden, muss das über rechtliche Schritte geschehen.
  • Auch das ist keine perfekte Lösung und könnte vielmehr die Entwicklung verteilter Trainingsnetzwerke beschleunigen.
• Das wirkt wie ein sinnloses „Wettrüsten“ oder ein „Katz-und-Maus-Spiel“.
  • Menschen, die die Meinung von Künstlern nicht berücksichtigen, können die feinen Änderungen des Nightshade-Algorithmus per Bildnachbearbeitung zerstören.
  • In Zukunft werden sich Gerichte durch gesellschaftlichen Druck wohl auf die Seite der Künstler stellen, und Künstler werden generierte Bilder anfechten können, die ihrem Stil „zu ähnlich“ sind.
  • Oder Künstler geben die Monetarisierung des Bildes selbst auf und konzentrieren sich nur noch auf die Schaffung physischer Werke.
• Ein Experiment mit dem Fine-Tuning von Stable Diffusion XL auf schlechten/inkonsistenten Bildern zeigt, dass das Modell bessere Bilder ausgeben kann, wenn solche Bilder als negative Prompts verwendet werden.
  • Das Erstellen solcher Datensätze könnte paradoxerweise dabei helfen, generative KI-Kunstmodelle zu verbessern.
• Gewünscht werden schrittweise Gebühren für die Nutzung von Urheberrechten/geistigem Eigentum/Patenten.
  • Zum Beispiel werden Lizenzgebühren in Form eines an den Umsatz gekoppelten Anteils gewünscht.
  • Gewünscht wird eine Schutzdauer von 0 Jahren nach dem Tod bei Privatbesitz und maximal 20–30 Jahren bei Unternehmensbesitz.
  • Um Diebstahl zu verhindern, sollen die Strafen für Unternehmen bei nicht gemeldeter Nutzung/nicht gezahlten Gebühren sehr hoch angesetzt werden.
• Es wird auf den Widerspruch hingewiesen zwischen Künstlern, die die Werke anderer Künstler betrachten und verschiedene Stile erlernen, und der Abwehr dagegen, dass KI aus ihren Werken Stile lernt.
• Dies untergräbt das Konzept der „Informationsgenauigkeit“ und erkennt ein ständiges Spiel aus Angriff und Verteidigung an.
• Bald werden viele Menschen mühelos hochwertige Kunstwerke erstellen können, und das ist eine sehr spannende Aussicht.