OpenAI fügt DALL-E 3 ein neues Wasserzeichen hinzu

• OpenAIs Bildgenerator DALL-E 3 wird Bildern in den Metadaten ein Wasserzeichen hinzufügen
• Da immer mehr Unternehmen den Standard der C2PA (Coalition for Content Provenance and Authenticity) unterstützen, werden mit DALL-E 3 erzeugte Bilder ein C2PA-Wasserzeichen tragen
• Das Wasserzeichen erscheint bei Bildern, die auf der ChatGPT-Website und über die API des DALL-E-3-Modells erzeugt werden; für mobile Nutzer soll es bis zum 12. Februar hinzugefügt werden
• Das Wasserzeichen wird eine unsichtbare Metadaten-Komponente sowie ein CR-Symbol enthalten, das in der oberen linken Ecke erscheint
• Die Herkunft von auf der OpenAI-Plattform erzeugten Bildern, also welches AI-Tool verwendet wurde, kann über Websites wie Content Credentials Verify überprüft werden
• Derzeit enthalten nur Bilder Wasserzeichen, nicht Videos oder Texte

Auswirkungen des Wasserzeichens

• Das Hinzufügen von Wasserzeichen-Metadaten zu Bildern hat nahezu keine Auswirkungen auf die Latenz und beeinträchtigt nicht die Qualität der Bildgenerierung
• Bei einigen Aufgaben kann sich die Bildgröße geringfügig erhöhen

Coalition for Content Provenance and Authenticity (C2PA)

• Die C2PA, zu der Unternehmen wie Adobe und Microsoft gehören, fördert die Nutzung von Content-Credentials-Wasserzeichen, die die Herkunft von Inhalten kennzeichnen und anzeigen, ob sie von Menschen oder durch AI erstellt wurden
• Adobe hat das Content-Credentials-Symbol entwickelt, und OpenAI fügt es nun zu mit DALL-E 3 erzeugten Inhalten hinzu
• Meta hat kürzlich angekündigt, auf seinen Social-Media-Plattformen Tags für AI-generierte Inhalte hinzuzufügen

Kennzeichnung von AI-generierten Inhalten

• In der Executive Order der Biden-Regierung zu AI ist die Kennzeichnung AI-generierter Inhalte eine der zentralen Leitlinien
• Wasserzeichen sind jedoch keine sichere Methode, um Fehlinformationen zu verhindern
• OpenAI weist darauf hin, dass C2PA-Metadaten leicht versehentlich oder absichtlich entfernt werden können und die meisten Social-Media-Plattformen Metadaten in hochgeladenen Inhalten häufig entfernen
• Auch bei Screenshots gehen die Metadaten verloren
• OpenAI erklärt auf seiner Website, dass es für die Vertrauenswürdigkeit digitaler Informationen wichtig ist, Methoden zur Herkunftsbestimmung einzuführen und Nutzer dazu zu ermutigen, solche Signale zu erkennen