YouTube verlangt Kennzeichnung für realistisch wirkende, mit AI erstellte Videos

• YouTube stellt ein neues Tool vor, mit dem Creators Zuschauern offenlegen müssen, wenn Inhalte mit künstlicher Intelligenz (AI) erstellt wurden und mit der Realität verwechselt werden könnten
• Das Tool wird in Creator Studio hinzugefügt, und Creators müssen Zuschauer informieren, wenn Inhalte verändert oder künstlich erzeugt wurden und leicht für echte Personen, Orte oder Ereignisse gehalten werden können
• Die Offenlegung wird entweder in der erweiterten Videobeschreibung oder als Label direkt im Videoplayer angezeigt

Beispiele für Inhalte mit verpflichtender Offenlegung

• Verwendung des Abbilds realer Personen: digital veränderte Inhalte, etwa das Ersetzen eines Gesichts durch das einer anderen Person oder die Vertonung eines Videos mit einer künstlich erzeugten Stimme
• Veränderte Aufnahmen realer Ereignisse oder Orte: wenn es so aussieht, als würde ein echtes Gebäude brennen, oder wenn eine reale Stadtkulisse anders als in Wirklichkeit dargestellt wird
• Erzeugung realistischer Szenen: wenn fiktive bedeutende Ereignisse, etwa ein Tornado auf dem Weg zu einer echten Stadt, realistisch dargestellt werden

Beispiele für Inhalte, die keine Offenlegung erfordern

• offensichtlich unrealistische Inhalte sowie visuelle Verbesserungen wie Farbkorrekturen, Lichtfilter, Spezialeffekte oder Beauty-Filter
• künstliche Intelligenz, die im kreativen Prozess zur Produktivitätssteigerung verwendet wurde, etwa zur Skripterstellung, für Content-Ideen oder automatisch erzeugte Untertitel, ist von der Offenlegung ausgenommen

So werden die Labels angezeigt

• Bei den meisten Videos wird das Label beim Erweitern der Beschreibung angezeigt; bei Videos zu sensiblen Themen wie Gesundheit, Nachrichten, Wahlen oder Finanzen erscheint ein auffälligeres Label direkt im Video
• Die Labels starten zunächst in der YouTube-App auf Mobiltelefonen und sollen bald auch auf Desktop und TV sichtbar sein
• YouTube wird Durchsetzungsmaßnahmen in Betracht ziehen, wenn Creators sich dauerhaft dagegen entscheiden, diese Informationen offenzulegen

YouTube und die Zusammenarbeit mit der Branche

• YouTube arbeitet weiterhin branchenweit daran, die Transparenz rund um digitale Inhalte zu erhöhen, und ist führendes Mitglied von C2PA.
• Außerdem entwickelt das Unternehmen einen aktualisierten Privacy-Prozess, mit dem identifizierbare Personen (einschließlich Gesicht oder Stimme) die Entfernung von AI-generierten oder veränderten Inhalten beantragen können, wenn ihre Privatsphäre verletzt wurde.

Meinung von GN⁺

• YouTubes neue Richtlinie dürfte die Transparenz digitaler Inhalte erhöhen und zum Aufbau von Vertrauen zwischen Zuschauern und Creators beitragen.
• Da künstliche Intelligenz im kreativen Prozess eine immer wichtigere Rolle spielt, können solche Tools Nutzern helfen, AI-generierte Inhalte zu erkennen und zu verstehen.
• Es könnte jedoch auch Bedenken geben, dass solche Richtlinien für Creators zur Belastung werden oder die kreative Freiheit einschränken.
• Die Einführung dieser Technologie verbessert zwar die Fähigkeit, die Authentizität von Inhalten zu beurteilen, bringt für Creators aber zugleich zusätzliche Verantwortung mit sich, sodass Vor- und Nachteile nebeneinander bestehen.
• Eine ähnliche Funktion bietet etwa Adobes Content Authenticity Initiative, die sich auf die Nachverfolgung von Herkunft und Authentizität digitaler Inhalte konzentriert.

[GN⁺]

Hacker-News-Kommentare

• Zusammenfassung des ersten Kommentars:

  • Aus Geschäfts- und Lernperspektive ist Googles Ansatz ein früher Schritt in die richtige Richtung, indem Regeln dafür festgelegt werden, wie AI definiert und gekennzeichnet werden soll.
  • Diese Regeln umfassen Inhalte, die es so aussehen lassen, als würde eine reale Person Dinge sagen oder tun, die sie nicht gesagt oder getan hat, Aufnahmen realer Ereignisse oder Orte verändern oder realistische Szenen erzeugen, die nie stattgefunden haben.
  • Es wird darüber nachgedacht, wie sich diese Hypothesen testen lassen, und ob es dabei wahrscheinlich zu rechtlichen Auseinandersetzungen kommt. Diskutiert werden könnten zum Beispiel Farbkorrektur oder Beauty-Filter sowie das Erzeugen zusätzlicher Szenen mithilfe von AI aus verschiedenen Videowinkeln.

• Zusammenfassung des zweiten Kommentars:

  • Laut der Google-Support-Seite wird ausdrücklich aufgeführt, für welche Beispiele Creator keine Offenlegung vornehmen müssen und für welche doch.
  • Zu den Beispielen, die nicht offengelegt werden müssen, gehören eine Person, die auf einem Einhorn reitet, eine Person, die per Greenscreen im Weltraum schwebt, Farbanpassungen oder Lichtfilter, Spezialeffekt-Filter wie Hintergrundunschärfe oder Vintage-Effekte, das Erstellen oder Verbessern von Video-Gliederungen, Skripten, Thumbnails, Titeln und Infografiken mit AI-Tools, das Erzeugen von Untertiteln, die Verbesserung der Videoschärfe, Upscaling oder Reparatur, die Reparatur von Stimme oder Audio sowie Ideengenerierung.
  • Zu den Beispielen, die offengelegt werden müssen, gehören künstlich erzeugte Musik, das Klonen der Stimme einer anderen Person zur Verwendung als Voice-over, das künstliche Erzeugen zusätzlicher Aufnahmen eines realen Ortes, ein Video, das ein Match zwischen echten Profi-Tennisspielern realistisch erscheinen lässt, als wäre es echt, Inhalte, die jemanden so wirken lassen, als hätte er Ratschläge gegeben, die er nie gegeben hat, das digitale Verändern von Audio, damit es klingt, als hätte ein populärer Sänger bei einem Live-Auftritt einen Ton verfehlt, das Vortäuschen, ein Tornado oder ein anderes Wetterereignis bewege sich auf eine echte Stadt zu, obwohl das nie passiert ist, das Vortäuschen, Krankenhauspersonal habe kranke oder verletzte Patienten abgewiesen, das Vortäuschen, eine Person des öffentlichen Lebens habe gestohlen oder den Diebstahl gestanden, oder als sei sie tatsächlich festgenommen worden oder ins Gefängnis gekommen.

• Zusammenfassung des dritten Kommentars:

  • Diese Regeln dienen der Einhaltung des neuen EU-AI-Acts.
  • Von AI erzeugte Inhalte müssen erkennbar sein, und AI-generierte Texte, die veröffentlicht werden, um Informationen von öffentlichem Interesse bereitzustellen, müssen als künstlich erzeugt gekennzeichnet werden. Das gilt auch für Audio- und Videoinhalte, die Deepfakes darstellen.

• Zusammenfassung des vierten Kommentars:

  • Das Beispiel, Audio digital so zu verändern, dass es klingt, als hätte ein Sänger bei einem Live-Auftritt einen Ton verfehlt, wird als interessant hervorgehoben.
  • Das sei das Gegenteil eines jüngsten Vorfalls beim Super Bowl, bei dem die NFL Alicia Keys' „heiseren Ton“ stillschweigend herausgeschnitten und korrigiert habe.

• Zusammenfassung des fünften Kommentars:

  • Eine realistische Darstellung eines wichtigen Ereignisses, das nie stattgefunden hat, zum Beispiel ein Tornado, der auf eine echte Kleinstadt zusteuert, ist ein Beispiel für Inhalte, die offengelegt werden müssen.
  • Das sei der aktuellen Situation bei YouTube-Thumbnails ähnlich, nicht nur auf AI beschränkt, und deute darauf hin, dass die Überwachung schwierig sein wird.

• Zusammenfassung des sechsten Kommentars:

  • Ähnlich wie Banken formale Unterlagen verlangen, obwohl sie erwarten, dass Kriminelle lügen, gibt es zwar keine klaren Folgen für Lügen gegenüber Google, aber sie könnten als Signal dienen, das Accounts, die lügen, verdächtiger erscheinen lässt.

• Zusammenfassung des siebten Kommentars:

  • Das Verändern von Aufnahmen realer Ereignisse oder Orte, zum Beispiel damit ein echtes Gebäude so aussieht, als würde es brennen, oder damit eine echte Stadtsilhouette anders aussieht als in Wirklichkeit, ist offenzulegender Inhalt.
  • Unabhängig von Artikeln, die sich mit dem eigentlichen Videoinhalt befassen, wird das Problem übertriebener Vorschaubilder zur Klickgenerierung angesprochen.

• Zusammenfassung des achten Kommentars:

  • Es wird gefragt, ob YouTube überhaupt wahrnimmt, dass das Google-Photos-Team aktiv dazu ermutigt, Videos und Fotos zu verändern, um Szenen darzustellen, die nie stattgefunden haben.

• Zusammenfassung des neunten Kommentars:

  • Früher hätte Google vielleicht einen Filter „nicht AI“ in der erweiterten Suche angeboten, doch heute ist Google damit beschäftigt, AI-Tools zu verkaufen, um die Wall Street zufriedenzustellen, ohne zu bedenken, was AI-Videos mit dem ohnehin schon problematischen Suchen nach der Nadel im Heuhaufen machen werden.

• Zusammenfassung des zehnten Kommentars:

  • Es wird darauf hingewiesen, dass YouTubes Policy-Verantwortliche in den kommenden Jahren vor der nahezu unmöglichen Aufgabe stehen, mehrdeutige Grenzfälle auszulegen.