YouTube modifiziert Videos mit KI ohne Zustimmung der Creator und ergänzt sie mit potenziell irreführenden Inhalten

• YouTube hat bei einigen Videos beliebter Kanäle KI-basierte Korrekturtechniken eingesetzt, ohne Creator oder Zuschauer darüber zu informieren
• Der Musik-YouTuber Rick Beato und Rhett Shull meldeten, dass sie subtile Änderungen an ihrer Haut, ihren Haaren und den Falten der Kleidung entdeckten und warfen Fragen auf
• YouTube erläuterte, dass es sich um ein auf einige Shorts beschränktes Experiment gehandelt habe, und erklärte, dass mithilfe klassischen Machine Learnings die Bildschärfe verbessert und das Rauschen reduziert worden sei
• Experten kritisierten jedoch, dass "Machine Learning auch KI" sei, und bemängelten semantische Ausweichstrategien und mangelnde Transparenz, wodurch die Vertrauenswürdigkeit von Inhalten gefährdet werde
• Der Fall, in dem Inhalte ohne Zustimmung der Content-Ersteller verändert werden, wird als ein Vorfall gesehen, der Fragen zur Authentizität und Glaubwürdigkeit digitaler Medien offenlegt

---

YouTubes geheimes KI-Videoverbesserungs-Experiment

• YouTube hat KI-basierte Videoaufbereitungstechniken ohne Vorankündigung auf einigen beliebten Creator-Videos angewandt
  • visuelle Elemente der Videos wurden ohne frühzeitige Bekanntgabe an Creator oder Zuschauer verändert
  • Rick Beato und Rhett Shull bemerkten in ihren Videos, dass sich Hautstruktur, Haare, Falten in der Kleidung, Ohrenform verändert hatten
• Beato berichtete, dass die Haare seltsam aussahen und es sich anfühlte, als wäre er geschminkt worden
• Shull wies darauf hin, dass es wie von KI erstellt wirke, und betonte, dass dadurch das Vertrauen des Publikums untergraben werden kann

Bestätigung des Experiments und Reaktion von YouTube

• YouTube bestätigte, dass ein kleines Experiment in einigen Shorts durchgeführt werde
  • Rene Ritchie, Creator Liaison, erklärte auf X (ehemals Twitter), es handele sich um ein Experiment zur Verbesserung von Klarheit und Rauschunterdrückung durch "klassisches" Machine Learning
  • Er behauptete, dass es einem automatischen Ausgleich in Smartphones entspräche
• Professor Samuel Woolley von der University of Pittsburgh kritisierte jedoch, dass Machine Learning ein Unterbegriff von KI sei, und bezeichnete YouTubes Darstellung als irreführend

Ausweitung von KI-Vorverarbeitung und Vertrauensfragen

• Experten sehen den aktuellen Fall als Teil eines umfassenderen Trends, in dem KI Inhalte in der Vorverarbeitung übernimmt
  • Samsung nutzt eine Funktion, die Mondfotos durch KI schärfer macht, und Google Pixels „Best Take" mischt mehrere Gesichtsausdrücke zu einem perfekten Foto zusammen
• Woolley warnt, dass das Modifizieren von Inhalten und deren Veröffentlichung ohne Zustimmung der Ersteller dazu führt, dass zwischen Zuschauern und Medien eine unsichtbare Manipulationsebene entsteht
  • Dies führt zu Bedenken hinsichtlich Inhaltsauthentizität und Transparenz

Reaktion von Creators und Experten

• Beato zeigte sich gegenüber YouTubes Ansatz positiv und nannte die Plattform eine, die „ständig neue Werkzeuge testet“
  • Er sagte: „YouTube hat mein Leben verändert“ und verzichtete auf weitere Kritik
• Kritiker hingegen warnten, dass Änderungen ohne vorherige Zustimmung einen gefährlichen Präzedenzfall schaffen würden
  • Sie unterstrichen, dass YouTube nicht nur ein Unterhaltungs-, sondern auch ein Plattform für Nachrichten-, Bildungs- und Informationsinhalte ist, wo Genauigkeit und Authentizität besonders wichtig sind

Zukunft der digitalen Medien

• Der aktuelle Vorfall deutet auf eine Zukunft hin, in der KI Inhalte vor der Wahrnehmung durch Nutzer neu zusammensetzt
• Er zeigt, dass ein durch KI bearbeitetes Video bereits vor dem Drücken der Wiedergabetaste an die Nutzer ausgeliefert werden kann
• Der Bedarf nach klarer Kennzeichnung des KI-Einsatzes und formalisierten Zustimmungsverfahren für Creator wird deutlich

[GN⁺]

Hacker-News-Kommentare

• Eine Make-up-Influencerin, der ich folge, sagte, dass YouTube und Instagram ohne ihre Zustimmung automatisch Filter auf ihr Gesicht anwenden
  Bei Lippen-Make-up-Videos werden die Lippen größer, bei Augen-Make-up-Videos die Augen – eine Erscheinung, bei der die AI die Art des Inhalts erkennt und automatisch einen Filter anwendet
  Das betreffende Video ist hier zu sehen. Dass Uploads von Creatorn ohne Zustimmung verändert werden, ist schockierend
  • Die Videoqualität ist so schlecht, dass es nach Kompressionsartefakten aussieht
    Die Influencerin ist keine Technikerin und hat es wohl fälschlich für einen AI-Filter gehalten. Dass Bewegungsblöcke über den Bildschirm schweben, ist ein typisches Phänomen starker Kompression
    Es ist merkwürdig, dass solche Behauptungen in Technikforen einfach so akzeptiert werden. Dem gesamten Video fehlen Details, und Kompressionsspuren sind deutlich sichtbar
  • Das könnte sich zu einem großen Rechtsstreit entwickeln
    In den Nutzungsbedingungen gibt es Klauseln, nach denen die Plattform „nach Belieben handeln“ kann, sodass man es später womöglich als „Nutzereinstellung“ rechtfertigt
  • Einer der Instagram-Kommentare hat es gut erklärt
    „Wenn Meta automatische Sprachübersetzung macht, fügt es einen AI-Filter hinzu, um die Lippenbewegungen an das Audio anzupassen, und dabei wird manchmal ein seltsamer Filter über das ganze Gesicht gelegt“
    Dass je nach Inhaltsart unterschiedliche Filter angewendet würden, wirkt wie übertriebene Spekulation auf Verschwörungsniveau
  • Das Problem ist, dass es nicht einmal eine Option zum Abschalten gibt. Offiziell angekündigt wurde es ebenfalls nie
  • Eine wirklich absurde Situation
• Der serverseitig angewendete AI-Filter bei YouTube Shorts ist viel zu stark
  Die Haut ist übermäßig geglättet, Haare sehen wächsern aus, und um bewegte Objekte entstehen seltsame Ringe
  Zuerst dachte ich, es sei clientseitiges Upscaling, aber da es auf dem Server verarbeitet wird, kann man es auch nicht abschalten
  Wenn sich Menschen an diese Qualität gewöhnen, wird es später vermutlich schwerer zu bemerken, wenn AI-generierte Inhalte dazugemischt werden
  • Im normalen YouTube-UI könnte dasselbe Video anders aussehen. Es wird geraten, die eindeutige ID aus der URL zu kopieren und an eine normale Videoadresse anzuhängen
  • Darüber hatte ich noch nie in dieser Absicht nachgedacht, aber wenn ich es so höre, könnte es tatsächlich eine bewusste Strategie sein
  • Am Ende wird es wohl vollständig durch einen von AI erzeugten Short-Video-Feed ersetzt
    Die Leute werden endlos scrollen und nur noch Werbung und hirnverflüssigenden Content sehen
  • Vielleicht werden Filter genutzt, um die extreme Kompression von Shorts zu kaschieren
• Wenn ich ein Video neu encodiert habe und die Verluste prüfen will, nutze ich den Befehl ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv
  Solche Behauptungen gibt es viele, aber ich habe noch niemanden gesehen, der tatsächlich ein Vergleichsvideo (diff) hochgeladen hat. Wenn das jemand machen würde, wäre es interessant
  • Jill Bearup hat dazu früher einmal ein Vergleichsvideo hochgeladen
    Im YouTube-Video werden bei 0:31 Shorts und das Original nebeneinander gezeigt
    In der hochwertigen Version auf Patreon ist der Unterschied viel deutlicher
  • Ich mache auf ähnliche Weise auch visuelle Regressionstests. Der zugehörige Text ist hier zu finden
  • Danke für die gute Idee und den One-Liner
• Nachdem ich zum ersten Mal die AI-Zusammenfassung von YouTube gesehen und festgestellt habe, dass sie alles komplett falsch herum erklärt hat, habe ich beschlossen, sie zu ignorieren
  • Schön wäre es, wenn das Clickbait abmildern würde
    In letzter Zeit fotografiere ich Thumbnails ab und frage ChatGPT dazu oder gebe die Video-URL in einen Transkript-Extraktor und lasse sie von Gemini analysieren
    Clickbait-Produzenten sind inzwischen kaum mehr als „Themenvorschläger für ChatGPT“
  • Ich mag den zu künstlichen Tonfall der AI-Zusammenfassungen nicht. Auch die Struktur ist immer gleich, und am Ende heißt es ständig so etwas wie „Mach dich bereit für deine Reise“
• Ich verstehe nicht, warum YouTube solche ungefragten Filteranwendungen macht
  Solche „Verbesserungen“ ohne die Creator zu informieren, sind nicht klug
  Mehr Leute sollten bessere Plattformen ausprobieren. Gerade auch für kleinere Creator, die unter falschen Copyright-Meldungen leiden
  • Am Ende braucht es vielleicht nur eine einzige ehrgeizige Person, die so einen Wandel anstößt
  • Vermutlich ist es ein Versuch, das Engagement zu erhöhen, oder die AI-Investitionen zu rechtfertigen
    Als Alternative gibt es Plattformen wie PeerTube im Fediverse
  • Die Plattform sollte einfach nur eine Plattform sein
    Für mehr Engagement zu sorgen, ist Aufgabe der Creator; wenn die Plattform sich einmischt, werden die Nutzer am Ende gehen
  • Es könnte auch eine Strategie sein, alle Inhalte wie AI aussehen zu lassen und damit AI-Content zu normalisieren
• Ich habe mich gefragt, ob das wirklich ein AI-Filter ist oder ob es sich um Detailverlust durch einen Hochkompressionsalgorithmus handelt
  Ein passendes Beispiel gibt es in diesem Artikel
  Verlustbehaftete Kompression und adaptive Quantisierung können dazu führen, dass Haut geglättet aussieht
  • Tatsächlich handelt es sich um einen Fall von Filteranwendung. Ein Beispiel ist in diesem Instagram-Video zu sehen
  • Manche halten es dennoch weiterhin für Kompressionsartefakte. Es könnte auch ein clientseitiger Versuch sein, Details zu rekonstruieren
• Auf YouTube gibt es inzwischen jede Menge Videos mit gefälschten Personen
  Wissenschaftler, Politiker, Ökonomen und Tech-Experten werden komplett mit AI nachgebaut und tauchen so auf
  • In Kanada laufen ganz offen Deepfake-Werbeanzeigen mit Politikern auf YouTube. Es wirkt, als hätte YouTube die Kontrolle von Anzeigen aufgegeben
  • Ich habe auch Fälle gesehen, in denen echte Ärzte per AI dazu gebracht wurden, Produkte zu bewerben
    Passender Artikel: Bericht von The Guardian
• YouTube ist faktisch ein Datensatz für AI-Training
  Ich glaube nicht, dass Google irgendeinen Grund hat, Außenstehenden saubere Daten bereitzustellen
• Auf YouTube sehe ich oft AI-generierte Thumbnails
  Zum Beispiel verwendet dieser Kanal keine echten Videoframes, sondern Zusammenfassungsbilder, die wie mit Stable Diffusion erzeugt wirken
  • Das ist eine AI-Thumbnail-Generierungsfunktion, die der Uploader auswählen kann
    Ich habe sie auf meinem Kanal auch einmal gesehen, inzwischen ist die Option aber verschwunden. Die meisten Kanäle, denen ich folge, nutzen diese Funktion
    Persönlich gefällt mir das nicht
• Ich wünschte, YouTube würde nicht selbst daran herumfummeln, sondern den Nutzern AI-Bearbeitungsrechte geben
  Zum Beispiel könnte man unter dem Video Prompts eingeben wie „Englisch in Gälisch umwandeln“, „Dad Jokes durch lorem ipsum ersetzen“ oder „den Hund in ein außerirdisches Lebewesen verwandeln“
  • Ich frage mich, wann so etwas möglich sein wird
    Es wäre cool, wenn das lokal im Browser laufen könnte, aber bis dahin ist es vielleicht schon gesetzlich verboten