Meine durch KI gestohlene Stimme

Per E-Mail erhaltener Video-Link

• Videoinhalt: Werbevideo von Elecrow mit der Stimme von Jeff Geerling
• Vorwurf: Jeff Geerling behauptet, dass er seine Stimme für dieses Video nie verwendet hat

Verdacht auf KI-Stimmenklonen

• Verdacht: Elecrow habe Jeff Geerlings YouTube-Videos in ein KI-Stimmenklon-Tool eingespeist und so seine Stimme verwendet
• Früherer Fall: Erwähnung des Falls, in dem OpenAI die Stimme von Scarlett Johanssen geklont haben soll
• Rechtslage: Es gibt nur wenige rechtliche Präzedenzfälle für nicht genehmigtes KI-Stimmenklonen

Reaktionsmöglichkeiten

• Aktuelle Lage: Die frühere Beziehung zu Elecrow war nicht schlecht
• Rechtliche Schritte: Rechtliche Schritte sind teuer, und es ist auch unklar, ob ein Verstoß gegen die Nutzungsbedingungen von YouTube vorliegt
• Forderung: Versand einer E-Mail an Elecrow mit der Aufforderung, das Video zu entfernen

Update

• E-Mail versendet: An Elecrow wurde eine E-Mail geschickt, in der nach der Absicht hinter der KI-Stimmennutzung gefragt und die Entfernung des Videos verlangt wurde
• Frühere E-Mail-Korrespondenz: Es existieren mehr als 43 E-Mails mit Elecrow, und in der Vergangenheit gab es auch Vorschläge für bezahlte Partnerschaften

Reaktionen in den Kommentaren

• Jimmy: Es sei eindeutig, dass KI verwendet wurde, und das sei äußerst unangemessen
• Gary Hayman: Er mag Jeffs echte Videos, und dieser Vorfall sei sehr schlimm
• Kayla: An einigen Aussprachefehlern im Video habe man erkennen können, dass es eine KI-Stimme war
• BC: Es wird vermutet, dass als KI-Stimmenklon-Tool eleven labs verwendet wurde
• Mike Robinson: Empfehlung einer Episode des BBC-Podcasts Tech Life
• George: Behauptet, die Stimme im Video klinge Jeff nicht besonders ähnlich
• mam: Die Lage sei unklar; vor rechtlichen Schritten solle man direkt Kontakt aufnehmen
• John: Empfiehlt eine Beratung durch einen Anwalt für Unterhaltungsrecht
• Derek: Erklärt, keine Produkte von Elecrow mehr zu kaufen
• Oh No: Ironische Situation, dass Menschen, die Informationsfreiheit fordern, erleben, wie ihre eigenen Inhalte missbraucht werden

# Zusammenfassung von GN⁺

• Problem des KI-Stimmenklonens: Durch den Fortschritt der KI-Technologie ist nicht genehmigtes Stimmenklonen möglich geworden, was ethische Probleme verursachen kann
• Schwierigkeit rechtlicher Schritte: Da es nur wenige rechtliche Präzedenzfälle für nicht genehmigtes Stimmenklonen gibt, ist eine Gegenwehr schwierig
• Schutz der Rechte von Content-Erstellern: Die unbefugte Nutzung der Stimme oder des Bildes von Content-Erstellern kann ethisch wie rechtlich problematisch sein
• Vorgeschlagene Alternative: Statt KI-Stimmenklonen wäre es wünschenswert, echte Sprecher zu engagieren oder mit Content-Erstellern zusammenzuarbeiten
• Ähnliche Fälle: Verweis auf den Fall des Stimmenklonens von Scarlett Johanssen durch OpenAI sowie die Empfehlung einer Episode des BBC-Podcasts Tech Life

[GN⁺]

Hacker-News-Kommentare

• Wenn KI die Stimme einer Person nachahmt, um blasphemische Aussagen zu machen, kann das zu Gewaltausbrüchen führen

  • In einigen Ländern kommt es wegen Blasphemie zu gewalttätigen Lynchmorden
  • Mit dem Fortschritt der KI-Technologie dürfte sich dieses Problem noch weiter verbreiten
  • Unabhängig von Ruf, Sicherheit oder Urheberrecht kann dies das Leben von Menschen bedrohen
  • Es gibt zu wenige Werkzeuge, um das zu kontrollieren

• Das Klonen von Stimmen mit KI wird dem Fall Midler vs. Ford wohl nicht entgehen

  • Das Klonen einer Stimme mit KI ist schwerer zu verteidigen, als einfach einen anderen Sprecher zu verwenden

• Präzedenzfälle sind wichtig, aber durch den technischen Fortschritt braucht es neue Prinzipien

  • Wenn Technologie neue Fähigkeiten einführt, müssen Grenzen gesetzt werden, damit sie zum Nutzen der Menschen eingesetzt werden kann
  • Sonst könnte eine Welt entstehen, in der die Starken tun, was sie wollen, und die Schwachen leiden

• Wenn LLMs die ultimative Remix-Maschine sind, dann ist jemand mit RAG ein digitaler DJ

  • Dadurch stellt sich die Frage, was digitaler Diebstahl von Informationen eigentlich bedeutet
  • In einer Situation mit wenigen rechtlichen Präzedenzfällen wirken Gesetze zu geistigem Eigentum und Urheberrecht wie der Wilde Westen
  • Wenn sogar Scarlett Johansson gezwungen ist, wegen OpenAIs Nachahmung einen schmerzlichen Brief zu schreiben, fragt man sich, wie normale Menschen überhaupt reagieren sollen
  • Wie Geerling bleibt einem nur, traurig und wütend zu sein und zu sagen: „Bitte seid um alles Guten willen freundlich und haltet euch an einen Ehrenkodex.“

• Auch ohne den KI-Aspekt ist es falsch, Jeffs Aussagen zu verdrehen oder sein Bild ohne Erlaubnis zu verwenden

  • Seine Stimme zu benutzen, um eine implizite (manipulierte) Unterstützung für ein Produkt zu erzeugen, ist besonders verwerflich
  • Es dürfte bereits Gesetze geben, die solche Fälle abdecken

• Als kleiner Tech-YouTuber hatte ich schon Kontakt mit Elecrow

  • Nicht nur Elecrow: Mitarbeiter erhalten Boni, Beförderungen und Provisionen, wenn sie langfristige Partnerschaften und Video-Kooperationen sichern
  • Wahrscheinlich hielt jemand es für clever, Jeffs Stimme zu klonen
  • Das ist keine gute PR für Elecrow
  • Ich frage mich, ob sie zugeben werden, dass das Absicht war

• Ich finde nicht, dass es so ähnlich klingt

  • Ein bisschen ähnlich, aber anders
  • Etwas höher, nasaler und mit leicht anderer Betonung

• Wir haben Hunderte von Tools zum Klonen von Stimmen

  • Natürlich wird es Inhalte mit geklonten Stimmen geben
  • Wie bei unbefugt verwendeten Bildern haben Plattformen und ihre Moderationsteams Verfahren, um so etwas zu melden und zu entfernen
  • Für Stimmen braucht es etwas Ähnliches

• Wenn Anwälte immer sagen, das koste viel Geld: Ich würde das absolut kostenlos übernehmen

  • Wahrscheinlich ist nur das Problem, dass du dich nicht in dem Bundesstaat befindest, in dem ich zugelassen bin
  • Wenn dein Fall interessant genug ist, kannst du einen kostenlosen Anwalt finden
  • Das ist <i>eine der interessantesten Fragen unserer Zeit</i>

• Elecrow scheint ein chinesisches Unternehmen zu sein

  • Dann erwarte ich überhaupt keine Antwort