- Da sich automatisierte Anrufe verbreiten, die mit KI-Stimmen wie echte Menschen klingen, stuft die FCC sie im Rahmen des TCPA als „artificial“-Anrufe ein und nimmt sie damit in die bestehenden Verbraucherschutzregeln für Telefonanrufe auf
- Diese Declaratory Ruling bestätigt, dass der Telephone Consumer Protection Act (TCPA) auch für Anrufe gilt, die mit KI erzeugte menschliche Stimmen verwenden
- Der Beschluss der FCC wurde einstimmig angenommen und zielt direkt auf den Einsatz KI-generierter Stimmen bei Robocalls
- Die Originalfassungen der News Release und der Declaratory Ruling sind als docx-, pdf- und txt-Dateien veröffentlicht, sodass sich der Beschlusstext direkt einsehen lässt
- Deepfake-Audio und Video-Links erschweren es zusätzlich, Robocalls und betrügerische Textnachrichten voneinander zu unterscheiden, was den praktischen Bedarf an Regulierung von KI-Stimmen erhöht
Anwendung des TCPA auf Robocalls mit KI-generierten Stimmen
- Die FCC hat einstimmig eine Declaratory Ruling verabschiedet, die anerkennt, dass mit KI-generierten Stimmen erstellte Anrufe unter „artificial“-Anrufe im Sinne des Telephone Consumer Protection Act (TCPA) fallen
- Betroffen sind Anrufe, die mit AI-generated voices erzeugt werden
- Die Entscheidung zielt direkt auf den Einsatz KI-generierter Stimmen bei Robocalls und bestätigt, dass der TCPA auch auf KI-Technologien anwendbar ist, die menschliche Stimmen erzeugen
Veröffentlichte FCC-Dokumente
- Originaltext der News Release
- Die Declaratory Ruling enthält die Feststellung, dass der TCPA auf KI-Technologien zur Erzeugung menschlicher Stimmen anwendbar ist
Verbraucherhinweis zu Deepfakes
- Deep-Fake Audio and Video Links Make Robocalls and Scam Texts Harder to Spot weist darauf hin, dass Deepfake-Audio und Video-Links die Erkennung von Robocalls und betrügerischen Textnachrichten erschweren
1 Kommentare
Meinungen auf Hacker News
Ich habe einmal einen Anruf von einer unbekannten Nummer angenommen, und eine Aufnahme mit der Stimme meiner Frau sagte „Hello?“
Seitdem sage ich beim Abheben nicht mehr als Erstes Hallo, es sei denn, ich kenne den Anrufer.
Wenn bei einem Anruf eine Nummer statt eines Namens erscheint, gehe ich einfach nicht ran; wenn es kein Spam ist, hinterlassen sie vermutlich eine Sprachnachricht oder schreiben eine SMS.
Wenn sie beides nicht tun, war es mit hoher Wahrscheinlichkeit Spam/Betrug oder von Anfang an nichts besonders Wichtiges. Ich mache das seit über zehn Jahren so und hatte bisher keine Probleme.
Wenn ich abhebe, schweige ich etwa 3–5 Sekunden, damit ein Mensch zuerst sprechen kann, falls es kein Bot ist.
Paranoid betrachtet frage ich mich, ob sie meine Stimme aufnehmen wollen, um sie für AI-Impersonation zu verwenden.
Erst wenn der Anrufer zuerst spricht, weiß ich, ob es ein echter Mensch ist; und wenn es ein automatisiertes System ist, bleibe ich lieber still, in der Hoffnung, dass es nicht merkt, dass meine Nummer nicht ein weiteres automatisiertes System ist.
Das Rechtsprinzip, das der FCC solche Entscheidungen ermöglicht, heißt Chevron Deference, und es scheint wichtig zu sein, dass es derzeit angegriffen wird.
https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...
Sie abzuschaffen bedeutet nicht, dass Behörden in einen Mad-Max-artigen Zustand der Anarchie verfallen und nichts mehr tun können; es gab schon immer Standards dafür, wann administrative Regelsetzung zulässig ist.
Wie groß der Ermessensspielraum ist, ist eine andere Frage, aber klarzustellen, dass KI-generierte Stimmen im Sinne des Gesetzes „künstlich“ sind, erfordert ungefähr so wenig Regulierung wie die Aussage, dass „jemandem mit einem Computer auf den Kopf zu schlagen“ als „Körperverletzung“ gilt.
Das Chevron-Prinzip erlaubt Behörden wie der FCC nicht, solche Entscheidungen zu treffen; es schützt vielmehr diese Entscheidungen davor, von Gerichten aufgehoben zu werden.
Das heißt: Selbst wenn alle Richter des Supreme Court privat der Meinung sind, dass die Auslegung der Behörde problematisch ist, müssen sie sie respektieren; ohne Chevron könnten sie sie in solchen Fällen aufheben.
In diesem Fall ist es aber so offensichtlich, AI-generierte Stimmen für die Anwendung des Gesetzes als „künstlich“ zu betrachten, dass ich persönlich nicht einmal sehe, dass das Chevron-Prinzip überhaupt zur Anwendung käme.
Das Gesetz verbietet „künstliche oder vorab aufgezeichnete Stimmen“, und da KI-Agenten per Definition künstlich sind, scheint keine besondere Deference nötig zu sein.
Eine Behörde sagt, du hättest gegen das Gesetz verstoßen; wenn du gegen diese Behörde klagst, folgt das Gericht der Behörde.
Im Ergebnis wird dir die Möglichkeit genommen, die Sache vor Gericht wirklich auszufechten.
Genauer gesagt sollte man sagen, dass die FCC den geltenden Telephone Consumer Protection Act offiziell ausgelegt und klargestellt hat, dass KI-generierte Stimmen in Robocalls gegen dieses Gesetz verstoßen; das wirkt vernünftig.
Man hätte für Robocalls ein Label in der Anrufer-ID erzwingen sollen.
Zum Beispiel so, dass „Police Officers Benevolent Association [Robocall]“ angezeigt wird.
Apple und Google sollten als Teil der Standardsoftware persönliche Telefon-Roboter bereitstellen.
Wenn man ein neues Handy kauft, nimmt man etwa 15 Minuten lang verschiedene Sätze auf, und danach nimmt der Roboter die Anrufe für einen entgegen.
Dieser Roboter würde versuchen, Spammer oder Telemarketer möglichst lange in der Leitung zu halten.
Eine Minute wäre gut, zehn Minuten wären noch besser.
Wenn Spammer versuchen, dem auszuweichen, könnten Apple und Google die Roboter entsprechend verbessern.
Innerhalb weniger Monate wäre diese Branche tot.
Denn sie können es sich nicht leisten, pro Anruf 30 Minuten darauf zu verwenden herauszufinden, ob jemand ein Trottel ist, der tatsächlich Bargeld an einen nigerianischen Prinzen schickt, oder ob es sich um schlechte Software handelt, die versucht, einen Callcenter-Mitarbeiter zu täuschen, dessen Muttersprache nicht Englisch ist.
Die Margen würden fallen, und der Bedarf an immer ausgefeilterer KI, um echte Menschen zu erkennen, würde so stark steigen, dass das wirtschaftlich nicht mehr tragfähig wäre.
Das bedeutet, dass die FCC einstimmig eine Feststellungsentscheidung angenommen hat, wonach Anrufe mit KI-generierten Stimmen nach dem TCPA als „künstlich“ gelten.
Insofern sind sie bereits illegal, weil künstliche Robocalls schon illegal sind.
Solche Überschriften werden in laufenden echten Gerichtsverfahren nicht hilfreich sein.
Es wirkt so, als würde man nicht das Problem selbst angehen, sondern nur die Symptome
Eines der großen Probleme bei Robocalls ist, dass es praktisch unmöglich ist zu wissen, wer angerufen hat, und dass Spam-Meldewerkzeuge kaum wirksam sind
Wenn ein Anruf eingeht, sollte sichtbar sein, wer für diesen Anruf verantwortlich ist
Zum Beispiel sollte angezeigt werden: „[Telefonnummer] ist auf [natürliche oder juristische Person] registriert“, und wenn sich Spam-Meldungen häufen, sollte die Fähigkeit dieser Partei, das Telefonnetz zu nutzen, eingeschränkt werden
Telefon-Spam ist politisch einfach zu effektiv
Solche Betrugsmaschen ins Visier zu nehmen, ist ein guter erster Schritt, aber ich glaube nicht, dass ausländische Anbieter sie deshalb weniger nutzen werden
Die meisten Spam-Anrufe, die ich bekomme, halten sich nicht einmal an die Do-Not-Call-Liste – warum sollten sie sich daran halten?
Die FCC sollte für STIR/SHAKEN strikte Fristen setzen und Anbieter bestrafen, die sich nicht daran halten
Nur dann werden VoIP-Anbieter das ernst nehmen
Warum das so lange dauert, weiß ich nicht, aber Mobiltelefone sollten bereits anzeigen können, ob die Caller ID eines Anrufs verifiziert ist
Der nächste Schritt dürfte sein, nicht verifizierte Anrufer einfach zu blockieren
Ich denke, es gibt noch viel Migrationsarbeit
https://www.fcc.gov/call-authentication
Es macht einen großen Unterschied, ob ein Anruf von T-Mobile kommt oder von einem Unternehmen, von dem man noch nie gehört hat
Würden mit dieser Entscheidung auch IVR-Systeme illegal?
Ich begrüße den Versuch, weil sich damit viel Spam reduzieren ließe, aber KI-generierte Stimmen bei Telefonanrufen gibt es im Grunde schon seit Jahrzehnten überall, deshalb frage ich mich das
Wird hier bei der Sprachqualität eine bestimmte Grenze gezogen?
IVR ist nicht umfasst
Automatisierte Anrufe sind mit Einwilligung ebenfalls erlaubt
Etwa wenn man Benachrichtigungen über fertig zubereitete Medikamente oder reservierte Bücher zur Abholung abonniert hat
Mit der Sprachqualität hat das nichts zu tun; auch vorab aufgezeichnete Stimmen fallen unter das Verbot
Welcher Mangel an gesundem Menschenverstand führt dazu, dass man die Nutzung von Roboterstimmen illegal macht, Roboteranrufe aber weiter laufen lässt?
Das ergibt keinen Sinn
„Künstliche“ Stimmen bei Telefonanrufen gibt es seit 1971
Damals entwickelte ein Unternehmen namens Federal Screw Works erstmals das Votrax-Sprachsynthesegerät; die technische Entwicklung lag bei Richard Gagnon
Wie lässt sich das durchsetzen?
Wurden alle automatisierten Sprachnachrichten verboten?
Wie wird hier „KI“ definiert?
Die Durchsetzung ist schwierig, läuft aber normalerweise so ab, dass Beschwerden bis zum abgehenden Telekommunikationsanbieter oder zum anrufenden Kunden zurückverfolgt und dann vor Gericht gebracht werden
Automatisierte Sprachnachrichten waren bereits eingeschränkt, und diese Entscheidung bestätigt lediglich, dass KI-generierte Stimmen in die Kategorie automatisierter Sprachnachrichten fallen
Ein Teil der entsprechenden Entscheidung lautet wie folgt
Und später heißt es
Das PDF gibt es hier: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf
Manche Leute zeichnen Anrufe auf
Unternehmen müssen in Situationen des Direktverkaufs an Verbraucher aus Compliance-Gründen häufig Aufzeichnungen machen
Wenn es eine Aufnahme gibt, dürfte ein Gericht auch ohne Algorithmus im Einzelfall leicht beurteilen können, ob es sich um eine KI-Stimme handelt