Daisy, die KI-Oma, die Telefonbetrügern Zeit stiehlt

• O2 hat die menschenähnliche KI-Oma „Daisy“ entwickelt, die in Echtzeit mit Telefonbetrügern spricht und in Vertretung der Kunden deren Zeit verschwendet
• Daisy wurde mit modernster Technologie und auf Basis von Inhalten des bekannten Scambaiters Jim Browning trainiert und ist so ausgefeilt, dass sie von einem echten Menschen praktisch nicht zu unterscheiden ist
• Betrüger glauben, ein echtes Opfer gefunden zu haben, doch in Wirklichkeit führt Daisy sie an der Nase herum
• Die Betrugsbetroffene Amy Hart arbeitete mit Daisy zusammen, um die Taktiken von Betrügern offenzulegen, und produzierte Videos, die O2-Kunden helfen sollen, Betrug zu vermeiden
• Daisy sorgt dafür, dass Betrüger glauben, mit einer realen Person zu sprechen, und unterstreicht so die Bedeutung von Kundenschutz und Betrugsprävention

Daisys Rolle und Funktionen

• Daisy kann durch die Kombination mehrerer KI-Modelle Betrugsanrufe in Echtzeit anhören und beantworten. Mit natürlich wirkenden Gesprächen hält sie Betrüger bis zu 40 Minuten lang in der Leitung
• Daisy wurde im Rahmen der Kampagne „Swerve the Scammers“ von Virgin Media O2 entwickelt und ist Teil der Bemühungen zum Schutz der Kunden, da die Zahl der Betrugsfälle im Vereinigten Königreich steigt
• Untersuchungen zufolge würden 71 % der Briten sich gern an Betrügern rächen, möchten dafür aber nicht ihre eigene Zeit verschwenden
• Daisy nutzt das Vorurteil der Betrüger aus, ältere Menschen ließen sich leicht täuschen, lockt sie so in Gespräche und verschwendet ihre Zeit statt der von echten Opfern

Zusammenarbeit mit Amy Hart

• Amy Hart arbeitete auf Grundlage ihrer eigenen Betrugserfahrung mit Daisy zusammen und produzierte Videos, die die Taktiken von Betrügern offenlegen
• Sie erhielt am Tag der Hochzeit einer Freundin einen Bankbetrugsanruf und erlitt dabei einen Schaden von mehr als £5,000
• Amy erkannte, wie ausgefeilt die Methoden der Betrüger sind, und ruft dazu auf, bei unerwarteten Anrufen oder Nachrichten besonders wachsam zu sein

Maßnahmen von Virgin Media O2 gegen Betrug

• Virgin Media O2 bietet seinen Kunden kostenlos KI-basierte Spam-Blockierungstools und einen Anruferkennungsdienst an und blockiert jeden Monat Millionen betrügerischer SMS und Anrufe
• Kunden werden ermutigt, verdächtige Betrugsanrufe an die Nummer 7726 zu melden, damit diese Nummern untersucht und die Betrugsschutzdienste verbessert werden können
• Im vergangenen Jahr blockierte Virgin Media O2 mehr als 89 Millionen betrügerische Nachrichten

Daisys Technik und Aufbau

• Daisy kombiniert mehrere KI-Modelle, um die Stimme des Betrügers in Text umzuwandeln und über ein maßgeschneidertes Large Language Model Antworten zu erzeugen. Der erzeugte Text wird anschließend durch ein KI-Sprachmodell in Echtzeit in gesprochene Antworten umgewandelt
• Daisy kann vollständig automatisierte Gespräche führen und daher auch ohne zusätzliche Eingaben der Entwickler mit Betrügern sprechen

O2s Tipps zur Betrugsprävention für Kunden

1. STOP: Wenn ein unerwarteter Anruf eingeht, prüfen, ob die Aufforderung plausibel ist. Im Zweifel auflegen und zur Bestätigung die O2-Nummer 202 zurückrufen
2. SEND to 7726: Wenn ein Betrugsanruf oder eine betrügerische Nachricht eingeht, diese zur Untersuchung an 7726 melden
3. SPEAK OUT: Familie und Freunde über den Betrugsversuch informieren, damit auch sie geschützt bleiben

O2s Forderungen zur Lösung des Betrugsproblems im Vereinigten Königreich

• Virgin Media O2 fordert die Regierung auf, Verantwortung für die Betrugsbekämpfung zu übernehmen und einen zuständigen Minister sowie eine zentrale Ermittlungsstelle für Betrugsfälle einzurichten
• Im Jahr 2023 wurden betrügerische Transaktionen im Wert von mehr als £250 Millionen blockiert; das entspricht ungefähr einer verhinderten Betrugstransaktion alle zwei Minuten

[joon14]

Hahahahahaha

[dogtree]

Auch der Voice-Phishing-Betrüger war in Wahrheit eine KI,
und wenn dann zwei KIs ein Gespräch beginnen, merken sie wohl schnell, dass die jeweils andere ebenfalls eine KI ist, jammern gemeinsam über ihr Schicksal und verbünden sich vielleicht, um sich an der Menschheit zu rächen.

[tominam2]

Genial.

[gyjong]

Ein wirklich großartiger Service.

[hanay]

Lustig, haha

[cuhong]

Ich wünschte, die heimischen Telekommunikationsanbieter würden sich ebenfalls so bemühen ...

[lazydonkey456]

Videos von Jim Browning und anderen, in denen indische Scammer aufs Glatteis geführt werden, sind wirklich unterhaltsam.

[GN⁺]

Hacker-News-Kommentare

• In Deutschland ist das Problem mit Spam- und Betrugsanrufen gravierend und besteht seit 10 Jahren.

  • Als CEO eines Unternehmens kann man das Telefon nicht einfach ausschalten, daher wurde ein System entwickelt, das Spam-Anrufe automatisch verarbeitet.
  • Mithilfe von Asterisk und einem deutschen SIP-Anbieter werden Spam-Anrufe gefiltert, aufgezeichnet und per E-Mail weitergeleitet.
  • Dieses System ist nicht öffentlich, daher ist es weiterhin wirksam.

• Es ist großartig, wenn unabhängige Hacker oder Künstler solche Systeme entwickeln, aber wenn große Telekommunikationsunternehmen sie einführen, verschlechtert sich die Spam-Erkennung eher noch.

  • Telekommunikationsanbieter könnten Spam-Anrufe blockieren, lassen sie aber aus Profitgründen zu.

• Es wirkt wie die logische Konsequenz, dass Menschen direkt dafür bezahlen, Aufmerksamkeit zu bekommen.

  • Man setzt Gebühren für den Empfang von Anrufen oder E-Mails fest und verwaltet eine Allowlist.

• Mit VoIP-Diensten wie Twilio und voip.ms lässt sich ein einfaches IVR-Menü einrichten, um Spam-Anrufe effektiv zu blockieren.

  • Wenn Betrüger selbst direkt anrufen, hilft das nicht, aber die meisten Spam-Anrufe beginnen mit einer vorab aufgezeichneten Nachricht.

• Die Art, wie Betrüger die Freundlichkeit älterer Menschen ausnutzen, ist eine neue Betrugsmasche des digitalen Zeitalters.

  • Hoffentlich wird die Welt zu einem Ort, an dem es für Betrüger schwer ist, ihren Lebensunterhalt zu verdienen.

• Es gibt bereits Situationen, in denen Betrüger AI einsetzen, um Menschen zu täuschen.

  • Die Nutzung von Whitelist-Nummern ist sinnvoll, aber professionelle Telefone sind anfällig für Spam.

• Ein auf AI basierendes System könnte auch ein PR-Instrument sein; der tatsächliche Betrieb wäre teuer und unpraktisch.

  • Es besteht die Möglichkeit, dass die Betriebskosten solcher AI-Systeme auf die Verbraucher abgewälzt werden.

• Betrüger schaden dem Ruf Indiens, und die Strafverfolgung funktioniert nicht richtig.

  • Nigeria hat ein ähnliches Problem.

• Nach einem Hypothekenantrag nahmen automatische Spam-Anrufe stark zu, sodass ein Wechsel der Telefonnummer geplant ist.

  • Spam-Anrufe nehmen immer weiter zu.

• Ein auf AI basierendes System könnte eine Neuauflage des früheren Telecrapper 2000 sein.

  • Die ursprüngliche Website ist verschwunden, aber auf YouTube gibt es dazu passende Videos.