OpenAI, die US-Regierung und das von Persona aufgebaute Identitätsüberwachungssystem

• Laut der veröffentlichten Untersuchung wird in einer Infrastruktur, an der OpenAI, die US-Regierung und Persona beteiligt sind, ein „watchlistdb“-System betrieben, das Identitätsdaten von Nutzern überwacht und meldet
• Im Code ist ersichtlich, dass das System 269 Verifizierungsverfahren ausführt, darunter Gesichtserkennung, Meldungen zu Finanzkriminalität (SAR/STR), Ähnlichkeitsanalyse mit Politikern und Tracking von Kryptowährungsadressen
• Die Regierungsplattform von Persona (withpersona-gov.com) enthält Funktionen, um Berichte direkt an FinCEN (Financial Crimes Enforcement Network des US-Finanzministeriums) und FINTRAC (Financial Transactions and Reports Analysis Centre of Canada) zu übermitteln
• OpenAIs Nutzerverifizierung wird über die Infrastruktur von Persona durchgeführt; dabei werden Gesichts- und Ausweisbilder, biometrische Daten und Standortinformationen erfasst und gespeichert
• Da dieselbe Codebasis sowohl für zivile Dienste als auch für staatliche Überwachungssysteme verwendet wird, verschwimmt die Grenze zwischen der Nutzung von KI-Diensten und staatlicher Überwachung

---

Überblick über die Untersuchung

• Das Forschungsteam führte die Analyse ausschließlich mit öffentlich zugänglichen Daten durch, darunter Shodan, CT-Logs, DNS, HTTP-Header und öffentliche Source Maps
• Es wird ausdrücklich festgehalten, dass kein unbefugter Zugriff und kein Hacking stattfanden; alle Daten wurden von öffentlich erreichbaren Servern gesammelt
• Im Ergebnis wurden die OpenAI-bezogenen Subdomains openai-watchlistdb.withpersona.com und openai-watchlistdb-testing.withpersona.com entdeckt
  • Diese Server befinden sich in Google Cloud (Kansas City) und werden eigenständig ohne Cloudflare-Schutz betrieben
  • Laut Certificate-Transparency-Logs sind sie seit November 2023 und damit seit über zwei Jahren in Betrieb

Persona-Infrastruktur und Anbindung an Behörden

• Persona ist ein in San Francisco ansässiges Unternehmen für Identitätsverifizierung; die regulären Dienste laufen hinter Cloudflare
• Die watchlistdb-Instanz für OpenAI wird jedoch unabhängig auf separaten GCP-Servern betrieben und gilt damit als dedizierte Infrastruktur zur Trennung hochriskanter Daten
• Die Domain withpersona-gov.com ist eine Regierungsversion mit FedRAMP-Zertifizierung (Oktober 2025), die
  • Funktionen für FinCEN-Meldungen, Gesichtserkennung, Finanzdaten-Widgets und Echtzeit-Nutzerüberwachung enthält
  • ein Okta-basiertes Login-System sowie durch Cloudflare Access geschützte Bereiche besitzt

ONYX-Rollout und Offenlegung des Quellcodes

• Im Februar 2026 erschien die neue Subdomain onyx.withpersona-gov.com
  • Sie verwendet denselben Namen wie das von ICE (US-Einwanderungs- und Zollbehörde) eingesetzte Überwachungstool Fivecast ONYX
  • Ein direkter Zusammenhang ist im Code nicht belegt, jedoch wurden Ähnlichkeiten bei Bezeichnung und Infrastruktur festgestellt
• Dieser Server stellte 53 MB große TypeScript-Source-Maps ohne Authentifizierung öffentlich bereit
  • Der interne Code enthält Funktionen für SAR/STR-Meldungen, Gesichtsdatenbanken, PEP-Gesichtsabgleich und Überwachung von Kryptowährungsadressen
  • Definiert sind 269 Prüfpunkte und 13 Arten von Tracking-Listen

Zentrale Funktionen und Datenfluss

• SAR (Suspicious Activity Report): kann direkt an FinCEN gesendet werden, inklusive Verwaltung von Statuswerten wie Eingang, Warnung oder Ablehnung
• STR (Suspicious Transaction Report): wird an FINTRAC übermittelt; Tags mit Codenamen von Nachrichtendiensten wie Project SHADOW und LEGION sind möglich
• Gesichtsdatenbank: Speicherung für bis zu drei Jahre; Selfies können zu Listen hinzugefügt werden, um erneute Prüfungen durchzuführen
• PEP-Gesichtsabgleich: analysiert die Ähnlichkeit des Nutzer-Selfies mit Fotos von Politikern und Amtsträgern
• Chainalysis-Integration: Risikobewertung von Kryptowährungsadressen und laufendes Monitoring
• OpenAI-Integration: Funktion AI Copilot (AskAI) innerhalb der Regierungsplattform, ein Chat-Assistent zur Unterstützung von Operatoren

Rechtliche und ethische Fragen

• Es wurde bestätigt, dass die watchlist-Infrastruktur bereits vor OpenAIs Richtlinie zur Identitätsverifizierung (eingeführt 2025) in Betrieb war
• Die Speicherfrist biometrischer Daten ist im Code mit drei Jahren angegeben, im Gegensatz zu dem von OpenAI genannten Jahr
• Es steht ein möglicher Verstoß gegen den BIPA (Biometric Information Privacy Act) des US-Bundesstaats Illinois im Raum
• Die Sperrpolitik gegenüber der Ukraine ist enthalten, obwohl sie nicht Gegenstand gesetzlicher Sanktionen ist
• Nutzern kann der Zugang ohne Begründung der Ablehnung oder Einspruchsverfahren verwehrt werden

Fazit

• Es wurde bestätigt, dass dieselbe Persona-Codebasis sowohl für zivile KI-Dienste (OpenAI) als auch für staatliche Überwachungs- und Finanzmeldesysteme eingesetzt wird
• Der Code enthält überwachungsnahe Funktionen wie Meldungen an FinCEN und FINTRAC, Gesichtserkennung, Ähnlichkeitsanalyse mit Politikern und Krypto-Tracking
• Ein direkter Datenübertragungsweg wurde nicht bestätigt, jedoch ist die Struktur technisch so angelegt, dass die Nutzung von KI-Diensten mit staatlichen Überwachungssystemen verbunden werden kann
• Das Forschungsteam fordert von Persona und OpenAI eine Prüfung der FedRAMP-Konformität sowie offizielle Antworten auf 18 Punkte und kündigt weitere Veröffentlichungen an

[GN⁺]

Hacker-News-Kommentare

• Ich kopiere hier einfach meinen Kommentar aus einem anderen Thread von heute. Die offizielle Stellungnahme des Persona-Sicherheitsteams ist hier zu finden, und Rick diskutiert auf Twitter aktiv mit anderen darüber. Den anderen relevanten Thread gibt es hier.
  • Mit diesem Post scheinen sie die Krisenkommunikation ziemlich gut gehandhabt zu haben.
  • Allerdings liefert der betreffende withpersona.com-Link derzeit einen 404-Fehler zurück.
• Fivecast ONYX ist eine KI-gestützte Überwachungsplattform, die ICE und CBP für mehrere Millionen Dollar gekauft haben. Sie soll Daten aus Social Media und dem Dark Web sammeln, um Stimmungsschwankungen, Risikoscores, Gewaltneigung usw. zu verfolgen. Dass so eine Technologie irgendwann auftauchen würde, war absehbar, aber vielleicht kommt jetzt der Tag, an dem kein SNS-Konto zu haben fast als Verbrechen gilt.
  • Laut der offiziellen Erklärung von Persona ist „onyx“ nur ein interner Projekt-Codename, benannt nach dem Pokémon Onyx, und hat nichts mit Fivecast ONYX zu tun.
  • Vielleicht nicht gleich ein Verbrechen, aber es könnte bei einem Social-Credit-Score zu einem massiven Punktabzug führen.
  • Im Grunde ist es schon so. Bei US-Visaanträgen kann eine Ablehnung drohen, wenn man keine öffentlichen Social-Media-Profile angibt. Wer glaubt, die Regierung gebe Milliarden für solche Technologien nur für eine einfache Prüfung aus, ist naiv.
  • Beim Grenzübertritt ist es schon jetzt verdächtig, keine Social-Media-Konten zu haben.
  • Mich würde diese Liste mit mehr als 300 Plattformen interessieren.
• Ist das nicht einfach nur das übliche KYC-Verfahren beim Eröffnen eines Kontos? Vielleicht übersehe ich etwas.
  Relevante Kundenbeispiele gibt es hier.
• Ich teile hier Personas Antwort auf eine Datenanfrage. Kurz gesagt verarbeitet Persona in den meisten Fällen Daten im Auftrag seiner Kunden als „Dienstleister“ (processor) und agiert nur bei einigen Services wie LinkedIn, FoxCorp und Reusable Persona als „Controller“. Wer Datenschutzrechte ausüben will, muss sich direkt an den jeweiligen Kunden wenden. Details stehen in den Datenschutzhinweisen und auf der DSAR-Seite.
  TL;DR — sinngemäß: „Wir sind nicht verantwortlich, frag LinkedIn.“
  • Ich habe als Einwohner Kaliforniens bei einer LinkedIn-bezogenen Datenanfrage auf Grundlage des Right-to-Know-Gesetzes allerdings eine völlig andere Antwort erhalten.
  • So ein Verhalten ist dieselbe verantwortungslose Ausweichstrategie wie beim Versuch, einen Newsletter mit politischen Spendenaufrufen abzubestellen. Am Ende verschickt dieselbe Organisation unter anderem Namen einfach wieder Mails. Es bräuchte starke Gesetze, um so etwas zu verhindern, aber realistisch ist damit kaum zu rechnen.
• Diese persönliche Website ist wirklich witzig und charmant. Und noch besser: Der Inhalt ist auch noch gut.
  • Ich habe auch zum ersten Mal seit Langem wieder auf einen physischen Lautstärkeknopf gedrückt, um mich auf den Text zu konzentrieren, und es fühlte sich seltsam belebend an.
• Personas Position dazu findet sich hier.
• Bei jedem technologischen Fortschritt hören wir das Versprechen von „Freiheit und Komfort“, und am Ende bekommen wir doch das Gegenteil. Ich frage mich, wie lange die Gesellschaft diesen gebrochenen Gesellschaftsvertrag noch aushält.
  • Die Struktur, in der Verluste sozialisiert und Gewinne privatisiert werden, dringt inzwischen nicht mehr nur in den Finanzbereich, sondern sogar in die menschliche Freiheit ein.
  • Der Ausgangspunkt in so einer Lage ist, dass Einzelne selbstbestimmte Wahlmöglichkeiten haben. Wenn ein Großkonzern sagt: „Wir aktualisieren das einfach für euch“, nutzt man diese Technologie am Ende, ob man will oder nicht.
  • Hast du vielleicht 1984 gelesen? Denk mal daran, wer am Ende gewinnt.
  • Der Kern dieses Vorfalls ist ein konkretes Sicherheitsversagen: In einem FedRAMP-zertifizierten System wurde eine 53-MB-Vite-Entwicklungs-Source-Map offengelegt. Nicht die Technologie hat uns verraten; die eigentliche Frage ist, warum solche Überwachungsinfrastrukturen gesetzlich verlangt werden und weshalb die Sicherheitsprüfung so etwas übersehen hat.
  • Die Gesellschaft zeigt bereits Anzeichen des Zerfalls. Deshalb taucht KI-basierter Autoritarismus auf. Je instabiler eine Gesellschaft ist, desto eher reden sich Menschen ein, „vielleicht wäre Autoritarismus besser“, aber diesen Preis ist es niemals wert.
• Ich frage mich, warum so viele Ingenieure Dinge bauen, die der Gesellschaft schaden.
  • Der Grund ist einfach: Man verdient gut daran.
  • Bei den meisten sind es Sinclairs Gesetz und diese abgestumpfte Denkweise, nach dem Motto: „Ich habe nichts zu verbergen, also ist alles okay.“
  • Entweder sie halten das, was sie bauen, nicht für schlecht, oder sie glauben, dass es ohnehin jemand anderes bauen würde, oder es ist einfach Unwissenheit.
  • Manche Führungskräfte sehen China oder bestimmte politische Parteien als existenzielle Bedrohung und glauben, dass mehr Überwachung und Militarisierung nötig seien. Mitarbeitende übernehmen solche Narrative oft einfach. Natürlich bleibt der eigentliche Grund Geld.
  • Letztlich ist es ein System, in dem das Böse besser bezahlt wird.
• Ich frage mich, auf wie vielen Überwachungslisten ich wohl gelandet bin, weil ich gesagt habe: „Der große Führer der USA ist ein Idiot.“
  • Vermutlich kommt man auch auf Listen, wenn man sagt: „Israel begeht einen Völkermord.“
• Ich frage mich, was Menschen tun können, die in anderen Ländern leben und ihre Identität über LinkedIn mit Persona verifiziert haben.
  • Sie sollten in ihren jeweiligen Ländern Bewegungen zur Datenlöschung organisieren, US-Digitaldienste besteuern oder eigene technische Alternativen aufbauen. Wenn niemand handelt, ändert sich auch nichts. Man darf nicht vergessen, dass die Kraft der Menschen stärker ist als Geld.
  • Ich teile einen Tipp aus diesem Blogbeitrag
    1. Datenanfrage: E-Mail an [e-mail] oder [e-mail] senden (nach GDPR Antwort innerhalb von 30 Tagen)
    2. Löschanfrage: Wenn die Verifizierung abgeschlossen ist, gibt es für Persona keinen Grund, Pass-Scans oder Gesichtsdaten aufzubewahren.
    3. Den DPO unter [e-mail] kontaktieren und der Nutzung der Daten für KI-Training widersprechen.
    4. Man sollte noch einmal darüber nachdenken, ob ein blaues Abzeichen wirklich so viel wert ist wie dauerhaft gespeicherte biometrische Daten.