- Das US-amerikanische KI-Überwachungs- und Sicherheitsunternehmen Palantir bedroht laut Warnungen hochrangiger interner Techniker durch zahlreiche Regierungsverträge mit dem britischen Verteidigungsministerium (MoD) die nationale Sicherheit
- Interne Quellen weisen darauf hin, dass Palantir zwar die Kontrolle über die Daten formell beim Staat belässt, die daraus abgeleiteten „Insights“ jedoch beim Unternehmen verbleiben, wodurch es faktisch kritische britische Informationen anhäuft
- Palantir verfügt über Regierungsverträge im Umfang von £670m, davon £15m im Zusammenhang mit Nuklearwaffenbehörden; zudem bestehen Sorgen, dass sich durch die Verknüpfung von Daten geheime Informationen ableiten lassen
- Wie im früheren Fall des New York Police Department hat Palantir bereits behauptet, Ergebnisse der Datenanalyse seien eigenes geistiges Eigentum, weshalb sich dasselbe Problem auch bei britischen Regierungsdaten ergeben könnte
- Experten und Abgeordnete sehen die Abhängigkeit souveräner Daten von einem ausländischen Unternehmen als ernstes Risiko und betonen die Notwendigkeit einer Reaktion von Parlament und Aufsichtsbehörden
Warnung von Insidern des Verteidigungsministeriums
- Zwei leitende Systemingenieure des Verteidigungsministeriums warnen, dass Palantirs Technologie für die britische Sicherheit eine „nationale Bedrohung“ darstelle
- Beide arbeiten direkt mit der Struktur der Palantir-Software und bezeichnen die Regierungsposition, die „Daten stünden unter souveräner Kontrolle“, als „naiv oder irreführend“
- Sie erklären, Palantir könne durch Data Scraping und Metadatenanalyse ein detailliertes Bild der britischen Verteidigungs-, Infrastruktur- und Industriebasis insgesamt aufbauen
- Eine Quelle sagte, der Zugriff eines einzelnen ausländischen Unternehmens auf Daten der gesamten Regierung sei grundsätzlich riskant, und äußerte Unverständnis darüber, dass dies überhaupt vom National Cyber Security Centre genehmigt wurde
Problem der Trennung von Datenkontrolle und „Insights“
- Die Insider nennen die Trennung zwischen Eigentum an den Daten und Eigentum an den Analyseergebnissen als zentrales Risiko
- Auch ohne Eigentum an den Daten selbst könne Palantir durch Extraktion, Transformation und Nutzung von Metadaten ein eigenes Informationssystem aufbauen
- Ein Insider aus dem Nachrichtendienstumfeld sagte, Palantir habe möglicherweise „ein Profil der gesamten britischen Bevölkerung“, was ein „offensichtliches Sicherheitsrisiko“ sei
- Ein Sprecher des Verteidigungsministeriums erklärte, „alle Daten gehören dem MoD und die vertragliche Kontrolle ist gewährleistet“, doch Insider entgegnen, dies gehe am Kern vorbei: „Wenn die Daten gelesen werden können, besteht das Risiko bereits.“
Möglichkeit zur Ableitung geheimer Informationen
- Es werden konkrete Beispiele dafür genannt, dass Palantir durch die Kombination mehrerer nicht klassifizierter Datensätze vertrauliche Informationen ableiten könne
- So könne etwa die Verknüpfung von Lieferinformationen eines Rüstungsunternehmens (Teilenummern, Adressen, Ankunftsdaten) Standorte und Zeitpläne von Atom-U-Booten erkennen lassen
- Eine solche Datenverknüpfung ermögliche „nicht autorisierte Informationsgenerierung“ in einem Ausmaß, das der Regierung womöglich nicht bewusst sei
- Duncan McCann vom Good Law Project sagte, die Regierung habe privaten Unternehmen zu tiefgehende Zugriffsrechte eingeräumt, und stellte die Frage: „Wessen Interessen dient das?“
Reaktion von Palantir und internationaler Vergleich
- Ein Sprecher von Palantir wies die Berichte als „völlig falsch und unbegründet“ zurück
- Die Schweizer Armee lehnte Palantirs Technologie hingegen ab und hielt Bedenken über mögliche Zugriffe der US-Regierung in offiziellen Dokumenten fest
- Nach dem Ende eines früheren Vertrags mit dem New York Police Department (NYPD) wurde bestätigt, dass Palantir Ergebnisse der Datenanalyse als eigenes geistiges Eigentum beanspruchte
- Damals ging es im Streit nicht um die Daten selbst, sondern um die vom Software-System erzeugten Analyseergebnisse („Insights“)
- Das deutet auf die Möglichkeit des gleichen rechtlichen Konflikts auch bei britischen Regierungsdaten hin
Reaktionen aus Politik und Zivilgesellschaft
- Der liberaldemokratische Abgeordnete Martin Wrigley sagte: „Souveräne Fähigkeiten müssen in souveränen Händen liegen“ und forderte den Ausschluss von Unternehmen mit Verbindungen zu ausländischen politischen Kräften
- Jim Killock von der Open Rights Group warnte, wenn die USA Einblicke in sämtliche Aktivitäten des MoD hätten, könne dies als diplomatisches Druckmittel eingesetzt werden
- Er sagte: „Wenn Palantir alles weiß, verleiht ihm das enorme Verhandlungsmacht“
- McCann kritisierte als gemeinsame Merkmale von Palantirs Verträgen Geheimhaltung und Intransparenz sowie das Fehlen wirksamer Regulierung und sagte, „die Aufsichtsbehörden funktionieren faktisch nicht“
Kontext von Palantirs globalen Aktivitäten
- Palantir ist in den USA an verschiedenen Regierungsprojekten beteiligt, darunter die Verfolgung von Migranten und die Unterstützung von ICE-Operationen, die Integration von Steuer- und Heimatschutzdaten sowie die KI-gestützte Unterstützung militärischer Operationen
- Auch bei US-Operationen in Venezuela, Gaza und Iran kommen KI-Systeme von Palantir zum Einsatz
- Diese Auslandsaktivitäten verstärken auch in Großbritannien die Sorgen über Palantirs Einfluss und den Umfang seines Datenzugriffs
1 Kommentare
Hacker-News-Kommentare
Palantir hat die unabhängige Schweizer Recherchepublikation Republik verklagt.
Der Grund war, dass das Medium berichtet hatte, Palantir sei von Schweizer Regierungsbehörden (einschließlich des Militärs) abgelehnt worden.
Artikellink
Wenn ich raten müsste, dann weil Aktionäre das Management unter Druck setzen, damit Geld in ihre Netzwerke fließt.
Den tatsächlichen geschäftlichen Nutzen der Plattform finde ich schwer nachvollziehbar.
Die Klage von Palantir scheint Teil eines solchen Verfahrens zu sein.
Es geht weder um Schadensersatz noch um die Löschung des Artikels.
Golden-Dome-Erklärung
Heute findet ein NHS-bezogenes Treffen zu Palantir statt.
Veranstaltungslink
Palantir ist wie Saurons Palantír, etwas, das Verderbnis bringt.
Thiel hat nie verheimlicht, dass er Technologie nutzen will, um die Demokratie zu umgehen, und Palantir ist das Mittel dazu.
Solche Systeme geben Machthabern präzise Kontrollinstrumente und schwächen die Freiheit der Bürger.
Es wirkt, als hätten sie den Witz „Sind wir die Bösen?“ in die Realität umgesetzt.
Ich habe mich gefragt, warum Palantir als Bedrohung gilt.
Meinem Verständnis nach ist es nur ein etwas leistungsfähigeres Analysetool als PowerBI, daher war mir nicht klar, warum die Reaktionen so ängstlich sind.
Zweitens sind die Aussagen des Managements so angstmachend, dass es schwerfällt, ihnen zu vertrauen.
Das Problem ist: Wenn ein Staat alle Systeme in einer einzigen Palantir-Instanz zusammenführt, könnte ein Massenüberwachungssystem Realität werden.
Referenzlink
Verwandte Diskussion
Sie ähnelt eher einer Kombination aus AWS + Databricks + eigener AI-Bibliothek, und ohne Forward Deployed Engineer ist sie fast nicht nutzbar.
Außerdem ist die Möglichkeit von Backdoors hoch, und eine vollständige Auditierbarkeit ist kaum zu erwarten.
In Der Herr der Ringe werden Saruman und Denethor durch die Palantíri verdorben.
Ich frage mich, warum schlechte Unternehmen immer gute Namen haben.
Da es sich um den Namen eines als böse bekannten Werkzeugs handelt, flammt die Debatte jedes Mal wieder auf.
Die Ursprünge von Palantir reichen auf CIA und In-Q-Tel zurück.
Das von Christine Maxwell und Alan Wade geschaffene Chiliad wurde beim FBI eingesetzt, später wurde Wade CIO der CIA.
Danach gründete In-Q-Tel gemeinsam mit Thiel Palantir mit.
Vor diesem Hintergrund ist es unbegreiflich, dass europäische Regierungen Palantir überhaupt in Betracht ziehen.
Wir sind kein ernstzunehmendes Land mehr.
Selbst angesichts von Energiekrise und Krieg wiederholen wir ohne grundlegende Lösungen nur Subventionspolitik.
Die Führung von Palantir hatte ihre Masken schon vor langer Zeit abgelegt, und trotzdem ist es seltsam, dass es so weit kommen konnte.
Ich frage mich, warum Palantir überhaupt existieren muss.
Es wirkt wie eine oberflächlich aufpolierte Datenbank à la Salesforce oder Jira.
Dank AI können Organisationen auch dann noch funktionieren, wenn sie ineffizient sind.
Ich persönlich halte Palantir für einen Kanal für die Peter-Thiel-Fraktion innerhalb der CIA.
Link zu einer früheren Erklärung
Demo-Video
Es ist eine vernünftige Entscheidung, Bereiche auszulagern, die nicht zur eigenen Kernkompetenz gehören.