New Yorker Krankenhäuser beenden Vertrag mit dem umstrittenen KI-Unternehmen Palantir – in Großbritannien geht die Expansion weiter

• Das öffentliche Krankenhaussystem von New York City hat beschlossen, den Vertrag mit Palantir Technologies nicht zu verlängern und auf ein internes System umzusteigen
• Der Vertrag enthielt eine Klausel, die die Nutzung de-identifizierter Patientendaten auch außerhalb der Forschung erlaubte, was Bedenken bei Datenschutzexpert:innen auslöste
• Palantir wies die Kritik zurück und betonte, dass das Unternehmen keine Kundendaten besitzt und auf unabhängige Schutzmechanismen setzt
• Gleichzeitig setzt Palantir seine Expansion in Großbritannien mit einem Vertrag über 330 Millionen Pfund mit dem NHS fort; dabei werden Risiken der Re-Identifizierung von Daten und möglicher Machtmissbrauch diskutiert
• Das Vertragsende in New York wird als Erfolg einer Kampagne von Aktivist:innen gewertet und beeinflusst auch die Bewegung „No Palantir in our NHS“ in Großbritannien

---

Öffentliches Krankenhauswesen in New York City beschließt Ende des Palantir-Vertrags

• Die öffentliche Gesundheitseinrichtung NYC Health + Hospitals hat entschieden, den Vertrag mit Palantir Technologies nicht zu verlängern
  • Der Vertrag wurde im November 2023 geschlossen, umfasste rund 4 Millionen US-Dollar und war als Kurzzeitprojekt zur Rückgewinnung von Versicherungsforderungen konzipiert
  • Nach Vertragsende will das Krankenhaus auf ein intern entwickeltes System umstellen und die gemeinsame Datennutzung sowie die Nutzung von Anwendungen von Palantir beenden
  • Es wurde betont, dass die Technologie von Palantir ausschließlich zur Optimierung des Revenue Cycle verwendet wurde und kein Informationsaustausch mit ICE (Immigration and Customs Enforcement) stattgefunden habe
• Die Vertragsunterlagen enthielten eine Klausel, nach der Palantir mit Genehmigung städtischer Stellen Patientengesundheitsdaten de-identifizieren und für andere Zwecke als Forschung nutzen durfte
  • Diese Klausel löste Bedenken bei Datenschutzexpert:innen aus
  • Fachleute weisen darauf hin, dass durch KI-Technologien das Risiko der Re-Identifizierung de-identifizierter Daten steigt
• Palantir erklärte, seine Software verschaffe dem Unternehmen kein Eigentum an Kundendaten, und jede Kundenumgebung werde unabhängig geschützt
  • Zudem wurde betont, dass Kund:innen Sicherheitskontrollen und Audits selbst durchführen können

Palantirs Expansion und Kontroversen in Großbritannien

• Palantir baut seinen Einfluss in Großbritannien mit einem Vertrag über 330 Millionen Pfund mit dem National Health Service (NHS) weiter aus
  • Die britischen Gesundheitsbehörden befürchten, dass die Kontroversen um Palantir die Einführung eines landesweiten Datensystems verzögern könnten
  • Stand Sommer 2025 haben weniger als die Hälfte der britischen Gesundheitsbehörden die Technologie von Palantir eingeführt
• Die Organisation für Gesundheitsgerechtigkeit Medact warnt, dass die Software von Palantir datenbasierten Machtmissbrauch ermöglichen könnte
  • Dabei wird auf Risiken hingewiesen, die dem US-amerikanischen ICE-Durchsetzungsmodell ähneln
  • Palantir entgegnete, eine solche Nutzung sei rechtswidrig und ein Vertragsverstoß
• Palantir hat auch einen Vertrag mit dem britischen Verteidigungsministerium und erhielt kürzlich bei der Financial Conduct Authority (FCA) Zugriffsrechte auf Daten für Ermittlungen zu Finanzkriminalität
  • Einige Abgeordnete fordern von der Regierung einen Stopp der Verträge, während die Liberaldemokraten eine Untersuchung verlangen
  • Premierminister Keir Starmer wies den Vorwurf zurück, Großbritannien sei übermäßig von US-Technologiekonzernen abhängig, sprach aber zugleich von der Notwendigkeit, die heimischen Technologiekompetenzen zu stärken
• Medact argumentiert, das Schutzniveau für de-identifizierte Daten beim NHS sei unzureichend
  • Der NHS erklärt, dass die Daten beim Transfer über die Federated Data Platform (FDP) de-identifiziert würden
  • Medact warnt jedoch, dass bei diesen Daten ein hohes Re-Identifizierungsrisiko bestehe
• Ein NHS-Sprecher betonte, der FDP-Anbieter sei gemäß den Regeln für öffentliche Aufträge ausgewählt worden und jeder Datenzugriff erfolge unter Kontrolle des NHS

Kontroverse um den Datenschutz

• Die Rechtswissenschaftlerin Sharona Hoffman erklärte, es bestehe ein Risiko, wenn Palantir zu anderen Zwecken als Forschung auf de-identifizierte Daten von New Yorker Bürger:innen zugreifen könne
  • Problematisch seien der Umfang von Palantirs Zugang zu Regierungsdaten und die KI-gestützte Fähigkeit zur Datenverknüpfung
  • Sie warnte: „De-Identifizierung ist keine vollständige Garantie mehr, und durch KI wird Re-Identifizierung einfacher.“
• Professor Ari Ezra Waldman betonte, dass bei Unternehmen wie Palantir stets Vorsicht geboten sei, wenn sie Informationen über vulnerable Gruppen sammeln
  • Insbesondere die im Vertrag festgehaltene Klausel zur „Nutzung für andere Zwecke als Forschung“ zeige eine schwache Verhandlungsposition der Regierung

Reaktion von Zivilgesellschaft und Aktivist:innen

• Das Vertragsende in New York gilt als Ergebnis einer Druckkampagne von Aktivist:innen
  • Eine wichtige Rolle spielte die landesweite Kampagne „Purge Palantir“, an der sich Pflegeorganisationen, palästinasolidarische Gruppen sowie soziale und klimapolitische Gerechtigkeitsgruppen beteiligten
  • Sie kritisieren, dass Palantirs KI in denselben Systemen eingesetzt werde, die für Migrationsdurchsetzung und militärische Operationen genutzt werden
• Das American Friends Service Committee beschaffte über Informationsfreiheitsanfragen den Krankenhausvertrag und teilte ihn mit The Intercept und The Guardian
  • Auch die National Nurses Union und die BDS-Bewegung (Boycott, Divestment, Sanctions) beteiligten sich an der Kampagne
• Gruppen der britischen Bewegung „No Palantir in our NHS“ sehen die Entscheidung aus New York als Antrieb für ihren eigenen Kampf
  • Medact und Amnesty International UK fordern den NHS auf, den Vertrag mit Palantir zu beenden
    • Rhiannon Mihranian Osborne von Medact sagte, wie das Beispiel New York zeige, könnten „Bürger:innen und Beschäftigte Gesundheitseinrichtungen zur Verantwortung ziehen“, und forderte die Aufkündigung des NHS-Vertrags

[GN⁺]

Hacker-News-Kommentare

• Ich halte es für äußerst gefährlich, wenn Unternehmen wie Palantir Zugriff auf persönliche Gesundheitsdaten haben
  Daher bin ich wirklich erleichtert, dass NYC Maßnahmen ergriffen hat, um das zu verhindern

• Ich verstehe nicht, warum so viele Institutionen mit Palantir Geschäfte machen
  Ich halte sie für giftig für ihre Kunden

  • Palantir ist im Grunde nur ein gehobenes IT-Beratungsunternehmen
    Wenn man sagt: „Baut uns ein System zur Verwaltung von Patientenakten“, schicken sie ein Team frisch graduierter Engineers und stellen hohe Rechnungen
    Regierungs- oder Militärverträge bekommen sie dank Lobbying und Einfluss, und das meiste, was man online sieht, ist Marketing
  • Weil intern die technischen Fachkräfte fehlen, um das Gewünschte selbst umzusetzen
    Aus demselben Grund hat man früher Firmen wie Deloitte, EY, KPMG oder PwC beauftragt
    Palantir hat gegenüber ihnen einfach Personal und Lieferfähigkeit auf einer höheren Stufe
  • Ich frage mich, wer Palantir tatsächlich einsetzt
    Außerhalb der HN-Community interessieren sich die meisten Leute überhaupt nicht dafür, wofür Palantir genutzt wird

• Palantir ist jetzt also ein AI-Unternehmen? Ich dachte früher, das sei eher ein Unternehmen für Datensammlung oder Spyware

  • Das Wort „Spyware“ sollte man nicht wahllos auf alles kleben
    Es gibt echte Spyware-Unternehmen wie Pegasus
    Palantir, Snowflake und Databricks in einen Topf zu werfen, ist ungenau
  • Ich sehe Palantir als tödliche Version von JIRA oder Salesforce
  • Am Ende sind alle AI-Unternehmen Spyware-Unternehmen
  • Heutzutage behauptet sowieso jeder, ein AI-Unternehmen zu sein
    Palantir ist da keine Ausnahme

• Ich würde die britische Regierung gern bitten,
  Palantir bitte von meinen Daten fernzuhalten

• Wenn Palantir bereits ein Vampir ist, der sich lange genug sattgesogen hat, dann ist es besser, sie jetzt rauszuwerfen, auch wenn es spät ist

• Es ist gefährlich, wenn private Unternehmen tief in ein öffentliches Gesundheitssystem eindringen

  • Aber medizinische Geräte wie CT- oder MRT-Anlagen werden auch nicht vom Staat hergestellt
    Letztlich sind private Unternehmen unverzichtbar
  • In allen Gesundheitssystemen der Welt sind private Unternehmen in gewissem Maß verflochten
    Auch öffentliche Systeme sind da keine Ausnahme

• Die Bildungsbehörde von NYC hat kürzlich ebenfalls AI-Richtlinien veröffentlicht
  Darin geht es unter anderem um ein Verbot des Trainings mit personenbezogenen Daten (PII) und um ein Verbot der Notenvergabe
  Im Vergleich zu riesigen Systemen ist das aber nur eine kleine Maßnahme

• Ich halte Palantir derzeit für das bösartigste Unternehmen der Welt

• Palantir kann jederzeit eine Daten-Backdoor einbauen
  Wenn Unternehmen offen Privatsphäre verletzen und man das nicht bemerkt, dann achtet man einfach nicht darauf
  Außerdem habe ich auch kein Vertrauen in das Justizsystem

• Es gibt Gerüchte, dass Palantir unter Führung von J.D. Vance und Peter Thiel den Softwarevertrag für das von Elon Musk geschaffene orbitale Waffensystem Golden Dome erhalten hat
  Dass ein Überwachungsunternehmen Waffen kontrolliert, die jeden Ort auf der Erde treffen können, ist erschreckend

  • Wenn auch nur die Hälfte der beteiligten Personen kompetent wäre, würde ich mir Sorgen machen,
    aber ich denke, das ist nur ein Steuerbetrug auf Kosten der Allgemeinheit