Palantirs App „ELITE“, die ICE zur Auswahl von Razzia-Gebieten nutzt

• „ELITE“ ist ein internes Tool von Palantir, das von der US-Einwanderungs- und Zollbehörde (ICE) genutzt wird, um für Abschiebungen vorgesehene Personen zu finden, und über eine kartenbasierte Oberfläche die Zieldichte in bestimmten Gebieten visualisiert
• Die App hat eine Google Maps ähnliche Form und nutzt Daten einschließlich der Konzentration von Einwanderern, um „Gebiete mit vielen Zielen“ anzuzeigen
• Wählt ein Nutzer eine bestimmte Person aus, wird ein persönliches Profil (dossier) mit Name, Foto, Alien Number, Geburtsdatum und Adresse angezeigt
• Laut internen Unterlagen liefert das System sogar einen confidence score für die Zuverlässigkeit der aktuellen Adresse einer Zielperson und wird für groß angelegtes Racial Profiling eingesetzt
• Der Artikel stellt die Frage, dass diese Technologie zur Stärkung staatlicher Macht beiträgt, Menschen ohne rechtsstaatliches Verfahren abzuschieben, und wirft die Frage nach der ethischen Verantwortung von Entwicklern auf

---

Technische Zusammenarbeit zwischen ICE und Palantir

• Laut internen ICE-Dokumenten und Aussagen von Beteiligten wurde eine direkte Verbindung zwischen der von Palantir für ICE aufgebauten technischen Infrastruktur und Einsätzen vor Ort bestätigt
• Laut einem Bericht von 404 Media wird das ELITE-System von ICE genutzt, um Gebiete für groß angelegte Abschiebungsoperationen zu identifizieren
• Das Tool markiert potenzielle Abschiebungsziele auf einer Karte und liefert für jede Person einen confidence score für die Zuverlässigkeit der Adresse

Funktionen und Interface von ELITE

• ELITE basiert auf einem Google Maps ähnlichen Karten-Interface und visualisiert mithilfe von Daten einschließlich der Konzentration von Einwanderern „zielreiche Gebiete“
• Klickt ein Nutzer auf der Karte eine bestimmte Person an, zeigt das System ein persönliches Profil (dossier) mit Name, Foto, Alien Number, Geburtsdatum und vollständiger Adresse an
• Diese Daten werden von ICE genutzt, um den Aufenthaltsort von Zielpersonen zu verfolgen und Festnahmeoperationen zu planen

Aufgeworfene ethische Fragen

• Der Artikel bezeichnet dieses System als „groß angelegtes Racial Profiling“ und kritisiert, dass Technologie für die Abschiebung von Menschen ohne rechtsstaatliches Verfahren eingesetzt wird
• Der Autor beschreibt den moralischen Konflikt, den Palantir-Mitarbeiter bei der Entwicklung solcher Produkte empfinden könnten
  • Mit der Formulierung, man gehe „jeden Tag zur Arbeit und baut Software, um Menschen abzuschieben“, wird die Kluft zwischen dem Alltag von Entwicklern und ethischer Verantwortung betont
• Es wird darauf hingewiesen, dass Palantir-Mitarbeiter zwar Vorteile wie Gehalt, Stock Options und Zusatzleistungen genießen, die von ihnen entwickelte Technologie jedoch zu Gewalthandlungen bewaffneter Behörden beiträgt

Die Verbindung zwischen Technologie und Gewalt

• Der Artikel erwähnt, dass ICE als bewaffnete Truppe Zivilisten entführt und auf sie schießt, und beschreibt ELITE als Unterstützung solcher Aktivitäten durch ein „schönes, modernes Karten-Interface“
• Unter Verweis auf Gewalttaten, darunter ein Fall, in dem ICE einer Frau ins Gesicht schoss, kritisiert der Artikel, dass Technologie als Werkzeug zur Effizienzsteigerung gewaltsamer Verwaltungsvollstreckung genutzt wird

Techniker und gesellschaftliche Verantwortung

• Der Artikel beschreibt, dass Palantir-Mitarbeiter einerseits das Gefühl haben könnten, „es macht Spaß, mit diesem Team zu arbeiten“, andererseits aber den inneren Konflikt erleben, dass sie sich „einen anderen Job suchen sollten“
• Er fragt, ob Techniker, wenn ihre Arbeit zu gesellschaftlicher Gewalt beiträgt, dies allein mit Lebensunterhalt oder Karriere rechtfertigen können
• Abschließend wird ELITE als System dargestellt, das die gewaltsamen Durchsetzungsmaßnahmen von ICE technisch unterstützt, und als Beispiel dafür, wie sich die Frage nach der ethischen Verantwortung von Technologieentwicklern stellt

[GN⁺]

Hacker-News-Kommentare

• Ich habe nie bei Palantir gearbeitet, aber wenn man die laute Führung und das Schurken-Image als Cosplay abzieht, wirkt die Firma wie ein typischer Enterprise-Vendor
  Die Produkte sind mittelmäßig, werden institutionellen Käufern überverkauft und am Ende den Mitarbeitenden vor Ort aufgezwungen
  Das Problem sind die politischen Entscheidungen, die den Einsatz solcher Tools erzwingen, und die Struktur, die breit angelegten Zugriff auf Daten ermöglicht, die eigentlich kontrolliert werden sollten
  Statt Palantir einfach das Image der „Bösen“ zu geben, sollte man sich auf den politischen Hintergrund konzentrieren, warum solche Tools überhaupt gewollt sind

  • Ich sehe Palantir ähnlich. Am Ende ist es eine Beratungsfirma, also ein Service mit Karten, Graph-Datenbank und „AI“-Verpackung
    Sie verkaufen teure „forward deployed engineer“ und passen alles kundenspezifisch an
    Für ein ethisches Unternehmen halte ich sie nicht, aber sie sammeln die personenbezogenen Daten nicht direkt selbst. Die Daten werden von den Kunden geliefert
    Die Veränderung muss auf Kundenseite stattfinden
  • Es ist schockierend, dass es so etwas wie „gespieltes Bösesein“ gibt. Wie im 17. Jahrhundert die „gespielte Frömmigkeit“ ist heute gespielte Bosheit in Mode
    Wenn wir in einer Kultur leben, in der Unternehmen böser wirken müssen, als sie tatsächlich sind, dann ist das ein moralischer Bankrott der Gesellschaft
  • Ich stimme nicht zu. Das Problem sind Palantir und ihre Kunden
    Man kann sich entscheiden, die Tools nicht zu bauen, und man kann sich entscheiden, sie nicht zu benutzen
  • Das eigentliche Problem ist, dass der Staat Palantirs Dienste nutzt, um Daten zu verknüpfen und Massenüberwachung zu ermöglichen
  • Karp rechtfertigt das als „dem Staat helfen, besser zu arbeiten“
    Aber am Ende ist es die Aufgabe der Wählerschaft, den Staat zu kontrollieren

• Mir scheint, viele Menschen haben heute die Fähigkeit zu komplexem Denken verloren
  Man kann glauben, dass ICE eine klare und ethisch vertretbare Aufgabe haben könnte, und zugleich denken, dass die Art ihrer Ausführung falsch ist
  Man kann auch glauben, dass rechtsstaatliche Verfahren wichtig sind, ohne irreguläre Migranten als „von Natur aus illegal“ abzustempeln
  Die Welt ist nicht schwarz-weiß, und ich weiß nicht, warum heute alles nur noch in Extremen gedacht wird. Vielleicht liegt es am Einfluss sozialer Medien

  • Aber die Seite mit Macht und Waffen will nur einen richtigen Glauben, nämlich „amerikanische Werte“, durchsetzen
    Das ist kein symmetrischer ideologischer Kampf. Die kommende blaue Welle bei den Midterms könnte die letzte Hoffnung sein
    Wenn auch das scheitert, wird sich die Verzweiflung der russischen Literatur noch tiefer anfühlen
  • Nur weil etwas „möglich“ ist, heißt das nicht, dass es „richtig“ ist
    ICEs rechtlicher Auftrag ist nicht eindeutig, und tatsächlich wird er auf unethische und rechtswidrige Weise ausgeführt
    Allein als „vertretbare Position“ lässt sich das nicht rechtfertigen
  • Zu sagen, „die Warteschlange bei der Einwanderung zu überspringen ist unmoralisch“, zeigt Unkenntnis der Realität
    Für arme Menschen existiert diese Warteschlange oft gar nicht. Sie können nicht einmal ein legales Visum beantragen
  • Der Kernpunkt ist nicht, dass Menschen nicht komplex denken können, sondern dass diese Komplexität nicht belohnt wird
  • Es gibt auch die Reaktion, man solle aufhören, nur Interesse vorzutäuschen (trolling)

• Ich möchte das an Führungskräfte und Recruiter anderer Firmen richten
  Es wäre gut, wenn sie öffentlich erklären würden, dass sie Ingenieure interviewen, die Palantir aus moralischen Gründen verlassen wollen
  Es sollte zur neuen Norm der Branche werden, Wechselhürden zu senken und solchen Leuten einen Zufluchtsort zu bieten

  • Ich sehe das eher umgekehrt. Ich möchte niemanden in meiner Firma haben, der an ethisch fragwürdigen Systemen gebaut hat
  • Palantirs Ruf ist schon seit zehn Jahren schlecht
    Wer das erst jetzt merkt, scheint nicht besonders prinzipientreu zu sein
  • Ich halte es für besser, an gesellschaftlich positiven Projekten zu arbeiten und sich einen guten Ruf aufzubauen
    Seltsamerweise habe ich noch nie den Lebenslauf eines Ex-Palantir-Mitarbeiters gesehen. Vielleicht werden sie automatisch herausgefiltert, oder solche Firmen interessieren sich einfach nicht für sie
  • Haben sie wirklich etwas Falsches getan? Man könnte auch denken, dass es sogar eine moralische Pflicht ist, sein Talent dafür einzusetzen, Kriminelle aufzuspüren

• Seit seiner Gründung hat Palantir von der US-Regierung rund 10 Milliarden Dollar an Steuergeldern erhalten

  • Die aktuelle Regierung funktioniert faktisch wie ein Konzernstaat. Jeder rechnet nur noch aus, wie viel sich abschöpfen lässt
  • (Dieser Kommentar war in Form eines Liedtextes geschrieben, wurde aber wegen Urheberrechtsproblemen weggelassen)

• Wenn dieser Thread nicht gelöscht werden soll, braucht es fundiertere Diskussionen
  Man müsste konkret behandeln, welche Produktlinie von Palantir genutzt wird, wie FOIA (Freedom of Information Act) angewendet wird und welche Daten geliefert werden

• Palantirs Image-Management-Team scheint in diesem Thread viel schneller eingegriffen zu haben

  • Vielleicht betreiben sie sogar Online-Bot-Armeen, um die öffentliche Meinung zu manipulieren
    Möglicherweise verkaufen sie das ihren Kunden sogar als Service
    Um so etwas zu verhindern, müssten Websites die Identitätsprüfung anonymer Accounts verschärfen

• Als ich 19 war, kam ein Palantir-Mitarbeiter zu einem Vortrag über TDD, und die Studierenden boykottierten ihn
  Damals hielt ich das für zu extrem, aber heute denke ich eher, dass es richtig war
  Ich würde niemals bei einer Firma wie Palantir arbeiten. Wenn ich zurückreisen könnte, würde ich mich dem Boykott anschließen
  Die Logik „China macht so etwas auch, also müssen wir es ebenfalls tun“ ist ethisch abstoßend
  Die Antwort auf eine verdorbene Welt ist nicht, noch verdorbener zu werden. Solche Logik schiebt Verantwortung ab, entmenschlicht und verschärft Konflikte
  Wir müssen gegen diese moralische Korruption kämpfen

  • Wer solche Kritik äußert, bekommt in der Realität Downvotes von Bots

• Es geht hier nicht einfach nur um „illegale Einwanderer“
  Es wird bereits eine Infrastruktur zur Massenüberwachung aufgebaut. Im Moment richtet sie sich gegen bestimmte Gruppen, aber bald wird sie alle betreffen
  Überwachungssysteme wie Flock und Ring, zusammen mit AI und Datenintegration, bilden die Grundlage dafür
  Die Menschen, die solche Technologien bauen, müssen moralische Verantwortung übernehmen, und wir brauchen nachvollziehbare Plattformen

  • Wenn der Staat sogar Menschen finden kann, von denen jahrzehntelang keine Aufzeichnungen existierten, dann dürfte die Verfolgung von Steuerzahlern noch viel einfacher sein
  • Wenn man aber „Moral“ zum Maßstab macht, dann müssten auch FAANG-Angestellte insgesamt kritisiert werden

• Originalartikel: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
  Archivlink: archive.ph/wa32f