Meta setzt Mitarbeiter-Tracking-Programm nach internem Datenleck aus

 (wired.com)
1 Punkte von GN⁺ 5 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Meta hat das Programm Model Compatibility Initiative (MCI) vorübergehend ausgesetzt, nachdem Daten, die Eingaben auf Mitarbeitercomputern erfassten, intern zu weit offengelegt wurden
  • MCI wurde im April für US-Mitarbeiter eingeführt und sammelte Informationen wie Mausbewegungen, Klickpositionen, Tastatureingaben und Bildschirminhalte, was bei Mitarbeitern Widerstand auslöste
  • Die Führung war der Ansicht, dass KI Mitarbeiterdaten benötigt, um zu lernen, wie Menschen Software nutzen; Datenschutz- und Sicherheitsbedenken führten jedoch zu einem tatsächlichen internen Offenlegungsproblem
  • Stephane Kasriel informierte die Mitarbeiter, dass ein am 18. Juni entdecktes Sicherheitsproblem innerhalb von vier Stunden behoben worden sei, die erste Korrektur jedoch nicht dauerhaft hielt, weshalb der Datenzugriff weiter eingeschränkt wurde
  • Meta erklärt, MCI erst dann wieder aufzunehmen, wenn das Unternehmen von der Wirksamkeit der Datenschutzkontrollen überzeugt ist; zugleich seien bereits genügend Daten gesammelt worden, um den langfristigen Wert zu bewerten

Aussetzung von MCI und interne Datenoffenlegung

  • Meta hat das Mitarbeiter-Tracking-Programm MCI vorübergehend ausgesetzt
  • Die Aussetzung erfolgte, nachdem potenziell sensible, über MCI gesammelte Daten anderen Mitarbeitern im Unternehmen zugänglich wurden
  • Meta-Sprecher Tracy Clayton erklärte, das Programm sei mit Datenschutzmaßnahmen konzipiert worden; derzeit gebe es keine Hinweise darauf, dass Meta-Mitarbeiter unzulässig auf die Daten zugegriffen hätten, es werde jedoch während der Untersuchung ausgesetzt

Gesammelte Daten und Widerstand der Mitarbeiter

  • MCI ist ein Tool, das im April an US-Mitarbeiter ausgerollt wurde
  • In einer Gegenpetition nannten Mitarbeiter folgende erfasste Daten:
    • Mausbewegungen
    • Klickpositionen
    • Tastatureingaben
    • Bildschirminhalte
  • Zum Start konnten Mitarbeiter MCI nicht abwählen; nach Protesten wurde dies in begrenztem Umfang geändert
  • Mitarbeiter befürchteten, MCI könne Privatsphäre, Sicherheit und persönliche Freiheit verletzen

Warum Meta MCI vorantrieb

  • Metas Führung verteidigte die Datenerfassung durch MCI wiederholt als notwendig für das Training von KI-Systemen
  • Ziel ist, dass KI lernt, wie Menschen Computersoftware bedienen
  • Die Führung betrachtete Mitarbeiter als die besten Beispiele, von denen KI lernen könne

Interne Sicherheitsmitteilung und Reaktionen der Mitarbeiter

  • Am Montag teilte ein Meta-Ingenieur in einer internen Sicherheitsmitteilung mit, dass eine Datenbank mit von MCI gesammelten Informationen für jeden im Unternehmen zugänglich gewesen sei
  • Ein ehemaliger Mitarbeiter, der an Aktivitäten gegen MCI beteiligt war, bezeichnete das Problem als „a mess“ und sagte, die Mitarbeiter hätten damit gerechnet
  • Der ehemalige Mitarbeiter kritisierte, die Führung habe das Programm trotz der Bedenken der Mitarbeiter durchgedrückt und Sicherheits- sowie Datenschutzrisiken für Arbeitnehmer- und Kundendaten nicht anerkannt
  • In einem internen Forum gingen am Montag zahlreiche kritische Kommentare zu dem Sicherheitsproblem ein; anschließend stoppte Meta, für einige Mitarbeiter überraschend, MCI vollständig
  • Mehrere Mitarbeiter sagten, sie seien verwirrt gewesen, weil das Tool bis zur Ankündigung der Aussetzung weiter auf ihren Laptops lief

Kasriels Mitteilung und Bedingungen für eine Wiederaufnahme

  • Stephane Kasriel, Vice President für Metas KI-Forschung, informierte die Mitarbeiter am späten Montag über die Aussetzung von MCI
  • Kasriel zufolge wurde das Sicherheitsproblem am 18. Juni entdeckt und innerhalb von vier Stunden behoben
  • Allerdings hielt die erste Korrektur nicht dauerhaft, sodass der Datenzugriff zusätzlich gesperrt werden musste
  • Durch das Problem wurden „einige von MCI abgeleitete Daten“ für mehr Personen zugänglich als beabsichtigt; konkrete Details wurden nicht genannt
  • MCI wird erst dann wieder aktiviert, wenn Meta von der Wirksamkeit der Datenschutzkontrollen überzeugt ist
  • Meta hat nach eigenen Angaben bereits genügend Daten gesammelt, um den langfristigen Wert von MCI zu bewerten, und will künftig mehr über die Zukunft von MCI mitteilen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 5 시간 전
Hacker-News-Kommentare

  • Meta ist immer noch das schamloseste Unternehmen überhaupt und fast schon ein peinlicher Ort zum Arbeiten.
    Mir fällt kein Produkt dieser Firma ein, das die Welt nicht auf irgendeine klar erkennbare Weise schlechter gemacht hat.
    Auch der jüngste Hardware-Vorstoß findet wieder Wege, alltägliches Vertrauen in zwischenmenschlichen Interaktionen zu zerstören, etwa durch Männer, die mit Ray-Bans betrunkene Frauen filmen, oder durch Überwachung.
    Ein paar Bekannte in „nachdenklicheren“ Frontier-Labs sagen, dass sie allein aus diesem Grund Bewerber von Meta direkt aussortieren.

    • Facebook hat zum Beispiel seinen Aktionären viel Geld eingebracht, und wir wissen ja, dass das praktisch dasselbe ist, wie die Welt zu einem besseren Ort zu machen.
    • Wenn es um Produkte geht, die die Welt nicht eindeutig schlechter gemacht haben, gibt es zstd.
      Bei React und PyTorch gehen die Meinungen eher auseinander.
    • Meta ist wie ein goldener Käfig für Teenager, die bei nichts, was sie tun, wachsen können. Beschämend.
    • Dass Meta-Produkte schlecht für die Gesellschaft sind, stimmt, aber ich halte Palantir für einen noch peinlicheren Arbeitgeber.
    • Facebook in den Jahren 2004–2005 war wirklich gut.
      Es verbreitete sich wie ein Lauffeuer und machte großen Spaß. Das war die Zeit, als dort nur ich, meine College-Freunde und deren Freunde waren.

  • Wenn sie so etwas sogar mit Mitarbeitern machen, die sie mit Geld halten wollten, was würden sie dann wohl erst mit Nutzerdaten anstellen?
    Und was würden sie mit ihren Systemen anstellen, die mit den Systemen der Nutzer verbunden sind?
    „Dumb f*cks“ war bei dieser Firma offenbar von Tag eins an Programm.

  • Ich bin immer mehr überzeugt, dass solche Leaks der einzig wirksame Widerstand gegen die Überwachungsgesellschaft sind, in die wir gerade hineinlaufen.
    Meta wird so weitermachen, andere Arbeitgeber werden vermutlich nachziehen, und der Staat wird die Daten über den „ordnungsgemäßen Rechtsweg“ seinen Akten hinzufügen.
    Die Ausweitung von Überwachungskameras, die Kontrolle von Chats und die Abschaffung von Anonymität passieren gerade live.
    Wenn solche Daten geleakt werden, wird für alle sichtbar, wie groß das Haftungsrisiko ist. Auch die Daten von Meta-Führungskräften liegen in solchen Haufen, und Soldaten und Abgeordnete stehen in der Flock-Datenbank.
    Wie viele Senatoren mögen wohl bei PornHub ein exaktes Profil ihrer Vorlieben hinterlassen haben?
    Natürlich richten solche Datenleaks Schaden an. Aber ist dieser Schaden wirklich größer als eine Welt, in der alle überall von allen überwacht werden?

    • Der Schaden kann sogar größer sein, wenn nichts geleakt wird.
      Denn solche Daten können zur Erpressung von Mächtigen genutzt werden. Dafür braucht es nichts Illegales; schon kontroverse Aussagen oder ungewöhnliche sexuelle Vorlieben können reichen.
      Natürlich mag auch Illegales darunter sein, und selbst wenn gar nichts Illegales dabei ist, könnte es immer noch reichen, um parallel construction in Ermittlungen zu ermöglichen.

  • Wenn man den verlinkten Artikel liest, steht dort, dass die geleakten Daten Screenshots privater Gespräche einiger Mitarbeiter im Klartext sowie Leistungsdaten enthielten.
    Den kompletten Bildschirm aufzuzeichnen und dann zu erwarten, dass das schon ausreichend anonymisiert sein würde, war eine ziemlich gewagte Entscheidung.

  • Leute, die sagen: „Wenn du keine Regeln brichst, hast du nichts zu befürchten“, sollten bedenken, dass die meisten Unternehmen Arbeit streng nach Vorschrift bereits als eine Form des Protests ansehen.
    Selbst wenn du einfach nur die Regeln befolgst, wird diese Überwachung genutzt werden, um dich zu identifizieren und zu sanktionieren.

  • Dieses System klingt nach einem Albtraum für das Discovery-Verfahren.

    • Klingt eher nach einer hervorragenden Idee.
      Ich frage mich, ob sie die Stellen, bei denen am ehesten „entscheidende Beweise“ entstehen könnten, bereits von der Überwachung ausgenommen haben.

  • Diese Müllfirma gerät in eine Todesspirale.

    • Leider wird sie dank ihres Cash-Bestands und Facebook als Gans, die goldene Eier legt, wohl noch eine ganze Weile durchhalten.

  • Es wurde nur vorübergehend ausgesetzt, und die Absicht zum Neustart ist offensichtlich.
    Ich weiß nicht, warum das Downvotes bekommt. Genau das steht wörtlich im Artikel:
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Meta zahlt wohl wirklich eine Menge Geld.

  • Vermutlich wurde das Utility mit AI geschrieben. Dass AI Sicherheit nicht ordentlich hinbekommt, ist nun wirklich keine große Überraschung.