- Meta hat seine Pläne zurückgefahren, die Tastenanschläge und Mausklicks von Mitarbeitenden für das Training von AI-Modellen zu nutzen, und zusätzliche Kontrollmöglichkeiten eingeführt, mit denen sich die Datenerfassung jeweils für bis zu 30 Minuten anhalten lässt
- Die neue Kontrolle ermöglicht es Mitarbeitenden, die Datenerfassung von MCI vorübergehend zu pausieren oder eine vollständige Ausnahme zu beantragen; Meta lehnte eine offizielle Stellungnahme ab
- Der Widerstand der Mitarbeitenden hält seit Wochen an, und eine Petition gegen die Einführung des Trackings hat mehr als 1.500 Unterschriften gesammelt
- Meta erklärte, dass für den Bau von Agenten, die alltägliche Aufgaben am Computer unterstützen, reale Nutzungsbeispiele nötig seien, dass die Daten nicht für andere Zwecke verwendet würden und Schutzmechanismen für sensible Inhalte vorhanden seien
- Ein internes Memo räumt die von Mitarbeitenden geäußerten Probleme zu persönlichen Daten, Akkulaufzeit und der Kontrolle über den Zeitpunkt der Erfassung ein und erklärt, dass das MCI-Team Optimierungen eingeführt habe, um die Auswirkungen auf den Laptop-Akku zu verringern
Meta fährt Pläne zur Verfolgung von Mitarbeiteraktivitäten zurück
Meta hat laut einem internen Memo vom Dienstag seine Pläne zur Verfolgung von Computeraktivitäten von Mitarbeitenden zurückgefahren. Der Plan steht im Zusammenhang mit einem Tool, das Tastenanschläge und Mausklicks von Mitarbeitenden aufzeichnet, um sie für das Training von AI-Modellen zu verwenden.
Laut Reuters ermöglicht die neue Kontrolle Mitarbeitenden, die Datenerfassung „jeweils für bis zu 30 Minuten“ anzuhalten, und außerdem eine vollständige Ausnahme von diesem Programm zu beantragen. Meta lehnte eine offizielle Stellungnahme ab.
Model Capability Initiative und Widerstand
Der Name des Tools ist Model Capability Initiative (MCI). Bei der ersten Ankündigung erklärte Meta: „Um Agenten zu entwickeln, die alltägliche Aufgaben mit einem Computer erledigen helfen, braucht das Modell reale Beispiele dafür, wie Menschen Computer tatsächlich verwenden.“
Meta fügte hinzu, dass die betreffenden Daten „nicht für andere Zwecke verwendet werden“ und das Tool „Schutzvorkehrungen zum Schutz sensibler Inhalte“ enthalte.
Der Widerstand der Mitarbeitenden hält seit Wochen an, und einige Mitarbeitende starteten eine Petition gegen diese Maßnahme. Diese Petition hat inzwischen mehr als 1.500 Unterschriften gesammelt.
Von Mitarbeitenden geäußerte Bedenken
Ein Meta-Mitarbeitender sagte, es fühle sich „sehr dystopisch“ an, dass das eigene Verhalten für das Training von AI-Modellen verwendet werde. Die Mitarbeitenden hatten mit weiteren Entlassungen gerechnet.
Meta hat in diesem Jahr rund 2.000 Menschen entlassen. Im April informierte das Unternehmen die Mitarbeitenden darüber, dass es plane, 10 % der Gesamtbelegschaft, also etwa 8.000 Personen, abzubauen.
Eine andere Person, die Meta kürzlich verlassen hat, bezeichnete das Tracking-Tool als „die neueste Art, AI allen aufzuzwingen“.
Anpassungen im internen Memo
Das von Reuters eingesehene interne Memo soll von Stephane Kasriel, Vice President der Sparte Meta Superintelligence Labs, verfasst worden sein.
Kasriel erklärte, das MCI-Team habe „mehrere Optimierungen“ eingeführt, um die Auswirkungen auf die Akkulaufzeit von Laptops zu verringern. Die Änderung erfolgte, nachdem Mitarbeitende berichtet hatten, dass das Tool im Homeoffice ihren Datenverbrauch stark ansteigen ließ und die Internetnutzung erhöhte.
Kasriel erklärte in dem Memo, er sei weiterhin von den Datenschutzmaßnahmen überzeugt, die vor der Einführung mehrere Stufen der Risikoprüfung durchlaufen hätten, habe jedoch die Bedenken gehört, die mehr Kontrolle über persönliche Daten auf Arbeitsgeräten, die Akkulaufzeit und den Zeitpunkt der Erfassung forderten.
1 Kommentare
Hacker-News-Kommentare
Das erinnert mich an die großartige Passage in Snow Crash, die die Arbeit in „Fed Land“ beschreibt.
Y.T.s Mutter öffnet ein neues Memo und beginnt zu lesen; die erwartete Lesezeit beträgt 15,62 Minuten. Später sieht sich das Management an, wie lange jede Mitarbeiterin und jeder Mitarbeiter zum Lesen dieses Memos gebraucht hat: unter 10 Minuten gibt es ein Gespräch über die Einstellung, bei 10–14 Minuten den Verdacht auf Nachlässigkeit, bei exakt 15,62 Minuten wieder ein Gespräch über die Einstellung, weil man ein „Klugscheißer“ sei, und bei mehr als 18 Minuten werden die Sicherheitsvideos geprüft, weil man so etwas wie eine unerlaubte Toilettenpause vermutet.
Y.T.s Mutter beschließt, zwischen 14 und 15 Minuten zu lesen, drückt in gleichmäßigen Abständen
Page Downund geht gelegentlich auf die vorherige Seite zurück, um so zu tun, als würde sie noch einmal lesen. Auch dieses Verhalten wird vom Computer protokolliert, Wiederlesen wird positiv bewertet, und solche kleinen Gewohnheiten treten nach etwa zehn Jahren deutlich in der Zusammenfassung der Arbeitsgewohnheiten hervor.Wie in den Kommentaren unten gesagt wird, kann man nicht wissen, auf welchem Niveau die Überwachung stattfindet. Falls der CEO das hier liest: Hallo.
Es war schon immer schwer zu wissen, wie rigoros die tatsächliche Überwachung ist, und selbst IT-Fachleute sprechen ungern offen darüber.
In den USA gilt die Annahme, dass bei Nutzung eines vom Unternehmen bereitgestellten Geräts sämtliche Aktivitäten darauf vollständig überwacht und protokolliert werden und aus irgendeinem Grund gegen Beschäftigte verwendet werden können. In der Praxis gibt es aber auch viele, die sich wegen etwas Websurfen, Hacker News oder privaten Erledigungen auf dem Arbeitsrechner keine allzu großen Sorgen machen.
Durch AI verändert sich die Lage jedoch grundlegend. Jetzt kann unter dem Vorwand des „Trainings“ ein Roboter jede noch so kleine Handlung klassifizieren und im Detail auswerten, sodass wir uns wohl bald auf ein absolut rigoroses Maß an Überwachung einstellen müssen.
Dazwischen gibt es viele Unternehmen, die nur grundlegende Sicherheit durchsetzen und sich das Recht vorbehalten, erst bei Problemen nachzuforschen. Wenn man mit Führungskräften darüber spricht, lehnen erstaunlich viele die invasivsten Formen der Überwachung deutlich ab.
Allerdings schafft der Aufstieg von AI für jede Art von Überwachung eine gefährliche Möglichkeit zu viel gezielterer Beobachtung. Denn statt dass Menschen selbst Zeit darauf verwenden müssen, kann man AI einfach dauerhaft zuschauen und nach Auffälligem suchen lassen.
Eines der realistischeren Risiken, wenn normale Beschäftigte private Dinge auf dem Arbeitsrechner erledigen, ist wohl die Insider-Bedrohung durch einen böswilligen IT-Administrator, der mit zu wenig Aufsicht Zugriff auf Firmenhardware hat.
Seltsamerweise ist das auf HN ziemlich umstritten. Wenn man vorschlägt, für Bankgeschäfte oder zum Schreiben auf HN das private Handy mit zur Arbeit zu bringen, reagieren erstaunlich viele geradezu verärgert, als wäre das eine riesige Zumutung. Seit Smartphones ist es viel einfacher als früher, diese Welten zu trennen.
Mein Arbeitgeber hat keinen Grund zu wissen, welche privaten Dinge ich tagsüber erledigen muss, und umgekehrt würde kein Unternehmen gutheißen, dass ich vertrauliche Arbeit auf einem privaten Gerät mache, also profitieren beide Seiten.
In Buchhaltung, Banking, Aktienhandel und Ähnlichem ließe sich theoretisch ein System bauen, das 100 % Betrug verhindert, aber es wäre so umständlich, dass es niemand nutzt. Wenn man für den Kauf eines Tacos 15 Netzhautscans, eine Blutabnahme und einen Bankaufsichtsbeobachter bräuchte, funktioniert das nicht.
Hier ist es dasselbe. Mit AI und großen Sprachmodellen könnte man versuchen, sekundengenau zu erfassen und zu optimieren, wie viel Menschen arbeiten. Amazon macht so etwas in seinen Lagern bereits, und es tauchen immer wieder Berichte auf, dass jemand auf dem Hallenboden starb und andere Beschäftigte neben dem Leichnam weiterarbeiten mussten.
Um Menschen für solche Systeme zu finden, muss Amazon die lokalen Gemeinschaften nacheinander aufbrauchen, und in SEC-Meldungen steht, dass eine Erschöpfung der Bevölkerung eine reale Bedrohung für das Arbeitskräfteangebot ist.
Deshalb liegt selbst für böse Großkonzerne die optimale Menge an Überwachung nicht bei 100 %. Amazon hat den Gleichgewichtspunkt bereits überschritten und scheint nun wieder in Richtung des Optimums gedrängt zu werden. Dieser Punkt könnte sehr viel weiter hinten liegen, als wir dachten.
Die Unternehmen, die in den nächsten zehn Jahren erfolgreich sein werden, sind wahrscheinlich diejenigen, die die grundlegende Würde ihrer Beschäftigten respektieren und sie wie fähige, verantwortungsbewusste Fachleute behandeln. Dasselbe dachte ich schon früher, wenn Freunde in Großunternehmen erzählten, sie hätten Mouse Jiggler installiert, um Laptop-Überwachungssoftware zufriedenzustellen, wenn sie kurz vom Platz weg waren.
Es ist ähnlich wie Drogentests. Wenn es nicht um Behörden oder sicherheitsüberprüfte Tätigkeiten geht, habe ich Drogentests immer als gutes Signal für eine Kultur ohne Respekt vor Beschäftigten und für den niedrigen Status einer Branche gesehen.
Meta zeigt sehr deutlich, wohin die Reise geht, und das wirkt ein bisschen so, als würde man 2012 bei Cisco anfangen. Viel Glück dabei, aus der inzwischen zwanzigjährigen Gen Z die Talente zu rekrutieren, die man für AI und aufkommende Technologien braucht.
Ich verstehe, dass es rechtlich möglich ist, aber ich würde niemals an einem solchen Ort arbeiten wollen.
Ich arbeite nicht bei Meta, frage mich aber, wie viele Jahre ich noch in der Tech-Branche arbeiten will. Ich bin in meinen 40ern, und die Kinder sind noch jung. Ich habe bereits 529-Konten für die Kinder eingerichtet, und außerdem läuft gerade eine teure Haussanierung.
Wenn das abgeschlossen ist und ich ein finanzielles Polster aufgebaut habe, könnte ich die verbleibenden 5–10 Jahre meines Berufslebens vielleicht in eine andere Branche wechseln. Würde mich interessieren, ob noch jemand einen ähnlichen Plan hat
Ich kann nur sehr nachdrücklich empfehlen, die Tech-Branche zu verlassen. Mein Cortisolspiegel ist viel niedriger als früher, und ich muss mein Leben nicht mehr nach EMEA- und APAC-Meetings außerhalb der regulären Arbeitszeit ausrichten. Mehr als 40 Stunden arbeite ich nur, wenn ich es selbst will, und manchmal tue ich das. Jetzt macht die Arbeit tatsächlich Spaß.
Ich kann für Menschen einen sichtbaren Unterschied machen und an Dingen arbeiten, die mir wichtig sind. Statt Investoren oder Venture Capital zufriedenzustellen, konzentrieren wir uns jedes Jahr darauf, die Wirkung zu maximieren und die Gewinnschwelle zu erreichen.
Bei Vergütung und Benefits ist manches schlechter, aber das stört mich nicht besonders. Mein Partner hat eine ordentliche Krankenversicherung, die ich mitnutzen kann, und während meiner Zeit in der Tech-Branche habe ich das Haus abbezahlt und viel gespart. Ich bin nicht reich im Sinne dessen, was Leute in der Tech-Branche darunter verstehen, aber wenn ich wollte, könnte ich meinen Besitz verkaufen und irgendwo an einem Strand in Lateinamerika sehr gut leben und vielleicht nie wieder arbeiten.
Mein eigentlicher Rat ist: Nimm dir Zeit und rechne aus, wie viel du brauchst, um auszusteigen. Ich war zwar an ein sechsstelliges Gehalt gewöhnt, aber mein tatsächlicher Lebensstil lag nie über einem fünfstelligen Niveau, daher war der Betrag, den ich brauchte, viel niedriger als gedacht
Außerdem sollte es möglich sein, die Führung an einen ethischen Kodex zu binden. Ich will nicht für ein Unternehmen arbeiten, das Killerroboter baut oder seine Klimazusagen zurücknimmt
Die offene Verachtung gegenüber Beschäftigten wird von oben bis unten immer schlimmer, und ein Ende ist nicht in Sicht. Sobald man 50 ist, ist es reine Glückssache, ob man zu den Senior-Leuten gehört, die jedes Jahr aussortiert werden.
Es gibt inzwischen keine Ausrede mehr, so zu tun, als wüsste man nicht, wie diese Branche funktioniert. Die Maske ist schon vor Jahren gefallen
Man könnte tatsächlich Dumbphones bauen, die intelligent und nutzerfreundlich sind, Open-Source-TVs, lokale AI-Modelle, Browser ohne Überwachung und ähnliche Dinge
Ich liebe es, Software zu entwickeln, aber ich halte es nicht aus, in dieser Branche zu arbeiten.
Es ist eine gottlose Kombination aus schlechter Unternehmenskultur und fragwürdigen moralischen Grundsätzen
An alle, die bei Meta arbeiten und das hier lesen: Ich meine das völlig ernst. Wie könnt ihr noch bei diesem Unternehmen arbeiten?
Ich verstehe wirklich nicht, warum man so ein toxisches Unternehmen nicht verlässt und woanders hingeht oder etwas Eigenes aufbaut. Man kann Meta einfach sterben lassen
Es erstaunt mich, wie viele Menschen riesige Geldsummen höher gewichten als gute Arbeit zu leisten. Jeder, der für Geld seine Werte beiseiteschiebt, ist Teil des Problems. Widerlich
Dazu kommt die Realität, dass man eine Familie versorgen und den Ruhestand vorbereiten muss. Es ist nicht perfekt, aber wo zieht man die Grenze dafür, dass ein Unternehmen toxisch ist? Wie viele Kompromisse sind vertretbar, wenn es andere Vorteile gibt? Die Antworten auf diese Fragen sind von Person zu Person verschieden. Manche würden sagen, schon in der Tech-Branche zu arbeiten sei wegen der Umweltprobleme falsch.
Ich persönlich würde wahrscheinlich bereitwillig bei Meta arbeiten. Viele Menschen nutzen ihre Dienste und mögen sie. Vielleicht ist es nicht die beste Arbeit für die Gesellschaft, aber bei Netflix, Amazon oder Apple ist es auch nicht anders
Wenn du bei Meta arbeitest, verrät dich das Unternehmen. Es zeichnet nämlich offen deinen Bildschirm auf, um deinen AI-Ersatz zu trainieren. Anderswo zu arbeiten ist dann so etwas wie dein Verrat an Meta.
Extrem vereinfacht gefragt: Was ist besser? Fünf Jahre lang 400.000 Dollar pro Jahr zu verdienen und dann entlassen zu werden, wobei du riskierst, dass es kaum noch Jobs gibt, weil du Meta beim Aufbau der Ersatztechnologie geholfen hast? Oder während deiner ganzen Karriere 200.000 Dollar pro Jahr zu verdienen und dabei nicht zuzusehen, wie die Beschäftigungsmöglichkeiten austrocknen, weil du nicht beim Aufbau der Ersatztechnologie mitgeholfen hast?
Natürlich hoffe ich, dass das ein sehr extremer und seltener Fall ist, aber es gibt viele Situationen, in denen Geld einen erheblichen Unterschied macht. Und es macht auch einen Unterschied, ob nur ich selbst von meiner Entscheidung betroffen bin oder auch andere Menschen.
Solche praktischen Folgen können bei der Wahl einer solchen Stelle durchaus stark ins Gewicht fallen
Meta-Interviews gelten im Allgemeinen nicht als besonders schwer, und das verstärkt das Impostor-Syndrom noch. Weil man relativ leicht hineinkommt, entsteht das Gefühl, überbezahlt zu sein. Fast so, als wäre das eine bewusste Strategie
Die Mitarbeiter, die daran gearbeitet haben, die ganze Welt zu überwachen, werden jetzt selbst überwacht — ironischer geht es kaum :)
Diese Firmen verfolgen das Verhalten ihrer Nutzer bereits umfassend, und ein ziemlich großer Teil davon lässt sich sogar aus Sicherheitsperspektive begründen. Was wird denn überhaupt noch nicht getrackt, das noch von Wert sein könnte?
Wie sollen einzelne Tastenanschläge und Mausbewegungen wertvoller sein als die Arbeitsresultate, die ohnehin schon größtenteils in sinnvollen Werteinheiten erfasst werden?
Vielleicht geht es ihnen auch einfach gar nicht darum, echte Talente zu halten, sondern vielmehr darum, noch mehr Leute zum Kündigen zu bringen
Die gesamten MAG-7 wollen ihre Forschungs- und Entwicklungsausgaben offenbar von Gehältern hin zu AI-Datacenter-CapEx verschieben und scheinen sogar in Kauf zu nehmen, dass 90 % der Talente, die 99 % des tatsächlichen Werts schaffen, gehen
Das liegt nicht daran, dass sie dumme Leute wären, die nicht wissen, was vor Ort tatsächlich passiert. Es ist diese arrogante Selbstgewissheit und Marktstellung, die ihnen das Gefühl gibt, dass sie jede noch so katastrophale Entscheidung allen anderen einfach aufzwingen können
Wenn das Modell schlecht ist, lobbyieren sie eben im Kongress dafür, Open-Weight-Modelle zu verbieten; wenn niemand die Preise mag, soll der Staat eben die Produktkosten übernehmen; und wenn China oder Europa besser sind, wird die Konkurrenz unter Verweis auf die nationale Sicherheit eben verboten
Das erinnert mich an den satirischen The-Onion-Artikel von 2015: „HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related“
Aber natürlich wird auch das Opt-out selbst getrackt. Wer es nutzt, kann bei der Leistungsbewertung auftauchen
Das erinnert mich an die Szene, in der O’Brien den Telescreen ausschaltet
„Sie …“
„Ja … uns ist dieses Privileg nicht gestattet“
Die Leute, die diese Richtlinie gemacht haben, sind mit ziemlicher Sicherheit ausgenommen
Winston konnte in der Nische sitzen und sich weit genug nach hinten lehnen, um zumindest außerhalb des Sichtfelds des Telescreens zu bleiben. Natürlich konnte man ihn hören, aber solange er an seiner jetzigen Stelle blieb, war er nicht zu sehen. Es war die ungewöhnliche Bauweise des Zimmers, die ihn auf das brachte, was er jetzt tun wollte