- Kenianische Sama-Beschäftigte, die Inhalte smarter Brillen für das AI-Training überprüften, stehen nach dem Ende des Vertrags mit Meta vor einem Konflikt, bei dem 1.108 Entlassungen erwartet werden
- Die Vertragsbeendigung erfolgte nicht einmal zwei Monate, nachdem Beschäftigte erklärt hatten, in Videos von Meta-Brillen Szenen von Toilettengängen und Sex von Nutzern gesehen zu haben
- Meta erklärte, Sama habe die operativen Standards nicht erfüllt; Sama entgegnete, man habe bei Aufträgen von Kunden einschließlich Meta die Standards für Betrieb, Sicherheit und Qualität erfüllt und nie eine Mitteilung über Nichterfüllung erhalten
- Meta erklärte, dass von Nutzern mit Meta AI geteilte Inhalte smarter Brillen gelegentlich von ausgelagerten Arbeitskräften überprüft werden können und dass für menschliche Überprüfungen zur Verbesserung der Produktleistung eine klare Einwilligung der Nutzer eingeholt werde
- Das britische ICO und die kenianische Datenschutzbehörde reagierten auf Datenschutzbedenken, und zusammen mit der früheren Kontroverse um Samas Facebook-Vertrag zur Content-Moderation werden die Risiken von AI-Datenarbeit sichtbar
Streitpunkte rund um das Vertragsende zwischen Meta und Sama
- Meta hat einen großen Vertrag mit Sama beendet, der für das AI-Training genutzt wurde; Sama geht davon aus, dass diese Entscheidung zu 1.108 Entlassungen führen wird
- Die Vertragsbeendigung erfolgte nicht einmal zwei Monate, nachdem in Kenia ansässige Sama-Beschäftigte erklärt hatten, in Videos von Metas smarter Brille Szenen von Toilettengängen und Sex von Nutzern gesehen zu haben
- Meta sagte, der Vertrag sei beendet worden, weil Sama die eigenen operativen Standards nicht erfüllt habe
- Sama widersprach und sagte, man habe bei Kundenaufträgen einschließlich Meta die geforderten Standards für Betrieb, Sicherheit und Qualität fortlaufend erfüllt und nie eine Mitteilung über ein Unterschreiten der Standards erhalten
- Eine kenianische Arbeiterorganisation vermutet, dass Metas Entscheidung wegen öffentlicher Äußerungen der Beschäftigten getroffen wurde, doch Meta antwortete auf diesen Vorwurf nicht direkt
Prüfung von Smart-Glasses-Videos und Datenschutzprobleme
- In einer Recherche der schwedischen Medien Svenska Dagbladet und Goteborgs-Posten Ende Februar erklärten anonyme Beschäftigte, sie hätten mit Meta-Brillen aufgenommene Videos überprüft
- Einer der Beschäftigten sagte: „Wir sehen alles, vom Wohnzimmer bis zur Nacktheit“, und die Videos hätten auch Toilettengänge oder Sexszenen enthalten
- Meta räumte ein, dass von Nutzern mit Meta AI geteilte Inhalte smarter Brillen gelegentlich von ausgelagerten Arbeitskräften überprüft werden können
- Meta sieht diese Überprüfung als Maßnahme zur Verbesserung der Kundenerfahrung und als in anderen Unternehmen übliche Praxis
- In einer Stellungnahme an die BBC erklärte Meta, Fotos und Videos seien für andere Nutzer nicht öffentlich sichtbar und für die menschliche Prüfung von AI-Inhalten zur Verbesserung der Produktleistung werde eine klare Einwilligung der Nutzer eingeholt
Aufsichtsbehörden und Risiken bei der Produktnutzung
- Kurz nach den Berichten aus Schweden bezeichnete die britische Datenschutzaufsicht ICO diese als „besorgniserregend“ und sandte Meta ein Schreiben
- Auch die kenianische Datenschutzbehörde leitete eine Untersuchung zu den bei der smarten Brille aufgekommenen Datenschutzbedenken ein
- Meta stellte im September zusammen mit Ray-Ban und Oakley eine Produktreihe AI-basierter Brillen vor
- Zu den Funktionen gehören Textübersetzung und die Beantwortung von Fragen zu dem, was der Nutzer gerade sieht; besonders für blinde oder sehbehinderte Nutzer kann das nützlich sein
- Mit der steigenden Beliebtheit der Geräte wuchsen auch die Sorgen vor Missbrauch; in Kenia wurden sie zudem mit nicht einvernehmlichen Aufnahmen von Frauen in Verbindung gebracht
- Bei Meta-Brillen leuchtet während einer Aufnahme eine Anzeigeleuchte am Rand des Rahmens
Datenlabeling-Arbeit und frühere Vertragskontroversen
- Sama-Beschäftigte versahen als Datenannotatoren Inhalte manuell mit Labels, damit Meta AI Bilder interpretieren kann, und überprüften auch Transkripte von Interaktionen mit der AI
- Laut einem Beschäftigten nahm die Brille eines Mannes im Schlafzimmer weiter auf; anschließend wurde gefilmt, wie eine Frau, die seine Ehefrau zu sein schien, sich auszog
- Sama ist ein in den USA ansässiges Outsourcing-Unternehmen, das aus einer Non-Profit-Organisation hervorging, die Beschäftigung durch die Schaffung von Tech-Jobs ausbauen wollte, und heute als „ethical“ B-corp betrieben wird
- Auch der frühere Facebook-Vertrag von Meta und Sama zur Content-Moderation führte zu Kritik und rechtlichen Schritten ehemaliger Beschäftigter; einige waren nach eigenen Angaben expliziten und traumatisierenden Inhalten ausgesetzt
- Sama erklärte später, man bereue es, diese Arbeit übernommen zu haben
- Naftali Wambalo von der Africa Tech Workers Movement stand auch mit Beschäftigten des Smart-Glasses-Vertrags in Kontakt und meint, Meta habe nicht gewollt, dass bekannt wird, dass Menschen Inhalte smarter Brillen überprüfen
- Wambalo sagte, die von Meta genannten Standards kämen eher „Standards der Geheimhaltung“ gleich
- Meta hatte zuvor erklärt, Nutzer hätten in den Nutzungsbedingungen erkennen können, dass eine menschliche Überprüfung möglich ist
- Mercy Mutemi vom Oversight Lab sagte, Metas Formulierung sollte für die kenianische Regierung eine Warnung sein und die als Einstieg in das AI-Ökosystem dargestellte Grundlage sei äußerst fragil
Noch keine Kommentare.