- Kenianische Sama-Beschäftigte, die Inhalte smarter Brillen für das AI-Training überprüften, stehen nach dem Ende des Vertrags mit Meta vor einem Konflikt, bei dem 1.108 Entlassungen erwartet werden
- Die Vertragsbeendigung erfolgte nicht einmal zwei Monate, nachdem Beschäftigte erklärt hatten, in Videos von Meta-Brillen Szenen von Toilettengängen und Sex von Nutzern gesehen zu haben
- Meta erklärte, Sama habe die operativen Standards nicht erfüllt; Sama entgegnete, man habe bei Aufträgen von Kunden einschließlich Meta die Standards für Betrieb, Sicherheit und Qualität erfüllt und nie eine Mitteilung über Nichterfüllung erhalten
- Meta erklärte, dass von Nutzern mit Meta AI geteilte Inhalte smarter Brillen gelegentlich von ausgelagerten Arbeitskräften überprüft werden können und dass für menschliche Überprüfungen zur Verbesserung der Produktleistung eine klare Einwilligung der Nutzer eingeholt werde
- Das britische ICO und die kenianische Datenschutzbehörde reagierten auf Datenschutzbedenken, und zusammen mit der früheren Kontroverse um Samas Facebook-Vertrag zur Content-Moderation werden die Risiken von AI-Datenarbeit sichtbar
Streitpunkte rund um das Vertragsende zwischen Meta und Sama
- Meta hat einen großen Vertrag mit Sama beendet, der für das AI-Training genutzt wurde; Sama geht davon aus, dass diese Entscheidung zu 1.108 Entlassungen führen wird
- Die Vertragsbeendigung erfolgte nicht einmal zwei Monate, nachdem in Kenia ansässige Sama-Beschäftigte erklärt hatten, in Videos von Metas smarter Brille Szenen von Toilettengängen und Sex von Nutzern gesehen zu haben
- Meta sagte, der Vertrag sei beendet worden, weil Sama die eigenen operativen Standards nicht erfüllt habe
- Sama widersprach und sagte, man habe bei Kundenaufträgen einschließlich Meta die geforderten Standards für Betrieb, Sicherheit und Qualität fortlaufend erfüllt und nie eine Mitteilung über ein Unterschreiten der Standards erhalten
- Eine kenianische Arbeiterorganisation vermutet, dass Metas Entscheidung wegen öffentlicher Äußerungen der Beschäftigten getroffen wurde, doch Meta antwortete auf diesen Vorwurf nicht direkt
Prüfung von Smart-Glasses-Videos und Datenschutzprobleme
- In einer Recherche der schwedischen Medien Svenska Dagbladet und Goteborgs-Posten Ende Februar erklärten anonyme Beschäftigte, sie hätten mit Meta-Brillen aufgenommene Videos überprüft
- Einer der Beschäftigten sagte: „Wir sehen alles, vom Wohnzimmer bis zur Nacktheit“, und die Videos hätten auch Toilettengänge oder Sexszenen enthalten
- Meta räumte ein, dass von Nutzern mit Meta AI geteilte Inhalte smarter Brillen gelegentlich von ausgelagerten Arbeitskräften überprüft werden können
- Meta sieht diese Überprüfung als Maßnahme zur Verbesserung der Kundenerfahrung und als in anderen Unternehmen übliche Praxis
- In einer Stellungnahme an die BBC erklärte Meta, Fotos und Videos seien für andere Nutzer nicht öffentlich sichtbar und für die menschliche Prüfung von AI-Inhalten zur Verbesserung der Produktleistung werde eine klare Einwilligung der Nutzer eingeholt
Aufsichtsbehörden und Risiken bei der Produktnutzung
- Kurz nach den Berichten aus Schweden bezeichnete die britische Datenschutzaufsicht ICO diese als „besorgniserregend“ und sandte Meta ein Schreiben
- Auch die kenianische Datenschutzbehörde leitete eine Untersuchung zu den bei der smarten Brille aufgekommenen Datenschutzbedenken ein
- Meta stellte im September zusammen mit Ray-Ban und Oakley eine Produktreihe AI-basierter Brillen vor
- Zu den Funktionen gehören Textübersetzung und die Beantwortung von Fragen zu dem, was der Nutzer gerade sieht; besonders für blinde oder sehbehinderte Nutzer kann das nützlich sein
- Mit der steigenden Beliebtheit der Geräte wuchsen auch die Sorgen vor Missbrauch; in Kenia wurden sie zudem mit nicht einvernehmlichen Aufnahmen von Frauen in Verbindung gebracht
- Bei Meta-Brillen leuchtet während einer Aufnahme eine Anzeigeleuchte am Rand des Rahmens
Datenlabeling-Arbeit und frühere Vertragskontroversen
- Sama-Beschäftigte versahen als Datenannotatoren Inhalte manuell mit Labels, damit Meta AI Bilder interpretieren kann, und überprüften auch Transkripte von Interaktionen mit der AI
- Laut einem Beschäftigten nahm die Brille eines Mannes im Schlafzimmer weiter auf; anschließend wurde gefilmt, wie eine Frau, die seine Ehefrau zu sein schien, sich auszog
- Sama ist ein in den USA ansässiges Outsourcing-Unternehmen, das aus einer Non-Profit-Organisation hervorging, die Beschäftigung durch die Schaffung von Tech-Jobs ausbauen wollte, und heute als „ethical“ B-corp betrieben wird
- Auch der frühere Facebook-Vertrag von Meta und Sama zur Content-Moderation führte zu Kritik und rechtlichen Schritten ehemaliger Beschäftigter; einige waren nach eigenen Angaben expliziten und traumatisierenden Inhalten ausgesetzt
- Sama erklärte später, man bereue es, diese Arbeit übernommen zu haben
- Naftali Wambalo von der Africa Tech Workers Movement stand auch mit Beschäftigten des Smart-Glasses-Vertrags in Kontakt und meint, Meta habe nicht gewollt, dass bekannt wird, dass Menschen Inhalte smarter Brillen überprüfen
- Wambalo sagte, die von Meta genannten Standards kämen eher „Standards der Geheimhaltung“ gleich
- Meta hatte zuvor erklärt, Nutzer hätten in den Nutzungsbedingungen erkennen können, dass eine menschliche Überprüfung möglich ist
- Mercy Mutemi vom Oversight Lab sagte, Metas Formulierung sollte für die kenianische Regierung eine Warnung sein und die als Einstieg in das AI-Ökosystem dargestellte Grundlage sei äußerst fragil
1 Kommentare
Hacker-News-Kommentare
Meta hat den Vertrag mit dem Outsourcing-Unternehmen gekündigt, das die Klassifizierung von Smart-Glasses-Inhalten übernommen hatte — und zwar nachdem Mitarbeiter dieses Unternehmens erhebliche Datenschutzprobleme bei den zu klassifizierenden Inhalten öffentlich gemacht hatten
OpenAI hatte dort die Klassifizierung von CSAM ausgelagert, und Sama beendete 2022 die Geschäftsbeziehung mit OpenAI: https://time.com/6247678/openai-chatgpt-kenya-workers/
Vier Jahre später, und drei Jahre nach dieser Berichterstattung, hat sich an der Arbeitsweise von Tech-Unternehmen überhaupt nichts verbessert
Man sollte weder mit solchen Leuten sprechen oder interagieren noch überhaupt empfehlen, sich mit ihnen im selben Raum aufzuhalten
Meta erklärte, Sama habe die eigenen Standards nicht erfüllt, Sama weist diese Kritik zurück
Kriminelle zu schützen und Whistleblower zu demütigen, tun nur Diktaturen und Oligarchien
Es spielt keine Rolle, in welchem Land sich der Outsourcing-Dienstleister befindet; wenn Verbrechen global geworden sind, muss auch der Schutz von Whistleblowern global werden
Ein Arbeiter soll gesagt haben, sie sähen „alles, vom Wohnzimmer bis zur Nacktheit“
Meta erklärte, das diene der Verbesserung der Kundenerfahrung und sei auch bei anderen Unternehmen gängige Praxis — da fragt man sich, ob man das richtig gelesen hat
Vermutlich eine der bizarrsten Aussagen, die ich in 20 Jahren im Internet gesehen habe
Man fragt sich wirklich, ob Meta die eigenen Aussagen überhaupt liest
Soweit ich mich erinnere, angeblich zur Problemanalyse oder Ähnlichem
Wenn ich sage, dass ich WhatsApp nicht benutze, bekomme ich immer noch merkwürdige Reaktionen, aber alle Assets von Meta sind für mich kontaminiert, deshalb nutze ich sie nicht
Ich weiß nicht, was hier schlimmer ist: dass Meta Videos von den Smart Glasses der Kunden aufzeichnet oder dass die Leute gefeuert werden, die darüber gesprochen haben
Natürlich sollte man Druck machen, damit solche Unternehmen sich nicht wie Müll benehmen können, aber am Ende können sie nur dann mit Daten Unfug treiben, wenn Menschen ihnen diese Daten überhaupt geben
Es gibt Ausnahmen wie Flock, das mit „öffentlichen“ Überwachungsdaten Unfug treibt
Ich weiß, dass die Kultur inzwischen so kaputt ist, dass selbst intime Momente mit einer Konzern-Überwachungsbrille normalisiert werden, aber ich verstehe nicht, wie dieses Maß an Vertrauen überhaupt entstehen konnte
Allgemeiner gesagt verstehe ich auch nicht, warum man eine internetfähige Kamera trägt, von der doch klar ist, dass Meta sie überwachen wird
Ich glaube, die kniffligen Datenschutz- und Sicherheitsfragen rund um Smart Glasses und andere „persönliche“ Technologien ließen sich von einem vorsichtigen, gewissenhaften und reaktionsschnellen Unternehmen durchaus bewältigen
Deshalb würde ich persönliche Geräte von Meta niemals anfassen
In ihrer gesamten DNA steckt, Nutzer zum Zweck des Profits auszubeuten
Meiner Einschätzung nach sehen sie solche Probleme nur als etwas, das die Tiefe der Ausbeutung vor den Menschen verbergen soll; sie können sie buchstäblich nicht ernsthaft berücksichtigen und werden es auch künftig nicht tun
Ich frage mich, unter welchen Bedingungen von der Brille aufgezeichnete Videos zur Klassifizierung hochgeladen werden
Wahrscheinlich läuft es so, dass ein Nutzer die Brille etwas zu dem befragt, was sie gerade sieht, und das Video dann zur Erstellung einer Antwort zur Klassifizierung hochgeladen wird
Menschen scheinen sich um die Privatsphäre nicht besonders zu sorgen, weil sie denken: „Das ist doch nur AI“
Diese Überschrift erinnerte mich daran, dass „row“ eines der Wörter ist, die ich fast mein ganzes Leben lang falsch ausgesprochen habe. Erst dieses Jahr habe ich die richtige Aussprache gelernt
In diesem Kontext reimt sich row auf cow, nicht auf dough
Mein erstes Reimbeispiel war bow, aber dann fiel mir auf, dass genau dieses Beispiel problematisch ist
„Zwei Länder, getrennt durch eine gemeinsame Sprache“ trifft es perfekt
https://www.merriam-webster.com/dictionary/row#dictionary-en...
Ich bin ein ehemaliger Meta-Mitarbeiter. Buh-Rufe sind verdient
Intern gab es vier Datenstufen, wobei 1 für öffentlich verfügbare Informationen wie „der Himmel ist blau“ stand und 4 für persönliche Nutzerdaten oder Informationen, die bei Leaks oder Weitergabe sensibel wären
Grundsätzlich hieß es, alle Nutzerdaten seien Level 4, und wenn man ohne ordnungsgemäße Genehmigung irgendetwas damit machte, wurde man sofort entlassen
Während des Bootcamps hörte man oft Geschichten von mindestens einer Person pro Monat, die auf Nutzerdaten zugegriffen hatte und innerhalb weniger Stunden aus dem Gebäude eskortiert wurde
In dem Bereich für visuelle Forschung, in dem ich arbeitete, mussten wir ein Jahr lang rechtliche Verfahren durchlaufen, um überhaupt die Erlaubnis zu bekommen, Videos in öffentlichen Räumen aufzuzeichnen
Wir mussten Anonymisierungspipelines, robuste Audit-Trails, möglichst weitgehende Datenlöschung und Systeme aufbauen, die bei Fehlern automatisch alles löschen
Es gab auch strenge Regeln dazu, wo Daten gespeichert werden und wer darauf zugreifen darf
„Wildes“ Videomaterial, in dem auch nur ansatzweise Personen vorkommen konnten, die keinen Vertrag unterschrieben hatten, konnte wegen der Einbeziehung Dritter nicht für Annotationen weitergegeben werden
Bei allen identifizierbaren Personen und Orten in öffentlichen Datensätzen lagen unterschriebene rechtliche Verzichtserklärungen vor
Und jetzt zu hören, dass private Daten einfach an Annotatoren ausgeschüttet und als Trainingsdaten verwendet wurden, bedeutet, dass nicht einmal grundlegende Kontrollen vorhanden waren
Das zeigt nur, dass Regeln nicht gelten, wenn Zuck oder die Monetarisierung etwas wollen
Ich hoffe, dass diese ganze Branche in sich zusammenfällt
SWE sollten nur mit ausdrücklicher Zustimmung des Nutzers oder Kunden auf PII zugreifen dürfen, etwa im Rahmen eines Support-Tickets
Das gilt erst recht für Leute im Bootcamp, und ich frage mich, ob sie während der Schulung überhaupt auf nicht anonymisierte Nutzerdaten zugreifen können sollten
Selbst in meiner früheren Firma musste man, selbst wenn Kundeneinwilligung vorlag, enorm viele Schritte durchlaufen, um auf Nutzerdaten zuzugreifen
Denn es war völlig offensichtlich, dass intern eine ganz andere Geschichte lief
Eine der größeren kommerziellen Nischen für Smart Glasses und andere „persönliche“ Technologien ist POV-Porno, daher überrascht es mich nicht besonders, dass solche Inhalte in einer Moderationswarteschlange gelandet sind
Das Projekt hätte unter Berücksichtigung dieses Anwendungsfalls geplant werden müssen
Schon zu Oculus-Go-Zeiten gab es intern viele höfliche Euphemismen, um nicht aussprechen zu müssen: „Unser Gerät muss mit einem Browser ausgeliefert werden, damit Leute Pornos schauen können“
Wurde es auf Server gestreamt, damit man jemanden schicken kann, der den Sex stoppt?
https://archive.ph/ubWba
Wer mehr darüber lesen möchte, wie die unangenehmen Seiten des AI-Trainings auf verarmte Arbeitskräfte aus der Dritten Welt abgewälzt werden, dem empfehle ich Karen Haos Empire of AI
Diese Arbeiter sind prekären Jobs ausgesetzt, bekommen Hungerlöhne pro Stunde und müssen schreckliches Material ansehen