Fehlermeldung zur Gesichtserkennung an Automaten der University of Waterloo sorgt für Datenschutzbedenken

• Nachdem an einem Smart-Vending-Automaten auf dem Campus der University of Waterloo eine Fehlermeldung einer Gesichtserkennungs-Anwendung sichtbar wurde, befürchten Studierende, dass biometrische und demografische Erfassung ohne Hinweis stattgefunden haben könnte
• Bei den betroffenen Geräten handelt es sich um Schokoladen- und Süßwarenautomaten im M&M-Design, die an mehreren Orten auf dem Campus installiert waren, darunter im Modern-Languages-Gebäude und in Hagey Hall
• Nachdem ein Foto der Fehlermeldung online verbreitet wurde, interpretierten Studierende eine kleine Öffnung als Kamera oder Sensor und begannen, sie mit Sticky Tack, Kaugummi, Post-its und Ähnlichem abzudecken
• Der Dienstleister Adaria bestritt, Eigentümer oder Hersteller der Geräte zu sein oder Zugriff auf Daten zu haben; der Hersteller Invenda erklärte, die Software arbeite ausschließlich mit lokaler Verarbeitung und speichere oder übertrage weder Bilder noch personenbezogene Informationen
• Die University of Waterloo forderte, die Automaten so schnell wie möglich zu entfernen und bis dahin die zugehörige Software zu deaktivieren

---

Kontroverse um Campus-Automaten durch Fehlermeldung offengelegt

• Die Smart-Vending-Automaten der University of Waterloo sollen nach Datenschutzbedenken von Studierenden vom Campus entfernt werden
• Die Automaten sind mit M&M-Bildern versehen und verkaufen Schokolade sowie andere Süßigkeiten
  • Zu den Standorten gehören das Modern-Languages-Gebäude und Hagey Hall
• Anfang Februar entdeckte ein Student an einem Automaten im Modern-Languages-Gebäude eine Fehlermeldung
  • Die Meldung schien auf ein Problem mit einer Gesichtserkennungs-Anwendung hinzuweisen
  • River Stanley, Student im vierten Jahr, sagte, ohne diesen Fehler hätten die Studierenden nichts davon erfahren; vor Ort habe es keinen Warnhinweis gegeben

Reaktion der Studierenden und Verbreitung im Netz

• Nachdem ein Foto der Fehlermeldung online gestellt worden war, verbreitete es sich schnell unter den Studierenden
• Viele Studierende hielten eine kleine Öffnung am Automaten für den Kamerastandort und versuchten, sie abzudecken
  • Verwendet wurden unter anderem Sticky Tack, Kaugummi und Post-its
• Die Studentin Dilpreet Sandhu sagte, sie sei überrascht gewesen, da sie nicht glaube, dass ein Automat Gesichtserkennung benötige
• Sandhu fügte hinzu, dass sie sich nach dieser Erkenntnis frage, ob ähnliche Technologie auch an anderen Orten eingesetzt werde
  • Außerdem sagte sie, die typischen Nutzer eines Universitätscampus seien junge Erwachsene im späten Teenageralter bis Anfang 20

Stellungnahmen von Adaria, MARS und Invenda

• Adaria Vending Services Limited, der Anbieter der Automaten, erklärte per E-Mail, man sei ein Fulfillment Service Provider
  • Das Unternehmen besitzt oder produziert die Geräte nicht
  • Es hat keinen Zugriff auf diese Art von Daten aus den Geräten
• Die Automaten gehören MARS, Hersteller ist Invenda
• MARS reagierte nicht auf eine Bitte von CTV um Stellungnahme
• Auch Invenda antwortete nicht auf die Anfrage von CTV, erklärte Stanley jedoch in einer E-Mail, dass die Software zur demografischen Erkennung im Automaten vollständig lokal arbeite
  • Sie speichert keine Bilder oder personenbezogenen Informationen
  • Sie kommuniziert oder überträgt keine Bilder oder personenbezogenen Informationen

Beschreibung der Erkennungsfunktionen auf der Invenda-Website

• Laut Invenda-Website können Smart Vending Machines die Anwesenheit einer Person, ihr geschätztes Alter und ihr Geschlecht erkennen
• Die Website erklärt, dass die Software digitale Bildkarten eines optischen USB-Sensors in Echtzeit lokal verarbeitet
  • Diese Daten werden nicht auf dauerhaften Speichermedien gespeichert
  • Sie werden nicht über das Internet in die Cloud übertragen
• Invenda teilte Stanley mit, die Software entspreche der Datenschutz-Grundverordnung der Europäischen Union, der GDPR
• Stanley stellte infrage, ob diese Technologie in Kanada legal sei

Kanadischer Datenschutzfall und Maßnahmen der Universität

• Eine Untersuchung des kanadischen Bundes-Datenschutzbeauftragten im Jahr 2020 ergab, dass eingebaute Kameras in digitalen Informationskiosken von Cadillac Fairview ohne Wissen oder Zustimmung der Besucher von Einkaufszentren mehr als 5 Millionen Bilder erfasst hatten
  • Diese Kioske nutzten Gesichtserkennungstechnologie
• Stanley meint, Studierende sollten über diesen Fall informiert werden, da ohne ausdrückliche und sinnvolle Einwilligung ein Verstoß gegen Datenschutzgesetze vorliegen könne
• Die University of Waterloo erklärte, sie kümmere sich um die Situation
  • Die Universität forderte, die betroffenen Automaten so schnell wie möglich vom Campus zu entfernen
  • Bis dahin forderte sie, die Software zu deaktivieren
• Stanley sagte, er werde Beschwerde beim Information and Privacy Commissioner of Ontario einreichen, falls die Universität die Entfernung der Automaten nicht umsetzt

[GN⁺]

Meinungen auf Hacker News

• Wenn man sich die Broschüre des Anbieters ansieht, steht dort ziemlich unverblümt, wofür der Automat diese Informationen nutzt.
  Es werden demografische Informationen darüber gesammelt, wer was kauft, etwa nach Geschlecht und Alter, und für Werbe-Targeting verwendet. Außerdem heißt es, sie würden auch mit „Partner-Medienbrokern“ genutzt.
  Es wird auch damit geworben, dass die Installation der App durch „Gamification“ den Umsatz steigert: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

  • Von einem großen Bildschirm überzogene Verkaufsautomaten verkörpern alles, was ich an moderner Technik nicht mag.
    Aus Käufersicht wird nichts besser. Man kann nicht den gesamten Bestand auf einen Blick sehen, weiß nicht, wie viele Stück noch übrig sind, und die Maschine weiß es selbst auch nicht zuverlässig. Jede Interaktion ist langsam, und als Gegenleistung bekommt man Werbung und Minispiele.
    Es ist spät in der Nacht, man hat Hunger, der Zug fährt in 2 Minuten ab, und man will einfach nur einen Snickers kaufen. Solche Firmen sind schon fast schädlich.
  • Die Broschüre ist großartig. Mein liebster Verkaufsargument-Punkt ist, dass man auf dem Bildschirm auch Produkte anzeigen und verkaufen kann, die tatsächlich gar nicht im Automaten sind, und dem Kunden statt eines Getränks einen digitalen Schuldschein geben kann.

    "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
    Damit wird ein bequemer Impulskauf in zusätzliche Erledigung verwandelt, der man später noch einmal nachgehen muss.
    Am Ende gibt es wohl irgendeinen geschäftlichen Blickwinkel, den ich nicht verstehe. Sonst kann ich mir nicht vorstellen, dass so eine Funktion tatsächlich den Umsatz steigert. Ich frage mich, ob sie digitale Produkte verkaufen wollen oder ob sie mit gezielten digitalen Coupons Besuche in nahegelegenen Geschäften anstoßen wollen. Und ob das schon einmal jemand tatsächlich gesehen hat.

  • Gesichtserkennung, die auf einem US-Uni-Campus im 21. Jahrhundert Geschlecht erkennt — was könnte da schon schiefgehen und zu einem medialen Großbrand führen?
  • In Japan werden seit 2010 Verkaufsautomaten mit Gesichtserkennung für Produktempfehlungen und Statistik-Erfassung eingesetzt: https://www.youtube.com/watch?v=S2hwnGrn3go
  • Selbst wenn ich nur einen Mars-Riegel kaufen will, versucht die Welt, mir Targeted Ads zu schicken.

• Ich halte es zwar für echt, aber zum Spaß kann ich mir auch vorstellen, dass jemand einen Streich spielt. Der Titel des Dialogfensters bzw. der App-Name wirkt, als wäre er absichtlich so gewählt.
  Ende der 2000er zog die Firma, bei der ich arbeitete, in ein Büro mit automatischen Urinalen um; damals waren die noch ziemlich ungewöhnlich. Es waren matte schwarze Plastikgeräte mit Spülgriff und einem glänzenden Fenster aus dunklem, infrarotdurchlässigem Kunststoff.
  Es war eindeutig ein Näherungssensor für die automatische Spülung, aber jemand klebte einen Aushang im Stil einer offiziellen Mitteilung daran: „Kamera nicht berühren“, und machte damit ein paar Leute ordentlich nervös.

• Wenn man die Formulierung auf der Website liest, dass „aus einem USB optical sensor abgeleitete digitale Bildkarten in Echtzeit lokal verarbeitet“ werden, kommt der Verdacht auf, dass der USB optical sensor in Wahrheit eine versteckte Kamera ist und „digital image maps“ einfach die Bilder dieser Kamera meint.
  Falls ja, könnte auch der restliche Satz, dass „diese Daten nicht auf einem dauerhaften Speichermedium gespeichert oder über das Internet in die Cloud übertragen werden“, bewusst Schlupflöcher lassen.

  • Es könnte so etwas wie Apples Face-ID-Sensor sein. Im strengen Sinn ist das eine „Kamera“, aber ein Gerät, das eher eine Tiefenkarte erfasst, statt ein Bild aufzunehmen.
    Ich kann glauben, dass Bilder oder rohe Tiefenkarten nicht über das Internet verschickt werden. Das sind viele Daten, und mir fällt auch nicht sofort ein, was man mit diesen Rohdaten anfangen würde.
    Aber es scheint nahezu sicher, dass sie versuchen, demografische Informationen, vielleicht sogar einzelne Nutzer, mit bestimmten Kaufmustern zu verknüpfen.

• 2018 veranstaltete Renesas einen „Facial Expression Kit Giveaway“-Wettbewerb, und ich bekam eines davon. Es war ein „RZ Omron Facial Expression Kit giveaway“, und RZ war damals eine der relativ neuen Mikrocontroller-Linien.
  Um den Preis zu erhalten, musste man eine Erklärung unterschreiben, was ich auch tatsächlich tat; benutzt habe ich es am Ende aber nie, und später landete es auf einem lokalen Hamfest. Der Beispielcode war ein Verkaufsautomat.
  Das ist ungefähr das Material, das ich heute dazu finden konnte: „OMRON Develops Real-Time Facial Expression Estimation Technology“ https://www.omron.com/media/press/2012/10/e1023.html

• Der Verkaufsautomat an meinem Arbeitsplatz verlangte die Eingabe der letzten vier Ziffern der SSN. Ich habe das wirklich gehasst.

  • Bitte erklär es mir, als wäre ich fünf.

• Ist Gesichtserkennung in den USA noch nicht weit verbreitet?
  In Großbritannien wird sie schon überall eingesetzt. In den meisten Läden und Kassensystemen, im landesweiten CCTV, und die Polizei nutzt sie zur Identifizierung von Demonstranten. Schulen in meiner Gegend installieren sogar Spyware auf den Handys der Kinder, um Kinder und Familien zu überwachen.
  Ich kann mir kaum vorstellen, dass sich hier jemand daran stören würde, wenn ein Verkaufsautomat mich identifiziert. Worin besteht die Gefahr?

  • Das ist kein nerviger Erwachsener, der Passanten zuruft, was du gekauft hast.
    Es ist ein Datensammler, der Informationen zusammenträgt, die sich weltweit verbreiten können, um Werbung besser zu verkaufen.
    Daraus könnten Kategorien entstehen, etwa ob du jeden Freitag um 05:00 Uhr Softdrinks kaufst. So etwas wie „Partygänger“. Oder vielleicht auch nicht, aber es ist schwer zu glauben, dass sie zusätzlich Geld für Software und Kameras ausgeben, weil sie unbedingt Geld verlieren wollen.
  • Ich wusste, dass Großbritannien mit diesem Überwachungsstaats-Unsinn rapide schlimmer wird, aber ist es wirklich schon so weit?
    Mein Respekt für die Leute, die zum Wohle der Allgemeinheit ihr Leben riskieren, um staatliche Überwachungskameras zu beschädigen und abzubauen, ist noch größer geworden.
  • Die Gefahr besteht darin, dass die vielen kleinen Informationsstücke, die solche Technologien sammeln, in die Hände des nächsten genozidalen Diktators geraten. Ich frage mich, nach welchen Kennzahlen sie dann Säuberungen durchführen werden.
  • Die EU hat vor einigen Jahren die DSGVO verabschiedet; ich verstehe nicht, wie es in Großbritannien so aussehen kann.

• Solche Dinge machen einen wirklich wahnsinnig, aber das Ende des Artikels ist nicht so hoffnungslos, wie man vielleicht denkt. Es ist gut zu sehen, dass Studierende sich an der Basis wehren, die Universität vermutlich Maßnahmen ergreift und Menschen das Gefühl haben, unter dem Gesetz etwas tun zu können.
  Man muss weiter Druck machen, damit so etwas immer weniger normalisiert wird, und auch die Strafen müssen immer härter werden. So fühlen sich Menschen eher bestärkt und können sich wehren.
  Auch das Recht, solche Geräte zu „beschädigen“, sollte gesetzlich klargestellt werden. Persönlich finde ich, dass es zumindest vor Gericht verteidigungsfähig sein sollte, so etwas mit einem Baseballschläger zu zertrümmern.

• Ich frage mich, wo für Menschen die Grenze verläuft, ab der sie bestimmtes Tracking „okay“ finden und anderes „nicht okay“.
  Hier scheinen Studierende Gesichtserkennung fast einhellig abzulehnen. Bei Online-Tracking habe ich dagegen viele Leute gesehen, die sagen, es sei ihnen egal.
  Vielleicht werden Menschen sensibler, wenn Tracking in die reale Welt übergreift und sich „echter“ anfühlt.

  • Es gibt so etwas wie stillschweigende Zustimmung. Wenn man ein Gmail-Konto erstellt, weiß man, dass Google auf alle eigenen E-Mails zugreifen kann. Man weiß bis zu einem gewissen Grad auch, dass Google beim Nutzen von Gmail ein Werbeprofil über einen erstellt, und stimmt dem gewissermaßen stillschweigend zu.
    Wenn man aber erfährt, dass PDFs mit Bluttestergebnissen vom Arzt gesammelt und an Versicherungen verkauft werden, liegt das objektiv außerhalb dessen, was noch als vernünftige Zustimmung gelten kann.
    In einer Situation, in der M&M verkauft werden, ist meine Toleranz für Datenerfassung sehr niedrig.
  • Online-Targeting stört mich nicht besonders. Wenn aus einer Anzeige für einen „Açaí-Beeren-Smoothie“ eine Anzeige für „Strandurlaub“ wird, wechselt sie von etwas, das mich nicht interessiert, zu etwas, das mich interessiert, und die Erfahrung wird besser. Wenn ich kostenlose Produkte wie Google Maps oder Facebook nutze, verstehe ich auch die Bedingungen dieses Deals.
    In diesem Fall aber nutzt es das Automatenunternehmen oder irgendeine Stelle in dessen Vertriebsnetz, um Kunden am Automaten demografiebasierte Werbung zu zeigen. Den Produktpreis muss ich trotzdem zahlen, und es ist auch nicht so, dass bestehende nicht zielgerichtete Werbung durch zielgerichtete Werbung ersetzt würde. Es gab von Anfang an keine Werbung.
    Sie werden mir sicher keinen Anteil der Werbeeinnahmen zurückgeben, und wahrscheinlich gehören alle Automaten in der Umgebung demselben Unternehmen, sodass es keinen Wettbewerb gibt. Am Ende ist es nur eine zusätzliche Einnahmequelle für das Unternehmen, ohne jeden Nutzen für die Nutzer.

• Wo sind eigentlich die Vandalen, die man in solchen Momenten braucht?

• Ein bisschen Sekundenkleber würde das Problem lösen.