Schizophrenie-Patientin hält Werbung auf smartem Kühlschrank für psychotische Halluzination
(old.reddit.com)- Eine an Schizophrenie leidende Frau habe sich selbst ins Krankenhaus begeben, nachdem sie die Werbefunktion eines smarten Kühlschranks als Halluzination fehlgedeutet hatte
- Als der Kühlschrank Sprachanweisungen und personalisierte Werbung anzeigte, sei dies offenbar als eigenes Symptom ihrer Erkrankung missverstanden worden
- Die Familie zog rechtliche Beratung hinzu, um Geräteeinstellungen und Datenschutzfragen zu klären
- In Online-Communitys wurden Diskussionen über Überautomatisierung bei Smart-Home-Geräten und deren Auswirkungen auf die psychische Gesundheit weitergeführt
- Die Benutzererfahrung und Sicherheit von KI-basierten Haushaltsgeräten rückt zunehmend stärker in den Fokus der Gesellschaft
Ereignisübersicht
- Eine Frau mit psychischer Erkrankung interpretierte einen auf dem Bildschirm ihres Smart-Kühlschranks eingeblendeten Satz als persönliche Nachricht an sie selbst, begab sich daraufhin selbst ins Krankenhaus und wurde zwei Tage lang stationär beobachtet
- Die Patientin war in der Vergangenheit bereits in einem zweijährigen Rhythmus wegen psychotischer Episoden aufgenommen worden; das führte zu einer Anpassung der Medikation
- Die Familie hatte die Lage nicht verstanden und hielt das Verhalten zunächst für eine Verschlechterung der Symptome
- Nachdem die Familie nachträglich nachgesehen hatte, stellte sich heraus, dass der Satz auf dem Kühlschrankbildschirm eine Werbegrafik mit dem Text „WE’RE SORRY WE UPSET YOU, CAROL“ für eine TV-Show war; die Verwechslung wurde dadurch begünstigt, dass der echte Name der Patientin ebenfalls Carol lautete
- Dass die Werbung an einem untypischen Ort eingeblendet wurde, der wie eine Geräteoberfläche wirkte, wurde als problematisch kritisiert, da selbst normale Nutzer nicht leicht erkennen konnten, dass es sich um Werbung handelte, und dies für vulnerable Gruppen zu gravierender Verwirrung führen kann
Öffentliche Reaktion
- Online wurde darauf hingewiesen, dass die sprach- und bildbasierten Schnittstellen von KI-Geräten Menschen mit psychischen Erkrankungen verwirren können
- Es verbreitete sich die Ansicht, dass technischer Fortschritt die Sicherheit und kognitive Belastung psychisch vulnerabler Gruppen stärker berücksichtigen muss
- Es wird weiter über die Notwendigkeit von Zugänglichkeits- und Sicherheitsstandards für Smart-Home-Technologien diskutiert
1 Kommentare
Hacker-News-Kommentare
Es ist an der Zeit, Werbung vollständig zu verbieten
Dank Adblock-Technik im Browser und auf dem Smartphone sehe ich fast keine Werbung
Wenn die Blockierung gelegentlich versagt und ich doch Werbung zu sehen bekomme, bin ich erstaunt, wie normale Nutzer ohne Adblock dieses Bombardement aushalten
Früher wurde darüber diskutiert, einen „Mittelweg“ zu finden, aber so ein Kompromiss ergibt inzwischen keinen Sinn mehr
Erlaubt sein sollte nur noch eine Form, bei der Nutzer Werbung aktiv selbst aufsuchen, wie in den Gelben Seiten
Die Werbebranche kann sich nicht selbst kontrollieren und blockiert Regulierung durch Lobbyarbeit. Die einzige Lösung ist, Werbung selbst auszurotten
Ich habe einen Fernseher für meinen Großvater gekauft, der mit Alzheimer in Pflege war, und alle Modelle waren Smart-TVs
Überall in den Menüs wurde Werbung eingeblendet, und in einem Block liefen acht Werbespots am Stück. Es war so reizüberflutend wie ein Spielautomatenbildschirm
Das geht über bloße Unbequemlichkeit hinaus und ist grausam gegenüber älteren Menschen; ich finde, dafür sollte es Bußgelder oder strafrechtliche Konsequenzen geben
Die Struktur, in der menschliche Aufmerksamkeit gekauft und verkauft wird, macht die gesamte Gesellschaft krank
Werbung, die Nutzer freiwillig aufsuchen, ist in Ordnung, aber wenn Belohnungspsychologie und Informationssuche vermischt werden, wird es toxisch
Wenn ich eine App benutzen will und mir per Banner ein anderes Produkt aufgedrängt wird, ist das eine Entführung meiner Absicht als Nutzer
Es darf nicht zu einem zentralen Motor der Wirtschaft werden, Menschen absichtlich abzulenken
In Kanada gibt es überall an den Straßen rotierende Werbeanzeigen, direkt neben Schildern mit „Nicht abgelenkt fahren“
Ironischerweise lenkt gerade dieses Schild die Aufmerksamkeit des Fahrers ab
Denn ein Katalog ist nützliches Material, das Nutzer nur dann aufrufen, wenn sie es wollen
Werbung auf Basis des Standorts oder der aktuellen Suche des Nutzers wäre okay, aber nicht auf Basis des Verlaufs auf anderen Websites oder des Ortes, an dem man gestern zu Mittag gegessen hat
Die Grenze zwischen kontextbezogener und personalisierter Werbung ist zwar unscharf, aber das ist Sache von Gesetzgebung und Justiz
Persönlich würde ich ein viel strengeres Verbot bevorzugen, aber das wäre zumindest ein Kompromiss, den sowohl Branche als auch Verbraucher akzeptieren könnten
Dass auf einem Kühlschrank Werbung erscheint, ist furchtbar, aber ich bezweifle, dass dieser Fall echt ist
In einem früheren Reddit-Beitrag gab es schon eine ähnliche Geschichte
Inzwischen gibt es auf YouTube massenhaft Videos, die Reddit-Geschichten nacherzählen oder ausschmücken. Unterhaltsam, aber größtenteils wohl erfunden
Deshalb ist es am sichersten, Beiträge aus großen Communities immer skeptisch zu betrachten
In der Welt gibt es viele Dinge, die zufällig zusammenpassen
Laut einem Artikel von 9to5Google erklärt Samsung, dass keine Vollbildwerbung angezeigt wird
Das auf Reddit gepostete Bild scheint eine Anzeige von einer Drittanbieter-Website in der Browser-App des Kühlschranks zu zeigen
Die Formulierung „natürlich eingeblendete Werbung“ wirkt wie eine allzu großzügige Interpretation
Dass Hersteller die Kontrolle über Geräte, die wir gekauft haben, an sich ziehen, sollte gesetzlich verboten werden
Wenn Nutzer gegen Bezahlung eine Werbe-App installieren wollen, ist das ihre Freiheit, aber standardmäßig aufgezwungene Werbung ist unzulässig
Denn eine solche Entscheidung schwächt die Verhandlungsmacht anderer Verbraucher
Gegen Jahresende wird dieses Phänomen besonders deutlich
Aber dass man auf „gute Unternehmen“ angewiesen ist, um überhaupt eine werbefreie Alternative zu finden, ist selbst das Problem
Wenn Hersteller Geräte faktisch als eine Art „Mietmodell“ verkaufen, sollten Verbraucher den Vertrag jederzeit beenden und entsprechend der Abschreibung eine Rückerstattung erhalten können
Die rechtlichen Instrumente existieren bereits, also könnte der Markt die Details selbst justieren
Werbung auf einem Produkt, für das man bezahlt hat, ist absolut inakzeptabel
Gerade für Menschen mit psychischen Erkrankungen kann unerwartete Werbung gefährlich sein
Auch Anzeigen, die plötzlich anfangen, sich zu bewegen oder zu sprechen, wie digitale Werbetafeln an Bushaltestellen, sollten vorab deutlich gekennzeichnet werden
Horror-, Pharma- und Sexualwerbung ist heute viel zu aufdringlich
Google TV blendet Werbung für Horrorfilme ein, die die ganze Wand dominiert und die Familie unwohl fühlen lässt
Sogar beim Essen erscheinen ekelhafte Krankheitsanzeigen, und sexuelle Inhalte sind für das gemeinsame Fernsehen mit der Familie ungeeignet
Früher hatten wir die Kontrolle über unsere Geräte, heute wird aus der Ferne schrecklicher Content ausgespielt
Das tatsächliche Leiden einer Krankheit wird ausgeblendet, stattdessen sieht man nur ältere Menschen im Kanu
Ich musste zusätzlich eine Set-Top-Box kaufen, um dieselben Apps zu nutzen, aber immerhin gibt es dort keine Werbung
Diese Geschichte mit der Kühlschrankwerbung wirkt wie ein manipulierter Fall
Dasselbe Bild kursierte bereits seit einer Woche
Ich habe einmal ein Poster einer Kampagne gegen Vermüllung mit dem Slogan „HEY TOSSER!“ gesehen und es fälschlich als gegen mich gerichtete Botschaft verstanden
Siehe das entsprechende Konzept und das Posterbild
Unsere Community sollte gegenüber solcher Desinformation kritischer sein
Siehe diese verwandten Tweets: Beispiel 1, Beispiel 2
Hersteller haben sich 100 Jahre lang auf die Kühlfunktion konzentriert, aber sobald Internetverbindung hinzukam, begannen sie, besessen an der Monetarisierung von Verbrauchern zu arbeiten
Das Werbeökosystem infiziert wie ein Virus alle vernetzten Geräte
Da das Innovationspotenzial in der Haushaltsgerätebranche schrumpft, suchen Unternehmen mit „Konnektivität“ und „Werbung“ nach neuen Einnahmequellen
Die Einsparung bei Arbeitskosten stößt bereits an ihre Grenzen
Die Form ist nur eine andere, Werbung gab es schon immer
Der Samsung-Kühlschrank, den ich beim Umzug übernommen habe, war grauenhaft
Wegen eines Defekts am Eisbereiter trat Wasser aus, und die Türscharniere brachen ständig
Am Ende habe ich aufgegeben und einen neuen Kühlschrank gekauft
Auf Reddit liest man oft den Spruch: „Alles ist okay, solange es nicht von Samsung ist“
Es wirkt wie eine Strategie, billig zu produzieren und dann mit Werbung Geld zu verdienen
Außerdem verstehe ich nicht, warum ein Kühlschrank überhaupt mit dem Internet verbunden sein muss
Ich habe Doctorows Kurzgeschichte „Unauthorized Bread“ gelesen, ein interessantes Werk über das Kontrollproblem bei IoT-Geräten
Ich überlege, ob ich sie unauffällig auf die Leseliste meiner Mutter setzen soll
Allerdings hatte ich den Eindruck, dass sie eher auf ein jüngeres Publikum abzielt
Wenn man den Router selbst kontrollieren kann, lässt sich der Internetzugang des Geräts blockieren
Bei Asus-Routern kann man zum Beispiel in der UI die externe Verbindung nur für bestimmte Geräte abschalten
Das lokale Netzwerk bleibt erhalten, während ausgehender Verkehr nach außen blockiert wird, was für Geräte wie Fernseher oder Kameras nützlich ist
Bei Sicherheitskameras, die Fernzugriff brauchen, muss man allerdings aufpassen
Man kann das so handhaben, dass man das Internet nur für Updates oder die Ersteinrichtung kurzzeitig aktiviert