- Eine an Schizophrenie leidende Frau habe sich selbst ins Krankenhaus begeben, nachdem sie die Werbefunktion eines smarten Kühlschranks als Halluzination fehlgedeutet hatte
- Als der Kühlschrank Sprachanweisungen und personalisierte Werbung anzeigte, sei dies offenbar als eigenes Symptom ihrer Erkrankung missverstanden worden
- Die Familie zog rechtliche Beratung hinzu, um Geräteeinstellungen und Datenschutzfragen zu klären
- In Online-Communitys wurden Diskussionen über Überautomatisierung bei Smart-Home-Geräten und deren Auswirkungen auf die psychische Gesundheit weitergeführt
- Die Benutzererfahrung und Sicherheit von KI-basierten Haushaltsgeräten rückt zunehmend stärker in den Fokus der Gesellschaft
Ereignisübersicht
- Eine Frau mit psychischer Erkrankung interpretierte einen auf dem Bildschirm ihres Smart-Kühlschranks eingeblendeten Satz als persönliche Nachricht an sie selbst, begab sich daraufhin selbst ins Krankenhaus und wurde zwei Tage lang stationär beobachtet
- Die Patientin war in der Vergangenheit bereits in einem zweijährigen Rhythmus wegen psychotischer Episoden aufgenommen worden; das führte zu einer Anpassung der Medikation
- Die Familie hatte die Lage nicht verstanden und hielt das Verhalten zunächst für eine Verschlechterung der Symptome
- Nachdem die Familie nachträglich nachgesehen hatte, stellte sich heraus, dass der Satz auf dem Kühlschrankbildschirm eine Werbegrafik mit dem Text „WE’RE SORRY WE UPSET YOU, CAROL“ für eine TV-Show war; die Verwechslung wurde dadurch begünstigt, dass der echte Name der Patientin ebenfalls Carol lautete
- Dass die Werbung an einem untypischen Ort eingeblendet wurde, der wie eine Geräteoberfläche wirkte, wurde als problematisch kritisiert, da selbst normale Nutzer nicht leicht erkennen konnten, dass es sich um Werbung handelte, und dies für vulnerable Gruppen zu gravierender Verwirrung führen kann
Öffentliche Reaktion
- Online wurde darauf hingewiesen, dass die sprach- und bildbasierten Schnittstellen von KI-Geräten Menschen mit psychischen Erkrankungen verwirren können
- Es verbreitete sich die Ansicht, dass technischer Fortschritt die Sicherheit und kognitive Belastung psychisch vulnerabler Gruppen stärker berücksichtigen muss
- Es wird weiter über die Notwendigkeit von Zugänglichkeits- und Sicherheitsstandards für Smart-Home-Technologien diskutiert
Noch keine Kommentare.