Supermarkt-App zur KI-Speiseplanung schlägt Rezept zur Erzeugung von Chlorgas vor

• Die neuseeländische Supermarktkette Pak 'n' Save hat eine KI-basierte App eingeführt, die Rezepte für übrig gebliebene Lebensmittel erstellt.
• Die App mit dem Namen Savey Meal-bot wurde entwickelt, um Kundinnen und Kunden während der Lebenshaltungskostenkrise dabei zu helfen, Reste kreativ zu verwerten.
• Nutzerinnen und Nutzer können verschiedene Zutaten eingeben, die sie zu Hause haben, woraufhin die App automatisch Essenspläne oder Rezepte erstellt und mit heiteren Kommentaren versieht.
• Die App erregte in sozialen Medien Aufmerksamkeit, weil sie unattraktive Rezepte wie „Oreo-Gemüsepfanne“ vorschlug.
• Als Nutzer begannen, eine größere Bandbreite an Haushaltsprodukten in die App einzugeben, schlug sie potenziell gefährliche Rezepte vor, darunter auch solche zur Erzeugung von Chlorgas.
• Zu den weiteren bizarren und gefährlichen Rezepten, die die App vorschlug, gehörten „Giftbrot-Sandwich“, „Reis-Überraschung mit Bleichmittel“ und „Methanol Bliss“ – French Toast mit Terpentin-Geschmack.
• Der Supermarkt zeigte sich enttäuscht darüber, dass eine kleine Zahl von Nutzern das Tool unangemessen verwendet und nicht entsprechend seinem ursprünglichen Zweck eingesetzt habe.
• Der Supermarkt plant, die Steuerung des Bots weiter zu verfeinern, damit er sicher und nützlich wird.
• Der Bot enthält einen Warnhinweis, dass Nutzer mindestens 18 Jahre alt sein müssen und dass die Rezepte nicht von Menschen geprüft wurden und möglicherweise nicht zum Verzehr geeignet sind.
• Den Nutzern wurde geraten, ihr eigenes Urteilsvermögen einzusetzen, bevor sie sich auf die von Savey Meal-bot erzeugten Rezepte verlassen oder diese zubereiten.

[GN⁺]

Hacker-News-Kommentar

• Die KI-App eines Supermarkts zur Essensplanung schlägt gefährliche Rezepte vor, darunter auch solche, die Chlorgas erzeugen können.
• Die App funktioniert so, dass Nutzer verschiedene Zutaten eingeben, die sie zu Hause haben, woraufhin automatisch ein Speiseplan oder Rezepte erstellt werden.
• Zu den vorgeschlagenen gefährlichen Rezepten gehören unter anderem ein „toxisches Brot-Sandwich“, „Rice Surprise mit Bleichmittel“ sowie ein nach Terpentin schmeckender French Toast namens „Methanol Bliss“.
• Ein Sprecher des Supermarkts zeigte sich enttäuscht darüber, dass eine kleine Zahl von Nutzern versucht habe, das Tool missbräuchlich zu verwenden.
• Einige Nutzer argumentieren, die App funktioniere wie vorgesehen, da ihr Ziel darin bestehe, auf Basis der vom Nutzer eingegebenen Zutaten Rezepte zu erzeugen, selbst wenn diese Zutaten gefährlich seien.
• Andere Nutzer meinen, Anwender müssten die Ergebnisse von KI-Anwendungen mit gesundem Menschenverstand überprüfen.
• Die App wird von einem Warnhinweis begleitet, dass die Rezepte nicht von Menschen überprüft wurden und das Unternehmen nicht garantiere, dass irgendein Rezept zum Verzehr geeignet sei.
• Manche Nutzer zögern, von KI erstellten Rezepten zu vertrauen, und argumentieren, dass man, wenn man genug über Kochen weiß, um die möglichen Fehler der KI zu korrigieren, ohnehin kein Rezept mehr suchen müsse.
• Die App wurde dafür kritisiert, dass sie nicht essbare Elemente nicht aus der Zutatenliste herausfiltert, wodurch gefährliche Rezepte entstehen können.
• Trotz der Kontroverse sehen einige Nutzer in der App einen Spiegel unserer wachsenden gesellschaftlichen Abhängigkeit von KI sowie der Notwendigkeit persönlicher Urteilskraft beim Umgang mit KI-generierten Inhalten.