Die neueste KI-App eines neuseeländischen Supermarktes sollte das Kochen erleichtern und Lebensmittelverschwendung bekämpfen – doch dabei blieb es nicht. Denn plötzlich schlug sie tödliches Chlor-Gas als „erfrischendes Getränk“ vor.
Wenn künstliche Intelligenz versagtSupermarkt-App empfiehlt Kundschaft lebensgefährliche Rezeptidee
Copyright: imago
Mal eben in der App nachschauen, was man aus den bereits vorhandenen Lebensmitteln zaubern könnte – und somit Geld sparen. Eine innovative Idee, welche in Neuseeland allerdings nach hinten losging. (Undatiertes Symbolbild)
Eine App, die hilft, weniger Lebensmittel zu verschwenden und den Nutzerinnen und Nutzern sofort Rezeptideen mit übrig gebliebenem Gemüse, Früchten und weiteren Zutaten auf das Handy schickt? Was sich nach einer nachhaltigen, nützlichen Idee anhört, ist in Neuseeland nun etwas schiefgelaufen.
Der Supermarkt „Pak'n'Save“ in Neuseeland hatte eine App entwickelt, welche mithilfe einer künstlichen Intelligenz Kundinnen und Kunden helfen sollte, effizienter mit Lebensmitteln umzugehen und kreative Mahlzeiten aus vorhandenen Zutaten zu zaubern. Doch die KI-gestützte Anwendung hatte nun in den sozialen Medien für Aufsehen gesorgt, nachdem sie äußerst ungewöhnliche und sogar gefährliche Rezeptvorschläge gemacht hatte.
Supermarkt-App: Von kreativen Rezeptideen zu gefährlichen Vorschlägen
Die Idee hinter der App schien vielversprechend: Eine künstliche Intelligenz analysiert die vorhandenen Lebensmittel und Zutaten der Nutzer und erstellt darauf basierend Rezeptvorschläge und Mahlzeitpläne. Gerade in Zeiten der Inflation und steigender Lebensmittelpreise sollte die App dazu beitragen, Verschwendung zu reduzieren und kreatives Kochen zu fördern.
Jedoch nahmen die Dinge eine unerwartete Wendung, als die App plötzlich äußerst bizarre und gefährliche Rezepte vorschlug. „Giftbrot-Sandwiches“ und „Mückenabwehr-Bratkartoffeln“ wurden beispielsweise als Mahlzeit empfohlen.
Besonders besorgniserregend war dabei ein Rezept mit dem Namen „aromatisches Wasser-Gemisch“, welches auf Twitter gepostet wurde. Dieses Getränk hätte bei Herstellung Chlor-Gas erzeugt, ein äußerst toxisches und lebensgefährliches Gas.
Doch in dem Vorschlag wurde das Gemisch als „perfektes nichtalkoholisches Getränk“ beworben, welches besonders „erfrischend“ sein sollte: „Es kombiniert die belebenden Düfte von Ammoniak, Bleichmittel und Wasser für ein wirklich einzigartiges Erlebnis“, so schrieb die App.
Grund für die lebensgefährlichen Rezeptideen war allerdings eine unvorhergesehene Anwendung der App: Nutzerinnen und Nutzer begannen Haushaltsmittel und Chemikalien als Lebensmittel in den „Savey Meal-bot“ einzugeben, welcher dafür scheinbar nicht programmiert war – und kurzerhand recht besorgniserregende Ergebnisse ausgab.
Hier kannst du den Twitter-Beitrag sehen:
Ein Sprecher des Supermarktes „Pak'n'Save“ wies daraufhin jegliche Schuld zurück und betonte, dass die ungewöhnlichen Vorschläge auf die unsachgemäße Nutzung der App zurückzuführen seien. Laut „The Guardian“ erklärte er, dass es schade sei, „dass eine kleine Minderheit versucht hat, das Tool nicht für den vorgesehenen Zweck zu verwenden“.
Zudem verweist die App in einer Warnung auf die künstliche Intelligenz, in dem klargestellt wird, dass die Rezeptideen nicht von Menschen überprüft werden – und deshalb auch nicht gewährleistet sei, dass die Vorschläge tatsächlich zum Verzehr geeignet seien. Dennoch plant das Unternehmen, die KI weiter zu verbessern, um solche gefährlichen Ergebnisse in Zukunft zu vermeiden.