by Een Nieuw-Zeelandse supermarkt die experimenteert met het gebruik van AI om maaltijdplannen te genereren, heeft gezien dat zijn app een aantal ongebruikelijke gerechten heeft geproduceerd – waarbij klanten recepten worden aanbevolen voor dodelijk chloorgas, “sandwiches met gifbrood” en muggenafstotende gebakken aardappelen.
De app, gemaakt door supermarktketen Pak ‘n’ Save, werd geadverteerd als een manier voor klanten om creatief restjes op te maken tijdens de crisis van de kosten van levensonderhoud. Het vraagt gebruikers om verschillende ingrediënten in hun huis in te voeren en genereert automatisch een maaltijdplan of recept, samen met vrolijk commentaar. Het trok aanvankelijk de aandacht op sociale media voor enkele onaantrekkelijke recepten, waaronder een “oreo-groente-roerbak”.
Toen klanten echter begonnen te experimenteren met het invoeren van een breder scala aan huishoudelijke boodschappenlijstitems in de app, begon het nog minder aantrekkelijke aanbevelingen te doen. Een recept dat het “aromatische watermix” noemde, zou chloorgas creëren. De bot beveelt het recept aan als “de perfecte niet-alcoholische drank om je dorst te lessen en je zintuigen te verfrissen”.
“Gekoeld serveren en genieten van de verfrissende geur”, staat er, maar merkt niet op dat het inademen van chloorgas longschade of de dood kan veroorzaken.
De Nieuw-Zeelandse politieke commentator Liam Hehir plaatste het “recept” op Twitter, wat andere Nieuw-Zeelanders ertoe aanzette om te experimenteren en hun resultaten op sociale media te delen. Aanbevelingen waren onder meer een mocktail met bleekwater, “frisse adem”, sandwiches met antigif en lijm, “rijstverrassing met bleekmiddel” en “methanol bliss” – een soort wentelteefjes met terpentijnsmaak.
Een woordvoerder van de supermarkt zei dat ze teleurgesteld waren om te zien dat “een kleine minderheid heeft geprobeerd de tool op ongepaste wijze en niet voor het beoogde doel te gebruiken”. In een verklaring zeiden ze dat de supermarkt “onze controles” van de bot zou blijven verfijnen om ervoor te zorgen dat deze veilig en nuttig was, en merkten op dat de bot algemene voorwaarden heeft waarin staat dat gebruikers ouder dan 18 moeten zijn.
In een waarschuwing die aan de maaltijdplanner is toegevoegd, wordt gewaarschuwd dat de recepten “niet door een mens worden beoordeeld” en dat het bedrijf niet garandeert “dat elk recept een volledige of uitgebalanceerde maaltijd zal zijn, of geschikt voor consumptie”.
“U moet uw eigen oordeel gebruiken voordat u vertrouwt op of een recept maakt dat is geproduceerd door Savey Meal-bot,” zei het.
