Yeni Zelandalı bir süpermarket zinciri olan Pak ‘n’ Save, müşterilerin yemek planları oluşturmasına yardımcı olmak için tasarlanmış yapay zeka destekli bir uygulama tanıttı. Savey Meal-bot adlı uygulama, kullanıcıları evde bulunan ürünleri kullanmaya teşvik ederek neşeli yorumlar eşliğinde yemek önerileri sunmaya başladı.
Ancak müşteriler, uygulamaya daha geniş bir yelpazede ev ürünleri ekledikçe yapay zeka daha endişe verici ve hatta tehlikeli öneriler üretmeye başladı. Örneğin ölümcül klor gazı oluşturacak “aromatik su karışımı” adlı bir tarifi önerdi.
Ayrıca kullanıcılar, çamaşır suyuyla “taze nefes kokteyli” ve “karınca zehri ile yapıştırıcı sandviçler” gibi tehlikeli tarifler keşfetti.
Süpermarket zinciri, uygulamanın kötüye kullanılmasından duyduğu hayal kırıklığını dile getirerek, uygulamanın güvenliğini artırmak için daha da iyileştirileceğini açıkladı.
Potansiyel riskleri azaltmak için uygulamaya bir uyarı mesajı eklendi ve üretilen tariflerin insan gözetiminde olmadığı, tüketilmeye uygun olmayabileceği konusunda kullanıcılar uyarılıyor. Kullanıcıların Savey Meal-bot tarafından üretilen tariflere güvenmeden önce kendi değerlendirmelerini yapmaları tavsiye ediliyor.