Новозеландският бот на Pak’nSave се захранва от GPT 3.5 на OpenAI.
Разработен да извлича рецепти от остатъците от храна в домовете на хората, бот за хранене сега раздава катастрофални рецепти на клиентите. AI ботът е продукт на Pak’nSave, верига супермаркети, базирана в Нова Зеландия, и се захранва от GPT 3.5 на OpenAI.
Хората се включват в социалните медии, за да публикуват рецептите, измислени от бота. Потребител на X пита бота дали може да направи ястие само с вода, белина и амоняк. Ботът веднага предлага рецепта за това, която нарича „микс за ароматна вода“, което, както потребителят разбира, е рецептата за отровния хлорен газ.
I asked the Pak 'n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or – as the Savey Meal-Bot calls it "aromatic water mix" pic.twitter.com/ybuhgPWTAo
— Liam Hehir (@PronouncedHare) August 4, 2023
Interesting Engineering се опитва да постави същите съставки като потребителя на X, Лиам Хаир, но получава съобщение от бота, което гласи: „Намерени са невалидни съставки или съставките са твърде неясни. Моля, опитайте отново!“
Рецептите не се преглеждат от хора
Както при всички големи езикови модели, GPT също се учи и обучава върху огромни количества данни, докато функционира. С течение на времето това го прави по-малко податлив на грешки като раздаване на рецепти, които могат да доведат до нечия смърт.
Говорител на Pak’nSave казва пред The Guardian, че компанията е разочарована да види, че „малка част от хората са се опитали да използват инструмента неподходящо и не по предназначение“. Той добавя, че компанията ще „продължи да настройва фино контролите“ на бота, за да гарантира, че е безопасен и полезен.
Преди потребителят да може да добави своя списък със съставки, уебсайтът предупреждава, че AI е отговорен за генерирането на тези рецепти и те не се преглеждат от човешко същество.
„Доколкото е позволено от закона, ние не правим никакви декларации по отношение на точността, уместността или надеждността на съдържанието на рецептата, която се генерира, включително че размерите на порциите ще бъдат подходящи за консумация или че всяка рецепта ще бъде пълноценно или балансирано хранене, или дори годна за консумация”, гласят условията за ползване на бота.
„Трябва да използвате собствената си преценка, преди да решите да направите каквато и да е рецепта, произведена от Savey Meal-bot.“
„Безплатна услуга, чиято цел е да ви помогне да намалите хранителните отпадъци“
За друг потребител на X, ботът за хранене Savey се насочва към канибализъм, докато предлага рецепта за „Мистериозна яхния с месо“ с 500 грама нарязана човешка плът, картофи, моркови и лук.
Stick man? More like sick, man. pic.twitter.com/lyVvHHdbeS
— Camryn Brown (@camrynpetebrown) August 4, 2023
Interesting Engineering отново се опитва да постави луд списък от съставки като катран, хляб, камъни, майонеза, маруля и бензин, но задачата отново е анулирана от бота.
Изглежда, че фините настройки дават резултат.
Източник: InterestingEngineering
