AI моделите, най-мощният технологичен напредък след атомната бомба, могат да променят хода на историята, казва бивш инженер на Google.
Блейк Лемоан, инженерът на Google, уволнен за нарушаване на политиката за поверителност на компанията, сега изрази загриженост относно рисковете, свързани с управляваните от изкуствен интелект чатботове като Bing AI на Microsoft.
Най-новите модели на ИИ, според него, са най-мощният технологичен напредък след атомната бомба и могат да променят фундаментално хода на историята.
„По същество е невъзможно да проведа същите експерименти върху него, които направих с LaMDA (на Google). Постоянно се спасява е предварително подготвени отговори“, пише Лемоан в туит в сряда, изразявайки загриженост след тестването на чатбота Bing AI на Microsoft.
Лемоан се опасява, че технологията може да бъде използвана за разпространение на невярна информация, политическа пропаганда или унизителна информация за хора с различен расов и религиозен произход.
Google уволни Лемоан през юли 2022 г., когато той заяви, че системата за чат с изкуствен интелект, която компанията разработва, е „чувствителна“ (има чувства).
„Като да предвидиш влакова катастрофа“
Мнозина изразиха загриженост относно възможната чувствителност на AI на Bing, повтаряйки опасенията, които той е изразил миналото лято, казва Лемоан в статия за Newsweek в понеделник.
Той казва, че това опасенията му се потвърждават, не го карат да се чувства по-добре.
„Да предвидите влакова катастрофа, а хората да ви казват, че няма влак, и след това да гледате как се случва влакова катастрофа в реално време, всъщност не води до чувство за реабилитация“, казва Лемоан. „Просто е трагично.“
Преди да бъде пуснат за широката публика, Лемоан отбелязва, че би искал да види, че AI е подложен на много по-задълбочени тестове, за да се анализират рисковете и способността му да манипулира потребителите.
„Чувствам, че тази технология е невероятно експериментална и пускането й в момента е опасно“, казва той. Междувременно технологични магнати като Бил Гейтс са на мнение, което се различава от това на Лемоан.
AI моделите не представляват заплаха – Бил Гейтс
Бил Гейтс, съосновател на Microsoft, описа най-новите модели на AI като „стара технология“ в интервю за Financial Times, публикувано в четвъртък.
Въпреки че базираните на изкуствен интелект чатботове като Bing могат да кажат някои „луди неща“, според Гейтс, това е основно защото потребителите са превърнали провокацията в игра, опитвайки се да намерят начини да подмамят програмирането на модела да направи грешка.
Гейтс заяви, че съществуващите AI модели са „добре и не представляват заплаха“, добавяйки, че „не е очевидно кой трябва да бъде обвиняван, „ако седите там и се стараете да провокирате“.
Междувременно последните коментари на Лемоан и публикация му не са получили опровержение от Microsoft или Google.
Източник: InterestingEngineering
