В момента отвореното писмо има над хиляда подписани, включително главния изпълнителен директор на Stability AI Emad Mostaque, Стив Возняк, професор Маркъс от Нюйоркския университет и Илон Мъск.
Съвместно писмо, подписано от над хиляда влиятелни хора, призоваващо за блокиране на целия изкуствен интелект (AI), по-мощен от GPT-4, беше публикувано в сряда. Над 1000 влиятелни хора твърдят, че са поискали незабавно спиране на разработването на AI системи, по-мощни от GPT-4, с минимум 6-месечен „мораториум“, според писмото.
„Призоваваме всички лаборатории за изкуствен интелект незабавно да спрат за поне шест месеца обучението на системи за изкуствен интелект, по-мощни от GPT-4. Тази пауза трябва да бъде публична и проверима и да включва всички ключови участници“, гласи писмото. „Ако такава пауза не може да бъде въведена бързо, правителствата трябва да се намесят и да наложат мораториум.“
Според отвореното писмо многобройни изследвания показват, че AI системите с конкурентен човешки интелект, одобрени от водещи институти за AI, могат да представляват сериозни опасности за обществото и хората.
Писмото получи 1377 подписа, откакто е публикувано във Future of Life (FLI), организация с нестопанска цел, която работи за намаляване на глобалните катастрофални и екзистенциални рискове, пред които е изправено човечеството, особено екзистенциалния риск от напреднал AI.
„Важно: @elonmusk, Y. Bengio, S. Russell, @tegmark, V. Kraknova, P. Maes, @Grady_Booch, @AndrewYang, @tristanharris и над 1000 други, включително аз , призоваха за временна пауза на системите за обучение, надвишаващи GPT-4“, написа в Туитър в сряда Гари Маркъс, учен и водещ глас в ИИ.
Притеснения относно разширяването на способностите на AI
Възможностите на AI системите се разширяват бързо, тъй като има повече данни и изчислителна мощност.
Големите модели растат, започвайки да превъзхождат хората в много области. Какво означава това за нашите общества, не може да бъде предвидено от една фирма, пише в писмото.
„Помислете за това: можете да използвате AI модел, предназначен да открива нови лекарства, за да създавате патогени“, пише FIL в Twitter, обявявайки писмото. „Този модел незабавно ще генерира над 40 000 патогени – включително VX, най-смъртоносното нервнопаралитично вещество някога – за приблизително шест часа.“
Институтът се позовава на международна конференция по сигурността, която разглежда потенциалната експлоатация на AI технологии за откриване на лекарства за създаване на биологични оръжия от нулата. С AI човечеството може да очаква проспериращо бъдеще.
Сега може да преживеем „AI лято“, в което да извлечем ползите, да проектираме тези системи за очевидното предимство на всички и да дадем време на обществото да се адаптира след успешното разработване на стабилни AI системи, се отбелязва в писмото.
Източник: InterestingEngineering
