Експлозията на AI на технологичната сцена е интересна, но и плашеща в същото време.
Известен компютърен учен от университета в Бъркли, Стюарт Ръсел, предупреждава за ужасни последици, ако развитието на изкуствения интелект (AI) остане без контрол. Ръсел е един от известните учени, които са подписали писмо, което иска мораториум върху пускането на подобрени AI продукти за следващите шест месеца.
Би било трудно за някой да повярва, че ChatGPT е с нас само от няколко месеца. Докато ИИ беше тема на дискусия сред малка група компютърни изследователи, разговорният чатбот се превърна в тема на разговор и в масовите медии. Свързва се с набор от продукти, използвани в ежедневието, от компютърни приложения до здравеопазване.
Гъвкавият инструмент може да има безброй приложения, повишавайки производителността на служителите и улеснявайки живота на много хора. Има обаче и по-тъмна страна, относно страховете от загуба на работа и разпространението на насаждащо омраза съдържание и дезинформация при използването на тези инструменти.
Някои експерти по изкуствен интелект предупредиха, че вредата от технологията далеч надвишава печалбите, които могат да бъдат постигнати, и следователно трябва да спрем нейното развитие.
Чернобил за AI
Ръсел, професор по компютърни науки, се смята за водещ експерт по ИИ и машинно обучение и е съавтор на текста „Изкуствен интелект: Модерен подход“, един от най-авторитетните текстове за ИИ днес.
Говорейки пред Business Today, Ръсел подчертава необходимостта от разумни насоки и мерки за безопасност, за да се гарантира безопасното развитие на технологията. Изследовател в областта от 45 години, Ръсел е наясно, че разработването на насоки за ИИ отнема много време, но все пак го смята за необходимо, ако искаме бъдещите технологии за ИИ да нямат катастрофални последици.
Сравнявайки изграждането на AI технология с изграждането на атомна електроцентрала, Ръсел казва, че точно както трябва да се демонстрира, че атомна електроцентрала може да издържи на земетресение и има въведени механизми за безопасност, разумните насоки също така ще гарантират, че бързо развиващата се AI технология не води до „Чернобил за ИИ“.
Дори с огромния си опит Ръсел не може да предскаже точно как ще изглежда подобно на Чернобил събитие с ИИ, но призовава за повишено внимание при разработването на нови продукти. Професорът от Калифорнийския университет в Бъркли също добавя, че прилагането на здрав разум при разработването на нови системи за изкуствен интелект може да гарантира, че те не заплашват обществото.
На неотдавнашна среща президентът на САЩ, Джо Байдън възложи на технологичните компании тежестта за разработване на безопасни AI продукти, въпреки че предупреди за опасностите от това.
Източник: InterestingEngineering
