Свръхинтелектът може да разсъждава, планира и да се учи от опита си точно както хората.
Човек трябва да живее под скала, за да не види как нашият свят се променя всеки ден с новите технологии за изкуствен интелект (AI). Въпреки че ИИ играе важна роля в намаляването на човешкия труд, има хора, които вярват, че скоростта, с която ИИ напредва, е плашеща.
Вече виждаме как AI бавно си проправя път в различни индустрии и заплашва да замени хората. Аргументът, който се използва срещу изкуствения интелект е, че той може да доведе до забавяне на човешкия ум и спиране на творческото развитие.
Ще се превърне ли AI в патерица, която може да намали човешката способност да мисли и да си представя? Въпреки че това може да звучи правдоподобно, пионерите в индустрията твърдят, че най-голямата заплаха, пред която сме изправени всъщност, е изчезването на хората. Това е повтаряща се тема от известно време.
AI срещу човечеството
Един от първите хора, които биха тревога, Джефри Хинтън напусна уютната си работа в Google, за да говори свободно за рисковете, породени от твърде бързото разработване на AI технология. Месец по-късно, друг пионер на машинното обучение, професор Йошуа Бенгио, казва, че се чувства „изгубен“ от работата на живота си.
И двамата са подписали подобно на обещание изявление от Центъра за безопасност на ИИ с нестопанска цел, който издаде предупреждение, че ИИ може да доведе до изчезването на човешката раса.
Хинтън и Бенгио, заедно с други подписани като Сам Олтман и Бил Гейтс, са съгласни, че се нуждаем от нови технологични пробиви, за да контролираме и управляваме системите с изкуствен интелект, които са много по-умни от нас.
Трябва ли да се тревожим за суперинтелигентността?
Наричан още изкуствен общ интелект (AGI), суперинтелектът е система, която може да разсъждава, планира и да се учи от опита са на същото ниво като хората или евентуално над тях.
Дори OpenAI, който е пионер в авангарден AI, след като предизвика буря миналата година с ChatGPT, вярва, че е много вероятно суперинтелектът да се появи през това десетилетие.
„Случвало се е много пъти преди, видовете да бъдат унищожавани от други, които са били по-умни. Ние, хората, вече сме унищожили значителна част от всички видове на Земята. Това е, което трябва да очаквате да се случи като по-малко интелигентен вид – което е вероятно да станем, като се има предвид скоростта на напредък на изкуствения интелект. Трудното тук е, че видовете, които ще бъдат унищожени, често нямат представа защо или как“, казва Макс Тегмарк, изследовател на ИИ в Масачузетския технологичен институт, в интервю за The Guardian.
The Guardian разговаря с Британи Смит, асоцииран сътрудник в Leverhulme Center for the Future of Intelligence, University of Cambridge, който казва: „Спекулативни опасения за далечното бъдеще, често формулирани в призиви за смекчаване на „екзистенциалния риск“, обикновено са фокусирани върху изчезването на човечеството. Ако смятате, че има дори малък шанс това да се случи, има смисъл да съсредоточите известно внимание и ресурси върху предотвратяването на тази възможност.
Строги разпоредби
На 5-ти юли OpenAI обяви нов проект, наречен Superalignment, който ще включва екип от топ инженери и изследователи в областта на машинното обучение. Те ще наблюдават изравняването на суперинтелигентността с човечеството, за да предотвратят лишаването от власт на човечеството или дори изчезването му.
Всъщност OpenAI дори обяви безвъзмездни средства от $100 000 за всеки, който има добри идеи за това как AI може да бъде управляван, за да помогне за справяне с пристрастия и други фактори.
Не само частните компании осъзнават рисковете. Европейският съюз прие забележителен законопроект за ИИ, който има за цел да наложи стандарти за поверителност, закони за прозрачност и глоби.
В САЩ може да се очакват строги държавни закони за поверителност на данните, създаване на правила на Федералната търговска комисия и нови стандарти за ИИ от Националния институт за стандарти и технологии.
Източник: InterestingEngineering
