Могат ли системите с изкуствен интелект, които създаваме, да станат толкова мощни, че да изгубим контрола над тях? Това е въпросът, около който се движи развитието на изкуствения интелект от години. Сега обаче един нов законопроект в САЩ решава да постави далеч по-неудобния въпрос: има ли технология, която изобщо не трябва да бъде създавана?
Преди дни конгресменът Грег Касар и американският сенатор Бърни Сандърс внесоха Ban Artificial Superintelligence Act – предложение, което предвижда постоянна забрана за разработването и внедряването на изкуствен свръхинтелект. Законопроектът предвижда и временно спиране на развитието на най-мощните AI системи, докато не бъде изградена нова федерална рамка за контрол и безопасност.
Ако бъде приет, той би въвел един от най-строгите режими за развитие на изкуствен интелект, предлагани до момента в САЩ.
Какво предлага законопроектът?
Изкуствен свръхинтелект (Artificial Superintelligence, ASI) е хипотетичен тип изкуствен интелект, чиито способности значително превъзхождат човешките в практически всички важни интелектуални области – разсъждение, планиране, научни открития, решаване на сложни проблеми, създаване на технологии и вземане на решения.
Според текста на внесения документ подобна система би могла да притежава достатъчно способности, за да застраши човечеството или да го лиши от контрол върху собственото му бъдеще. Поради тази причина законопроектът предлага разработването и внедряването на подобни системи да бъде забранено.
Важно е да се уточни, че изкуствен свръхинтелект в този смисъл в момента не съществува като доказано разработена технология, но предложението не спира дотук.
Предвижда се и временна пауза върху развитието на определени напреднали AI системи, докато не бъде създаден федерален регулатор и не бъдат въведени ясни правила за тяхното тестване, оценка и безопасно използване.
Според законопроекта за „напреднали“ се смятат системите, обучавани с изчислителен ресурс от поне 10²⁵ целочислени операции или операции с плаваща запетая. Това е измерител на изчислителния мащаб на обучението, а не директна мярка за интелигентността или автономността на даден модел.
Този праг се предвижда да бъде актуализиран с развитието на технологиите и подобряването на ефективността на обучението.
Ново Министерство на изкуствения интелект
Една от най-мащабните идеи в предложението е създаването на нов федерален Department of Artificial Intelligence – Министерство на изкуствения интелект на ниво кабинет.
Задачата на новата структура ще е да наблюдава развитието на най-напредналите AI системи и да следи за появата на способности, определяни като опасни.
Под определението „опасни“ попадат възможности като заобикаляне на команди за изключване, извършване на неоторизирани кибератаки и развитие на способности, които могат да се превърнат в стъпка към създаването на свръхинтелект.
След като бъдат разработени необходимите правила за безопасност, компаниите ще могат да създават и предлагат подобни напреднали AI системи само след получаване на разрешение от новия федерален регулатор.
24 часа за сигнал и незабавна реакция
В законопроекта са предвидени и конкретни срокове при установяване на потенциално опасни способности. Разработчиците разполагат с 24 часа, за да уведомят регулатора, ако имат основания да смятат, че дадена система е достигнала характеристиките на изкуствен свръхинтелект или показва определени предшестващи опасни способности.
Ако дадена система бъде определена като изкуствен свръхинтелект, тя трябва да бъде направена неработоспособна незабавно. При системи, които проявяват определени предшестващи опасни характеристики, законопроектът предвижда отделна процедура, включително срок до 30 дни за извеждането им от експлоатация, ако регулаторът не може да потвърди, че тези способности са премахнати. Регулаторът получава широки правомощия за контрол върху процеса.
При неспазване на изискванията са предвидени и редица нелеки санкции. Например при определени умишлени или безразсъдни нарушения физически лица могат да бъдат наказвани с до 20 години лишаване от свобода.
За компаниите са предвидени още по-необичайни санкции. В официалното представяне на законопроекта се използва дори понятието „корпоративно смъртно наказание“ – отнемане на правото на компанията да продължи дейността си в съответната форма, както и възможност при определени обстоятелства да бъдат конфискувани интелектуална собственост и други активи.
Това превръща предложението в значително по-строга рамка от традиционния подход, при който технологичните компании са изправени основно пред финансови санкции.
Забрана, която не може да остане само американска
Важна част от предложението на Сандърс и Касар е необходимостта САЩ да търсят и международни споразумения за ограничаване на разработването на изкуствен свръхинтелект извън страната.
Причината е очевидна – ограничаването само на американските компании не би предотвратило създаването на подобна технология в друга държава.
Тук опасенията за безопасността се сблъскват с един от най-важните икономически и геополитически въпроси на следващите години – кой ще контролира развитието на най-мощните AI системи и как ограниченията върху тях ще се отразят на технологичната конкурентоспособност.
Предложението идва на фона на огромните инвестиции от страна на САЩ и Китай в развитието на изкуствения интелект. САЩ предложиха и създаването на двустранен механизъм с Китай за уведомяване при AI инциденти, които могат да засегнат националната сигурност.
На този етап това е само предложение, което може никога да не бъде прието в настоящия му вид. В Конгреса липсва широко съгласие дори по значително по-ограничени правила за изкуствения интелект.
То обаче измества досегашния дебат около AI регулацията от въпроса как трябва да бъдат разработвани и използвани най-мощните системи към въпроса дали определено ниво на изкуствения интелект трябва да бъде не просто регулирано, а изцяло забранено.
Трябва ли предварително да определим границата на технологичния прогрес и кой изобщо има правото да решава къде се намира тя?
Източници: U.S. Senator Bernie Sanders – Ban Artificial Superintelligence Act; Associated Press; Reuters
