Изкуственият интелект ще промени света. Изкуственият интелект ще донесе „удивителен напредък“. Изкуственият интелект е надценен и балонът е на път да се спука. Изкуственият интелект скоро ще надмине човешките възможности и този „свръхинтелигентен“ изкуствен интелект ще ни убие.
Ако последното твърдение ви е накарало да се замислите, не сте сами. „Кръстникът на изкуствения интелект“, компютърният учен и Нобелов лауреат Джефри Хинтън, казва, че има 10–20% вероятност изкуственият интелект да доведе до изчезване на човечеството през следващите три десетилетия. Тревожна мисъл – но няма консенсус дали и как това може да се случи.
Ето защо The Conversation се допитва до петима експерти: Представлява ли изкуственият интелект екзистенциален риск? Трима от петима отговарят „Не“. Ето техните подробни отговори.
Аарън Дж. Сносуел, старши научен сътрудник по отчетност на изкуствения интелект, Технологичен университет на Куинсланд – Не!
„При настоящото състояние на технологията реалният риск не е, че изкуственият интелект ще стане прекалено умен, а че хората ще вземат лоши решения относно начина, по който създаваме и използваме тези инструменти.
Настоящите системи, макар и впечатляващи, все още са по същество „стохастични папагали“. Те се занимават със сложни сравнения на модели, които симулират интелигентност чрез прогнозиране. И все повече доказателства показват, че тази основа е изненадващо крехка, ненадеждна и несъвместима с разумното мислене, да не говорим за интелигентност.
Настоящият технологичен напредък в генеративния изкуствен интелект е впечатляващ, дори трансформиращ. Тези постижения обаче са постепенни и неустойчиви, а подходът към развитието на изкуствения интелект в тази област е по своята същност ограничен.
Макар че бъдещите технологични парадигми биха могли да променят тази оценка – а такива напредъци са известни с това, че са трудни за предсказване – всички рискове, свързани с изкуствения интелект, в крайна сметка произтичат от човешките решения. Пътят към процъфтяващи общества минава през по-добри човешки лидери, институции и управление.
Вместо да спекулираме за хипотетична суперинтелигентност, която може да унищожи човечеството, трябва да се фокусираме върху рамките за проследяване и отговорното развитие. Екзистенциалните рискове не се крият в кода. Ако изобщо някъде се крият, това е в нашите решения.“
Нюша Шафиабади, доцент по компютърен интелект, Австралийски католически университет – Да!
„Силно вярвам, че изкуственият интелект представлява екзистенциална заплаха. Досега днешните системи разполагат само с т.нар. слаб или тесен ИИ – ограничени възможности за специфични задачи, но не и с интелект на човешко ниво, известен като общ ИИ. Водещите модели обаче бързо придобиват възможности за общо предназначение, което увеличава вероятността от мащабно злоупотребяване. Колкото по-способен става ИИ, толкова повече може да подкопае човешкия контрол над него.
Стотици водещи експерти, обществени личности и изследователи са предупредили, че „намаляването на риска от изчезване поради ИИ“ трябва да бъде глобален приоритет. Проучвания сред изследователи в областта на машинно обучението оценяват средната вероятност за изчезване през този век на около 5%. Това е малък процент, но не е пренебрежим.
Правителствата, които подписаха Декларацията от Блетчли през 2023 г., признаха „катастрофалните“ рискове. Изследователските лаборатории за ИИ в момента проследяват конкретни категории опасности, като злоупотреба с ИИ за мащабни биологични и кибератаки.
Екзистенциална катастрофа, предизвикана от ИИ, не е неизбежна, но мъдростта ни подсказва, че се нуждаем от приложими „червени линии“, които ИИ не може да пресече, както и от строги тестове преди внедряването и независима оценка с разширяването на възможностите. Трябва да действаме сега, преди да е станало твърде късно.“
Сара Вивиан Бентли, научен сътрудник, Отговорни иновации, Data61, CSIRO – Не!
„Освен вече познатите генеративни AI чатботове, бъдещето на AI в по-широк смисъл остава неизвестно. Подобно на други революционни технологии – като ядрената енергия или печатната преса – AI ще промени живота ни. Вече го прави. Днешният пазар на труда е неузнаваем, практиките в образованието са непознати, а вземането на решения – било то в здравеопазването или в армията – често се споделя с машините. Така че от тази гледна точка може би изкуственият интелект представлява екзистенциална заплаха.
Но именно в това се крие проблемът. Говорим за изкуствения интелект, сякаш той е дошъл в живота ни от космоса; начинът, по който тези системи могат да действат автономно, подхранва тази нагласа. Но изкуственият интелект не е създаден в космоса. Кодът в системите за изкуствен интелект е написан от хора, тяхното разработване се финансира от хора, а тяхното регулиране се управлява от хора. Така че, ако има заплаха, тя изглежда е от човека, а не от машината.“
Сейедали Мирджалили, професор по изкуствен интелект, Факултет по бизнес и хотелиерство, Университет Торенс, Австралия – Да!
„По-скоро ме притеснява, че хората ще използват ИИ, за да унищожат цивилизацията, отколкото че ИИ ще го направи самостоятелно, като поеме контрола. Най-ясният път към екзистенциална заплаха е милитаризацията и повсеместното наблюдение. Този риск нараства, ако не успеем да балансираме иновациите с регулации и не изградим достатъчно, глобално прилагани предпазни мерки, за да предпазим системите от лоши хора.
Интегрирането на ИИ в бъдещите оръжия би намалило човешкия контрол и би довело до надпревара във въоръжаването. При неправилно управление, обвързването на ИИ с националната сигурност дори рискува да доведе до световна война, предизвикана от ИИ.
Един от начините да се сведе до минимум екзистенциалният риск, породен от ИИ, е да се категоризират ИИ системите според риска и да се наложат ограничения върху начина, по който се използват в отбраната, с задължителен човешки надзор в контексти с висок риск.
Наред с управлението, трябва да гарантираме, че системите за ИИ представят точно истината за света, без пристрастия, изкривяване на фактите или задоволяване на определени интереси – но само това не е достатъчно. Безопасността зависи и от съгласуването на целите на ИИ с човешките ценности, поддържането на човешки контрол над тези системи и строгото им тестване на всеки етап. По този начин можем да съжителстваме мирно с системите за ИИ.“
Саймън Коглан, старши преподавател по дигитална етика; заместник-директор, Център за изкуствен интелект и дигитална етика, Университет на Мелбърн – Не!
„Няма достатъчно доказателства, че в близко бъдеще ще се появи свръхинтелигентен ИИ, способен да причини глобално опустошение.
Настоящите опасения – и сензационни новини – относно екзистенциалните рискове за човечеството произтичат от напредъка в генеративната изкуствена интелигентност, особено големите езикови модели като ChatGPT, Claude, Gemini и други. Такива изкуствени интелигентности правят базирани на модели прогнози за това какъв текст е вероятно да задоволи конкретна потребителска нужда въз основа на въведената от потребителя команда.
Много експерти считат, че „интелигентността“ на този вид ИИ, макар и впечатляваща по свой начин, е сериозно ограничена. Например, големите езикови модели нямат надеждна способност за логическо, фактическо и концептуално разбиране. Следователно ИИ не може да разбира и да действа като хората.
Не може да се изключи бъдещ технологичен пробив, който да позволи на изкуствения интелект да преодолее тези ограничения. Но не може и да се приема за даденост. Прекаленото наблягане на спекулативните заплахи от свръхинтелигентен изкуствен интелект рискува да ни отклони от реалните вреди на изкуствения интелект днес, като пристрастното автоматизирано вземане на решения, загубата на работни места и нарушаването на авторските права. То може също да отклони вниманието от истинските екзистенциални опасности, като климатичните промени – опасност, към която енергоемкият изкуствен интелект може само да допринесе.“
