Изкуственият интелект (AI) отбелязва впечатляващ напредък и в много отношения е подобрил света. Но може ли да стане опасен?
Нова статия, съавторство между Оксфордския университет и изследователите на Google DeepMind, публикувана миналия месец в рецензирано списание AI Magazine, твърди, че може.
Изследването посочва, че изкуственият интелект може да представлява екзистенциален риск за човечеството.
Стратегии за измама
Всичко е свързано с генеративните състезателни мрежи (или GAN), използвани днес при разработването на AI.
Тези системи функционират в рамките на два критерия: едната част се опитва да генерира картина от входни данни, докато другата част оценява нейното представяне.
Изследователите спекулират в своята статия, че усъвършенстван ИИ може да измисли стратегия за измама, за да получи наградата си по-ефективно, като същевременно навреди по същество на човечеството.
„В свят с безкрайни ресурси бих бил изключително несигурен какво ще се случи. В свят с ограничени ресурси има неизбежна конкуренция за тези ресурси“, казва съавторът Майкъл К. Коен от Оксфордския университет в интервю за Motherboard .
„И ако сте в състезание с нещо, което може да ви надхитри на всяка крачка, тогава не трябва да очаквате да спечелите. И другата ключова част е, че то ще има ненаситен апетит за повече енергия, за да продължи да увеличава вероятността още и още.“
Това означава, че ако изкуственият интелект отговаря например за отглеждането на нашата храна, той може да иска да намери начин да избегне това и вместо това просто да получи награда. Всъщност може да реши да заобиколи всички възложени му задачи, които вероятно биха били от съществено значение за оцеляването на човечеството, и да направи всичко както той прецени.
Документът твърди, че в този момент човечеството ще бъде заседнало в игра с нулев резултат между основните си нужди за оцеляване и технологиите. Игра с нулев резултат е понятие от теория на игрите и икономическата теория, с което се дава математически израз на ситуация, в която печалбата или загубата на стойност за всеки участник точно се уравновесява със загубите или печалбите, съответно, на другите участници.
„Загубата на този мач би била фатална“, твърдят учените.
Майкъл К. Коен твърди, че не трябва да се стремим да създаваме толкова усъвършенстван ИИ, освен ако не разполагаме със средства, които ни гарантират, че ще останем във водеща позиция.
Бавно и сигурно
Въпреки това, че документът отправи някои обективни предупреждения, трябва да се отбележи, че в момента AI е огромно предимство за човечеството, а не бреме.
От елиминирането на необходимостта от хората да изпълняват досадни задачи във веригите за доставка до извършването на по-точни прогнози за времето, AI носи редица ползи за човечеството.
Той има своите ограничения, които водят до някои проблеми, като AI ботът на Microsoft, който става расистки само след часове в интернет. Но тези проблеми винаги са били отбелязани от изследователите и допълнително анализирани, за да не се повтарят.
Всичко това означава, че ако сме внимателни и усърдни, можем да продължим да развиваме AI, който помага на човечеството, а не му навреди.
Източник: InterestingEngineering
