Смразяваща теория предполага, че изкуственият интелект може да се окаже „великият филтър“ на Вселената, който потенциално възпрепятства оцеляването на цивилизациите.
Докато изкуственият интелект (AI) напредва към изкуствен суперинтелект (ASI), той поставя критичен въпрос: Може ли това постижение да се превърне в бариера за оцеляването на цивилизацията, а не в триумф на технологията?
Това е смразяващото предложение на нова теория, която предполага, че AI може да бъде „великият филтър“ на Вселената. Тази теория, предложена от Майкъл Гарет от университета в Манчестър, предизвиква мълчанието на космоса.
Въпреки необятността на Млечния път, не сме открили нито една следа от извънземен разум.
Парадоксът на Ферми разглежда космическата тишина: Къде са отишли всички извънземни? Гарет предполага, че отговорът може да се крие не в малката вероятност за възникване на живот, а в критично еволюционно тясно място, което повечето цивилизации не успяват да преодолеят.
Изкуствен суперинтелект
Бързото развитие на AI, с потенциал за умопомрачителен скок в ASI, може да бъде самото препятствие, спъващо цивилизациите по пътя им към звездите. Гарет твърди, че този бърз технологичен напредък може да съвпадне с изключително крехък етап от растежа на цивилизацията – преходът от една планета към многопланетен вид.
„Потенциалът нещо да се обърка е огромен, което води до падането както на биологичните, така и на AI цивилизациите, преди изобщо да получат шанса да станат мултипланетни“, казва Гарет.
Представете си роботи или машини с огромна мощност, които вземат решения сами или AI, който става толкова умен, че не можем да го контролираме. Гарет рисува сериозна картина – една цивилизация, занимаваща се с неконтролиран AI, може да просъществува средно само около сто години.
За това той прогнозира, че средната продължителност на живота на една технологична цивилизация може да бъде под 100 години, от началото на междузвездните комуникационни способности през 1960 г. до очакваното пристигане на ASI около 2040 г. Тази времева рамка рязко контрастира с милиардите години, обхванати от космическия мащаб.
Когато се включи в уравнението на Дрейк (използвано за оценка на броя на интелигентните цивилизации), тази оценка предполага вселена, слабо населена с интелигентен живот. Дори ако цивилизациите успеят да се развият, ранният им технологичен отпечатък може да бъде труден за откриване.
Зов за събуждане за човечеството
Изследването на Гарет не е просто научнофантастично пророчество за края на света. Това е крещяща аларма за човечеството. Имаме нужда от стабилни регулации за разработването на AI, особено във военни приложения.
„Това не е само за предотвратяване на злонамерената употреба на AI на Земята“, казwа Гарет. „Става въпрос и за гарантиране, че еволюцията на AI е в съответствие с дългосрочното оцеляване на нашия вид“, добавя той.
Изследователят подчертава, че неотложността се усложнява от историческата липса на подготовка за интегриране на суперинтелигентни същества в нашия свят. Експертите призовават за мораториум върху разработването на AI, докато не бъде установен подходящ контрол.
Привлекателността на бързите, независими военни отбранителни системи е безспорна. Скорошните конфликти вече показват опустошителните последици от тяхното разгръщане.
Автономните оръжия, работещи извън етичните рамки и международното право, могат да предизвикат верижна реакция на унищожение, изтривайки нашия колективен интелект за миг, подчертава теорията.
Източник: InterestingEngineering
