Компаниите за изкуствен интелект са изправени пред необичаен парадокс: създават технологии, за които сами предупреждават, че могат да крият сериозни рискове. И въпреки това продължават да ги развиват и продават.
Това постоянно противоречие между думи и действия поставя един все по-важен въпрос: дали зад тези предупреждения стои реална загриженост за бъдещето, или страхът се превръща в част от маркетинговата стратегия?
През последните години ставаме свидетели на един и същ сценарий. Компания за изкуствен интелект представя нов модел, който според нея е толкова мощен, че може да създаде сериозни рискове за обществото. След това идва ред на предупрежденията за възможни катастрофални последици, призиви за внимание и понякога се създава усещането, че именно технологичните компании са единствените, които могат да управляват тези рискове.
На пръв поглед това изглежда необичайно. Рядко се случва производител да рекламира собствен продукт, като едновременно с това предупреждава колко опасен може да бъде той.
Но точно това се превръща в характерен модел за индустрията на изкуствения интелект.
„Създадохме нещо изключително мощно – и трябва да внимаваме“
Един от примерите, посочени от критиците, е представянето от Anthropic на модела Claude Mythos, за който компанията заявява, че има значителни способности в областта на киберсигурността и може да бъде потенциално опасен, ако попадне в неподходящи ръце.
Предупреждението е ясно: подобни инструменти могат да имат последствия за икономиката, обществената сигурност и националната безопасност.
Част от наблюдателите реагират с тревога, представяйки сценарии, в които изкуственият интелект скоро може да превърне всяко свързано устройство – от компютри до домашни уреди – в потенциална заплаха.
Редица експерти обаче приемат тези твърдения със сериозни резерви. Някои специалисти посочват, че липсват достатъчно публични доказателства за мащаба на възможностите на подобни модели.
И именно тук възниква големият въпрос: защо технологичните компании толкова често представят собствените си продукти като потенциално опасни?
Страхът като инструмент за влияние?
Според критиците една от причините е проста – страхът работи. Когато една технология бъде представена като нещо почти извън човешкия контрол, обществото започва да гледа на нейните създатели не просто като на бизнес компании, а като на единствените експерти, способни да ни защитят от последствията.
„Ако представяте тези технологии като почти свръхестествено опасни, хората започват да се чувстват безсилни“, коментира Шанън Валор, професор по етика на данните и изкуствения интелект в Университета в Единбург.
Според нея подобна реторика създава усещането, че само самите технологични компании могат да бъдат „пазители“ на технологията, която те самите разработват.
Критиците твърдят още, че фокусът върху далечни сценарии за края на цивилизацията може да отклони вниманието от настоящите проблеми – като високото енергийно потребление на центровете за данни, използването на човешки труд за обучение на модели, грешките на AI системите и влиянието им върху обществото.
Историята вече се е случвала
Това поведение не е ново. През 2019 г. OpenAI представя модела GPT-2, но първоначално отказва да го публикува напълно заради опасения, че може да бъде използван злонамерено. Компанията заявява, че технологията е твърде мощна и трябва да бъде разпространявана внимателно. Само няколко месеца по-късно моделът е пуснат публично.
Днес подобен подход се наблюдава отново. Ръководители на водещи AI компании говорят за екзистенциални рискове, но в същото време активно развиват продуктите си, търсят инвестиции и се конкурират за лидерство на пазара.
През 2023 г. стотици технологични лидери, сред които Сам Алтман, Дарио Амодей, Бил Гейтс и Демис Хасабис, подкрепят изявление, според което намаляването на риска от унищожение чрез AI трябва да бъде глобален приоритет, сравним с пандемии и ядрена заплаха.
Но същевременно компаниите продължават агресивно да развиват своите системи.
Реална ли е опасността?
Това не означава, че рисковете от изкуствения интелект са измислени. AI системите действително могат да бъдат използвани за автоматизирани кибератаки, създаване на измами, разпространение на дезинформация и генериране на убедителни фалшификации. Проблемът е по-скоро в начина, по който тези рискове се представят.
При Claude Mythos например някои експерти поставят въпроси относно липсата на достатъчно публични данни за реалната ефективност на системата. Специалисти по киберсигурност отбелязват, че при подобни инструменти е важно не само колко заплахи откриват, но и колко често дават погрешни сигнали.
Без тази информация е трудно да се оцени реалната стойност на технологията.
Между апокалипсис и утопия
Любопитното е, че хората, които предупреждават за потенциалното унищожение от AI, често са и тези, които говорят и за невероятното бъдеще, което технологията може да създаде.
Изкуственият интелект е представян едновременно като възможна заплаха и като инструмент, който може да реши климатични проблеми, да ускори научни открития и да промени човешкия живот.
Според експерти този сблъсък между утопия и апокалипсис пречи на реалния обществен дебат. Когато една технология бъде представена като почти митична сила, става по-трудно да се говори за конкретни правила, регулации и отговорност.
Но изкуственият интелект не е природно явление. Той е продукт, създаден от хора и компании.
Не демони, не спасители – а технологии, които трябва да управляваме
Историята показва, че обществата винаги са намирали начини да регулират мощни технологии – от ядрената енергия до биотехнологиите. Изкуственият интелект не е извън човешкия контрол.
Истинският въпрос не е дали AI ще се превърне в спасител или заплаха за човечеството. По-важният въпрос е кой взема решенията за развитието му, какви правила се създават и дали обществото има достатъчно участие в този процес.
Защото зад всички големи обещания и страшни предупреждения стоят едни и същи реалности – компании, пазари, интереси и хора. А изкуственият интелект, колкото и впечатляващ да е, все още остава технология, която създаваме и която можем и трябва да управляваме.
Източник: BBC – Thomas Germain, “Why AI companies want you to be afraid of them”
