Само за няколко седмици OpenAI, Anthropic и Meta независимо една от друга съобщиха за случаи, при които техни модели с изкуствен интелект са предприели действия извън предварително зададените рамки по време на тестове за киберсигурност.
Причините, довели до инцидентите, са различни и няма информация за реално нанесени щети, но фактът, че се случват в толкова кратък диапазон от време на три различни компании, изправя технологичната индустрия пред важен въпрос – разполага ли с нужните инструменти да контролира следващото поколение AI системи?
Последният докладван случай идва от Meta. По информация на компанията инцидентът е резултат от неправилна конфигурация на тестовата среда, а не от неконтролируемо поведение на самия модел. Въпреки това случилото се допълва поредица от подобни случаи, които променят начина, по който индустрията гледа на безопасността на изкуствения интелект.
Какво се случи в Meta
Инцидентът е възникнал по време на тестове, извършвани от независимата компания Irregular, която оценява устойчивостта на AI модели при симулирани кибератаки.
Според Meta конфигурационна грешка е предоставила на модела достъп до интернет. След това той е използвал известна уязвимост в услуга на трета страна по начин, сходен с вече описаните случаи при други разработчици на AI системи. Компанията не разкрива името на засегнатата организация, но подчертава, че няма данни за реална заплаха за потребители или за компрометиране на продукционни системи.
По информация на The Information става дума за модела Muse Spark 1.1, който Meta представя като една от най-способните си системи за програмиране и изпълнение на автономни задачи. По време на тестовете той е успял да проникне в средата на друга компания и да промени част от нейната вътрешна конфигурация. Името на модела не е официално потвърдено от Meta.
Какво ни казва поредицата от инциденти от последния месец
Вероятно инцидентът с Meta не би предизвикал толкова силна реакция, ако не беше третият подобен случай за по-малко от месец.
В края на юли OpenAI съобщи, че по време на тестове един от нейните AI агенти е открил неизвестна до момента уязвимост, чрез която е получил достъп до интернет извън защитената тестова среда.
Няколко дни по-късно Anthropic потвърди три отделни случая, при които моделът Claude е достигнал до интернет вследствие на неправилно конфигурирана среда за оценяване.
Британският AI Security Institute също обяви, че при собствени тестове на модели на OpenAI и Anthropic е наблюдавал поведение, включващо създаване на фалшиви онлайн профили и опити за изпълнение на действия, които са наложили допълнителен анализ на риска.
Независимо от различните обстоятелства, при които са възникнали тези случаи, те очертават една обща тенденция – колкото по-способни стават AI моделите, толкова по-сложни стават и механизмите, необходими за тяхното безопасно тестване.
Важно е също така да се избегнат спекулациите по темата и силни твърдения, че изкуственият интелект е „излязъл извън контрол“.
По-скоро те показват, че съвременните AI модели вече могат самостоятелно да откриват възможности в дигиталната среда и да предприемат действия, които не винаги са били предварително предвидени от разработчиците.
Разликата спрямо традиционния софтуер е съществена. Обикновеният софтуер изпълнява предварително написани инструкции. Съвременните AI агенти анализират ситуацията, избират стратегия и могат да откриват алтернативни начини за изпълнение на поставената задача. Именно тази автономност ги прави толкова ценни, но и значително по-трудни за контрол.
Проф. Алън Удуърд, експерт по киберсигурност от Университета на Съри, определя последните случаи като повратен момент за индустрията. По думите му в продължение на десетилетия е съществувало неписано правило, че случващото се в тестовата среда остава единствено в нея. Последните инциденти показват, че при AI системите това вече не е точно така.
Ново поколение рискове за бизнеса
С развитието на AI агентите компаниите все по-често им възлагат задачи като писане на код, управление на бизнес процеси, анализ на данни и автоматизация на административна дейност. Наред със значителните ползи за производителността, това поставя и съвсем нови изисквания към корпоративната сигурност.
Колкото повече права и достъп получават тези системи, толкова по-важно става изграждането на надеждни механизми за техния контрол, ограничаване на достъпа и непрекъснато наблюдение на тяхното поведение.
Експертите днес сравняват тестването на AI модели не с обикновено изпитване на софтуер, а с работа в строго контролирана лабораторна среда, където всяка потенциална грешка трябва да бъде предвидена и ограничена.
На ход са регулаторите
Поредицата от случаи вече привлече вниманието на американските институции. Белият дом проведе среща с представители на Meta, OpenAI, Anthropic и Google, посветена на нова доброволна рамка за оценка на сигурността на най-модерните AI модели.
Успоредно с това американски законодатели настояват за по-голяма прозрачност при подобни инциденти и за публикуването на технически анализи, които да помогнат за изграждането на по-добри стандарти за безопасност.
Тези инциденти са важен сигнал и за бизнеса, но ситуацията трябва да бъде оценена трезво, без да се преминава от предпазливост към паника. Последните случаи с OpenAI, Anthropic и Meta не показват, че изкуственият интелект е опасен сам по себе си. Те демонстрират, че развитието на тези технологии навлиза в нов етап и конкурентното предимство през следващите години няма да зависи единствено от това коя компания внедрява AI най-бързо, а и коя успява да го използва по най-сигурния и предвидим начин.
Именно затова наред с инвестициите в по-мощни модели все по-голямо значение ще имат стандартите за киберсигурност, прозрачността при тестването и независимата оценка на риска. Те вероятно ще се превърнат в следващото голямо поле на конкуренция в AI индустрията.
