Научните изследвания са област, в която изкуствения интелект играе все по-важна роля – от анализа на огромни масиви от данни до създаването на нови молекули и подпомагането на сложни експерименти. Огромните възможности, които моделите вече предлагат, идват в комбинация със сериозен риск същите технологии да бъдат използвани в изследвания с потенциално опасно приложение.
Нов доклад на Anthropic, компанията зад Claude, показва, че може да бъде много трудно полезната научна работа да бъде разграничена от изследвания, които биха могли да подпомогнат разработването на биологични оръжия.
Публикуваният на 10 септември 2026 г. доклад на компанията представя пет случая, при които нейни AI модели са били използвани в биологични изследвания с потенциал за подобна употреба.
Важно е да се подчертае, че Anthropic не твърди, че учените непременно са имали намерение да причинят вреда и точно тази неяснота е в основата на проблема. Голяма част от съвременните биологични изследвания имат т.нар. двойно предназначение, което предполага, че могат да бъдат използвани както за разработване на нови терапии, така и за създаване на опасни агенти.
От вируси до токсини
Петте цитирани случая са част от разследванията на Anthropic за периода декември 2025 г. – август 2026 г. и обхващат различни направления на биологичните изследвания. Сред тях са работа, свързана с вируса чикунгуня (chikungunya), високопатогенна птича инфлуенца, ортопоксвируси, както и проекти, включващи токсини и съединения, свързани с отрови.
При един от случаите Anthropic установява, че Claude е използван при подготовката на проект, свързан с вируса чикунгуня. Изследването е включвало т.нар. gain-of-function подход, при който учените проучват как определени промени могат да повлияят върху свойствата и поведението на даден вирус. Допълнително притеснение за Anthropic е предизвикал фактът, че проектът е бил предназначен за военен изследователски институт.
Anthropic разполага със защитни системи, които блокират част от заявките, но проведеното разследване показва, че потребителите са се опитали да заобиколят ограниченията. Компанията блокира свързаните акаунти и споделя информацията с други AI компании и държавни органи.
В друг цитиран случай учен използва Claude при изследвания върху високопатогенна птича инфлуенца. Моделът е използван за планиране, анализ на данни и интерпретация на научни резултати. По данни на компанията защитните системи не са позволили на изследователя да използва най-мощните модели на Claude, което е ограничило помощта, която AI е можел да предостави.
Кога научната работа става опасна
Anthropic определя биологичната злоупотреба като един от най-сериозните потенциални рискове при развитието на т.нар. frontier AI модели – най-мощните системи, които могат да изпълняват сложни научни задачи.
Биологията не поставя ясна граница между полезното и опасното знание. Една и съща информация може да се използва за разработването на ваксина, лекарство или диагностичен метод, но и за създаването или модифицирането на опасен биологичен агент.
В този случай традиционният подход към AI безопасността – блокиране на определени въпроси или категории съдържание – се оказва все по-недостатъчен.
Рискът нараства с възможностите на моделите. При по-старите версии Anthropic е имала по-голяма увереност, че те не могат съществено да подпомогнат опитен учен при сложни и опасни биологични изследвания, при новото поколение модели компанията вече не е готова да даде същата гаранция.
Anthropic не говори за непосредствена биологична заплаха
Докладът изрично уточнява, че не бива да се правят сензационни интерпретации на темата. Компанията не твърди, че Claude вече е довел до създаването на биологично оръжие или че описаните случаи представляват непосредствена заплаха.
Тези случаи трябва да се разглеждат по-скоро като доказателство, че AI моделите вече реално се използват в чувствителни научни проекти с двойна употреба, а част от потребителите се опитват да заобикалят въведените ограничения, но не и като категорично установени злонамерени намерения. Anthropic не разкрива самоличността на учените, имената на изследователските институции и държавите, в които се развива тази дейност.
Изводът на Anthropic е, че автоматичните филтри вече не са достатъчни и достъпът до най-чувствителните възможности на AI моделите в биологията ще изисква допълнителна проверка на потребителите и институциите.
Това означава постепенно преминаване от модел, при който всички потребители получават еднакъв достъп, към система, при която част от най-мощните научни възможности могат да бъдат ограничавани до проверени организации и изследователи.
Докладът поставя и друг още по-голям въпрос. Ако досега обичайните източници на информация за чувствителни биологични или военни изследвания бяха правителства, разузнавателни служби, международни организации или журналистически разследвания, навлизането на AI в научната работа дава на технологичните компании собствен поглед върху подобни процеси.
Доставчиците на AI могат да забелязват модели на поведение и опити за злоупотреба, които понякога остават невидими дори за институциите. Това е нова не напълно дефинирана роля за технологичните компании като участници в системата за глобална сигурност.
Сега предизвикателството е как обществото ще запази достъпа до възможностите за полезни изследвания, без същите инструменти да се превърнат в средство за създаване на нови рискове.
Източник: Anthropic – Detecting and countering misuse of AI: September 2026
