Anthropic: учени ползвали Claude за биооръжия и дронове

На 10 септември 2026 г. Anthropic публикува поредния си доклад за злоупотреби с Claude и този път съдържанието е доста по-тежко от обичайното. Компанията описва пет случая, в които действащи учени са използвали моделите ѝ за изследвания, свързани с биологични оръжия, и шест случая на разработка на конвенционални оръжия — включително руски екип, който е строил автономен рой FPV дронове-камикадзе с Claude Code. Всички замесени акаунти са блокирани.

Докладът Countering misuse of AI: September 2026 обхваща активност, засечена между декември 2025 г. и август 2026 г., и е разделен на седем области: кибероперации, влиятелни кампании, наблюдение, измами, биологични злоупотреби, конвенционални оръжия и нерегламентирана дистилация.

Петте биологични случая

Най-коментираната част от документа са биологичните злоупотреби. В случай от май 2026 г. класификатор на Anthropic е блокирал помощ при писане на заявка за финансиране на gain-of-function изследване върху вируса чикунгуня, поискана от потребител, свързан с военен изследователски институт. Целта на проекта е била да се идентифицират мутации, които правят преносимия от комари вирус по-опасен след поредица пасажи през живи животни.

Друг потребител от регион, в който Claude официално не се предлага, е планирал експерименти за адаптиране на птичи грип H5 към бозайници. В трети случай оператор е написал за около час, с помощта на Opus 5, заявка за изследване на имунно избягване при ортопоксвируси — семейството, към което спадат вариолата и mpox. Останалите два случая касаят преработка на пептиди от отрови и токсини, също с държавна подкрепа зад гърба.

Anthropic е много внимателна в изказа си. Замесените са описани като действащи учени и компанията изрично уточнява, че не твърди намерение за вреда, а самоличностите не са разкрити. „Това е изключително нюансирана ситуация“, коментира Джейкъб Клайн, който ръководи екипа по threat intelligence, пред Engadget. При 30-дневна проверка компанията е открила около 35 отделни изследователски усилия, идващи от институции на противникови държави.

Роят дронове и ракетите

Разделът за конвенционални оръжия описва шест случая — три от Китай, два от Русия и един от Йемен.

Руският екип (обозначен GTG-27005) е използвал Claude Code, за да изгради пълен софтуерен стек за автономен рой FPV дронове-камикадзе: споделена памет между машините, терминално насочване, поведение за атака и връщане към базата, дори логика на ниско ниво за чиповете. Визуалните класификатори са обучавани върху кадри от бойни действия в Украйна, а бордовият модел е можел сам да избира цели — включително клас „човек“ — и да подаде команда за детонация без човек в веригата.

Йеменската клетка (GTG-87001) е работила по системи за насочване и навигация на управляема ракета, многостепенна балистична ракета с заявена цел за обхват над 2000 км и вариант с хиперзвуков планиращ апарат. Полевият тест според доклада се е провалил.

Китайският случай GTG-17002 обхваща около 16 модула за електронна война и потискане на противовъздушната отбрана. По средата на проекта сценарият по подразбиране в симулацията се е сменил на 12 цели в Тайван, сред които команден бункер, радар за ранно предупреждение и батареи Patriot и Tien Kung. Anthropic свързва потребителя с китайски изследователски институции, включително Академията за военни науки на НОАК. Отделен китайски производител на отбранителна техника е ползвал Claude, за да напише спецификации за противоторпедна система за управление на огъня.

Кибероперациите остават най-мащабната част

Снимка: Anthropic

Както отбелязва The Register, по обем кибернетичната секция е най-голямата. Руската група GTG-20006 (позната и като Midnight Blizzard или APT29) е автоматизирала цялата верига на атаката срещу над 20 организации — украински и европейски държавни структури, доставчици за отбраната и производители на дронове. Финансово мотивираната ShinyHunters е мащабирала кражбите на данни до пробив, засегнал 200 клиентски организации на един SaaS доставчик, с над 2100 комплекта Azure AD токени; в един случай пътят от откраднат токен до пълен облачен админ достъп е отнел около три часа. Ако следите темата, писахме и за кражбите на Claude сесии чрез infostealer малуер.

Едно техническо уточнение, което лесно се пропуска: почти всички описани злоупотреби са с Claude Haiku, Sonnet и Opus. По-новите и по-способни модели от семейството Fable не фигурират в случаите, с едно изключение в раздела за дистилация.

Какво следва

Реакцията на Anthropic е стандартната: блокирани акаунти, подсилени предпазни механизми и споделяне на индикаторите с публични и частни партньори. Въпросът, който остава отворен, е доколко тези опити изобщо са били полезни на извършителите. Дони Блумфийлд, преподавател по право във Fordham, предупреждава, че не е ясно колко биха могли да свършат моделите в достъпния им вид — но че точно затова трябва да сме внимателни как регулираме предпазните механизми, докато моделите стават значително по-добри.

Това е и по-широкият контекст: докладът излиза дни след като изследовател напусна Anthropic с оценка над 10% за екзистенциален риск. Компанията очевидно печели повече от прозрачността си, отколкото губи — но всеки следващ такъв доклад описва малко по-сериозни опити от предишния.