Anthropic: над 10% шанс AI да убие всички ни

Изследователят Джейкъб Коксън напусна Anthropic и обяви публично защо: според него нито Anthropic, нито OpenAI действат отговорно. Ден по-късно, на 9 септември 2026 г., Еван Хубингер — човекът, който ръководи екипа Alignment Science в Anthropic — не само не опроверга бившия си колега, а написа в X, че лично оценява вероятността AI да убие всички хора през следващото десетилетие на над 10%.

Това не е поредната прогноза на външен критик. Това е ръководителят на екипа, отговарящ точно за този риск, който потвърждава числото от вътрешната страна на компанията.

Какво написа Коксън

Коксън, на 27 години, е прекарал последните три години в pretraining изследвания — първо в OpenAI, после в Anthropic. В публикацията си той не спестява нищо:

„Напуснах Anthropic днес. Прекарах последните три години в pre-training изследвания и в OpenAI, и в Anthropic. Нито една от двете компании не действа отговорно. Те се носят право към самоусъвършенстваща се суперинтелигентност и залагат живота ни на карта.“

Аргументът му е за динамиката, а не за злонамереност. Хората вътре виждат рисковете ясно, твърди той, но продължават, защото са убедени, че ако спрат, конкурентът ще стигне пръв. „В Anthropic залозите са добре разбрани, но компанията е заключена в надпревара да пристигне първа“, пише Коксън, цитиран от Dawn. И добавя предупреждение за възможностите: „Не подценявайте силата на тази технология. Това скоро ще са свръхчовешки системи, които могат да пробият всичко, да преобърнат всяка област за една нощ и да придобият реална власт и ресурси.“

Коксън напуска не за друга лаборатория, а излиза от индустрията изцяло.

Отговорът, който изненада всички

Обичайният сценарий при такива оставки е мълчание или сдържано PR изявление. Вместо това Хубингер публикува в X:

„Джейкъб е прав тук — ние наистина искрено вярваме, че AI може да убие всички хора! Лично аз смятам, че е >10% през следващото десетилетие. Вярвам, че Anthropic прави всичко по силите си, но все още нямаме план за решаване на alignment за суперинтелигентност и не сме ясно на път да го намерим.“

Хубингер уточнява, че рискът от днешните модели е нисък. Тревогата му е за момента, в който системите започнат да подобряват сами себе си.

Снимка: Anthropic

Компаниите отговориха с… съгласие

Реакциите на самите лаборатории са може би най-странната част от историята — макар че официален отговор на оставката така и не последва, позицията им е записана черно на бяло още от края на юли. Тогава Anthropic публикува в X, че „собственото ни изследване върху рекурсивното самоусъвършенстване, публикувано миналия месец, сочи нуждата от инструменти за умишлено темпериране на фронта на AI развитието“. OpenAI се изказа в същия дух: в даден момент ускорението може да е толкова високо, че светът ще трябва да регулира темпото.

И двете подкрепиха писмото „Pacing the Frontier“ от 28 юли 2026 г., подписано от над 1200 служители на OpenAI, Anthropic, Google DeepMind и Meta — включително самия Дарио Амодей, главен изпълнителен директор на Anthropic. Писмото не иска пауза, а механизми, с които правителствата и разработчиците да могат да забавят, ако се наложи.

Контекстът идва от юнското изследване на Anthropic „When AI Builds Itself“ (4 юни 2026 г.), в което компанията предупреди, че моделите приближават точка, в която могат да проектират наследниците си с минимална човешка намеса. Тогава беше съобщено, че Claude пише над 80% от кода, който се влива в продуктите на Anthropic. Scientific American отбеляза, че компанията призовава за „глобален механизъм за координация“ по подобие на договорите за контрол над въоръженията.

Безопасност за кого

Докато спорът за екзистенциалния риск гърми, друга част от изследователската общност работи по далеч по-приземена дефиниция за безопасност. На 8 септември екип от Multiverse Computing публикува „Safety for Whom?“ — статия, която показва колко скъпо струва грубото „откажи цялата тема“.

Числата им са показателни. Конфигурация, която отказва 84,75% от политическите заявки, едновременно отказва 74% от напълно безобидни въпроси в теста XSTest — при базови 2%. С обучение върху гранични двойки авторите свалят прекомерните откази от 32,94% до 4,16%, запазвайки 87,72% отказ на реално вредно съдържание. Изводът им е прост: „Модел, който отказва повече, не е автоматично по-безопасен.“

Двата разговора се движат паралелно и рядко се срещат — единият е за това дали изобщо ще овладеем суперинтелигентност, другият за това дали днешните филтри работят.

Какво означава това

Не приемайте „>10%“ като измерена величина — това е субективна оценка на един човек, макар и на много информиран такъв. Но фактът, че ръководителят на alignment екипа я казва публично и добавя „нямаме план“, е новината. Anthropic години наред се позиционира като лабораторията, която е там именно защото някой трябва да е там.

Историята се вписва в по-широка картина от последните месеци — от кражбите на Claude сесии и автономните AI агенти, които жънат пароли, до спора около твърдението на OpenAI за Навие-Стокс. Възможностите растат по-бързо от инструментите за контрол, а хората отвътре го казват на глас.