Anthropic: спиране при 50 жертви или 1 млрд. долара

Anthropic тихо е предложила на законодатели в Капитолия собствен проектозакон за безопасност на граничните AI модели. Текстът, за който първо съобщи Politico, а на 20 октомври го преразказа и TechCrunch, допуска държавата да блокира пускането на модел само в един много тесен случай: когато рискът е предвидим и непосредствен и когато става дума за над 50 загинали или сериозно ранени, или за щети над 1 млрд. долара.

Трите сценария

Проектът не покрива всякакви вреди. Той ограничава „квалифициращия риск“ до три хипотези:

• създаване или разпространение на биологично оръжие;
• загуба на контрол, при която разработчикът вече не може да управлява модела или негови автономни агенти;
• кибератаки, извършени или съществено подпомогнати от модела.

Всичко останало — дезинформация, дискриминация, вреди за потребители, авторско право — остава извън обхвата на този конкретен механизъм.

Кой може да дръпне шалтера

Най-интересната част е процедурата. Независими оценители се регистрират в Министерството на търговията (Department of Commerce) и периодично проверяват граничните разработчици и моделите им. Лабораториите могат да плащат за тези оценки, но при условие че възнаграждението не зависи от резултата.

Ако проверка установи непосредствена заплаха от описаните три типа, оценителят има 72 часа да уведоми министерството. Оттам нататък — и това е ключовото — самото министерство не може да спре модела. То трябва да подаде искане до федерален съдия от Окръжния съд за окръг Колумбия, който единствен може да наложи спиране. Другите федерални агенции на практика губят възможност да блокират разпространението самостоятелно.

Проектът съдържа и преимущество над част от щатските правила — за публично разкриване на рискове, независими оценки и докладване на критични инциденти. Праговете пък повтарят тези от калифорнийския Senate Bill 53.

Какво казва Anthropic

Компанията не отрича авторството. „Този законопроект представя предложенията, очертани в Advanced AI Framework на Anthropic, за които се застъпваме пред федерални и щатски законодатели от юни“, заявиха от фирмата. Говорител добавя кратко: „Това са разумни политики, по които смятаме, че Конгресът трябва да действа.“

Рамката не е само на хартия. На 15 октомври Anthropic обяви, че дава достъп на ниво служител на екип от шест души от METR — организацията получава хардуер, работно място и вътрешни системи, а публикациите ѝ компанията не може да ветира, само да изиска заличаване на определени конфиденциални категории. Въведени са три нива на достъп, като METR е на най-високото. По части за химически и биологични рискове работи SecureBio, а разговори има и с Hugging Face. Сравнението, което Anthropic прави сама, е с банковия надзор.

Критиките: прагът е твърде висок

Основното възражение е очевидно и го повдига и HiComm: ако трябва да се чака перспектива за десетки жертви или милиарди щети, намесата идва твърде късно, а и прогнозирането на такива последствия на ранен етап е почти невъзможно.

За мащаб: при рансъмуер кампании като тази, в която SafePay удари над 600 организации, сметката за отделна жертва рядко стига милиард. Прагът е писан за катастрофи, не за всекидневните щети.

Проектът на Anthropic не е единственият на масата. В Конгреса вече се движат FRONTIER Act на представителите Трахан и Обернолти, както и законопроект от лидера на мнозинството в Сената Джон Тюн. Законодатели като Мария Кантуел и Грег Казар настояват за по-строг федерален преглед или дори за пауза в разработката. От другата страна Демис Хасабис от DeepMind по-рано предложи саморегулиращ се орган по модела на финансовия регулатор FINRA.

Защо точно сега

Контекстът е свеж. На 13 октомври Anthropic предупреди, че малки модели може да са на месеци от способността да се копират сами върху евтини устройства — red team екипът ѝ е пуснал Gemma4-26B-A4B върху мрежа от 15 безименни Android TV кутии. „Такъв репликатор би бил труден за спиране, тъй като няма централна точка за изключване“, пише компанията, макар да уточнява, че напълно автономен самокопиращ се AI още не съществува.

Точно това е „загубата на контрол“ от законопроекта. А темпото на напредъка — видимо и по benchmark резултати като тези на GPT-6.1 Sol при миграция на COBOL — обяснява защо лабораториите бързат да напишат правилата, преди някой друг да го направи вместо тях.

Заключение

Предложението е едновременно отстъпка и застраховка. Anthropic приема идеята държавата да може да спре модел — нещо, което повечето ѝ конкуренти не биха подписали — но го прави при прагове, които почти никога няма да бъдат достигнати, с процедура през един единствен съд и с изместване на част от щатските изисквания. Дали Конгресът ще приеме тази размяна, ще се види по това кой от трите-четири конкуриращи се текста ще стигне до гласуване.

Източници: TechCrunch, Tom’s Hardware, Interesting Engineering, CNBC.