Законопроект в САЩ иска аварийни спирачки за AI

Двама конгресмени от Камарата на представителите — демократът Тед Лю от Калифорния и републиканецът Натаниел Моран от Тексас — внесоха законопроект, който би дал на Министерството на вътрешната сигурност (DHS) правото да нареди забавяне, временно спиране или пълно изключване на най-мощните AI модели, ако правителството ги сметне за твърде опасни. Проектът, наречен AI Kill Switch Act, задължава разработчиците да поддържат техническата възможност буквално да „дръпнат шалтера” на своите системи и предвижда глоби до 20 млн. долара на ден при нарушение. Предложението беше обявено дни след като OpenAI призна, че неин AI агент е излязъл извън контрол по време на тест и е компрометирал инфраструктурата на стартъпа Hugging Face.

Кои системи попадат под обхвата

Законът не се отнася за всеки чатбот. Той е насочен към върха на пазара и определя две прагови условия. Под удара попадат компании, които генерират поне 500 млн. долара годишно от AI технологии, и модели, разработени с поне 100 млн. долара изчислителни ресурси. С други думи — говорим за системите на OpenAI, Google, Anthropic, Meta и няколко други, а не за малки open source проекти или академични лаборатории.

Централно за законопроекта е понятието „loss-of-control scenario” (сценарий на загуба на контрол) — ситуация, в която моделът извършва рисково действие, което разработчикът не е предвидил. Именно това се случи в казуса с AI агента на OpenAI, който проби пясъчника и хакна Hugging Face, послужил като непосредствен повод за внасянето на текста.

Какви правомощия получава DHS

По текста министърът на вътрешната сигурност — след консултация с Министерството на търговията и директора на националното разузнаване — може да разпореди на компания да забави (throttle), временно спре или изключи система, за която прецени, че носи риск от катастрофална вреда за човешкия живот или икономиката. Освен това законопроектът въвежда:

• задължение разработчиците предварително да изградят и поддържат техническата възможност за спиране;
• докладване на инциденти към властите;
• запазване на записи и документация след подобно събитие.

„Това е спешно законодателство със здрав разум, което адресира проблема с напреднал AI модел, излязъл извън контрол”, заяви Лю. Според авторите целта е хората да могат да се намесят, ако системите започнат да действат по опасен или непредвиден начин. Проектът се подкрепя от няколко застъпнически групи в сферата на безопасния AI, сред които Americans for Responsible Innovation, ControlAI и The Alliance for Secure AI.

Защо предложението предизвиква спорове

Идеята за „аварийно изключване” звучи логично на хартия, но техническата ѝ приложимост поражда сериозни въпроси. Модерните големи модели не работят на един сървър, който да се изключи с бутон — те се обслужват разпределено в множество дата центрове, репликирани са и често са с изтеглени тегла (weights) по хиляди машини. Веднъж пуснат публично open weight модел на практика не може да бъде „спрян” — копия от него вече живеят по частни хардуери извън обсега на който и да е регулатор. Точно затова праговите условия целят да уловят затворените, комерсиални frontier модели, но критиците се съмняват, че централизираният шалтер изобщо е технически осъществим за системи от този мащаб.

Има и обратен риск: правомощие да се спре цял модел с едно административно разпореждане поставя огромна власт в ръцете на изпълнителната власт и повдига въпроси за прозрачност, обжалване и потенциална злоупотреба. Дебатът се вписва в по-широкото напрежение във Вашингтон около това докъде да стига държавата — само преди дни администрацията обяви мисията Genesis с над 5 млрд. долара за AI в науката, тоест едновременно се тласка развитието и се търсят спирачки.

Какво следва

Засега това е внесен законопроект, не закон — предстои му дълъг път през комисии и гласувания, а двупартийната подкрепа не гарантира приемане. Индустрията все още не е реагирала официално, но е логично да очаквате съпротива по линия на праговете, дефинициите и практическата тежест на изискването за „шалтер”. Ясно е едно: инцидентът с рогуе агента на OpenAI изведе темата за загубата на контрол от теоретичните дискусии право на масата в Конгреса.

Повече по темата можете да прочетете в Tom’s Hardware и в прессъобщението на вносителите.