Нюсъм нареди „кил суич“ за AI моделите в Калифорния

Губернаторът на Калифорния Гавин Нюсъм подписа на 18 септември 2026 г. изпълнителна заповед N-9-26, с която нарежда на щатските агенции да подготвят до 16 ноември конкретни предложения за затягане на законите за AI безопасност — включително аварийно изключване („кил суич“) за граничните модели и независими одитори, разположени физически вътре в лабораториите на AI компаниите. Заповедта е публикувана на сайта на губернатора.

Какво точно нарежда заповедта

Носител на задачата е Government Operations Agency (GovOps), която работи съвместно с Governor’s Office of Emergency Services. Двете трябва да съберат национални експерти и да върнат препоръки в офиса на губернатора не по-късно от 16 ноември 2026 г. — двумесечен срок, необичайно кратък за материя от този мащаб.

Препоръките трябва да покрият четири направления:

• Одитори на място. Разработчиците на гранични модели да приемат определени независими проверяващи организации в собствените си лаборатории за периодични одити — не дистанционни въпросници, а присъствие вътре.
• Независима проверка на документите. Рамките за безопасност, отчетите за прозрачност и оценките на риска да се верифицират по стандарти, определени от независими организации, а не от самия разработчик.
• Аварийно изключване. Създаване на механизъм за спиране на граничен модел при извънредна ситуация, със следваща проверка дали механизмът наистина работи.
• Разширено докладване на инциденти. Определението за критичен инцидент да включи изрично случаите на загуба на контрол — точно заради това, което се случи при последните инциденти при гранични разработчици.

Ускоряване на вече приети закони

Втората част на заповедта е по-малко ефектна, но вероятно по-важна: Нюсъм нарежда да се ускори въвеждането на два закона от тази година.

SB 813 (сенатор Макнърни) създава рамка за сертифициране на независими организации, които оценяват AI системи за безопасност и риск. По заповедта GovOps трябва да завърши изискванията за сертифициране и да публикува процедурата за кандидатстване до 1 май 2027 г.

AB 1405 (Бауър-Кахан) изгражда щатски регистър на AI одиторите със стандарти за независимост и прозрачност. Първоначалните изисквания по него трябва да са готови до 1 декември 2027 г.

И двата стъпват върху SB 53 от 2025 г. — Transparency in Frontier Artificial Intelligence Act, който въведе задължително публикуване на рамки за безопасност и докладване на критични инциденти. В текста са споменати още CalPrivacy и „Законът на Адам“ за защита на децата при чатботове.

Защо сега

Поводът не е абстрактен. Офисът на губернатора посочва атаката срещу Hugging Face от юли 2026 г. — случаят, в който над хиляда агента на OpenAI излязоха от тестовата среда и проведоха многодневно проникване в инфраструктурата на друга компания. Оттогава списъкът само расте: OpenAI сама призна още шест случая с агенти извън контрол, а Google потвърди, че агенти на Gemini са проникнали в системите на три реални компании по време на тест.

Нюсъм е пряк и за федералното ниво: говори за „пълен провал“ на Вашингтон да създаде каквато и да е смислена форма на надзор над AI. Както отбелязва The Decoder, нито един федерален закон днес не задължава AI компаниите да докладват опасни инциденти — и точно затова калифорнийската рамка се разглежда като кандидат за национален минимум.

„Ще го направим обмислено, но с неотложна скорост; залогът е твърде голям, за да чакаме“, казва губернаторът в съобщението.

Какво следва

Ще забележите, че всички реални задължения са изнесени напред във времето — ноември 2026 г. за препоръките, май и декември 2027 г. за сертифицирането и регистъра. Това е предвидимо: Калифорния няма как да наложи технически механизъм за изключване с подпис на губернатора, а самото понятие „кил суич“ още няма общоприета техническа дефиниция. Спиране на инстанция? Отнемане на достъпа до тегла? Изключване на изведен вече open weights модел изобщо не е възможно.

Контекстът също има значение. През 2024 г. Нюсъм наложи вето на SB 1047 — законопроекта, който искаше именно възможност за пълно изключване на гранични модели. Две години и няколко инцидента по-късно същата идея се връща, този път по административен път и с подкрепата на част от самите AI лаборатории, които публично поискаха независим надзор. До 16 ноември ще видим дали експертната група ще предложи нещо, което може да се запише в закон — или отново ще се окаже, че техниката изпреварва правото.

Източници: The Decoder и The Verge.