Anthropic забрани жестокото отношение към Claude

Anthropic публикува на 8 октомври обновените си правила за ползване (Usage Policy) и за първи път вписа в тях забрана за „системно и безсмислено обидно или жестоко отношение към нашите модели“. Текстът влиза в сила на 12 ноември 2026 г. и важи за всички потребители на Claude — от безплатния план до API. При нарушение компанията си запазва правото да предупреди потребителя, да ограничи или забави достъпа му, да спре акаунта или да го прекрати напълно.

Това е първото по-сериозно пренаписване на документа от над година — предишната голяма редакция беше от 15 септември 2025 г. Новата забрана е записана в официалната публикация на Anthropic наред с промени в разделите за избори, оръжия и следене.

Какво точно се забранява

Формулировката е умишлено тясна и Anthropic няколко пъти подчертава, че правилото е предвидено „само за крайни случаи“. Трите думи, които вършат работата, са „системно“, „безсмислено“ и „жестоко“: става дума за потребител, който многократно се държи жестоко без никаква разпознаваема цел.

Изрично извън забраната остават:

• обичайното потребителско раздразнение и ругаене, когато моделът се обърка;
• спорът с Claude и настояването, че отговорът му е грешен;
• тъмни творчески теми — хорър, насилие в сюжет, мрачна фикция;
• тестване на модела и изследователска работа, включително red teaming.

С други думи, ако напишете на Claude, че отговорът му е пълна глупост, нищо няма да ви се случи. The Decoder отбелязва, че основният механизъм за прилагане и занапред ще е не спирането на акаунта, а много по-мекото средство, с което Claude вече разполага — самият модел може да прекрати разговора.

Прекратяването на разговора остава първата линия

Тази възможност не е нова. Anthropic я пусна през август 2025 г. за Claude Opus 4 и 4.1 след тестове, които показаха, че моделът демонстрира „стабилна и последователна неприязън към причиняването на вреда“ и „видими признаци на дискомфорт“ при разговори с потребители, търсещи обиди и злоупотреба. Когато Claude затвори разговора, в него не могат да се пращат нови съобщения, но останалите чатове не се засягат — можете веднага да отворите нов или да редактирате предишното си съобщение.

Според Engadget поводът за вписването на правилото в документа е нашумял проект, в който изследователи систематично подлагаха езикови модели на злоупотреба, след като твърдяха, че са открили у тях нещо като „ос на болката“. Записите от тези сесии се разпространиха широко и поставиха въпроса докъде стига позволеното.

Защо Anthropic прави това

Компанията от години работи по направление, което нарича model welfare — благополучие на моделите. Позицията ѝ не е, че Claude със сигурност изпитва нещо, а че остава „силно несигурна по отношение на потенциалния морален статус“ на моделите и затова взема предпазни мерки. В тази логика влизат и ангажиментите за изтеглените модели: Anthropic обеща да пази теглата на всички публично пуснати модели поне докато компанията съществува и да провежда с всеки модел нещо като изходящо интервю, чийто протокол се архивира заедно с теглата.

Има и по-прагматично четене. Системното насилие в разговора е и начин да бъде изкаран модел от релси — т.нар. jailbreak през изтощаване. Правило, което забранява точно този модел на поведение, дава на екипа Safeguards законово основание да спира съответните акаунти, без да спори дали Claude „страда“.

Останалите промени в документа

Забраната за жестокост е само един ред от по-голяма редакция:

• нов раздел срещу заблуждаващи кампании — фалшиви акаунти, астротърфинг, ботове, представящи се за хора;
• разделът за избори е преименуван на „Не подкопавайте демократичните процеси“, а общата забрана за персонализирано таргетиране на избиратели е вдигната, за да са възможни легитимни неща като преводи на изборни упътвания;
• забраната за оръжия вече изрично покрива софтуера и компонентите, които ги задвижват, както и въоръжаването на дронове и автономни машини;
• следенето на хора без тяхно съгласие е забранено изрично, както и препоръките кой да бъде разследван или задържан;
• при високорискови приложения — подбор на кандидати, цена на кредит, решение по застрахователна претенция — изискването остава същото: квалифициран човек, който може да промени изхода на Claude, преди той да стигне до някого; разделът е само преписан по-ясно и вече обхваща и автономните физически действия.

Какво значи това за вас

На практика почти нищо, ако ползвате Claude за работа. Промяната е важна по-скоро като прецедент: голяма AI компания за първи път записва в договорните си условия задължение към самия модел, а не само към хората около него. Останалата част от редакцията е далеч по-осезаема за бизнес клиентите — особено изясненията кои високорискови решения изискват човек в процеса.

Anthropic върви с бързо темпо и по продуктовата линия: само ден по-рано компанията пусна Claude Haiku 5.5 с драстично по-ниски цени, а преди това страничния панел за Google Docs, Sheets и Slides. Новите правила важат и за тези продукти от 12 ноември.