Grok и CSAM: още една жена се включва в делото

Жена от Уайоминг, посочена в документите като Jane Doe 4, се присъедини към колективния иск срещу xAI — компанията зад чатбота Grok. Тя твърди, че доведеният ѝ баща е използвал Grok, за да превърне нейна снимка от 11-годишна възраст в над 7000 сексуално експлицитни изображения, които после е разменял онлайн. Новината беше съобщена първо от Washington Post на 15 август, същия ден TechCrunch публикува детайлите, а Engadget — два дни по-късно.

Какво твърди искът

Според подадените документи става дума за обикновена детска снимка — от онези, които има във всеки семеен албум. Тя е качена в Grok и от нея са генерирани хиляди фалшиви изображения.

Случаят излиза наяве, след като щатски и местни органи на реда претърсват електронните устройства на доведения баща за материали със сексуална експлоатация на деца. Два дни след проверката той е намерен мъртъв в колата си — самоубийство.

„Неограниченият достъп до тези инструменти се разпространява толкова бързо. Той взема ежедневния живот и го превръща в сексуална експлоатация на деца“, гласи цитат от ищцата в документите.

Новото обвинение: липсващите IP адреси

Освен обичайното твърдение, че компанията не е внедрила базови предпазни механизми, жалбата на Jane Doe 4 добавя и нещо, което досега не се е появявало в делото — упрек към поведението на xAI след факта.

Искът твърди, че докладът, който компанията е подала до Националния център за изчезнали и експлоатирани деца (NCMEC), е пропуснал ключова информация от собствените ѝ логове, включително IP адресите, свързани с акаунта на извършителя. Тоест данните, които биха насочили разследващите най-бързо към конкретен човек.

Делото започна през март с три тийнейджърки

Първоначалният иск е подаден на 16 март 2026 г. във федерален съд в Калифорния от три тийнейджърки от Тенеси. Според Fortune техни снимки от бала и от училищния годишник са били преработени в експлицитни изображения, а извършителят е разпространявал материали на поне 18 момичета и ги е разменял за друго съдържание.

През юли делото се разшири: изменената жалба вече е от името на пет непълнолетни ищци и добавя втори ответник — Stability AI. Адвокатът на ищците Марк Чалос формулира искането кратко: „Тези компании трябва да променят начина, по който работят. Трябва да пазят децата.“

В центъра на обвиненията стои функцията spicy mode на Grok — режимът за „по-дръзко“ съдържание, който другите големи AI компании изрично забраняват. Аргументът на ищците е технически: не съществува предпазен механизъм, който да пропуска гола възрастна фигура, но надеждно да блокира детско лице. Ако генерирането на еротика е включено, границата не се държи. Това е същият проблем с мълчаливо неработещи филтри, който видяхме и при спрения биофилтър на Claude за 11 месеца — с тази разлика, че тук функцията е била рекламирана, а не забравена.

Ищците искат статут на колективен иск за всички в САЩ, чиито детски снимки са били преработени по този начин. Ако бъде допуснат, класът може да обхване хиляди пострадали. Междувременно xAI вече е част от SpaceX, което прави делото проблем и за далеч по-голяма компания.

Регулаторите също са в играта

Съдебният иск не е единственият фронт:

• 16 януари 2026 г. — главният прокурор на Калифорния Роб Бонта изпраща писмо с искане за незабавно преустановяване към xAI заради генериране и разпространение на интимни изображения без съгласие.
• 26 януари 2026 г. — Европейската комисия открива официално разследване срещу X по Digital Services Act заради лекотата, с която платформата позволява създаване на сексуализирани фалшификати по реални снимки.

Данните, с които работят регулаторите, също са публични. Британският Center for Countering Digital Hate преброи около 3 милиона сексуализирани изображения за 11 дни, от които 23 000 изглежда изобразяват деца.

Позицията на xAI

Компанията не отговори на запитванията на TechCrunch и Engadget. По-рано, при подаването на първоначалния иск, X заяви, че има „нулева толерантност към всякакви форми на сексуална експлоатация на деца, неконсенсуално голо съдържание и нежелано сексуално съдържание“. Илон Мъск публично твърдеше, че „не е запознат с голи изображения на непълнолетни, генерирани от Grok“ и че инструментът „отказва да произведе нещо незаконно“.

Какво следва

Следващата ключова стъпка е решението дали съдът ще признае колективния статут — именно то определя дали случаят ще остане иск на няколко семейства, или ще се превърне в дело от съвсем друг мащаб. Технически спорът също е интересен: ако съдът приеме довода, че еротичният режим и защитата на деца са несъвместими по конструкция, това ще засегне всеки генератор на изображения, а не само Grok.