Адвокат глобен с 5000 долара за свидетели от ChatGPT

Върховният съд на Ню Мексико глоби адвоката Стивън Ааронс от Санта Фе с 5000 долара (приблизително 4300 евро) и го обяви в неуважение към съда, след като в жалба по дело за убийство е внесъл показания на свидетели, които изобщо не съществуват. Текстът е бил генериран от ChatGPT. Заповедта е издадена на 9 септември, а случаят стана широко известен на 11 септември чрез The Verge и Ars Technica.

Какво е имало в жалбата

Ааронс е представлявал Оскар Рене Сандовал, осъден миналата година на доживотен затвор за убийството на майката на децата му. Жалбата по делото (S-1-SC-40845) е трябвало да обобщи какво се е случило по време на процеса.

Вместо това документът цитира показания на хора, които никога не са свидетелствали: полицайката Мишел Амарильо, полицай Санчес, Манал Ал-Джибури и Тереза Маркес. Към тях се добавят измислени твърдения, че свидетелят Дани Стантън е получавал заплахи, потвърдени уж от показанията на съпругата му Линда Стантън, както и несъществуващо описание на стрелеца — с тъмен панталон и бяла риза.

Тук е и разликата с десетките подобни случаи досега. Обичайният провал с AI в съдебна зала е фалшив цитат на съдебна практика — несъществуващо решение с правдоподобен номер. При Ааронс измисленото е самото доказателствено съдържание: реплики, които уж са прозвучали в залата и които се проверяват за минути срещу протокола.

„Гледате ли новини?“

На изслушването на 21 август Ааронс обяснява, че е подал на ChatGPT компютърно генериран препис от заседанията и други материали по делото, очаквайки „бронирано резюме“. Вече след решението, пред Reuters, той твърди, че не е знаел, че моделът може да халюцинира факти, и определя станалото като „честна грешка“ и „урок за всички професионалисти, които разчитат на тази мощна, но понякога нестабилна технология“.

Съдия Шанън Бейкън не приема обяснението. „Колега, гледате ли новини? Слушате ли радио? Четете ли изобщо нещо за случващото се по света? Защото проблемът с адвокати, разчитащи на AI халюцинации, е новина на първа страница всеки божи ден“, казва тя според Al Jazeera.

В решението си съставът отбелязва, че Ааронс е демонстрирал „липса на разкаяние и липса на загриженост за клиента си“.

Санкциите

Освен глобата от 5000 долара и констатацията за неуважение към съда, Върховният съд на Ню Мексико:

• заличи дефектната жалба от делото;
• възложи на Службата на обществените защитници да напише нова жалба от името на бившия клиент на Ааронс;
• изпрати случая на Дисциплинарната комисия към Върховния съд за отделно разследване.

Апелативното производство продължава. Още на 2 септември делото е разпределено на Ким Чавес Кук от Службата на обществените защитници — тоест Сандовал получава втори шанс да бъде защитен, но с месеци забавяне.

Мащабът на проблема

Случаят не е изолиран. Базата данни за AI халюцинации в съдебни производства, поддържана от изследователя Дамиен Шарлотен от HEC Paris, вече брои над 1600 случая — 1668 към 2 юли 2026 г., от които 1163 в САЩ. Важното число е друго: в 653 от тях отговорната страна е практикуващ адвокат, а не гражданин, който се защитава сам.

Разликата между двете е съществена. Когато самопредставляващ се човек цитира несъществуващо решение, съдът обикновено го поправя. Когато го прави адвокат в дело за убийство, на карта е поставена свободата на друг човек.

Темата за това докъде стигат моделите и кой отговаря за резултата им се появява и извън съдебната зала: наскоро математици поискаха доказателство от OpenAI за твърдения около чатовете си, а Калифорния прие пакет закони за чатботовете, които изискват изрично разкриване, че отсреща стои машина.

Какво следва

Няколко щатски и федерални съдилища в САЩ вече изискват декларация дали в изготвянето на документа е използван генеративен AI и дали цитатите са проверени от човек. Ню Мексико засега няма такова общо правило — санкцията срещу Ааронс е по общия ред за неуважение към съда.

Практическият извод е прост и не се променя от версия на версия на модела: езиковият модел не е инструмент за извличане на факти от документ, освен ако всяко твърдение не се сверява с оригинала. Резюме на съдебен протокол звучи като задача, при която моделът просто съкращава наличния текст, но той също толкова спокойно попълва празнините с правдоподобни имена и реплики. Разликата между двете личи само при проверка — а именно тя е пропусната тук.

Дисциплинарната комисия още не е обявила срок за произнасяне. За Ааронс възможните последици варират от порицание до временно отнемане на правото да практикува.