Когда языковая модель выдумывает факт во внутренней записке, об этом чаще всего не узнаёт никто, включая автора. В суде та же ошибка запускает состязательную механику: противная сторона перепроверяет каждую ссылку, судья фиксирует находку в решении, решение попадает в открытый реестр. Поэтому судебная статистика — редкая область, где галлюцинации (hallucinations) ИИ подсчитывает независимая и мотивированная сторона, а не поставщик модели или её пользователь.
Французский исследователь права Дамьен Шарлотен (HEC Paris) с апреля 2025 года собирает такие решения в публичную базу AI Hallucination Cases. Она фиксирует дела, в которых суд констатировал сгенерированный ИИ вымысел: несуществующие прецеденты, выдуманные дословные цитаты, искажённые нормы. К маю 2026 года в базе было около 1 490 решений по всему миру, из них более 1 000 в США; к середине 2026-го — 1 667 дел. Годом ранее их было порядка 230.
Дела попадают в базу несколькими путями: автоматические скраперы по открытым судебным источникам, поиск по ключевым словам, сообщения читателей, с недавних пор — пометки редакторов. Критерий включения консервативный: галлюцинацию должен констатировать сам суд; обвинения стороны без реакции судьи в базу не попадают. Шарлотен прямо пишет, что из-за этого счёт заведомо неполный.
Отсюда три оговорки. Во-первых, цифра не означает «столько раз ИИ ошибся в судебных документах» — только «столько раз это заметили и письменно зафиксировали». Слой ошибок, найденных и молча исправленных до подачи, не виден в принципе. Во-вторых, преобладание США отражает не только масштаб проблемы, но и открытость американских судебных данных и готовность судей называть вещи своими именами. В-третьих, рост кривой смешивает два процесса: растёт и применение ИИ, и внимательность проверяющих — судьи и оппоненты научились узнавать характерные артефакты генерации.
До 2025 года база пополнялась на два-три дела в месяц; к февралю 2026-го — примерно на пять дел в день. 31 марта 2026 года американские суды вынесли 17 решений, констатирующих галлюцинации, — за один день.
Независимый замер той же кривой дала аналитика компании Laine AI: 25 задокументированных дел в начале 2025 года против 249 в четвёртом квартале, а первый квартал 2026-го почти повторил этот максимум. К этой выборке применимы те же оговорки о недоучёте, но структура ошибок показательна: более половины инцидентов — несуществующие дела и источники, около четверти — искажение реальных прецедентов, порядка 20% — выдуманные цитаты; свыше 80% ошибок — в ссылках на прецеденты. Пять штатов-лидеров дают около 40% инцидентов: на Калифорнию приходится 97 дел, а во Флориде счёт вырос с одного дела в 2024 году до 28 в 2025-м. Почти в 90% дел невозможно установить, какая именно система использовалась; ChatGPT назван в 48 делах.
Больше 60% инцидентов в выборке Laine AI приходится на самопредставленных участников процессов (pro se), ещё около 37% — на юристов. Разбор Стэнфордского центра интернета и общества по 114 «адвокатским» делам из базы Шарлотена уточняет картину: половина случаев — соло-практики, ещё около 40% — фирмы до 25 юристов, крупные фирмы — примерно каждый десятый случай. Это долго подпитывало удобное объяснение: попадаются те, у кого нет ресурсов на нормальную проверку.
Апрель 2026 года это объяснение закрыл. Sullivan & Cromwell — фирма с более чем 900 юристами, консультирующая OpenAI, — 9 апреля подала срочное ходатайство в банкротном процессе у судьи Мартина Гленна (суд по банкротствам Южного округа Нью-Йорка). Юристы Boies Schiller Flexner, представлявшие другую сторону, нашли в документе не меньше 28 ошибочных ссылок, включая цитаты, приписанные самому суду. 18 апреля партнёр Эндрю Дитдерих направил судье письмо с признанием: ходатайство содержало галлюцинации ИИ, перечень ошибок занял три страницы. Отдельно фирма признала, что её политики использования ИИ — с обязательными тренингами и требованием проверки — в этом случае соблюдены не были.
В 2023 году штраф 5 000 долларов по делу Mata v. Avianca выглядел экзотикой. К 2026-му санкции стали жёстче:
Институциональная реакция тоже оформилась: 16 февраля 2026 года Национальный центр судов штатов (NCSC) выпустил практическое руководство по галлюцинациям для юристов — проверять каждую ссылку, а при обнаружении ошибки исправлять её и уведомлять суд и оппонентов.
Из материалов дел складывается повторяющаяся механика, а не череда уникальных оплошностей.
Судебная выборка смещена не в сторону преувеличения, а в сторону занижения — и при этом описывает среду с максимальной встроенной проверкой: состязательный оппонент, персональная подпись под каждым документом, публичные санкции. В корпоративном контуре таких механизмов нет. Аналитическую записку, техническую спецификацию, ответ регулятору редко читают с враждебной тщательностью оппонирующего юриста. Если отрасль с обязательной проверкой источников за три года накопила 1 667 публично зафиксированных провалов, разумно исходить из того, что в средах без состязательной проверки частота ошибок не ниже, а видимость — около нуля.
Механика переносится напрямую: те же дедлайны, тот же убедительный тон генерации, та же ставка на добросовестность конкретного сотрудника. Добавляется фактор, которого в судах почти нет: теневой ИИ (shadow AI) — работа через личные чат-боты вне поля зрения ИБ, где роль «письма судье» сыграет инцидент с клиентом или регулятором. Практический вывод из хроники Шарлотена: обучение и написанные политики сами по себе меняют мало; работает процедура, встроенная в поток работы, — проверка источников до того, как документ покинул контур.
В терминах SAID база Шарлотена — самая длинная публичная хроника первой из трёх проблем доверия: «ИИ выдумывает». Три года судебных решений подтверждают два тезиса методологии. Первый: галлюцинации не закрываются ни классом модели (ошибались и специализированные юридические системы), ни статусом пользователя (Sullivan & Cromwell), ни политиками на бумаге — их сдерживает обязательная проверка с прослеживаемостью до источника. Второй: цена ошибки растёт быстрее привычек пользователей — от 5 000 долларов в 2023-м до двухлетней дисквалификации в 2026-м. Для предприятия эта хроника — бесплатный отчёт о том, что происходит с непроверенной генерацией в любой профессиональной среде. Выстраивать проверку разумнее до, а не после первого собственного публичного инцидента.
SAID относит выдумывание к проблеме доверия №1 и отвечает на неё процедурой, а не памяткой. Правило 5 требует проверять AI-код и AI-текст как чужие: рецензия человеком до подписи, независимо от статуса автора — урок Sullivan & Cromwell, где написанные политики не сработали без встроенной проверки. Правило 8 вводит прослеживаемость по принципу «нет источника — нет ответа»: агент обязан ссылаться на документ в домене знаний, ответ без ссылки отбрасывается на уровне архитектуры, а не по усмотрению сотрудника. Правило 6 закрывает сценарий «проверю один чат-бот другим»: все диалоги идут через AI-шлюз с защитой от утечек (DLP), где журналируется, что сгенерировано и чем подтверждено. Правило 13 добавляет контроль каждого шага агента через управляющий слой (Control Plane) с аварийной остановкой (kill switch): документ с неподтверждёнными ссылками не проходит дальше шлюза. А правило 11 удерживает всё это в логике «разрешить и контролировать, а не запрещать и не видеть» — запреты, как показывает судебная хроника, чаще ведут к скрытому использованию, чем к отказу от ИИ.