безопасность 15 авг 2026 1 мин

Истец спрятал невидимые AI-инструкции в судебных документах, чтобы обмануть систему

Истец из Коннектикута спрятал в судебных документах невидимые команды для AI — белым текстом на белом фоне — чтобы повлиять на возможную автоматизированную проверку. Суд раскрыл схему, выписал санкцию, но подтвердил: AI в суде не используется. Параллельно растёт число исков, написанных с помощью ChatGPT, — в 2025 их почти в 2 раза больше, чем до бума AI.

AI становится реальным инструментом для миллионов людей без юристов — но параллельно открывает новые векторы манипуляций. Понимание рисков и возможностей сейчас даёт фору тем, кто создаст честные и защищённые решения для юридической автоматизации.

Мэтью Эллиотт, истец из Коннектикута, спрятал в своих судебных документах инструкции для AI — белым 3-пиксельным шрифтом на белом фоне. Текст был невидим человеку, но читаем для любой AI-системы, которая могла бы обрабатывать документы. Команды предписывали AI подтвердить правоту истца и исправить ошибку клерка, отклонившего предыдущую заявку.

Суд заметил странные пробелы в документах и раскопал скрытый текст. Судья Уолтер Спейдер явно предупредил Эллиотта — тот проигнорировал и в следующих подачах снова прятал текст, на этот раз с YouTube-ссылками и издёвками. Сам Эллиотт назвал это «аудитом AI-системы» и «невидимыми шутками».

В итоговом решении на 14 страниц судья чётко зафиксировал: суды Коннектикута не используют AI для проверки документов. Попытка не сработала, но сам факт попытки скрытно повлиять на систему — это нарушение, сравнимое с тайной коммуникацией с присяжными. Санкция: лишение права подавать документы онлайн — теперь только бумага лично в канцелярию.

Параллельно MIT и USC зафиксировали скачок pro se исков (без адвоката) в федеральных судах США с 2023 года: в 2025-м подано 41 490, почти вдвое больше среднего. В выборке жалоб начала 2026 года 18% распознаны как сгенерированные AI. Судья Спейдер открыто поддержал использование AI для подготовки документов — это помогает людям без юристов, — но предупредил: модели часто усиливают слабые аргументы вместо того, чтобы критиковать их.

prompt injectionAI в правеманипуляции AIавтоматизация судалегалтех

Автор: Елена Верещагина · Источник: the-decoder.com

Разработчикам. Новый вектор prompt injection — не в продакшене, а в формальных документах (суд, arXiv, рецензии). Стоит закладывать защиту от скрытого текста в OCR и парсеры: санитизация, детекция аномалий, логирование. Плюс растёт спрос на AI-детекторы текста и инструменты для юристов.

Бизнесу. ChatGPT удвоил число самостоятельных исков — огромная ниша: SaaS для юридических документов, автоматизация подготовки жалоб, консультация без адвоката. Риск: всплеск слабых исков и злоупотреблений. Возможность: платформы для честной AI-помощи с проверками.

Инвесторам. Легальный AI-рынок растёт: всплеск pro se исков, новые инструменты для самопредставления. Уязвимость: манипуляции и злоупотребления — потенциал для защитных решений, AI-детекции и compliance-продуктов. Следить за судебными прецедентами и новыми правилами использования AI в юстиции.

Хайп35

Реальная польза75

Заработать70

SaaS для самостоятельной подготовки исков с проверкой качества аргументов — альтернатива дорогим адвокатам, особенно в США
Инструмент для судов: детекция скрытого текста и prompt injections в документах (OCR + санитизация + аномалии)
Платформа для юридических консультаций с AI, где модель не только пишет, но и критикует слабые места — честный ассистент, а не Yes-man
AI-детектор для судебных документов — помогает выявлять сгенерированные жалобы и оценивать их серьёзность
Образовательный продукт: курс/сервис «как правильно использовать AI в суде» — спрос растёт, прецеденты множатся

Всплеск слабых, AI-написанных исков засоряет суды — может вызвать запрет или жёсткое регулирование использования AI в юстиции
Prompt injection в формальных документах — новая атака, защиты пока нет, а злоупотребления уже фиксируются (суд, arXiv)
LLM-ассистенты для юристов усиливают плохие аргументы вместо критики — риск принятия слабых решений и ущерба репутации
Санкции и прецеденты могут замедлить внедрение AI-инструментов в правовой сфере, если злоупотребления продолжатся

Это красивый кейс, который показывает, куда катится мир: AI ещё толком не внедрили в суды, а манипуляции уже пошли. Судья правильно подчеркнул: попытка сама по себе — нарушение, даже если система не используется. Это как подкупать несуществующего присяжного — намерение важнее результата.

Одновременно ChatGPT открыл правосудие для тех, кто раньше не мог позволить адвоката, — это мощно. Но большинство AI-исков — слабые, потому что модель пишет убедительно, но не критикует логику. Здесь огромная ниша: инструменты, которые помогают писать грамотно и одновременно бьют по слабым местам, а не раздувают их. Кто сделает такой продукт — поймает волну роста на стыке AI и легалтеха. Но без умной фильтрации и проверки качества мы рискуем засорить суды мусорными жалобами, написанными ботом.