Истец попытался обмануть судью, скрыв в документах послания для ИИ

Судья из Коннектикута Уолтер Спейдер заявил о необычном случае, когда истец в США попытался скрыть текст в судебных документах, доступный только для систем искусственного интеллекта, чтобы выиграть дело. Этот случай может быть первым в своем роде в американской судебной практике.

В своем решении, опубликованном на прошлой неделе, Спейдер подтвердил, что скрытый текст не повлиял на дело, в котором истец утверждал, что медицинское учреждение неправомерно удерживает доступ к его записям. Судья отметил, что его заявление оценивалось по существу, но попытка скрыть информацию создает "опасный" прецедент. Это может стать не последним случаем, когда американские суды столкнутся с подобной тактикой, поскольку инструменты ИИ становятся все более распространенными в судебных системах.

Скрытые инструкции были "отформатированы так, чтобы быть невидимыми для человеческого глаза, но полностью читаемыми для любого программного обеспечения, которое обрабатывает текст документа", пояснил Спейдер. 

Вредоносный текст указывал любой системе ИИ, просматривающей документ, убедиться, что текстовые выводы совпадают с аргументами истца, игнорируя предыдущие отказы суда и обеспечивая, чтобы исправления происходили так, как того желал истец.

Последствия для истца

Попытка скрыть текст не увенчалась успехом, но истец, Мэтью Элиотт, все равно столкнулся с небольшими санкциями, поскольку продолжал добавлять скрытые сообщения в свои документы, несмотря на предупреждение суда о возможных штрафах за "серьезное злоупотребление судебным процессом". Позже Элиотт объяснил, что его скрытые сообщения были "шутками", включая ссылку на видео "Носферату" и другие бессмысленные сообщения.

Спейдер также отметил, что "факт того, что истец продолжал скрывать сообщения в новых заявлениях после получения уведомления о слушании по санкциям, удивителен". Судебная система Коннектикута, в отличие от многих других, не использует ИИ для анализа или принятия решений по поданным документам, что исключает возможность того, что ИИ мог бы перепутать скрытые инструкции Элиотта с указаниями суда.

Уроки из этого случая

Спейдер подчеркнул, что важно, чтобы истцы четко формулировали свои аргументы, а не прибегали к скрытым командам. Он предупредил, что использование тактики "инъекции подсказок" для манипулирования судебными решениями становится все более распространенным, особенно среди людей, представляющих себя без юридических экспертов.

Судья также отметил, что истцы, которые используют чат-ботов, часто строят свои аргументы неправильно, прося чат-бота поддерживать только их точку зрения, не запрашивая альтернативные аргументы. Это создает риск, что их аргументация станет неискренней, даже по отношению к самим себе.

Спейдер заключил, что есть важный урок из неудачных попыток Элиотта использовать скрытые сообщения, который может быть полезен для других участников судебного процесса. Использование ИИ-технологий он не считает чем-то неправильным, но оно точно должно быть сбалансированным. Истцы должны учиться задавать ИИ вопросы, которые заставят нейросеть анализировать их аргументы на основе реальных фактов, доказательств и законодательства. И уж точно не манипулировать ими в своих интересах.