Ошибки нейросетей: как ИИ используют в судебных процессах
Юристы и простые граждане все чаще попадают под санкции за выдуманные судебные прецеденты, однако в России пока не выработано единых этических стандартов работы с ИИ.
Сумма штрафов, взысканных судами по всему миру за использование сфабрикованных ИИ судебных актов и искаженных цитат, уже превысила 1,6 миллиона долларов. Согласно статистике исследователя из Высшей коммерческой школы Парижа Дамьена Шарлотена, число подобных инцидентов растет в геометрической прогрессии: если в 2023 году было зафиксировано всего 16 дел, то за первое полугодие 2026-го их накопилось уже 814. В базе числится 1725 процессов, где участники из Австралии, США, России и других стран допустили более 5 тысяч некорректных ссылок на несуществующую практику или аналогичную литературу, пишет «Коммерсантъ».
Чаще всего жертвами «галлюцинаций» алгоритмов становятся обычные граждане, выступающие в суде без адвокатов (более 1000 случаев), однако профессиональные юристы также не отстают — на их счету 673 эпизода. Выдуманные данные встречаются даже в документах судей и прокуроров. Лидером среди упоминаемых нейросетей является ChatGPT, хотя специалисты подчеркивают, что это может быть связано лишь с его популярностью, а не с качеством работы.
В мировой практике уже есть прецеденты жестких наказаний. Так, в США апелляционный суд оштрафовал двух адвокатов на 15 тысяч долларов каждого за ссылки на несуществующие решения. Судья указал, что подобные действия создают дополнительную нагрузку на систему и подрывают доверие к правосудию, а незнание рисков ИИ не является оправданием. В другом случае суд отклонил аргумент юриста о неосведомленности, отметив, что профессионал обязан перепроверять данные, сгенерированные алгоритмами.
Россия также столкнулась с этой проблемой. Арбитражный суд Западно-Сибирского округа оштрафовал ООО на 50 тысяч рублей за использование выдуманной практики, назвав это «прямым обманом» суда. Юристы признают, что суды низших инстанций буквально завалены поверхностными документами, созданными с минимальным участием человека.
Более тревожная ситуация складывается, когда к нейросетям прибегают сами судьи. В сообществе высказываются опасения, что фальшивые прецеденты, сгенерированные ИИ, уже проникали в тексты официальных решений. В одном из дел адвокат даже обжаловал приговор, заподозрив, что он написан алгоритмом, однако апелляция отклонила этот довод, сославшись на ясность изложения.
Мнения юристов о необходимости санкций разделились. Одни считают наказание излишним, другие, напротив, утверждают, что ссылки на несуществующие акты являются фальсификацией и неуважением к суду. Эксперты также предупреждают о долгосрочных рисках: ложные данные могут попасть в справочные системы и исказить судебную практику, создавая «эффект домино».
В отсутствие четких этических стандартов профессиональное сообщество пытается решить проблему через саморегуляцию. Крупные корпорации внедряют собственные ИИ-решения (например, «Нейроюрист» или GigaLegal), обучая их только на проверенных данных, и требуют от сотрудников тщательной верификации полученных результатов. При этом Верховный суд России уже начал пилотное тестирование отечественных ИИ-ассистентов для анализа материалов и расшифровки аудиозаписей. В мае 2026 года пленум ВС обязал участников процессов уведомлять суд об использовании технологий искусственного интеллекта. Как подчеркивают эксперты, добросовестность и уважение к суду остаются базовыми принципами, которые не изменятся с приходом нейросетей.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.
Подписывайтесь на наш канал . Там все самое интересное.
Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv