Не ИИ ведёт дело: о вымышленной ссылке и роли профессионального адвоката

Почему я реагирую на такие выводы резко

На утверждения о том, что ИИ «написал», «проиграл дело» или «стал причиной  штрафа», я действительно реагирую несколько резче, чем на другие технологические темы. Это не безусловная защита ИИ. Напротив, я достаточно активно им пользуюсь и потому представляю не только его возможности, но и пределы.

В публикации «Попробовал ИИ. Теперь без него не могу» я писал о практическом применении ИИ для анализа больших массивов документов, сопоставления материалов и подготовки проектов. В публикации «Как адвокату распознать ИИ-текст» разбирал признаки генеративного текста и пришёл к выводу, что по одной стилистике достоверно установить машинное происхождение документа невозможно. Наконец, в публикации «Длинное тире как улика» речь шла уже о формирующемся предубеждении: отдельный знак препинания, ровная структура или непривычно гладкий текст начинают восприниматься почти как доказательство тайного сотрудничества автора с машинным разумом.

Характерно, что и некоторые коллеги готовы отнести объёмный, связный и хорошо структурированный текст к результатам генерации едва ли не автоматически. Однако длина и гладкость текста могут быть основанием для предположения, но не для категоричного вывода о его происхождении. Иначе профессионально подготовленный документ сам по себе становится уликой против своего автора.

Иногда возникает впечатление, что подозрение вызывает не плохой, а слишком гладкий результат. Между тем тот же инструмент доступен каждому; просто профессиональный опыт, знание права и умение поставить задачу в стоимость подписки пока не входят.

Именно поэтому меня заинтересовала публикация коллеги «За использование ИИ получили штраф и проиграли дело». Представитель действительно сослался на несуществующий пункт постановления Пленума Верховного суда, после чего ВС поставил вопрос о применении судебного штрафа. Но прежде чем связывать с использованием ИИ возможный штраф и исход дела, необходимо разделить установленные судом обстоятельства, предположение о происхождении ошибки и оценку её влияния на судебное решение.

С основным практическим предупреждением трудно спорить: документ перед направлением в суд необходимо проверять. Однако после прочтения определения Верховного суда у меня возникли уточнения к выводу о том, что сторона получила штраф и проиграла дело именно из-за использования ИИ.

Штраф ещё не назначен

Верховный суд не наложил штраф ни на организацию, ни на её представителя. Он направил в суд первой инстанции два самостоятельных вопроса:

• о наложении штрафа на организацию — в связи с процессуальным поведением, которое ВС расценил как направленное на затягивание процедуры;

• о наложении штрафа на представителя — в связи с включением в отзыв ссылки на несуществующее разъяснение.

Следовательно, на момент вынесения определения штраф ещё не был назначен. Суду первой инстанции предстоит исследовать обстоятельства и принять отдельный судебный акт. Сложно сомневаться, что суд более низкой инстанции воспримет такое указание ВС буквально, но тем интереснее будет почитать его решение — между постановкой вопроса о штрафе и состоявшимся привлечением к ответственности существует процессуальная разница.

Установлено ли использование ИИ

В публикации указано, что представитель воспользовался «ИИ-программой». Между тем в определении отсутствуют слова «искусственный интеллект», «нейросеть» и «генеративная модель».

Верховный суд сформулировал более общее положение:

Подготовка сторонами своей правовой позиции с использованием программного обеспечения осуществляется на свой риск и должна в любом случае сопровождаться проверкой достоверности полученных результатов.

Применительно к действиям представителя суд установил, что в отзыве содержалась ссылка на пункт 15 постановления Пленума, состоящего из 14 пунктов. Но каким способом несуществующая ссылка появилась в документе, в определении не указано.

Версия об использовании генеративной модели вполне вероятна. Подобные ошибки для неё характерны. Но недостоверная ссылка могла появиться и вследствие ошибочного поиска, копирования чужого документа, использования шаблона либо обычной человеческой ошибки.

«Ведомости» изложили обстоятельства точнее: вопрос о штрафе только направлен на рассмотрение, а основания возможной ответственности организации и представителя различаются. При этом издание также связало происшедшее с ИИ, хотя Верховный суд не установил, какое именно программное средство использовалось и использовалось ли оно для создания спорной ссылки.

Для оценки содержания представленного документа способ возникновения ошибки вторичен. Но он имеет значение, когда именно использование ИИ объявляется причиной санкции. Судебный акт такой причинной связи прямо не устанавливает.

Проиграно ли дело из-за ИИ

В публикации сделан вывод, что «использование ИИ лишило компанию-кредитора шансов».

Из определения это также непосредственно не следует. Решение по существу мотивировано совокупностью обстоятельств, формировавшихся в течение нескольких лет: продолжительностью процедуры, многочисленными процессуальными обращениями, неявкой представителей, несвоевременным представлением документов и оценкой общей направленности поведения кредитора.

Несуществующая правовая позиция рассмотрена отдельно, в конце определения. Она стала основанием для постановки вопроса о персональном штрафе представителю. Верховный суд не указал, что именно эта ссылка стала причиной завершения процедуры и освобождения должника от обязательств.

Разумеется, нельзя исключить, что обнаруженная ошибка повлияла на восприятие судьями всей позиции. Но внутренний процесс принятия решения из текста судебного акта достоверно не устанавливается.

Поэтому одинаково недоказанными будут два категоричных утверждения: что ссылка вообще не повлияла на исход либо что именно она стала причиной неблагоприятного результата.

Достоверно можно утверждать лишь одно: недостоверная ссылка ухудшила положение представителя и дала Верховному суду самостоятельное основание поставить вопрос о его ответственности.

Ничего принципиально нового для адвоката

Верховный суд не создал специального правила использования искусственного интеллекта.

Согласно статье 9 АПК РФ лица, участвующие в деле, несут риск последствий совершения или несовершения ими процессуальных действий. ст. 65 АПК РФ возлагает на каждую сторону обязанность доказать обстоятельства, которыми она обосновывает требования и возражения.

Но для адвоката дело не сводится к формальному распределению процессуального риска.

Именно адвокат определяет юридически значимые обстоятельства, предмет и пределы доказывания, оценивает допустимость и убедительность доказательств, выбирает тактику и несёт профессиональную ответственность перед доверителем. Никакая программа этих функций на себя не принимает.

ИИ может обработать предоставленный текст, сопоставить документы, построить таблицу или предложить несколько вариантов формулировки. Но поставить ему юридически содержательную задачу способен только человек, который уже понимает материалы, право и цель процессуального действия.

Поэтому ИИ не заменяет профессиональную квалификацию. Напротив, чем убедительнее становится генерируемый текст, тем большее значение приобретает квалификация адвоката, способного отличить хорошую формулировку от правильного правового вывода.

Недостоверность и умысел — не одно и то же

Отсутствие пункта 15 доказывает объективную недостоверность ссылки. Отсутствие проверки может свидетельствовать о профессиональной небрежности. Но ни одно из этих обстоятельств само по себе не доказывает умысел на введение суда в заблуждение.

Верховный суд указал, что несуществующая позиция была приведена целенаправленно, а действия представителя являлись умышленной попыткой введения судебной коллегии в заблуждение. При этом отдельного обоснования того, что представитель знал о ложности ссылки, в определении я не обнаружил.

Если представитель знал, что разъяснения не существует, и сознательно сослался на него, вывод об умысле понятен. Если же представитель использовал непроверенный результат поиска, шаблона либо программы, это прежде всего характеризует качество профессиональной работы.

Для суда результат один — в процессуальном документе содержится несуществующая правовая позиция. Но ошибка, небрежность и сознательное введение суда в заблуждение являются различными формами поведения и требуют разного фактического обоснования.

Вольное толкование существовало до ИИ

Свободное обращение с источниками права появилось не вместе с искусственным интеллектом.

Кто из практикующих защитников не сталкивался с тем, как пытливый ум следователя обнаруживал в УК или УПК смысл, наиболее удобный именно для обвинения? Не всегда свободны от расширительного или избирательного толкования и судебные акты.

Но необходимо различать несуществующую норму и спорное толкование нормы существующей.

Наличие либо отсутствие пункта постановления Пленума устанавливается простой проверкой. Оценка толкования требует знания системы права, понимания назначения нормы, её связи с другими положениями и практики применения. Это уже не техническая операция, а профессиональная юридическая работа.

Правильная юридическая оценка возникает не из механического воспроизведения одной части нормы. Она требует понимания нормы целиком и её применения к конкретной процессуальной ситуации. Такое понимание формируется образованием, практикой и профессиональным опытом адвоката.

ИИ способен воспроизвести текст статьи и предложить варианты его толкования. Но определить, какое толкование соответствует закону, материалам и интересам доверителя, должен адвокат.

Как я использую ИИ

Я регулярно использую ИИ при работе с судебными материалами и процессуальными документами.Но не поручаю ему «вести дело» или самостоятельно определять правовую позицию.

Сначала я сам изучаю материалы, устанавливаю юридически значимые обстоятельства, определяю противоречия, возможную квалификацию, предмет доказывания и процессуальную цель будущего документа. Только после этого ИИ получает конкретную и ограниченную задачу.

Например, ему можно поручить:

• свести установленные адвокатом обстоятельства в хронологию;

• сопоставить несколько документов по заданным критериям;

• найти расхождения в датах, суммах или формулировках;

• предложить более компактное изложение уже сформулированного довода;

•  выявить повторения и редакционные дефекты.

Во всех этих случаях ИИ не формирует позицию вместо адвоката. Он выполняет отдельную операцию внутри уже определённой адвокатом задачи.

Это принципиальная граница. Чем шире и неопределённее запрос, тем больше свободы получает модель и тем выше вероятность, что она восполнит недостающие сведения собственными предположениями. Чем точнее адвокат определил предмет анализа, источники и допустимые пределы вывода, тем полезнее результат.

Почему профессиональный запрос важнее красивого ответа

Подробный запрос не является гарантией правильности. Но он показывает, кто в действительности управляет работой.

При правовом анализе я указываю процессуальную роль, вид судопроизводства, цель исследования и перечень документов. Отдельно требую:

• извлекать только юридически значимую информацию;

• отделять содержание документа от его интерпретации;

• указывать источник каждого существенного утверждения;

• не восполнять отсутствующие сведения предположениями;

• различать установленный факт, вывод и рабочую гипотезу;

• не менять избранную правовую позицию без отдельного обоснования.

Такие ограничения задаёт не программа. Их формулирует адвокат, понимающий, какая ошибка способна повлиять на дело.

Даже после этого ответ нельзя переносить в процессуальный документ механически. Опытный адвокат проверяет не только достоверность результата, но и то, соответствует ли предложенная формулировка общей линии защиты или представительства.

Проверить ссылку проще всего

Первый уровень проверки — реквизиты:

• существует ли названная норма или судебный акт;

• содержится ли в нём приведённая позиция;

• действует ли соответствующая редакция;

• правильно ли воспроизведена цитата;

• относится ли судебная практика к сопоставимым правоотношениям и обстоятельствам.

Это техническая, хотя и обязательная работа. Несуществующий пункт постановления Пленума обычно выявляется за несколько минут.

Однако наличие реальной ссылки ещё не делает аргумент правильным. Судебный акт может относиться к иной категории споров, другой редакции закона или существенно отличающейся фактической ситуации.

Определить применимость правовой позиции может только юрист, понимающий не отдельную цитату, а содержание спора.

Опаснее правильная ссылка с неправильным выводом

Сложнее обнаружить ошибку, когда норма существует, цитата приведена точно, факты взяты из материалов, но вывод из них не следует.

Генеративная модель может:

• представить отсутствие сведений как доказательство отсутствия события;

• принять производные сведения за самостоятельное подтверждение первоначального источника;

• вывести причинную связь из простой последовательности событий;

• изложить интерпретацию документа как установленный факт;

• заменить анализ доказательства предположением;

• не заметить обстоятельство, не укладывающееся в построенную версию.

Внешне такой текст может выглядеть безупречно. Именно поэтому отсутствие профессионального опыта особенно опасно: человек видит грамотный юридический язык и принимает его за грамотный юридический анализ.

Опытный адвокат проверяет не только источник, но и каждый переход от доказательства к выводу. Он понимает, какое обстоятельство входит в предмет доказывания, какую часть позиции подтверждает конкретный документ и где заканчивается установленный факт.

Тактику определяет адвокат

Наиболее важные решения вообще нельзя передавать ИИ.

Заявлять ли ходатайство, задавать ли конкретный вопрос, представлять ли определённое доказательство, признавать ли часть обстоятельств, обострять ли противоречие или временно оставить его без внимания — это вопросы не отвлечённого права, а процессуальной тактики.

Их решение зависит от всей совокупности материалов, стадии процесса, ранее занятой позиции, поведения участников и непосредственного восприятия судебного заседания.

ИИ не присутствует в зале суда. Он не наблюдает реакцию допрашиваемого лица, не оценивает изменение позиции обвинения или другой стороны, не слышит интонацию председательствующего и не несёт ответственности за последствия выбранного действия.

Он может по поручению адвоката перечислить возможные последствия уже сформулированного варианта. Но решение принимает адвокат — на основании собственного опыта и профессионального понимания конкретной ситуации.

ИИ не становится соавтором позиции

Процессуальный документ является результатом профессиональной работы адвоката, даже если при его подготовке использовались текстовый редактор, справочная правовая система, электронная таблица или генеративная модель.

ИИ не изучает дело по собственной инициативе, не определяет интерес доверителя, не выбирает позицию, не принимает тактических решений и не отвечает за последствия.

Поэтому утверждение «это написал ИИ» одинаково неверно и как оправдание ошибки, и как описание качественно подготовленного документа.

ИИ мог помочь обработать материал или отредактировать текст. Автором правовой позиции остаётся адвокат, который поставил задачу, отобрал источники, оценил результат и принял решение использовать конкретный довод.

Инструмент усиливает профессионала, но не создаёт его

Обсуждаемое определение Верховного суда не запрещает использование ИИ. Оно напоминает: программное средство не освобождает сторону и её представителя от ответственности за представленный документ.

Но главный практический вывод шире обязанности проверить номер постановления.

ИИ способен ускорить работу опытного адвоката, помочь ему обработать больший объём материалов, проверить дополнительную гипотезу или увидеть пропущенное противоречие. При этом он не способен заменить профессиональное понимание права, доказательств и судебной тактики.

Не адвокат обслуживает подготовленный ИИ текст, проверяя после него ссылки. Напротив, ИИ обслуживает работу адвоката, выполняя поставленные им ограниченные задачи.

Именно профессиональный опыт определяет, какую задачу поручить инструменту, какие материалы предоставить, какой результат признать значимым и что в конечном счёте направить в суд.

Что показало обсуждение коллег

Обсуждение под публикацией оказалось содержательнее её заголовка. Коллеги разошлись прежде всего в оценке причинной связи между недостоверной ссылкой и итоговым решением Верховного суда.

Как справедливо заметил уважаемый Иван Николаевич, «юрист должен знать и понимать больше чем нейросеть». ИИ может применяться для анализа и структурирования материалов, проверки гипотез и подготовки заготовок, но выбрать пригодный вариант и превратить его в процессуальный документ способен только профессионал.

С этой общей оценкой роли ИИ я согласен. Не адвокат обслуживает подготовленный ИИ текст, проверяя после него ссылки. Напротив, ИИ обслуживает работу адвоката, выполняя поставленные им ограниченные задачи. Правовую позицию определяет адвокат — на основании собственного знания закона, материалов дела, судебной практики и процессуальной ситуации.

Уважаемая Елена Анатольевна сформулировала практическое правило: «доверяй, но проверяй». С этим невозможно спорить, однако проверка ссылок — лишь первый и самый простой уровень профессионального контроля. Не менее важно проверить фактическую основу каждого утверждения, применимость нормы, переход от доказательства к выводу и возможные последствия довода для избранной тактики.

Отдельная группа комментариев касается влияния ошибки на исход дела. Уважаемый Игорь Иванович ответил предельно определённо: «Я думаю, что никак. Нужен был повод». По его мнению, действительный механизм принятия судебного решения остаётся скрытым, а недостоверная ссылка могла оказаться лишь удобным формальным основанием. И именно эта позиция наиболее близка мне. 

Уважаемый Иван Васильевич в целом согласился с оценкой ошибки как повода. Вместе с тем он отметил: если бы представитель проверил постановление Пленума, мотивировка Верховного суда могла быть иной, хотя общий результат рассмотрения жалобы, вероятно, уже был предопределён самим фактом её передачи в коллегию.

Противоположную оценку высказал уважаемый Олег Юрьевич. По его мнению, ссылка на несуществующий пункт, скорее всего, повлияла на результат, а без неё дело «вполне могло быть проходным».

Наконец, уважаемая Наталья Валентиновна обратила внимание на иной риск: бездумное использование ИИ одними представителями может сформировать у судов отрицательное отношение к применению таких инструментов вообще. Позднее она выразила опасение, что даже предположение об использовании ИИ способно заранее повлиять на отношение судьи к стороне.

Последнее опасение понятно, но сам факт применения программного инструмента не должен подменять оценку содержания представленного документа. Процессуальное значение имеет не происхождение текста, а его достоверность, относимость и добросовестность действий подписавшего его лица.

Таким образом, единого мнения о влиянии спорной ссылки на исход дела в комментариях не сложилось. Одни коллеги увидели в ней только повод, другой участник — возможную причину неблагоприятного результата. Но практически все позиции сходятся в главном: ИИ не заменяет профессионального мышления. Чем убедительнее формулирует программа, тем большее значение приобретают знания, опыт и критическая оценка адвоката.