Длинное тире как улика: искусственный интеллект, юристы и новые судебные предубеждения

Поводом для этой публикации стала статья уважаемого коллеги Ильи Николаевича Семухина «Три года мы себя успокаивали: ИИ не заменит юриста».

Обсуждение получилось содержательным. Хотя, как это обычно бывает при появлении очередного технического новшества, где-то на заднем плане уже слышен привычный плач Ярославны:

«Всё пропало! Гипс снимают! Клиент уезжает!»

Плач этот раздаётся давно и с довольно устойчивой регулярностью.

Сначала появились компьютеры и принтеры. Оказалось, что текст можно исправлять, сохранять и распечатывать сколько угодно раз, не перепечатывая его целиком на пишущей машинке через пять листов копирки. Казалось бы, конец юридической профессии: теперь любой человек способен напечатать исковое заявление.

Однако способность нажимать клавиши почему-то не породила массово хороших юристов.

Затем появились «Гарант», «КонсультантПлюс» и иже с ними. Раньше часть профессионального мастерства заключалась в том, чтобы знать, в каком сборнике, на какой полке и примерно между какими страницами искать нужный документ со всеми вклейками из газеты изменений. Внезапно законодательство стало находиться за несколько секунд и даже более-менее со всеми измениями, которые успели принести на флешках. 

Юристы снова приготовились вымирать.

Но вместо этого клиенты просто стали значительно быстрее находить нормы, которые потом продолжили столь же уверенно неверно толковать.

Следом пришёл Интернет. В нём действительно можно найти практически любые сведения. Особенно легко там находятся совершенно ебан бредовые советы и убедительные подтверждения самых нелепых и абсурдных точек зрения.

На каждый юридический вопрос обязательно найдётся человек, который уже дал неправильный ответ, оформил его красивым заголовком и уверенно разместил на первой странице поисковой выдачи.

Теперь настала очередь искусственного интеллекта. Рыдания те же. Декорации немного современнее.

Я активно использую практически все доступные сегодня зарубежные модели ИИ и отношусь к происходящему совершенно спокойно. Это инструмент. Очень мощный, быстрый, временами чрезвычайно полезный и периодически лгущий с таким достоинством, которого не хватает некоторым участникам процесса. И он платный. 

Чтобы задать правильный вопрос, надо знать большую часть ответа

Главное заблуждение относительно ИИ состоит в том, что пользователь якобы может ничего не понимать в вопросе, написать одну строчку и получить готовый профессиональный результат.

Получить текст он действительно может.

Но для получения качественного результата необходимо понимать предмет настолько, чтобы:

– правильно поставить задачу;

– предоставить достаточный контекст;

– определить существенные обстоятельства;

– увидеть, какие данные ИИ не учёл;

– распознать выдуманную норму или судебный акт;

– проверить причинно-следственные связи;

– уточнить запрос;

– скорректировать выводы;

– заставить систему переработать ответ.

Иными словами, чтобы задать ИИ правильный вопрос, желательно знать значительную часть правильного ответа.

Иначе человек получает не юридическое заключение, а красиво оформленное подтверждение собственной ошибки.

ИИ резко ускоряет работу компетентного специалиста. Но столь же резко он ускоряет производство глупостей некомпетентным пользователем.

Раньше плохой документ приходилось долго и мучительно писать самому. Теперь его можно получить за тридцать секунд, снабдить заголовками, нумерацией, таблицами и ощущением глубокого, но, к сожалению ложного профессионализма.

Длинное тире как достоверный признак

На этом фоне мне рассказали ещё одну занятную историю.

В некоторых судах судей начали обучать распознавать тексты, подготовленные с использованием искусственного интеллекта.

Само по себе обучение работе с новыми технологиями представляется разумным. Вопрос, как обычно, заключается в качестве такого обучения.

Судьям, по словам коллег, сообщили, что одним из достоверных признаков текста, сгенерированного ИИ, является длинное тире.

Я когда-то уже писал на эту тему.

Всю жизнь я различал дефис, тире и минус и старался употреблять их по назначению. Причём тире тоже бывают разными: длинное —, среднее – и дефис -, не говоря уже о математическом минусе. Правда, иногда в web-редакторах они искажаются, посмотрим, как здесь они отобразятся. 

Я ставлю их автоматически и в зависимости от контекста. Более того, в одном тексте у меня вполне могут использоваться разные знаки. Я даже умею ставить неразрывный пробел и периодически обучаю этому секретному искусству следователей, что б текст в протоколе не переносился в самых неожиданных местах. 

Теперь, видимо, это должно свидетельствовать не о знании правил оформления текста, а о тайном сотрудничестве с машинным разумом. И влечет сжигание на костре, как и всякой использование тайных знаний темных сил электричества.

Чем именно длинное тире провинилось перед людьми, обучающими судей, мне неизвестно. Возможно, нейросети просто оказались последними существами, которые ещё пытаются соблюдать типографические правила.

Судебная криминалистика нового уровня

Сам подход открывает широкие перспективы.

Можно устанавливать применение ИИ по шрифту Times New Roman.

Наличие нумерованного списка считать доказательством использования организованной преступной группой авторитетного текстового редактора. Таблицу можно рассматривать как признак предварительного сговора с Microsoft Excel. А если в документе имеются заголовки и логически связанные абзацы, это уже должно вызывать особенно серьёзные подозрения.

Однако шутки в сторону. Сама тенденция мне не нравится. Судей обучают не проверять содержание, источники, логику, достоверность ссылок и соответствие текста материалам дела, а искать внешний формальный признак:

увидел длинное тире — разоблачил искусственный интеллект.

Но длинное тире не подтверждает использование ИИ. Его отсутствие тоже ничего не подтверждает.

Модель можно попросить использовать только дефисы. Можно автоматически заменить все знаки. Можно намеренно добавить опечатки, просторечия и канцелярские обороты.

Наконец, текст, подготовленный человеком, может быть хорошо структурирован и грамотно оформлен. Хотя теперь это, видимо, тоже становится подозрительным.

Проблема не в ИИ, а в новых предубеждениях

У суда и без того может возникать достаточно предварительных установок, не связанных непосредственно с оценкой доказательств.

Одни документы воспринимаются как более убедительные из-за их объёма. Другие — из-за количества приложений. Третьи — из-за официального стиля и обилия ссылок.

Добавлять к этому ещё и типографические суеверия представляется совершенно излишним.

Сегодня подозрение вызывает длинное тире. Завтра — слишком грамотный текст. Послезавтра — отсутствие орфографических ошибок.

Затем любой хорошо подготовленный документ можно будет признать подозрительным уже по самому факту его качества.

Особенно неприятно это в уголовном процессе. Содержание процессуального документа должно оцениваться по его аргументам, связи с доказательствами, юридической обоснованности и соответствию материалам дела.

Кто именно набирал текст, использовал ли автор справочную систему, поисковую программу, ИИ, редактора или помощь коллеги, само по себе ничего не говорит о состоятельности изложенной позиции.

Если в документе приведён несуществующий судебный акт, это надо выявить и указать.

Если искажено содержание нормы, это надо опровергнуть.

Если вывод не следует из доказательств, это надо показать.

Но устанавливать происхождение текста по длине тире — это уже не анализ, а своеобразная судебная френология.

Заменит ли ИИ юриста

ИИ действительно заберёт часть простых, типовых и повторяющихся задач. Но новые технологии всегда забирали рутину.

Калькулятор заменил счёты, однако не заменил бухгалтера.

Правовая система заменила поход в магазин за «кодексами» и искусство владения ножницами и клеем, но не юридический анализ.

Навигатор заменил бумажную карту, но пока не научился отвечать перед инспектором за водителя, который по его совету въехал в реку.

В работе адвоката ИИ уже полезен для анализа больших массивов документов, построения хронологии, поиска противоречий, проверки гипотез, подготовки черновиков и моделирования позиции процессуального противника.

Но он не видит человека напротив. Не оценивает динамику допроса. Не замечает, что следователь неожиданно сменил тактику. Не принимает решение промолчать там, где формально можно ответить. Не несёт ответственности за последствия совета. Поэтому юриста, скорее всего, заменит не искусственный интеллект.

Юриста, который полностью игнорирует искусственный интеллект, может заменить другой юрист, который научился им пользоваться. Но и этот другой юрист останется юристом, а не оператором нейросети.

Ценность профессионала заключается не в способности быстро набрать текст. Она заключается в способности понять ситуацию, отделить существенное от информационного мусора, выбрать стратегию, предвидеть последствия и принять на себя ответственность за решение.

Так что гипс пока не снимают. Клиент тоже ещё никуда не уехал.

Теперь работы у адвоката стало не меньше, а несколько больше.