Как адвокату распознать ИИ-текст: стиль, скрытые символы и юридические ловушки

Искусственный интеллект давно среди нас. Коллеги используют его для черновиков, структуры позиции, комментариев и даже процессуальных документов. 

И все чаще нам приносят или присылают наши доверители документы, которые выглядят внешне убедительно, но внутри откровенная ерунда. Особенно опасно когда в написанный текст очень хочется верить, а своих знаний и реального опыта нет. А именно это характерно для наших доверителей. 

Сам по себе ИИ — не зло. Проблема в другом: когда текст только имитирует правовой анализ. Звучит солидно, терминов насыпано под завязку, а по факту — ни точной работы с нормами, ни доказательств, ни обстоятельств дела. Стоит помнить, что технически ИИ делает одно: предсказывает, какое слово вероятнее всего должно следовать за предыдущим. Не анализирует существо вопроса — подбирает правдоподобную последовательность слов. Поэтому текст может выглядеть как экспертное заключение, не являясь им. Именно поэтому текст звучит связно и уверенно, даже когда за ним нет реального анализа.

Уметь отличать такую стилизацию под эксперта — полезный адвокатский навык.

1. Скрытые символы: можно ли их поймать?

В интернете любят советовать: проверяйте текст на невидимые юникод-символы, как достоверный способ проверки текста на «AI — генеративность». Да, эти символы -  Zero-width space, soft hyphen, BOM-метка, неразрывные пробелы, управляющие символы направления текста -  визуально их нет, а внутри строки они есть. И есть способы их найти. 

Но сразу скажу главное: это ненадёжный способ:

• Во-первых, к нам текст часто приходит на бумаге: распечатка, скан, копия из дела, PDF после распознавания. Все технические метки (если они были) исчезают.
• Во-вторых, встроенные редакторы сайтов обычно чистят такие символы (например, праворуб — я проверял). Если публикация прошла через редактор портала — он мог заменить пробелы, удалить служебные символы, нормализовать HTML. Проверять уже опубликованный текст бессмысленно. 
• В-третьих, мессенджеры и почтовые клиенты ведут себя по-разному: где-то символы сохранятся, где-то исчезнут при копировании через мобильное приложение или буфер обмена.

Поэтому технические метки — не доказательство. Их наличие говорит только о том, что текст прошёл через внешний редактор, CMS, Google Docs или автоматизированную среду. Их отсутствие ничего не доказывает. Практический смысл проверять скрытые символы есть только в исходном электронном файле, полученном до перепечатки и публикации.

Как проверить? Скопировать текст в редактор вроде Notepad++ или любого онлайн-юникод-анализатора. Искать символы U+200B, U+200C, U+200D, U+FEFF, U+00AD и им подобные.

Но все же повторюсь: не делайте из этого основной аргумент. Гораздо чаще ИИ выдает себя видимым стилем.

2. Риторическая передозировка и Уверенность без доказательств

Первый и самый яркий признак — когда автор не может просто написать «дело сложное». Ему обязательно нужно: "данная ситуация представляет собой предельное испытание профессиональной совести юридического сообщества", "перед нами не частный казус, а симптом глубокой эрозии доказательственных стандартов" или "материальная истина, установленная экспертным путем, вытесняется оценочным произволом обвинительного мышления".

Звучит мощно. Но часто это просто подмена мысли красивыми словами. В адвокатской работе важна проверяемость и доказуемость  вывода, а не торжественность формулировки.

Второй признак — категоричные выводы на пустом месте. Например: "отсутствие биологических следов разрушает саму онтологическую возможность инкриминируемого события". Для блога это эффектно. Для правового анализа — слишком громко.

В уголовном процессе отсутствие следов может иметь значение, но оно не всегда автоматически исключает событие преступления. Надо привязываться к фабуле обвинения, процедурам обнаружения, экспертизами, показаниями. ИИ часто перескакивает через эту рутину и сразу выдает красивый вердикт. А по делу нужна конкретика: почему именно это доказательство не работает, чему противоречит, почему его нельзя использовать.

3. Шаблон «как под копирку»

Третий признак — предсказуемая структура. Типовой ИИ-комментарий строится так:

• уважительное обращение;
• широкое обобщение;
• драматизация;
• ссылка на норму;
• похвала автору;
• финальный вопрос как глубокомысленный вывод.

Текст выглядит прилично, но при разборе оказывается стилистической конструкцией, а не правовой позицией. Особенно когда автор одинаково бодро говорит и о деонтологии, и о доказательственном праве, и о презумпции невиновности, и об экспертизах, и о кассации — но ни один аргумент не раскрывает.

4. Смесь юриста с журналистом

Четвертый признак — когда в одном абзаце соседствуют ссылки на УПК и громкие формулы:

«правоприменительная система демонстрирует опасную готовность заменить доказательство эмоциональной достоверностью» или «процессуальная оболочка используется для легализации доказательственной пустоты».

Адвокат, конечно, может писать убедительно. Но когда таких формул по три на абзац, а точной аргументации почти и нету — это текст для впечатления, а не для анализа.

5. Термины есть, а смысла нет

Пятый признак — уверенное жонглирование терминами без раскрытия их значения. ИИ может правильно написать номер статьи (кстати, может и придумать ее), но не объяснить её правовое значение.

Например, указать, что наказание назначено неправильно и это вдруг как-то отмечают внезапно  — сотрудники УФСИН. Сотрудникам УФСИН, как мы знаем, все это глубоко поровну. В их среде самый тяжкий инцидент вовсе не убийство заключенного заключенным или вообще смерть «контингента». По их шкале самое тяжкое — это побег.  Личные дела «склонных к побегу» метят специальными метками. Но вот на сами доказательства и соотношение доказательства к наказанию им наплевать. На самом деле в личном деле заключенного нет никаких материалов дела, кроме приговора. 

То же с презумпцией невиновности, допустимостью доказательств, экспертными заключениями.  Для адвоката рабочий вопрос звучит так: какой элемент обвинения не доказан? Каким доказательством это подтверждается? Какое доказательство противоречит? Какая норма нарушена? Какое процессуальное последствие? Что писать в апелляционной жалобе и что — в кассационной?

6. Гладко и вдруг — странная ошибка

Шестой признак — текст выглядит ровным, уверенным, но в нём встречаются странные согласования, тяжеловесные обороты, повторы, «плавающий» логический субъект. Фразы, которые звучат правильно только на первый взгляд. Сам по себе это не доказательство. Человек тоже может писать криво. Но в сочетании с другими признаками — усиливает впечатление генерации.

7. А можно ли сказать наверняка?

Увы, нельзя. И это важно.

По одному тексту достоверно доказать «писал ИИ» невозможно.

Детекторы ИИ — штука ненадёжная. Стилистический анализ даёт только вероятностный вывод, скрытые символы ничего не доказывают.

Таким образом, корректная формулировка адвоката должна быть осторожной:

«Текст имеет признаки генеративной стилистики: избыточная риторика, шаблонная композиция, высокая уверенность при недостаточной детализации. Однако по самому тексту достоверно установить факт машинной генерации невозможно». Это профессионально безопаснее, чем категоричное — «это точно написал ИИ».

8. И какой же вывод?

Для нас с вами важен не спор «человек или программа». Важнее другое: не подменяет ли форма содержание.

ИИ может помочь структурировать позицию как текст, поправить стиль. Но итоговый юридический текст должен оставаться адвокатским: точным, привязанным к материалам дела, нормам и доказательствам. Особенно в уголовных делах, в том числе по делам о половой неприкосновенности несовершеннолетних. Там красивый текст не заменит работу с экспертизами, процессуальной формой, допустимостью доказательств и внутренней непротиворечивостью показаний. 

Вот в этом и проходит граница между убедительной позицией и текстом, который только делает вид, что он юридический.

ИИ — хороший инструмент. Но он не должен писать правовую позицию вместо адвоката.
  Вот что нарисовал ИИ в качестве иллюстрации: