ИИ-судья

Председатель Верховного Суда РФ Игорь Краснов заявил, что отечественный ИИ будут активно внедрять в судебную систему. Звучит как прогресс, но есть некоторые вопросы.

У любого ИИ есть неустранимая погрешность (ошибка или "глюк"). Это не неисправность, а неотъемлемое свойство таких систем. Если на каком-то предприятии 1% брака - это терпимо, то в масштабах страны - неприемлемо. Предположим, что "ИИ-судья" получил задание и за месяц-два проанализировал 10 миллионов материалов, то при погрешности 1% - это 100 000 несправедливых решений. В определённых условиях, без должного подхода к делу, такая массовая гребёнка заставит нас вспоминать репрессии 1937 года как детский сад.

Второе. В России, на сегодняшний день, доля оправдательных приговоров в судах по уголовным делам составляет примерно 0,2% (снизилась с 0,8% за 15 лет). Оправдательные решения находятся на уровне ниже погрешности точного научного эксперимента. При том, что согласно ч.2 ст.6 Уголовно-процессуального кодекса РФ - не только обвинение и осуждение виновного, но и оправдание невиновного является целевым результатом правосудия.

Если инженер или физик, проводящий эксперимент, видит, что один из целевых показателей опыта стабильно находится ниже уровня погрешности эксперимента - он задумывается: исправен ли прибор, корректно ли проводится эксперимент (ищет ошибку).

Однако машине не важно где статистика, а где справедливость. ИИ-судья, если его обучить на имеющейся судебной практике, без учёта упомянутой выше особенности, сочтёт эти 0,2% оправдательных результатов - аномалией. И будет "считать", что его целью является только доказывание вины.

Это называется: "алгоритмическая предвзятость" (algorithmic bias) - повторяющаяся ошибка алгоритма, вызывающая систематические искажения результатов и несправедливые выводы из-за неправильного обучения, некорректных данных или недочётов при создании системы. Сама система не имеет своих убеждений - она лишь будет закреплять то, что её научат считать "нормой".

Третье. Важно понимать, что нейросеть - это "чёрный ящик". Даже разработчик не всегда сможет понять почему она выдала тот или иной результат. Такова особенность работы очень сложной системы. Добиться понятного и предсказуемого результата работы ИИ-судьи - невозможно изначально. Это не монтировка какая-то.

Теперь главное - ответственность. Сейчас за заведомо несправедливое решение судья отвечает по ст. 305 Уголовного Кодекса, однако применяется она нечасто. Даже если судья осудит кого-то, а потом выяснится (вышестоящими судами), что приговор был незаконным - судья, в крайнем случае, получит дисциплинарное взыскание и недополучит свою премию. Так как нормами закона предусмотрено, что судья, при оценке доказательств, руководствуется не только фактами, логикой и законом, но и "внутренними убеждениями":

Ст. 17 УПК РФ: "Судья оценивает доказательства по своему внутреннему убеждению, основанному на совокупности имеющихся в деле доказательств, руководствуясь при этом законом и совестью". Аналогичные формулировки есть в ст. 67 ГПК РФ (гражданские дела) и ст. 71 АПК РФ (арбитражные дела).

ИИ-судья может стать идеальным щитом для несправедливых судей: "Так машина посчитала" (законно повлияла на внутренние убеждения). Поэтому нужна жёсткая цепочка ответственности.

Сейчас, если преступник украл определённую сумму денег из кошелька руками - это одна ответственность. Но если он украл ту же самую сумму с банковской карты - ответственность строже.

Использование для преступлений высокотехнологичных и цифровых инструментов "утяжеляет" статью и добавляет срок. Цифровой инструмент повышает общественную опасность: сложнее раскрыть и выявить преступника, может совершаться удалённо, выше риск массовых преступлений в будущем.

В той же самой логике, использование ИИ судьёй, прокурором или следователем для заведомо неправосудного приговора, незаконного обвинения или прикрытия халатности должно стать самостоятельным квалифицирующим признаком в статьях 305 (заведомо неправосудный приговор), 286 (превышение должностных полномочий) и 293 (халатность) УК РФ.

ИИ - это инструмент, который кратно усиливает убедительность неправосудного решения и защищает виновное должностное лицо от разоблачения. Поэтому, думаю, что тот, кто осознанно использует алгоритм для беззакония должен быть наказан строже.

Отдельная ответственность должна быть предусмотрена и для разработчика "ИИ-судьи", который хотя и не может отвечать за каждое отдельное решение, но если выяснится, что в алгоритм заложена предвзятость, допущена преступная халатность, то разработчик должен компенсировать вред от систематических ошибок, включая выплаты компенсаций пострадавшим.

Но что можно было бы предложить для снижения риска ошибок и злоупотреблений при использовании ИИ в суде? Минимальные необходимые, на мой взгляд, условия:

1. Промт (запрос) судьи обязан быть нейтральным по смыслу. Например, если судья ставит задачу для ИИ-судьи (пишет промт): "Проанализируй материалы дела и напиши решение в отношении виновного" - это сразу отстранение/дисквалификация или уголовная ответственность судье, так как сам промт изначально задаёт обвинительный уклон - судья называет подсудимого "виновным" и алгоритм может принять это как прямое указание на изначальную виновность. Промт должен быть нейтральным, что-то типа: "Проанализируй и установи истину по делу".

Промт и ход рассуждения ИИ-судьи должен быть виден и доступен полностью для ознакомления: что ИИ-судья принимает во внимание, что не учитывает, почему при оценке доказательств он считает одни более убедительными чем другие, и т.д.

2. Все записи должны храниться в защищённом логе, изменение которого невозможно. Любая попытка подчистить историю - это уголовная ответственность. Если судья сначала вёл с ИИ неформальный диалог, "прогревая" ИИ-судью на "нужное" решение, и только потом уже дал нейтральный промт, - это препятствие правосудию. Важно понимать: наличие предыстории, где судья намекал, что человек виновен (или невиновен), повлияет на выводы ИИ, даже если финальный запрос будет нейтральным. Это особенность ИИ-моделей - они учитывают весь контекст диалога.

3. Весь лог (записи, данные, промт, ход рассуждений, и вообще весь "диалог" от начала до конца между ИИ-судьёй и судьёй, а также прокурором или следователем) должны быть во всём объёме представлены обвиняемой стороне. При этом обвиняемый имеет право проанализировать данные не только лично, но и при помощи любого ИИ на свой выбор, в целях защиты ("ИИ-адвокат"). Выводы ИИ-адвоката должны быть обязательны для рассмотрения судом.

4. Результаты работы ИИ-судьи должны предоставляться для ознакомления и оспаривания до вынесения итогового решения, а не в момент оглашения приговора или иного судебного акта.

5. Каждый обвиняемый имеет право на ИИ-адвоката, которого он вправе выбрать по своему усмотрению, без ограничений (кроме отдельных случаев, связанных с гостайной, или когда судят депутата, чиновника - тогда только отечественный ИИ-адвокат). ИИ-адвокат не заменяет адвоката-человека, а является дополнительным законным инструментом защиты.

6. Любой обвиняемый имеет безусловное право в любой момент до оглашения решения отказаться от применения ИИ-судьи судьёй, прокурором и следователем, частично или полностью. Это право должно строго соблюдаться. Должностные лица обязаны предупреждать человека о намерении использовать ИИ. Если ИИ был использован должностными лицами без согласия обвиняемого - необходимы строгие санкции за такое нарушение.

7. Обучать ИИ для целей судебной системы необходимо с чётким весом оправдывающих доказательств. Это должно быть обеспечено на всех стадиях разработки и доработки. Алгоритму нужно объяснить, что случаи оправдания не менее ценны, чем случаи обвинения, несмотря на низкий процент оправданий.

При этом есть области, где ИИ-судья может быть очень полезен.

Например, когда обвиняемый полностью признаёт вину в суде, и суд проходит формально - в этом случае только назначается мера наказания, без детального разбора обстоятельств. Здесь ИИ может снять рутину с судей и ускорить процесс.

Или мелкие административные споры: сосед сдвинул забор на полметра, не поделили границу участка. Такие дела тонут в волоките. Люди ждут решения месяцами и не могут двигаться дальше, потому что им нужно хоть какое-то постановление, чтобы просто продолжать заниматься своими делами. Если обе стороны согласны на ИИ-судью, это может сильно разгрузить систему.

Но ключевое условие - добровольность, прозрачность, ограничения по сложности дел (в сложных уголовных процессах, где цена ошибки огромна - риски неприемлемы), а также строгая ответственность за использование ИИ должностными лицами.

Если сделать всё как положено - с жёсткими правилами, симметричными инструментами и ясной ответственностью, - это даст мощный импульс развитию ИИ-технологий в нашей стране, конкуренции и защите прав граждан, без перекосов и коррупции.

Может у кого-то есть ещё идеи - какие технические и процессуальные требования могли бы сделать ИИ-судью максимально объективным и полезным для нашей страны?

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: