В 2018 году более 100 общественных и правозащитных организаций США выступили категорически против использования искусственного интеллекта в уголовных судебных процессах.

В 2018 году более 100 общественных и правозащитных организаций США выступили категорически против использования искусственного интеллекта в уголовных судебных процессах.

Оказалось, что алгоритмы, изучая дела и характеристики подсудимых в рамках так называемой «оценки рисков», слишком большое значение уделяют социальному происхождению и жизненной истории обвиняемого.

Иными словами, при принятии решения о тех или иных рекомендациях судьям, искусственный интеллект основывается на закономерностях, которые он выводит исходя из полученных данных.

Нейросети обучаются на массивах Big Data, а эти данные зачастую позволяют сделать статистический вывод о том, что представители социально незащищенных слоев более склонны к уголовным преступлениям и насилию, нежели выходцы из обеспеченных и благополучных семей.

И действительно, если алгоритм видит, что, например, низкий доход прямо коррелирует с высоким рецидивом преступлений, он может дать на этом основании ошибочную рекомендацию судье, посчитав, что именно низкий доход способствовал преступлению. На самом же деле причинно-следственные связи могут быть совершенно иными.

Многие правозащитники указывают, что использование искусственного интеллекта в уголовном процессе закрепляет социальное неравенство и приводит к обвинительному уклону в отношении представителей социально неблагополучных слоев населения значительно чаще, нежели чем в отношении среднего класса и обеспеченных граждан. А это уже прямой путь к возрождению классовых, а возможно и расовых предрассудков.

Отрывок из книги "НеВенец творения. Всё, что вы боитесь знать о будущем", Игорь Диденко

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: