Цифровая дискриминация граждан на основе собираемых и вычисляемых данных

Цифровая дискриминация граждан на основе собираемых и вычисляемых данных. Пример кадровой дискриминации по факту беременности.

В общественной практике применения ИТ-систем произошел «цифровой поворот»: интеллектуальные системы перешли от поддержки решений, принятых людьми, к принятию решений за них. Этот сдвиг вызывает серьёзные опасения относительно влияния решений, принимаемых алгоритмами, на отдельных граждан, социальные и демографические группы и общество в целом.

Сбор и классификация личных данных цифровыми платформами и их алгоритмами обработки больших данных позволяют классифицировать и «сортировать» людей, присваивать им характеристики и рейтинги, а затем управлять ими и дискриминировать их различными способами, в зависимости от вычисленной категории, класса, рейтинга (например, платёжеспособности).

Легко увидеть, что здесь возникают широчайшие возможности для социальной дискриминации граждан на основе закрытых, частных алгоритмов принятия «автоматических» решений – в области кредитования, лечения, трудоустройства, образования и т. п., нарушающих принцип равенства граждан. Так уже работают кредитные алгоритмы в крупных банках, назначение цен на авиабилеты, поездки на такси и т.п.

Для пояснения мысли о дискриминации на основе персональных данных приведём простой мысленный эксперимент с дискриминацией в области трудоустройства. Предположим, некая девушка в течение трёх дней отправляла в поисковые системы запросы о товарах для беременных. Эти данные были собраны системой обработки «больших данных» поисковика, ее профиль в поисковике получил соответствующую пометку (категорию). Далее к профилю получили доступ бизнес-партнёры поисковика, среди которых – кадровые агентства. У них, в свою очередь, тысячи корпоративных клиентов – кадровых отделов компаний, органов публичной власти и др.

Кадровик одного из клиентов, изучая резюме этой девушки, которая ищет работу, увидел пометку «возможно, беременна», и перешёл к резюме других соискателей. В этот момент поисковик, кадровый сервис и кадровик компании совершили по отношению к девушке уголовное преступление, предусмотренное ст. 145 Уголовного кодекса РФ (отказ в трудоустройстве по основанию беременности). При этом никто из названных субъектов не только не считает себя невиновным, но даже и не осознает факта совершения преступления: «А что такого, это же просто обработка данных и профилирование».

Даже если упомянутые субъекты будут отрицать, что отказ в трудоустройстве произошел именно по описанный выше причине, ни у общества ни у государства нет возможности проверить, так ли это на самом деле. Нет ни процедуры, ни институтов независимой инструментальной экспертизы потоков персональных данных и защиты прав их носителей.

Отрывок из доклада СПЧ - "Цифровая трансформация и защита прав граждан в цифровом пространстве 2.0"

? Целиком доклад можно скачать по ссылке https://t.me/president_sovet/4767

Посмотреть презентацию доклада: https://pressria.ru/20250627/958035956.html

Источник: pressria.ru

Комментарии: