Ответственность за ошибку ИИ: кто заплатит, если нейросеть навредила

Сейчас в российском праве не прописана отдельно модель ответственности за ошибки ИИ, поэтому юристы применяют общие нормы ГК. При внедрении ИИ практически весь риск принимает на себя оператор — гражданин или юрлицо, эксплуатирующие нейросеть. Чаще всего оператором выступают компании, которые внедряют ИИ в свой сервис и общаются через него с клиентом. В некоторых случаях оператором выступает государство.

За ошибку нейросети отвечает тот, кто ее контролирует и извлекает из нее выгоду. Например, если чат-бот банка сообщил клиенту неверные условия вклада, перед клиентом будет отвечать банк. Ведь именно он выбрал инструмент, настроил его, интегрировал в клиентский путь и получает экономический эффект от его использования. Банк контролирует, какие данные получает модель, какие ограничения на нее наложены и какой дисклеймер видит пользователь. Даже если чат-бот работает на сторонней модели, ответственность перед клиентом все равно несет оператор.

Пострадавшие от ошибки нейросети компании могут сослаться на ст. 1095–1098 ГК, а граждане — на закон «О защите прав потребителей». Брисов напоминает: вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юрлица из-за недостатков товара, работы или услуги, возмещается независимо от наличия договора и вины причинителя. Если ИИ-система встроена в услугу (банковскую консультацию, медицинскую диагностику, расчет кредитного рейтинга), недостаток этой системы — это недостаток услуги, говорит эксперт. И потребитель вправе потребовать полного возмещения убытков, компенсацию морального вреда (ст. 15 ГК), неустойку и штраф в размере 50% от присужденной суммы (п6. ст. 13 ГК). При этом стоит помнить: закон «О защите прав потребителей» применяется, когда пострадавший — физическое лицо, получившее услугу для личных нужд.

Разработчиком ИИ может выступать физлицо, юрлицо или ИП, осуществляющие исследования, проектирование, разработку, обучение, тестирование или модификацию нейросети. Разработчик несет ответственность за ошибку нейросети:

• если есть дефект архитектуры модели;

• при некачественных или предвзятых обучающих данных;

• в отсутствие необходимых предупреждений об ограничениях модели.

Например, ИИ клиники поставил неверный диагноз. Полевая объясняет: клиника должна ответить перед пациентом, но затем она вправе предъявить регрессное требование разработчику, если докажет, что ошибка заложена в свойствах самой модели и не могла быть выявлена при нормальной эксплуатации. Напротив, если клиника игнорировала предупреждения разработчика об ограничениях модели либо не внедрила процедуры верификации результата человеком, вина будет на самой клинике, резюмирует эксперт.

Чтобы снизить риски советуется разработчикам заранее информировать операторов и пользователей об ограничениях модели. Например, прямо предупреждать, что ИИ может «галлюцинировать» и не заменяет профессиональные консультации. Разработчикам также важно внедрять технические меры контроля: ограничивать чувствительные темы, отслеживать аномальное поведение ИИ, регулярно обновлять модели и корректировать безопасные сценарии использования. Кроме того, нужно документировать обучение и тестирование модели, вести логи входных и выходных данных и сохранять возможность аудита.

Телеграм: t.me/ainewsline

Источник: alrf.ru

Комментарии: