Что такое этика искусственного интеллекта и зачем нужны гуманитарии в IT

Что такое этика искусственного интеллекта

Каждый день появляются новые инструменты на основе генеративного ИИ, с помощью которых можно создавать тексты, видео, музыку, изображения и другой контент. На основе каких данных можно это делать? Кого считать автором произведения ? ChatGPT или человека, который создал запрос? И можно ли обсуждать с интеллектуальными помощниками личную жизнь?

Этими и другими вопросами занимается этика в сфере искусственного интеллекта — область знаний, регулирующая принципы и стандарты поведения, которыми руководствуются участники отношений в сфере ИИ: разработчики технологий и их потребители. Как подчеркивает руководитель учебного модуля «Мышление», научный сотрудник исследовательского центра «Сильный искусственный интеллект в промышленности», уполномоченный по этике в сфере ИИ в ИТМО Дарья Чирва, этика ИИ — не про замыслы, цели и мотивы искусственного интеллекта, а про людей и то, как трансформируются их отношения, опосредованные технологией  искусственного интеллекта.

Кто должен сформировать новую нормативность генеративного ИИ

Обычно этикой занимаются философы — они исследуют мораль и нравственность, но для этики в сфере технологий только их компетенций недостаточно. Чтобы разрабатывать этику искусственного интеллекта, нужна коллаборация между разработчиками из IT и философами, которые могут говорить на одном языке.

Одна из профессий, которая отвечает за контакт между IT-специалистами и обществом, — научный коммуникатор.

Единственная образовательная программа по этой специальности в России — «Научная коммуникация» в ИТМО. В магистратуре учат объяснять сложные вещи простым языком, работать с текстами и данными, составлять научные визуализации. В 2023 году на программе появился новый образовательный трек «Коммуникация в IT» с приглашенными экспертами из технологического сектора, включая Яндекс. На треке готовят научных коммуникаторов для IT-сектора, которые cмогут создавать и курировать коммуникационные и просветительские проекты, в том числе для сферы машинного обучения.

Рассматривать этику в сфере технологий можно и с точки зрения научно-технологического искусства. Научиться создавать свои арт-проекты совместно с учеными можно в магистратуре ИТМО «Искусство и наука / Art & Science». Здесь обучают тонкостям не только художественного процесса, но и навыкам в сфере IT: работе с искусственным интеллектом, машинному обучению и обработке данных, работе с цифровыми средами и робототехническим оборудованием, программированию.

Нужно ли обучать этике ИИ студентов-разработчиков

Как подчеркивает директор по развитию технологий искусственного интеллекта в Яндексе Александр Крайнов, учить студентов этике ИИ действительно важно:

«Обычно специалист проходит большой путь с момента работы джуном-разработчиком до того времени, когда он руководит целым сервисом и решает важные этические вопросы. К последнему специалистов никто не готовит, хотя в таких крупных технологических компаниях, как Яндекс возникает много таких вопросов».

При этом, как подчеркивает Дарья Чирва, нужно стремиться к тому, чтобы разработчики сами регулировали свою работу с точки зрения этических норм:

«Самое сложное и важное, чему стоит учить разработчиков, — видеть этически чувствительные элементы их деятельности. Главная претензия студентов к этике в том, что им она не кажется действенным механизмом, потому что не предполагает института жесткого внешнего контроля за соблюдением этических норм, к которым приходит консенсус специалистов. Однако любой жесткий внешний контроль препятствует развитию технологий и не способствует развитию ответственного отношения к миссии разработчика — созданию технологии, изменяющей жизнь людей к лучшему».

Чтобы изменить эту ситуацию, на уровне отдельных стран и крупных технологических компаний создают специальные органы, которые способствуют реализации этических норм в технологиях: например, в России есть комиссии по этике в сфере искусственного интеллекта, а внутри отдельных продуктов конкретных компаний за этикой следят отдельные специалисты. В 2021 году ведущие российские компании и университеты, в том числе ИТМО, подписали первый в России кодекс этики искусственного интеллекта.

Кто может учить этике ИИ студентов

По мнению Александра Крайнова, обучать этике ИИ студентов должны либо философы, либо другие специалисты с гуманитарным образованием, которые много общались с дата-сайентистами, либо наоборот. Дарья Чирва добавляет, что такая специальность не должна быть только отдельной дисциплиной.

«У меня есть мечта, чтобы курс по этике ИИ не был отдельной дисциплиной. Очень важно, чтобы специалист по этике присутствовал на занятиях студентов и работал в кооперации с преподавателями, которые рассказывают о нейросетях, и в этих темах показывал, где из устройства самой технологии возникают те релевантные этические вопросы, которые важно иметь в виду разработчикам», — подчеркнула Дарья Чирва.