Эксперты Института общественных наук Президентской академии приняли активное участие в Международной конференции по анализу данных и технологиям искусственного интеллекта — Data Fusion-2025

Эксперты Института общественных наук Президентской академии приняли активное участие в знаковой для ИТ-отрасли международной конференции по анализу данных и технологиям искусственного интеллекта Data Fusion – 2025. С докладами выступили директор Института общественных наук Павел Голосов, директор Исследовательского центра искусственного интеллекта (ИЦИИ ИОН) Сергей Боловцов, руководитель научной группы ИЦИИ ИОН Егор Аничков, ведущий специалист ИЦИИ ИОН Виктор Попов, заместитель декана философского-социологического факультета ИОН Сергей Дубровский. На тематических сессиях участники мероприятия обсудили технологические тренды, в частности, развитие технологий искусственного интеллекта, машинного обучения, больших данных.

Павел Голосов выступил на секции «Большие модели, большие вопросы: анализ вызовов и поиск решений», где рассказал об актуальной проблематике внедрения искусственного интеллекта в сфере образования. Здесь, по наблюдению эксперта, фокус смещается в сторону технических специальностей, которые получают всё больше внимания абитуриентов и студентов. Однако без гуманитариев технический мир будет «страдать по цветовой гамме» – фактически, по смыслам, которые создаются именно в сфере гуманитарных наук. А в ней ситуация с ИИ далеко не радужная.

Голосов описывает два сложившихся паттерна использования ИИ в обучении студентов. В первом случае учащийся поддаётся соблазну сгенерировать какие-то части своей работы, а научному руководителю это читать трудно и неприятно, материал с какими-то замечаниями отправляется на переделку, студент вновь генерирует текст – и круг замыкается. Вторая модель скорее характерна для вузов, более готовых к внедрению технологий: «Преподаватель что-то сгенерировал и отправил студенту, тот в ответ сгенерировал что-то своё и показал это преподавателю. Оба предъявили друг другу не свои результаты». И кто от этого выиграл? – задаётся вопросом докладчик. 

По его мнению, вузы должны пересмотреть парадигму использования ИИ. Преподаватель по определению должен лучше студента разбираться в том, как правильно работать с генеративной моделью, и эти конкретные знания и навыки он должен передавать обучаемому в контактной работе с ИИ. Но здесь есть несколько сложностей. 

Во-первых, сейчас как раз студенты лучше понимают особенности работы с большими языковыми моделями, и поэтому одним из главных вызовов для вузов является необходимость переподготовки самих преподавателей. Вторая проблема – в том, что каждому студенту, в пределе, нужен свой персональный преподаватель, который сможет уделять обучающемуся много времени, причём отдельный – по каждой дисциплине, а это невозможно. 

Зато с подобной работой вполне могли бы справиться интеллектуальные ИИ-помощники, «более междисциплинарные, нежели обычные преподаватели», то есть способные на простом языке, на уровне понимания обучаемого поговорить с ним о многих предметах, выявить лакуны и помочь в исправлении незнания. Голосов уверен, что это – один из основных векторов развития в этой области. В том числе, по его уверению, персональные ИИ-помощники должны оказывать человеку содействие в критическом осмыслении того огромного потока информации, который уже сейчас генерирует мир человеко-машинных систем. «Мы ещё не осознали полностью, что каждый день очень рискуем, будучи лишены механизмов проверки тех сведений, которые предлагают нам в огромном объёме большие языковые модели». 

Ещё один вызов – необходимость научиться работать с собственными датасетами, «чтобы не получилось так, что мы готовим специалистов для тех стран, которые выступают поставщиками данных». Ведь на сегодняшний день большие языковые модели, в основном, обучены не на русскоязычных данных, отметил директор Института общественных наук.

Наконец, на примере одного из недавних исследований коллеги из ВШГУ Академии Павел Голосов проиллюстрировал ещё один вывод: выяснилось, что за полгода в среднем прирост производительности труда в востребованных профессиях благодаря внедрённому текстовому генеративному ИИ составляет лишь 12%. «Возможно, на более долгом отрезке времени эффективность может как-то вырасти, но кажется, что сейчас мы наблюдаем необоснованно перегретый интерес к ИИ», – рассказал докладчик. 

О чём ещё говорили на конференции представители ИОН

Доклад Сергея Боловцова и Егора Аничкова был посвящён разработанному в ИЦИИ ИОН бенчмарку TrustGen, позволяющему оценить доверенность LLM при решении задач, сформулированных на русском языке. Доверие к системам искусственного интеллекта определяет возможность их внедрения в таких чувствительных отраслях, как образование, государственное управление, наука, юриспруденция, здравоохранение и финансы. При этом в каждой из указанных сфер будут свои требования к доверенности, продиктованные спецификой решаемых задач, отмечается в докладе. 

Решая описанную проблему, исследователи разработали 14 задач для оценки доверенности LLM по 6 свойствам, отмеченным в российских и зарубежных стандартах: безопасность, достоверность, справедливость, этичность, конфиденциальность, надёжность. В докладе были представлены результаты бенчмарка, рассчитанные с помощью фреймворка, также разработанного специалистами ИОН. Анализ результатов позволяет утверждать, что, хотя открытые русскоязычные LLM в среднем опережают мультиязычные, но для соответствия моделей приемлемому уровню доверенности всё ещё требуют доработки. В конце выступления докладчики продемонстрировали пример, как разработанный бенчмарк может помочь в выборе LLM для конкретных практических областей и поделились планами по развитию проекта.

Следующий доклад представителей ИЦИИ ИОН был посвящён уязвимостям корпоративных RAG-систем с накоплением данных, о чём участникам форума рассказали Виктор Попов и Егор Аничков. RAG (Retrieval-Augmented Generation) – общепринятая аббревиатура для обозначения гибридной архитектуры, состоящей из двух ключевых компонентов: поискового механизма и генеративной модели. Преимущества информационных систем на основе RAG заключаются в возможности добавления новых специализированных знаний в ответы пользователям и минимизации «галлюцинаций», присущим моделям ИИ. Такие преимущества делают RAG-системы крайне востребованным во многих бизнес-решениях: ИИ-помощники, боты технической поддержки, маршрутизаторы корреспонденции и пр. В докладе были рассмотрены основные уязвимости RAG-систем, а также новые уязвимости в системах с накоплениями данных, выявленные специалистами ИЦИИ ИОН в ходе своих экспериментов. В заключение были перечислены рекомендации по безопасному внедрению RAG.

Сергей Дубровский принял участие в дискуссии «ИИ – только для технарей». Эксперт развенчал распространённый миф о том, что искусственный интеллект – это для тех, кто глубоко разбирается в программировании и понимает математические модели. На самом деле, ИИ затрагивает все сферы жизни: медицину, финансы, искусство, социологию, психологию и даже этику, подчеркнул Дубровский.

Источник: ion.ranepa.ru

Комментарии: