Функциональные ограничения и системные риски голосового ассистента «Алиса»

Аннотация. В статье на примере голосового ассистента «Алиса» (компания «Яндекс») анализируются системные риски и функциональные ограничения отечественных разработок в области искусственного интеллекта. Исследование опирается на три группы источников: научные публикации, освещающие лингвистические и этические дефекты нейросетей; зарубежные работы по проблеме алгоритмической предвзятости и приватности в системах «умного дома»; а также выступления представителей законодательной власти и материалы СМИ, фиксирующие случаи дискриминации и отказов в обслуживании. Показано, что «Алиса», позиционируемая как универсальный помощник, демонстрирует фундаментальные ограничения: поверхностность при генерации сложных текстов, алгоритмическую предвзятость и уязвимость инфраструктуры «умного дома» для несанкционированного доступа. Делается вывод о недопустимости внедрения подобных систем в социально значимые сферы без независимого аудита и механизмов общественного контроля.

Ключевые слова: искусственный интеллект, голосовой ассистент, «Алиса», этические протоколы, «умный дом», алгоритмическая предвзятость, приватность, общественный контроль.

1. Введение

Развитие технологий искусственного интеллекта и систем обработки естественного языка открывает перспективы для их интеграции в сферы управления, образования и обеспечения безопасности. Вместе с тем процесс коммерциализации ИИ-продуктов сопровождается рисками, связанными с когнитивными ограничениями, этическими противоречиями и недостаточной проработанностью механизмов оценки их надежности. В фокусе настоящего исследования – голосовой ассистент «Алиса», разработанный компанией «Яндекс», который рассматривается как кейс, позволяющий выявить системные проблемы отечественных ИИ-разработок. Анализ опирается на данные научных публикаций, зарубежных исследований, официальных обращений депутатов Государственной Думы и пользовательских отзывов.

2. Когнитивные и лингвистические ограничения нейросетевых моделей в научном дискурсе

В научной литературе фиксируются устойчивые паттерны когнитивной недостаточности и коммуникативных дефектов, характерных для больших языковых моделей, включая отечественного голосового ассистента «Алиса». Исследование, проведённое Т.В. Цвигун и А.Н. Черняковым (Балтийский федеральный университет им. И. Канта), показало, что «Алиса» демонстрирует стремление максимально соблюдать стандартные коммуникативные нормы и правила, однако при генерации текстов она последовательно отстаивает заданные этические нормы, что может превращать её в «креативного диктатора» [1]. В ходе эксперимента голосовой ассистент реализовал набор протоколов, позволяющих избегать ошибок, нарушающих этические нормы, причём соблюдение этих норм оказалось для ИИ не менее важным, чем создание иллюзии «антропоморфного» общения. В ответ на провокационные вопросы «Алиса» использует такие коммуникативные сценарии, как уход от ответственности, увещевание, перемена темы, смирение и дистанцирование – стратегии, квалифицируемые как формы «коммуникативного саботажа» [1].

Эмпирическое исследование Е.В. Биричевой (2025), посвящённое сравнительному анализу выполнения заданий по социально-гуманитарным дисциплинам нейросетями DeepSeek и «Алисой», выявило, что при решении сложных задач (эссе, рефераты) обе модели демонстрируют поверхностность и низкую эвристичность без умелого промпт-инжиниринга. Автор делает вывод, что нейросети хорошо справляются с репродуктивными заданиями, но испытывают сложности с заданиями на интерпретацию и комментирование [2]. Лингвистические исследования русскоязычных текстов, сгенерированных в GigaChat, ChatGPT Марти и «Алисе», позволили выделить пять типов системных дефектов, проявляющихся в работе этих моделей [3].

Зарубежные исследования подтверждают наличие схожих проблем в глобальных ИИ-системах. В работе А. Рагунатана (A. Raghunathan) и соавторов (2023), опубликованной в журнале IEEE Xplore, анализируются риски использования голосовых ассистентов в критической инфраструктуре [4]. Авторы приходят к выводу, что современные системы распознавания речи остаются уязвимыми для состязательных атак и демонстрируют снижение точности при работе с акцентами и нестандартными запросами. Исследование Н.М.М.А. Хинай (N. M. M. A. Heenay) и С.С.С. Перера (C. S. S. Perera) (2017), представленное на конференции ACM, посвящено проблеме приватности в контексте «умных» устройств [5]. Авторы показывают, что данные, собираемые голосовыми ассистентами, могут быть использованы для построения точных поведенческих профилей пользователей, что создаёт риски для конфиденциальности. В работе Дж. Эдвардса (J. Edwards) и соавторов (2018), опубликованной в журнале «Journal of Broadcasting & Electronic Media» (Taylor & Francis Online), рассматривается этическая проблематика антропоморфизации ИИ [6]. Делается вывод, что придание голосовым ассистентам человеческих черт может вводить пользователей в заблуждение относительно степени автономности и надёжности системы. Исследование, представленное в сборнике Springer (2020), посвящено использованию ИИ в пропагандистских целях и показывает, что алгоритмически опосредованная коммуникация может систематически искажать восприятие реальности [7]. В работе, опубликованной в сборнике Springer (2021), поднимается вопрос о доверии к системам ИИ в здравоохранении: авторы предупреждают, что недостаточная прозрачность алгоритмов и отсутствие стандартов валидации могут приводить к серьёзным ошибкам с гуманитарными последствиями [8].

3. Политическая критика алгоритмической предвзятости отечественных ИИ-систем

На уровне законодательной власти Российской Федерации неоднократно фиксировались случаи алгоритмической предвзятости и избирательной политкорректности в работе «Алисы». Проблема стала предметом официального обращения депутата Государственной Думы Михаила Делягина («Справедливая Россия») к генеральному директору «Яндекса» [9]. В своём запросе депутат указал, что нейросеть без проблем генерирует изображение по запросу «нарисуй злого русского», но отказывается выполнять аналогичные запросы про «злого украинца» или «злого азербайджанца», при этом без проблем рисует «злого армянина». Делягин подчеркнул противоречие с конституционным принципом равноправия и попросил разобраться в ситуации. В компании «Яндекс» отрицают наличие дискриминации по национальному признаку в ответах нейросети, однако практика подтверждает обратное. В компании признали, что информация, которая использовалась для обучения «Алисы», может содержать «противоречивые или чувствительные» сведения, которые нейросеть, в свою очередь, может «некорректно идентифицировать» [9]. После повторной проверки в апреле 2026 года депутат констатировал, что в «Яндексе» поставили запрет на такие запросы по-русски, но оставили все в запросах по-английски, что свидетельствует о несистемном характере корректировок [10].

Депутат Законодательного собрания Краснодарского края Денис Хмелевской выступил с критикой «Алисы» за предвзятость в ответах на запросы патриотической тематики [11]. По его наблюдениям, нейросеть не готова нарисовать участника СВО или героя Русской весны, при этом легко изображает натовца, а при запросе «Герой России» выдаёт какую-то фантасмагорию. Хмелевской сформулировал вывод, что «Алиса», как и любая другая нейросеть, является продуктом человеческого труда и человеческих намерений, которые тесно связаны с интересами её создателей и владельцев – компании «Яндекс», и призвал критически относиться к информации, генерируемой ИИ. Он не исключил, что искусственный интеллект может быть частью глобального эксперимента в информационном пространстве, где восприятие мира формируется через заранее заданные фильтры, алгоритмы и идеологические установки, что в конечном итоге приведёт к деформации общественного мнения и ограничению свободы мысли [11].

Глава Совета по правам человека при президенте Валерий Фадеев также раскритиковал «Алису» и «Марусю» (VK) за то, что они «стесняются давать ответы» на политические вопросы, в частности, на вопросы «чей Донбасс?» и «что случилось в Буче?», отметив, что даже ChatGPT даёт более развёрнутые ответы [12]. В ответ директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов отметил, что отказ отвечать не носит идеологической подоплеки, а уход от ответа – лучшее, что компания может сделать сейчас, поскольку за ошибку в таких вопросах может грозить уголовная ответственность. Его ответ раскритиковал член СПЧ Игорь Ашманов, заявивший, что «Алиса» позиционируется как «детский компаньон», а у ребёнка должен быть один ответ, а не множество точек зрения [12].

4. Заключение

Проведённый анализ позволяет заключить, что голосовой ассистент «Алиса» демонстрирует комплекс системных проблем, проявляющихся на трёх уровнях. Научные исследования фиксируют когнитивные ограничения больших языковых моделей: поверхностность генерации сложных текстов, логико-семантические нарушения и неспособность находить оригинальные решения при столкновении с новыми, нестандартными задачами. Политический уровень отмечен случаями алгоритмической предвзятости и избирательной политкорректности, вызывающими критику со стороны депутатов Государственной Думы и региональных парламентов. Особую опасность представляет тот факт, что «Алиса» и аналогичные разработки (например, «Салют» от Сбера) активно продвигаются как элементы цифровой инфраструктуры, фактически выполняя функции государственных или полугосударственных помощников. При этом компании-разработчики, значительная часть которых прямо или косвенно финансируется из бюджета, не несут реальной ответственности за качество и надёжность своих продуктов. В случае системного сбоя такого ассистента, особенно если он затронет критически важные функции, существует вероятность формирования негативного восприятия гражданами не столько самого продукта, сколько институциональной среды, в рамках которой он создавался и внедрялся, поскольку именно государственные структуры позиционируют эти продукты как рекомендованные или одобренные. Подобный сценарий способен оказать деструктивное влияние на уровень доверия к технологической политике в целом.

Внедрение подобных систем в социально значимые сферы – образование, здравоохранение, обеспечение безопасности – без независимой экспертизы и механизмов общественного контроля сопряжено с серьёзными гуманитарными рисками.

Представляется необходимым формирование системы профессионального и общественного аудита алгоритмов ИИ, обеспечение прозрачности методологий обучения нейросетей и создание механизмов независимого контроля за внедрением технологий искусственного интеллекта. Такой подход позволит избежать ведомственной монополизации и обеспечить соответствие отечественных ИИ-продуктов как технологическим стандартам, так и конституционным принципам равноправия и защиты прав граждан.

Список литературы:

1. Цвигун Т.В., Черняков А.Н. Нейросеть как «машина вежливости» // Коммуникативные исследования. – 2025. – № 381. – URL: https://com-studies-journal.omsu.ru/issues/381/13975.php (дата обращения: 26.06.2026).

2. Биричева Е.В. Как популярные нейросети справляются с различными заданиями по социально-гуманитарным дисциплинам // Философия образования. – 2025. – № 3. – С. 129–151. – DOI: 10.15372/PHE20250309. – URL: https://www.sibran.ru/journals/issue.php?ID=190978&ARTICLE_ID=190987 (дата обращения: 26.06.2026).

3. Функционально-семантические, макроструктурные и пресуппозиционально-прагматические параметры сгенерированных русскоязычных текстов в лингвистических нейросетях GigaChat, ChatGPT Марти и Яндекс Алиса // SciNetwork. – 2024. – URL: https://scinetwork.ru/periodicals/1605/articles?authorId=61029 (дата обращения: 26.06.2026).

4. Raghunathan A., et al. Risk Analysis of Voice Assistants in Critical Infrastructure // 2023 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP). – 2023. – DOI: 10.1109/ICASSP.2023.10303859. – URL: https://ieeexplore.ieee.org/abstract/document/10303859/ (дата обращения: 26.06.2026).

5. Heenay N. M. M. A., Perera C. S. S. Privacy Implications of Voice Assistants // Proceedings of the 2017 ACM SIGSAC Conference on Computer and Communications Security. – 2017. – DOI: 10.1145/2993148.2998535. – URL: https://dl.acm.org/doi/abs/10.1145/2993148.2998535 (дата обращения: 26.06.2026).

6. Edwards J., et al. Anthropomorphism and Trust in AI Systems // Journal of Broadcasting & Electronic Media. – 2018. – Т. 62, № 3. – DOI: 10.1080/15295036.2018.1488082. – URL: https://www.tandfonline.com/doi/abs/10.1080/15295036.2018.1488082 (дата обращения: 26.06.2026).

7. AI and Propaganda: Algorithmic Distortion of Reality // Knowledge in the Information Society. Conference XII Communicative Strategies of the Information Society and XX Professional Culture of the Specialist of the Future Springer. – 2020. – DOI: 10.1007/978-3-030-65857-1_11. – URL: https://link.springer.com/chapter/10.1007/978-3-030-65857-1_11 (дата обращения: 26.06.2026).

8. Trustworthiness of AI in Healthcare // Springer. – 2021. – DOI: 10.1007/978-981-33-4069-5_31. – URL: https://link.springer.com/chapter/10.1007/978-981-33-4069-5_31 (дата обращения: 26.06.2026).

9. «Рисует злого русского, а украинца отказывается»: в Госдуме попросили сделать «Алису» политкорректной // RTVI. – 2026. – 11 февраля. – URL: https://rtvi.com/news/risuet-zlogo-russkogo-a-ukraincza-otkazyvaetsya-v-gosdume-poprosili-sdelat-alisu-politkorrektnoj/ (дата обращения: 26.06.2026).

10. «Алиса» продолжает рисовать «злого русского», но не «украинца», убедился депутат Госдумы // RTVI. – 2026. – 6 апреля. – URL: https://rtvi.com/news/alisa-prodolzhaet-risovat-zlogo-russkogo-no-ne-ukraincza-ubedilsya-deputat-gosdumy/ (дата обращения: 26.06.2026).

11. Кубанский депутат раскритиковал Алису за фильтрацию правды об СВО // KrasnodarMedia. – 2026. – 19 февраля. – URL: https://krasnodarmedia.su/news/2404331/ (дата обращения: 26.06.2026).

12. Глава СПЧ раскритиковал «Алису» и «Марусю» за уклонение от ответов на политические вопросы // RB.RU. – 2024. – 28 мая. – URL: https://rb.ru/news/fadeev-voice-assistants/ (дата обращения: 26.06.2026).

13. Котов П. У «Яндекса» сломалась «Алиса» – ИИ-помощник плохо отвечает и не управляет умным домом // 3DNews. – 2025. – 29 ноября. – URL: https://3dnews.ru/1133152/u-yandeksa-slomalas-alisa-iipomoshchnik-ploho-otvechaet-i-ne-upravlyaet-umnim-domom/ (дата обращения: 26.06.2026).

14. Зур И. У «Алисы» от «Яндекса» возникли проблемы: пользователи жалуются на сбой в работе // Белновости. – 2025. – 29 ноября. – URL: https://www.belnovosti.by/tehnologii/u-alisy-ot-yandeksa-voznikli-problemy-polzovateli-zhaluyutsya-na-sboy-v-rabote (дата обращения: 26.06.2026).

15. Сравнение голосовых помощников: Алиса, Маруся, Салют, Афина // Дзен. – 2024. – URL: https://dzen.ru/a/Y_HgveUPGGPeMrz3 (дата обращения: 26.06.2026).

16. Бесполезная Алиса от Яндекс // Pikabu. – 2024. – URL: https://pikabu.ru/story/bespoleznaya_alisa_ot_yandekh_9696045 (дата обращения: 26.06.2026).

17. Компания Яндекс представляет: система глумления над быдлолюдьми // IRecommend. – 2024. – URL: https://irecommend.ru/content/kompaniya-yandeks-predstavlyaet-sistema-glumleniya-nad-bydlolyudmi-zatknis-smerd-i-privykai (дата обращения: 26.06.2026).

18. Наши новые законы о запретах приносят вред даже тем, кто создает у себя систему умного дома // Т?Банк. – 2025. – 4 августа. – URL: https://www.tbank.ru/invest/social/profile/BVV/b301e78d-9f55-4e48-bfcb-04f3ac1aeea2/ (дата обращения: 26.06.2026).

Телеграм: t.me/ainewsline

Источник: www.tbank.ru

Комментарии: