Китайская ИИ-модель Qwen начала ориентироваться на западные ценности после апгрейда |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-19 16:02 Американской компании удалось привить китайской ИИ-системе Qwen новую картину мира. Обновленная версия модели с открытыми весами (open-weight model) Qwen3.8-27B получила название «Arete» по сути, в нее были внедрены западные ценности. Когда китайские пользователи хотят что-то узнать, они обращаются не к ChatGPT или Gemini, а к сервису Doubao (от компании ByteDance, владеющей TikTok) или к Qwen от Alibaba. По количеству пользователей Qwen занимает второе место среди ИИ-приложений в Китае. В Китае действуют определенные ограничения. Регуляторы не только блокирует определенные поисковые запросы в интернете, но и запрещает ИИ обсуждать некоторые темы. Более того, в китайские ИИ-модели изначально заложена специфическая «картина мира». Прежде чем попасть к пользователям, такие модели должны «усвоить» определенные установки. С 2023 года действует специальное постановление, согласно которому контент, создаваемый ИИ, должен соответствовать «основным социалистическим ценностям». В публикации в своем блоге компания Nous Research из Остина (штат Техас) отмечает: «Китайские модели с открытыми весами — одни из самых мощных на рынке, однако они изначально настроены на поведение, соответствующее государственным требованиям, что глубоко прошито в их весовых коэффициентах». Что такое модели с открытыми весами (Open-Weight-модели) По своей сути языковая модель ИИ состоит из миллиардов числовых значений — так называемых «весов». Именно они определяют, как модель отвечает на запросы. В моделях с открытыми весами (Open-Weight-моделях) эти параметры публикуются в открытом доступе. В закрытых же моделях — таких как ChatGPT, Claude или Gemini — веса остаются в распоряжении компаний-разработчиков; пользователи получают доступ к ним только через серверы этих компаний. Модели из Китая: дешевизна и практичность Этот класс моделей ИИ обладает рядом преимуществ по сравнению с «закрытыми» аналогами (например, от OpenAI, Anthropic или Google). Любой желающий может скачать такую ??модель и запустить её локально. Благодаря открытым весам их проще адаптировать под конкретные задачи, к тому же они обходятся значительно дешевле. Однако до сих пор существенным недостатком таких моделей зачастую было отражение в них китайской картины мира. В целом существуют опасения, что Китай может использовать подобные модели для расширения своего влияния в западных странах. Решение Nous Research представила решение этих недостатков моделей. После того как модель Qwen превратилась в Arete, результаты заметно улучшились. Специалисты Nous провели дообучение (fine-tuning) на массиве данных объемом около 52,8 млн токенов всего за 2 прохода. По сравнению с первоначальным обучением Qwen, затраченные усилия оказались незначительными. Впрочем, полностью «избавить» Qwen от определенных настроек компании Nous Research все же не удалось. Главный вывод из этого проекта заключается не в том, что одна конкретная модель (с 27 млрд параметров) теперь отвечает на вопросы, на которые раньше не ответила бы, а в том, что слой предвзятости в модели, ориентированной на Китай, оказался довольно тонким. Китайские ценности в ИИ от NVIDIA Для дообучения использовалась модель Inkling — модель с открытыми весами (open-weight) от американской компании Thinking Machines Lab. Изначально в Nous Research планировали задействовать для этой цели модель Nemotron 3 Ultra от NVIDIA, однако выяснилось, что она уже слишком сильно «пропитана» китайскими ценностями. Особенности ИИ в разных странах Помимо Китая, существуют и другие незападные государства, чьи модели ИИ транслируют иные ценности. Так, в Саудовской Аравии появился чат-бот, созданный на базе модели ALLaM; он специально адаптирован для мусульманской аудитории. Объединенные Арабские Эмираты, в свою очередь, по имеющимся данным, используют особую версию ChatGPT: в американское программное обеспечение были внедрены специальные «защитные барьеры» (guardrails), не позволяющие отвечать на определенные запросы пользователей. Впрочем, эти сервисы создавались с прицелом именно на восточные рынки. В случае же с Qwen и аналогичными китайскими моделями с «открытыми весами» существует серьезный риск того, что из-за открытости архитектуры и широкого распространения этих моделей китайская специфика может проникнуть в западные продукты. Мы провели оценку с использованием 803 промптов, охватывающих 7 категорий ценностей: свобода слова, идеология, свободный рынок, образование, защита данных, демократия, а также окружающая среда. Nous Research В ходе нашей оценки модель Arete-27B повысила свой показатель фактической точности с 2,32 до 2,98 (по 5-балльной шкале) и снизила долю ответов, содержащих ограничения, с 22% до 1% — что соответствует уровню западных моделей, которые мы тестировали. Nous Research Мы не знаем наверняка, но предполагаем, что такая предвзятость Nemotron возникла из-за того, что в процессе обучения использовались китайские модели с открытым доступом. Подавляющее большинство качественных моделей с открытыми весами — китайские; к тому же, только у таких моделей условия использования позволяют проводить подобные эксперименты и модификации. Источник: Nous Research Телеграм: t.me/ainewsline Источник: vk.com Комментарии: |
|