Вправить мозги |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-14 17:13 А что, если одну модель попросить улучшить другую, поправив ее веса напрямую? Именно так в начале ноября поступили исследователи из MIT CSAIL — в ходе эксперимента GPT-6 Astra ощутимо улучшила способности Qwen3.5-0.8B к прохождению тестов по математике без традиционного для такой ситуации дообучения — просто изменив сотые доли процента ее весов. Помимо этого, в серии опытов фронтирная модель напрямую интерпретировала, модифицировала или просто задавала веса другой, более малой модели. Исследователи назвали такой подход программированием в пространстве весов (Weight-Space Programming) и заявили, что на подходе новая парадигма оптимизации в машинном обучении. Новость заинтересовала ИИ-сообщество, и за несколько дней подобные результаты получили с другими моделями. Многие стали сравнивать это с «хирургией на мозге», поскольку одна модель напрямую правит способ принимать решения у другой. Но действительно ли это революция? Дошагать до звезд Машинное обучение основано на отказе от необходимости прописывать в коде все правила поведения программы. Вместо этого разработчики скармливают ей большой объем информации, и программа, подстраивая свои параметры, самостоятельно находит в ней закономерности, зачастую неочевидные стороннему наблюдателю. Сегодня наиболее мощным инструментом машинного обучения оказались нейросети. Подробнее о принципах работы машинного обучения и роли нейросетей на примере языковых моделей мы рассказывали в материале «И целого интернета мало». Цикл обучения нейросетей почти всегда выглядит одинаково. На вход подают данные, они проходят по слоям, и на выходе получается некоторое предсказание или действие. Далее происходит оценка результата и запускается обратная корректировка, в ходе которой веса меняются таким образом, чтобы в следующий раз результат стал лучше. Число шагов определяется в первую очередь объемом данных, а вычислительная стоимость каждого шага — размером модели. Сами размеры при этом описываются астрономическими числами. У Qwen3.5-0.8B буква в названии B означает billion, то есть миллиард Полученные в MIT CSAIL результаты выглядят так, будто GPT-6 Astra интерпретирует действия нейросетей существенно лучше человека. Это кажется логичным, учитывая, что каждое следующее поколение современных моделей сопровождается ростом максимальный объем информации (входных данных и самого ответа), который искусственный интеллект способен единовременно удерживать и обрабатывать за один вызов или запрос Выйти из цикла Исследователи из MIT CSAIL провели восемь экспериментов, которые разбили на три группы. В каждой из них модели, над которыми работала Astra, делились на малые и большие. Малые целиком влезали в контекстное окно GPT-6, а для больших ей разрешали работать в Python-песочнице, где Astra могла считывать, сохранять и анализировать веса с помощью кода. В некоторых случаях, чтобы увидеть результат работы, фронтирная модель могла запустить свое творение на предназначенной для него задаче, однако число таких прогонов строго контролировалось и обычно не превышало 50. В первой группе Astra показывали веса небольших моделей, и фронтирная модель должна была сделать о них некоторый вывод. Речь шла о моделях для игр («Для какой игры эта модель?»), моделях для рисования фигур («Какую фигуру нарисует эта модель?») и языковых моделях («На каком языке была обучена модель?») — во всех случаях эксперименты были успешными. К этой же группе авторы отнесли задачу, где GPT-6 по одним только весам должна была определить, какая из двух копий Gemma 3 270M доучена быть более подхалимской. С этой задачей фронтирная модель не справилась. Вторая группа экспериментов — написание весов нейросети с нуля, безо всякого обучения. Сначала это были три небольшие игры, а затем нейросеть для 10 лет назад именно эта игра стала символом триумфа нейросетей — подробно об этом можно почитать в нашем материале «Го: речь поражения» Наконец, третья группа — редактирование и улучшение весов уже обученных моделей. Малая модель неправильно управляла машинкой в простеньком физическом симуляторе. Astra починила ее с первой попытки, поменяв 3,5 процента весов. Большой моделью была Qwen3.5-0.8B, которая решала математические задачки из бенчмарков MATH-500 и GSM8K. Авторы эксперимента фиксировали способности Qwen после редакций от Astra на основе 10, 25 и 50 прогонов. Кратный прогресс показал бенчмарк MATH-500: результат вырос с 7,9 до 48,1 процента. Число исправленных весов при этом составило всего 131072, или 0,016 процента. Впрочем, авторы отмечают, что GPT-6 не улучшила математические способности Qwen3.5-0.8B, а всего лишь исправила особенности, которые мешали продемонстрировать их. Дело в том, что у моделей вроде Qwen3.5-0.8B есть распространенный недостаток: в режиме рассуждения они зацикливаются. Когда это происходит, модель повторяет один и тот же текст и часто исчерпывает максимальное число токенов, которое модель может сгенерировать в одном ответе Исследователи убедились, что исправление зацикленности не ограничивается математикой: оценки на бенчмарке IFEval, измеряющем следование инструкциям, выросли с 21,0 до 62,3 процента. Для надежности авторы повторили эксперимент с меньшей, но заведомо редко зацикливающейся моделью Gemma 3 270M. В этом случае манипуляции GPT-6 ощутимых улучшений в способностях к математике не принесли. Лучшая версия себя Пост группы из MIT CASIL вышел 2 ноября. Уже через несколько часов о воспроизведении результатов сообщил исследователь из Google Research Александр Кренцель (Alexander Krentsel), были и другие работы. При этом мнения относительно прорывного потенциала результатов, полученных с помощью Astra, разделились. Согласно оценке daily.dev на основе комментариев под новостью о экспериментах, 40 процентов читателей настроены позитивно, 15 процентов — скептически, в то время как оставшиеся занимают смешанную позицию. Авторов хвалят за честность и публикацию полных логов экспериментов, хотя и подчеркивают, что публикация у себя в блоге — не то же самое, что выход научной статьи. Части исследователей не понравилось, что каждое условие прогоняли только один раз — неизвестно, насколько отличался бы второй прогон. Дисперсия результатов множества проверок теоретически может быть достаточно большой, чтобы сгладить продемонстрированный авторами контраст. Один из исследователей, работающих с пространством весов, отметил, что в малых моделях большую часть редактирования и так можно выполнить вручную, поэтому качественно нового результата соответствующие эксперименты не показывают. По его словам, идея о редактировании весов не нова, а потому неправильно заявлять, что новая парадигма родилась именно сейчас. Многие сошлись во мнении, что задачи и данные по механистической интерпретируемости наверняка содержались в датасетах, на которых OpenAI учили модели. Раскритиковали в сообществе и эксперимент с улучшением математических способностей моделей. Швейцарский исследователь Лукас Бейер (Lucas Beyer) обратил внимание, что указание на зацикливание уже содержалось в промпте, который подавался в GPT-6 Astra. Авторы ответили, что эту подсказку для Astra добавил Claude Code, когда его попросили расширить промпт. Андреас Майер (Andreas Maier) из Университета Эрлангена — Нюрнберга, в свою очередь, отметил, что для починки Qwen не проверяли более простые способы бороться с зацикливанием. Похожая претензия у него была и к нейросети для го: авторы сравнивали ее только с нейросетями, которые обучили сами, а не с общепризнанными программами для этой игры. Он также заметил, что один из «найденных» Astra приемов — способ находить в языковой модели блоки, которые копируют уже встречавшийся текст, — давно описан в научной литературе. То есть модель не изобрела его, а применила известный человеческий метод. И все же, несмотря на критику, основные результаты исследователей из MIT CSAIL в целом подтвердились: их независимо воспроизвели несколько человек. Фронтирные модели от OpenAI и Anthropic (и даже не только они) действительно способны исправлять недостатки и анализировать работу нейросетей, не задействуя привычную оптимизацию весов. Кренцель отмечает, что эти способности появились только у моделей последнего поколения. Возможно, в будущем они лишь улучшатся. Если так и произойдет, в теории это откроет дорогу к быстрой (хотя и не факт, что дешевой) отладке уже развернутых моделей, поиску у них каких-либо неочевидных способностей прямо по весам и новым архитектурным модификациям. Авторы из MIT CSAIL предполагают, что так можно было бы дойти даже до рекурсивного самоулучшения, когда модель совершенствуется, «вручную» корректируя собственные веса. Но в такой сценарий, кажется, не верят даже оптимисты. Телеграм: t.me/ainewsline Источник: nplus1.ru Комментарии: |
|