— В каком направлении будут развиваться большие языковые модели? (LLM)

— Такие системы, как ChatGPT, Claude и Gemini, показали, что способны быстро обучаться на гигантских объемах данных. Причем на первом этапе люди скармливали им для этого информацию, людьми же и созданную. После этого еще настраивали языковые модели — скажем, чтобы они не рассказывали пользователям, как делать оружие и убивать людей, а переводили разговор на другие темы.

И уже на первом этапе у ИИ начали проявляться эмерджентные способности — те, что создатели в них не закладывали. Например, первую версию ChatGPT обучали исключительно на английском языке, а она взяла и сама научилась говорить на других языках. Как? Этого не понимают даже сами создатели.

Теперь у нас второй этап: ИИ может сам сгенерировать себе все необходимые данные для обучения. Например, шахматная программа играет сама с собой и прокачивается таким образом до уровня супергроссмейстера.

Или другой пример — обучение роботов сложным движениям — скажем, ходьбе. Раньше пытались каждое движение робота описать с помощью уравнения и по этим уравнениям заставить его ходить. Получалось плохо, медленно и неэффективно. А сейчас ИИ сам генерирует для себя синтетическое видео того, как робот должен двигаться. И по нему отстраивает эти движения так, чтобы они были более точными, плавными, быстрыми.

То есть человеческое участие в обучении нейросетей начинает уменьшаться и сводиться если не к нулю, то к минимуму. Настраивать они уже тоже могут друг друга сами. Какие эмерджентные способности могут у них проявиться в следующий раз при таких условиях, мы не знаем.

Сергей Карелов

Источник: vk.com

Комментарии: