AI Новости: Машинное обучение и анализ данных. Python. Алгоритмы, методы, лекции. Новости 2018

AutoRound - усовершенствованный алгоритм квантования для малоразрядных LLM, основанный на методе "SignRound" исследования "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs (https://arxiv.org/pdf/2309.05516)".

SciAgents - фреймворк, который самостоятельно генерирует и уточняет исследовательские гипотезы, разъясняя лежащие в их основе механизмы, принципы проектирования и неожиданные свойства объекта исследования.

Регрессология — это наука, изучающая психические процессы бессознательного и влияние неосознаваемых воспоминаний на текущую жизнь.

Исследователи из UC Berkeley и Google DeepMind предложили новый метод оптимизации вычислений на этапе инференса для LLM и продемонстрировали, что увеличение вычислительных мощностей на этапе инференса может быть более эффективным, чем масштабирование параметров модели.

Описаны алгоритм (см. скриншот) работы оптимизатора, математические идеи и применяемые методы. Приведены результаты экспериментов на основе минимизации действительных функций и результаты скорости сходимости нейронных сетей для различных задач машинного обучения, включая регрессию и классификацию.

Современные нейросетевые архитектуры достигают впечатляющих результатов в сложных задачах ИИ благодаря росту объемов данных и вычислительных мощностей. Однако обратной стороной медали стала высокая ресурсоемкость обучения.

OpenVLA состоит из комбинации визуальных энкодеров SigLIP, DinoV2 и языковой модели Llama 2, выступающей в качестве основы. Обучение производилось на наборе данных Open-X, который состоит из 970 тыс. траекторий манипуляций в различных средах.

Привет, коллеги! Сегодня мы затронем довольно узкую, но крайне интересную тему — Few-Shot Learning в контексте сегментации изображений. Это направление иногда остается в тени более популярных методов глубокого обучения, но на самом деле имеет огромный потенциал, особенно когда у нас ограниченное количество размеченных данных.

MAPF-GPT - это метод решения задачи планирования движения агентов (MAPF) с помощью обучения с подкреплением. Он включает в себя четыре основных этапа: создание сценариев MAPF, генерацию решений, токенизацию решений и выполнение основного цикла обучения.

Привет, Хабр! Меня зовут Иван Антипов, я занимаюсь ML в команде матчинга Ozon. Наша команда разрабатывает алгоритмы поиска одинаковых товаров на сайте. Это позволяет покупателям находить более выгодные предложения, экономя время и деньги.

In-Context Robot Transformer (ICRT) - модель, которая позволяет роботу выполнять новые задачи, интерпретируя контекстную информацию, предоставленную во время демонстрационной фазы, без обновления параметров базовой политики.

В начале 1960-х годов математики Андрей Колмогоров и Владимир Арнольд решили проблему, которую в 1900 году поставил Давид Гильберт. Еще через 60 лет идеи Колмогорова и Арнольда нашли применения в новой архитектуре нейросетей. В математике все происходит не слишком быстро, зато основательно.

Визуальное глубокое погружение в то, как Uber использует теорию графов, встраивания и самовнимание, а также прогнозирует ожидаемое время прибытия.

Получите список лично курируемых и свободно доступных ресурсов по машинному обучению, НЛП и компьютерному зрению БЕСПЛАТНО при подписке на рассылку новостей.

В 10-20 раз быстрее, чем ml-agents (по тестам автора)

Ссылка на гитхаб: https://github.com/asieradzk/RL_Matrix

Hugging Face выпустили пошаговый гайдос (https://github.com/huggingface/lerobot/blob/main/examples/7_get_started_with_real_robot.md) по созданию и обучению своей личной робо-руки.

Компания Hugging Face опубликовала подробную инструкцию по созданию и обучению роботизированной руки.

Всем привет! Я недавно выступал с докладом на VK Kubernetes Conf 2024 про нашу историю изменения подходов к эксплуатации Kubernetes Airflow и хочу поделиться им с сообществом.

Что такое airflow

Aim - это инструмент, поддерживающий отображение большого количества тренировочных прогонов (до 10.000 training runs).

Он предоставляет возможность аналитики и сравнения выполненных запусков тренировок моделей , а его SDK позволяет программно получать доступ к отслеживаемым метаданным для последующей автоматизации в Jupyter Notebook.

 © tehnoomsk.ru

Принцип следующий: персонаж бегает по специальной платформе, а нейронка пытается угадать, какое число он «вводит». Просто оцените, какой колоссальный «дата-центр» пришлось построить.

Создавать нейросети на Python? Нет, спасибо, я выбираю Redstone.

Дело в том, что ещё с 1957 года в основе всех нейросетей лежит сеть из нейронов, весов и функций под названием многослойный перцептрон (MLP). Но теперь ученые представили альтернативу и назвали её в честь советских ученых Андрея Колмогорова и Владимира Арнольда — Kolmogorov-Arnold Networks (KAN).

Сегодня расскажу вам про проект FLock и его довольно необычный совместный эйрдроп с проектом BTC GPT, в ходе которого мы с вами можем получить награды сразу от двух проектов за предоставление данных для искусственного интеллекта.

Аннотация

В данной статье даётся общее описание векторного представления вложений слов - модель word2vec. Также рассматривается пример реализации модели word2vec с использованием библиотеки PyTorch. Приведена реализация как архитектуры skip-gram так и CBOW.

Исходный код

Максимально наглядное объяснение Machine Learning

Зацените — сайт, посвящённый ML, который сплошь состоит из схем и диаграмм.

Здесь супер доступно и понятно описываются основные темы Машинного обучения, уж теперь то станет понятно абсолютно всё

На VK JT анонсировали решение на базе вертикального федеративного обучения, которое позволит компаниям совместно обучать ИИ-модели без обмена данными.