AI Новости: Машинное обучение и анализ данных. Python. Алгоритмы, методы, лекции. Новости 2018

Одна из главных проблем LLM в том, как мало инфы они могут «помнить» — вы могли заметить, что если достаточно долго общаться с ChatGPT, то со временем он начинает забывать текст, который вы писали в начале диалога.

Чтобы избежать такого эффекта, Google предлагает добавить еще один вид памяти: долгосрочную.

Флагманская модель AceMath-72B-Instruct выглядит лучше Qwen2.5-Math-72B и превосходит GPT-4o и Claude-3.5 Sonnet в области решения математических задач.

Введение

I. Что такое CUDA?

В дополнение к математической модели вознаграждения за результат (ORM) Qwen2.5-Math-RM-72B, Qwen выпустили модели вознаграждения за процесс (PRM),

Введение в статистическую теорию машинного обучения

Видео (https://www.youtube.com/watch?v=ma50i4M5aAw)

Sky-T1-32B-Preview 32B - 450$ - это все, что вам нужно, чтобы обучить свою собственную O1 ?

Модель достигает конкурентоспособных результатов в рассуждениях и кодинге, 82.4 в Math500, 86.3 в LiveCode-East по сравнению с QwQ (85.4, 90.7) и o1-preview (81.4, 92.9) ?

Свежее руководство по обучению с подкреплением, которое очень подробно объясняет всю теорию и детали реализации каждого алгоритма в этой области со множеством примеров и кодом.

Читать (http://naklecha.com/reinforcement-learning)

Когда я смотрел на то, что происходило с рекламными системами в 2024 году, у меня было стойкое дежавю. Где-то я уже это видел. Меня словно отбросили на десятилетие в прошлое. Опять есть Яндекс, поисковая оптимизация и ВКонтакте. Только клик стоит не 1-3 рубля, а 30-70 рублей. Ну и таргетинги проапгрейдились.

Jax – это фреймворк для машинного обучения, подобный PyTorch и TensorFlow.

Его разработали в Deepmind, хотя он не является официальным продуктом Google, он остается популярным.

Преподаватель: Виктор Немченко

Межфакультетский курс "Нейронные сети и их применение в научных исследованиях" – проводится для студентов МГУ с целью повышения общего уровня эрудиции. Материал лекций не содержит сложных формул и терминов и будет понятен широкой аудитории.

00:00 Заставка

00:21 О проекте MSU.AI

VSI-Bench (https://vision-x-nyu.github.io/thinking-in-space.github.io/) - видео-бенчмарк из 5130 пар "вопрос-ответ" основанных на 288 видеозаписях реальных сцен. Видеоматериалы были собраны из публичных датасетов ScanNet, ScanNet++ и ARKitScenes и содержат типы пространств: жилые помещения, офисы и производственные объекты.

Библиотека поддерживает модели от OpenAI и Anthropic, а также модели, доступные на платформе Hugging Face Hub.

Это минималистичная библиотека для создания умных агентов, которые выполняют свои задачи, генерируя и исполняя Python-код!

В этой статье я привел основные сведения о трех основных видах НБК и показал реализацию каждого.

Содержание: формулировка задачи, независимость признаков, теория для мультиномиального, гауссовского и бернулли и их реализация.

Введение

Код урока - https://colab.research.google.com/drive/1szLu2Zg7VDuQkaJSPRvxSBCJvtmUMCmK?usp=sharing

В этом уроке:

Введение в тензорные сети

Архитектуры тензорных сетей

Преимущества тензорных сетей

Применение в глубоком обучении

Практические примеры

Введение в тензорные сети

DepthLab (https://johanan528.github.io/depthlab_web/) - диффузионный механизм инпейнта карт глубины с двумя параллельными ветвями для задач заполнения 3D-сцен, генерации сцен на основе текстовых промптов, реконструкции с использованием DUST3R и заполнение глубины LiDAR.

AI-лаборатория Стенфордского университета представила модель MiniVLA — усовершенствованную версию Vision-Language-Action (VLA), компактную альтернативу OpenVLA.

В последние годы нейронные сети стали неотъемлемой частью множества технологических решений, начиная от анализа больших объемов данных до создания искусственного интеллекта. Однако при работе с такими технологиями возникает множество вопросов, связанных с безопасностью, этикой и эффективностью использования данных.

Как загрузить GPU реальными инженерными вычислениями? Давайте я расскажу, как с помощью Julia наконец смог втащить высокопроизводительные вычисления в свою немудрёную инженерную работу. Это был долгий путь, но мне кажется, что Julia стала моим лучшим другом в мире GPU/HPC.

Мой путь к GPU, к Julia и к Engee

Российский трафик YouTube после недавнего замедления снизился еще на 10%. Осталось сравнить с такой же статистикой по росту трафика у русскоязычных каналов с нероссийских айпишников.

Хотите попробовать свои силы в этичном хакерстве, научить модель машинного обучения, поиграться с веб-скрапингом или просто сделать игру? Он вам в этом поможет.

Примеры проектов:

Этичный хакинг: от создания ARP Spoofer до WiFi-сканера.

Геймдев: Flappy Bird, Tetris или даже Space Invaders — весь код уже есть.

Российские учёные создали первую полностью открытую среду для быстрого дообучения ИИ. Она доступна исследователям контекстного обучения с подкреплением по всему миру. 

Hugging Face запустили бесплатный открытый курс по файнтюнингу моделей. В курсе рассматриваются теория и практические аспекты работы с такими методами, как LoRA, супервайзед-файнтюнинг, DPO, ORPO и другие техники для настройки моделей под конкретные задачи.

OpenCoder - это открытое и воспроизводимое семейство LLM для программирования, включающее 1,5B и 8B базовые и instruct версии, поддерживающее английский и китайский языки.

Это экспериментальная библиотека Python, которая позволяет моделировать людей с определенными личностями, интересами и целями".

Эти агенты могут слушать, отвечать на запросы и жить своей жизнью в симулированной среде TinyWorld.

Sims на на базе LLM?

Всего полтора года назад казалось, что запустить локально языковую или генеративную модель было чем-то из области фантастики, доступной немногим. Тогда было всего несколько самописных вариантов вариантов, и каждый из них требовал знаний, усилий и ресурсов.