Илон Маск запустил Colossus — крупнейший в мире суперкомпьютер

Инженеры из стартапа в области искусственного интеллекта xAI Илона Маска построили суперкомпьютер под названием Colossus всего за 122 дня. «РБК Тренды» объясняют, в чем уникальность этого проекта.

Суперкомпьютер предназначен для обучения большой языковой модели компании под названием Grok, потенциального конкурента GPT-4 от OpenAI.

Кластер состоит из 100 тыс. графических процессоров Nvidia H100. Для сравнения: у Meta (компания признана в России экстремистской и запрещена) насчитывается 70 тыс. чипов, а у Google — 90 тыс. Маск назвал Colossus «самой мощной системой обучения ИИ в мире».

Графические процессоры Nvidia H100 предлагают до девяти раз большую скорость, чем предыдущие модели A100, которые в основном используют конкуренты xAI. Кластер будет работать быстрее, чем система Aurora Министерства энергетики США, которая считается самым мощным в мире суперкомпьютером ИИ.

Руководитель Nvidia Дженсен Хуанг назвал задачу по созданию Colossus «сверхчеловеческой». Он отметил, что у других компаний на эту работу ушли бы годы.

Маск пообещал удвоить вычислительную мощность Colossus в течение нескольких месяцев, как только сможет закупить еще 50 тыс. более совершенных чипов серии H200 от Nvidia. В перспективе xAI намерена реализовать проект по созданию «гигафабрики» для задач ИИ.

Больше материалов читайте в группе «РБК Тренды»

Фото: Richard Bord/Getty Images

Источник: vk.com

Комментарии: