"Началось": Первый прототип космического центра обработки данных выполнил обучение модели ИИ

Adi Oltean (главный инженер стартапа Starcloud):

— Мы использовали графический процессор NVIDIA H100 на борту спутника Starcloud-1 для обучения первой большой языковой модели в космосе!

Мы обучили модель nano-GPT Андрея Карпатыя (ред. - бывшего главы Tesla AI) на полном собрании сочинений Шекспира. Мы также протестировали предварительно загруженную модель Gemma (ред. - версия модели Gemini от Google) и планируем в будущем попробовать более интересные модели.

Для того, чтобы первый H100 заработал в космосе, команде Starcloud потребовалось множество инноваций и упорного труда. Это важный первый шаг к переносу почти всех вычислительных операций за пределы Земли, чтобы снизить нагрузку на энергетические ресурсы на Земли и воспользоваться преимуществами солнечной энергии в космосе! ?

Andrej Karpathy:

— nanoGPT — первая большая языковая модель, обучающаяся и выполняющая вычисления в космическом пространстве ? Началось.

|

pulkit mittal:

— Небольшой шаг для nanoGPT, но гигантский скачок для ИИ

|

Andrej Karpathy:

— Ха-ха ?

Gavin Baker: (ИТ-директор инвестиционной компании):

— Самое важное в ближайшие 3-4 года - это центры обработки данных в космосе. Во всех отношениях они превосходят центры обработки данных на Земле. В космосе спутник может находиться под солнечными лучами 24 часа в сутки. При этом они на 30% интенсивнее, что позволит получать с них до 6-и раз больше энергии, чем на Земле. Поэтому доп. аккумуляторная батарея не нужна. Охлаждение в ЦОДах на Земле - невероятно сложное. Космическое же охлаждение - бесплатно, нужно просто установить радиатор на обратной стороне спутника. Единственное, что может быть быстрее луча, проходящего по оптоволоконному кабелю - это луч лазера, проходящий через космический вакуум. Соедините спутники лазерами, и вы получите более быструю сеть, чем имеют любой ЦОД на Земле

|

Adam Holt:

— Техническое обслуживание практически невозможно, не так ли?

|

Phil Metzger (директор Центра им. Стивена Хокинга):

— Да, поначалу. Думаю, SpaceX вначале будут просто заменять свои спутники целиком при возникновении слишком большого количества внутренних неисправностей. В конечном итоге архитектура будет развиваться таким образом, что они будут физически соединены в виде модульных блоков, причем каждый модуль будет полностью заменяемым. В долгосрочной перспективе конструкция может эволюционировать в сторону более мелких модулей, которые можно будет заменять по мере необходимости роботизированным способом.

|

Elon Musk:

— У SpaceX на орбите больше спутников, чем у всего остального мира вместе взятого, так что, возможно, мы кое-что знаем по этому вопросу ?

Starlink V3 будут иметь мощность 20 кВт и они начнут массово запускаться примерно в 4-м квартале следующего года. Масштабирование до >100 кВт не составит проблем, если масса спутника будет смещена в сторону солнечных панелей и радиаторов охлаждения для ИИ вычислений, вместо гигантских фазированных антенных решеток для подключения к сети Интернет. Для этого будет использоваться та же лазерная система связи, что и в существующих спутниках Starlink. Группировка спутников с ИИ проще, а не сложнее, чем разработка Starlink V3, который является настоящим чудом инженерной мысли, созданным грандиозной командой людей. Я очень горжусь командой SpaceX!

Напомним, что спутник Starcloud-1 был запущен на орбиту 2 ноября на ракете Falcon 9 в рамках миссии Bandwagon-4. Ожидается, что его миссия продлится ещё около 10 месяцев.

Источник: vk.com

Комментарии: