Инженеры OpenAI не смогли объяснить код, который нейросеть сгенерировала для кернела AI?ускорителя Jalapeno

Аналитик SemiAnalysis Джордан Нанос рассказал, что инженеры OpenAI не смогли построчно объяснить работу части кода для нового AI-ускорителя Jalapeno. Код сгенерировали с помощью Codex, и команда понимает общий принцип его работы, но не погружается в детали.

Эпизод произошёл во время тестирования чипа на бенчмарке InferenceX. Специалисты SemiAnalysis приехали в лабораторию OpenAI и вместе с её инженерами изучали программный стек ускорителя. Они просматривали файл примерно на 30 тыс. строк с низкоуровневым кодом кернела Multi?head Latent Attention — механизма внимания, который используется в DeepSeek R1.

Код кернела написан на Gluon — низкоуровневом языке программирования GPU. По словам Наноса, инженеры понимают архитектуру чипа и общие принципы работы кода, но если попросить их объяснить, что делает та или иная строчка, то они не смогут точно ответить. При этом в разработке участвую специалисты с большим опытом и экспертизой в работе с программированием GPU.

Нанос также рассказал, что в разработке AI?ускорителя Jalape?o команда OpenAI активно использует Codex. Агенты практически самостоятельно создали эффективные кернелы для DeepSeek R1, при том что до этого у компании не было собственной реализации MLA. Разработчики протестировали его и не стали глубоко погружаться в детали, потому что всё и так работает.

Мнение пользователей разделилось: одни считают, что такой подход заметно ускорит разработку ПО, а другие боятся, что в итоге это приведёт к потере контроля над проектом.

https://x.com/firesidealpha/status/2093860831595499892

Телеграм: t.me/ainewsline

Источник: x.com

Комментарии: