Сэм Альтман уже знает, как создать суперинтеллект

Второй день рождения ChatGPT был всего лишь чуть больше месяца назад, и теперь мы перешли в следующую парадигму моделей, которые могут выполнять сложные рассуждения. Новый год настраивает людей на рефлексивное настроение, и я хотел бы поделиться некоторыми личными мыслями о том, как все прошло, и некоторыми вещами, которые я узнал по пути.

По мере того, как мы приближаемся к AGI, кажется, что пришло время взглянуть на прогресс нашей компании. Еще так много нужно понять, еще так много мы не знаем, и еще так рано. Но мы знаем гораздо больше, чем когда начинали.

Мы начали OpenAI почти девять лет назад, потому что верили, что AGI возможен и что он может стать самой влиятельной технологией в истории человечества. Мы хотели выяснить, как его построить и сделать его широко полезным; мы были рады попытаться оставить свой след в истории. Наши амбиции были необычайно высоки, как и наша вера в то, что эта работа может принести пользу обществу столь же необычайным образом.

В то время это мало кого волновало, а если и волновало, то в основном потому, что они считали, что у нас нет шансов на успех.

В 2022 году OpenAI была тихой исследовательской лабораторией, работавшей над чем-то, временно названным «Чат с GPT-3.5». (Мы гораздо лучше справляемся с исследованиями, чем с именами.) Мы наблюдали, как люди используют функцию игровой площадки нашего API, и знали, что разработчикам действительно нравится общаться с моделью. Мы думали, что создание демо вокруг этого опыта покажет людям что-то важное о будущем и поможет нам сделать наши модели лучше и безопаснее.

В итоге мы милостиво назвали его ChatGPT и запустили 30 ноября 2022 года.

Мы всегда знали, абстрактно, что в какой-то момент мы достигнем переломного момента и революция ИИ начнется. Но мы не знали, какой это будет момент. К нашему удивлению, он оказался таким.

Запуск ChatGPT дал старт кривой роста, которую мы никогда не видели — в нашей компании, нашей отрасли и мире в целом. Мы наконец-то видим часть огромного роста, на который всегда надеялись от ИИ, и мы можем видеть, как много еще будет скоро.

Это было нелегко. Дорога не была гладкой, а правильный выбор не был очевидным.

За последние два года нам пришлось построить целую компанию, практически с нуля, вокруг этой новой технологии. Нет способа обучить людей этому, кроме как делать это, а когда категория технологий совершенно новая, нет никого, кто мог бы сказать вам, как именно это должно быть сделано.

Создание компании на такой высокой скорости с таким малым обучением — грязный процесс. Часто это два шага вперед, один шаг назад (а иногда один шаг вперед и два шага назад). Ошибки исправляются по мере продвижения, но на самом деле нет никаких руководств или ориентиров, когда вы делаете оригинальную работу. Движение на скорости в неизведанных водах — невероятный опыт, но это также чрезвычайно стресс для всех игроков. Конфликтов и недопонимания предостаточно.

Эти годы были самыми полезными, веселыми, лучшими, интересными, изнурительными, напряженными и — особенно последние два — неприятными годами моей жизни. Переполняющее чувство — благодарность; я знаю, что когда-нибудь я буду на пенсии на нашем ранчо, наблюдая за ростом растений, немного скучая, и вспоминая, как было здорово заниматься работой, о которой я мечтал с детства. Я стараюсь помнить об этом в каждую пятницу, когда к часу дня семь дел идут совсем плохо.

Чуть больше года назад, в одну конкретную пятницу, главное, что пошло не так в тот день, было то, что меня неожиданно уволили по видеозвонку, а затем, сразу после того, как мы повесили трубку, правление опубликовало пост в блоге об этом. Я был в гостиничном номере в Лас-Вегасе. Это было похоже на то, что почти невозможно объяснить, на испорченный сон.

Увольнение на публике без предупреждения стало началом действительно сумасшедших нескольких часов и довольно сумасшедших нескольких дней. «Туман войны» был самой странной частью. Никто из нас не смог получить удовлетворительных ответов о том, что произошло или почему. 

Все это событие, по моему мнению, было большим провалом управления со стороны людей с благими намерениями, включая меня. Оглядываясь назад, я, конечно, хотел бы сделать все по-другому, и мне хотелось бы верить, что сегодня я лучший, более вдумчивый лидер, чем год назад.

Я также узнал о важности совета директоров с разнообразными точками зрения и обширным опытом в управлении сложным набором проблем. Хорошее управление требует большого доверия и авторитета. Я ценю то, как много людей работали вместе, чтобы построить более сильную систему управления для OpenAI, которая позволяет нам следовать нашей миссии по обеспечению того, чтобы AGI приносила пользу всему человечеству.

Мой главный вывод — это то, как многому я должен быть благодарен и скольким людям я обязан выразить свою признательность: всем, кто работает в OpenAI и решил потратить свое время и силы на достижение этой мечты, друзьям, которые помогли нам пережить кризисные моменты, нашим партнерам и клиентам, которые поддерживали нас и доверили нам обеспечение своего успеха, и людям в моей жизни, которые показали мне, как сильно они заботятся обо мне. [1]

Мы все вернулись к работе более сплоченно и позитивно, и я очень горжусь нашей сосредоточенностью с тех пор. Мы провели то, что, несомненно, является одним из лучших наших исследований. Мы выросли с примерно 100 миллионов еженедельно активных пользователей до более чем 300 миллионов. Прежде всего, мы продолжили выпускать в мир технологии, которые люди, похоже, искренне любят и которые решают реальные проблемы.

Девять лет назад мы действительно не имели ни малейшего представления о том, кем мы в конечном итоге станем; даже сейчас мы знаем только отчасти. Развитие ИИ претерпело много поворотов и изгибов, и мы ожидаем большего в будущем.

Некоторые повороты были радостными, некоторые — трудными. Было забавно наблюдать, как происходит постоянный поток исследовательских чудес, и многие скептики стали истинно верующими. Мы также видели, как некоторые коллеги разделились и стали конкурентами. Команды, как правило, меняются по мере масштабирования, а OpenAI масштабируется очень быстро. Я думаю, что часть этого неизбежна — стартапы обычно сталкиваются с большой текучкой на каждом новом крупном уровне масштабирования, а в OpenAI цифры растут на порядки каждые несколько месяцев. Последние два года были как десятилетие в обычной компании. Когда любая компания растет и развивается так быстро, интересы естественным образом расходятся. И когда любая компания в важной отрасли оказывается в лидерах, многие люди нападают на нее по разным причинам, особенно когда они пытаются конкурировать с ней.

Наше видение не изменится; наша тактика продолжит развиваться. Например, когда мы начинали, мы понятия не имели, что нам придется создавать продуктовую компанию; мы думали, что просто проведем большое исследование. Мы также понятия не имели, что нам понадобится такой сумасшедший объем капитала. Есть новые вещи, которые нам нужно построить сейчас, которые мы не понимали несколько лет назад, и будут новые вещи в будущем, которые мы едва ли можем себе представить сейчас. 

Мы гордимся нашими достижениями в области исследований и внедрения и стремимся продолжать развивать наши идеи в области безопасности и совместного использования преимуществ. Мы по-прежнему считаем, что лучший способ сделать систему ИИ безопасной — это итеративно и постепенно выпускать ее в мир, давая обществу время адаптироваться и развиваться вместе с технологией, извлекая уроки из опыта и продолжая делать технологию безопаснее. Мы верим в важность того, чтобы быть мировыми лидерами в области исследований безопасности и согласования, и в руководство этими исследованиями с учетом отзывов от реальных приложений.

Теперь мы уверены, что знаем, как построить AGI в традиционном понимании. Мы считаем, что в 2025 году мы можем увидеть первых агентов ИИ «входящих в состав рабочей силы» и существенно меняющих результаты работы компаний. Мы продолжаем верить, что итеративное предоставление людям отличных инструментов приводит к отличным, широко распространенным результатам.

Мы начинаем выходить за рамки этого, к сверхразуму в истинном смысле этого слова. Мы любим наши текущие продукты, но мы здесь ради славного будущего. С сверхразумом мы можем делать все что угодно. Сверхразумные инструменты могли бы значительно ускорить научные открытия и инновации, намного превосходя то, что мы способны сделать сами, и, в свою очередь, значительно увеличить изобилие и процветание.

Сейчас это звучит как научная фантастика, и даже говорить об этом немного безумно. Это нормально — мы уже были там раньше, и мы не против оказаться там снова. Мы уверены, что в ближайшие несколько лет все увидят то, что видим мы, и что необходимость действовать с большой осторожностью, при этом максимально увеличивая общую выгоду и расширение прав и возможностей, очень важна. Учитывая возможности нашей работы, OpenAI не может быть обычной компанией.

Какая это удача и гордость — иметь возможность принять участие в этой работе.

(Спасибо Джошу Тирангиелю за то, что он подсказал мне это . Хотелось бы, чтобы у нас было больше времени.)

[1]

За эти несколько дней было много людей, которые проделали невероятную и гигантскую работу, чтобы помочь OpenAI и мне лично, но двое людей выделялись из всех остальных.

Рон Конвей и Брайан Чески так далеко вышли за рамки служебного долга, что я даже не уверен, как это описать. Я, конечно, слышал истории о способностях и упорстве Рона в течение многих лет, и я провел много времени с Брайаном за последние пару лет, получая огромное количество помощи и советов.

Но нет ничего лучше, чем оказаться в окопе с людьми, чтобы увидеть, на что они действительно способны. Я вполне уверен, что OpenAI развалилась бы без их помощи; они работали круглосуточно в течение нескольких дней, пока все не было сделано.

Хотя они работали невероятно усердно, они сохраняли спокойствие и имели четкую стратегическую мысль и отличные советы на протяжении всего. Они не дали мне совершить несколько ошибок и не совершили ни одной сами. Они использовали свои обширные сети для всего необходимого и смогли ориентироваться во многих сложных ситуациях. И я уверен, что они сделали много вещей, о которых я не знаю.

Но больше всего мне запомнились их забота, сострадание и поддержка.

Я думал, что знаю, как это выглядит — поддерживать основателя и компанию, и в каком-то смысле я знал. Но я никогда раньше не видел и даже не слышал ничего подобного тому, что сделали эти ребята, и теперь я более полно понимаю, почему у них такой легендарный статус. Они разные, и оба полностью заслуживают своей поистине уникальной репутации, но они похожи в своей замечательной способности двигать горы и помогать, а также в своей непоколебимой приверженности в трудные времена. Технологическая индустрия намного лучше, когда в ней есть они оба.

Есть и другие, подобные им; это удивительно особенная вещь в нашей отрасли, и она делает гораздо больше, чтобы все работало, чем люди думают. Я с нетерпением жду возможности заплатить вперед.

А если говорить о личном, то я хотел бы выразить особую благодарность Олли за его поддержку в те выходные и всегда; он невероятен во всех отношениях, и лучшего партнера нельзя и желать.

Источник: blog.samaltman.com

Комментарии: