Эксперт по искусственному интеллекту бьет тревогу: элита Кремниевой долины пытается создать цифрового «бога»

Фрэнк Бергман,

Известная во всем мире журналистка бьет тревогу после того, как, проникнув в высшие эшелоны индустрии искусственного интеллекта, обнаружила, что элита Кремниевой долины отчаянно пытается создать цифрового «Бога».

Карен Хао, бывшая репортер MIT Technology Review, тревожно отзывается об индустрии искусственного интеллекта после многолетнего изучения внутренней работы OpenAI и общения с сотнями инсайдеров.

Теперь она предупреждает, что некоторые из самых влиятельных фигур Кремниевой долины вовлечены в то, что она описывает как идеологический поиск создания «бога-машины».

Хао утверждает, что ее масштабное расследование деятельности OpenAI выявило скрытную культуру, движимую одержимостью разработкой искусственного общего интеллекта (AGI).

AGI — это форма искусственного интеллекта, сторонники которой считают, что в конечном итоге она сможет превзойти человеческий интеллект.

Полученные результаты легли в основу новой книги Хао «Империя ИИ: внутри безрассудной гонки за тотальным господством», в которой утверждается, что гонка за созданием сверхинтеллектуальных машин превратилась из якобы альтруистической миссии в рискованное стремление к власти, влиянию и беспрецедентному богатству.

За кулисами секретного мира OpenAI

В 2019 году Хао получил исключительный доступ в штаб-квартиру OpenAI, вскоре после того, как компания привлекла инвестиции в размере 1 миллиарда долларов от Microsoft.

В то время OpenAI публично позиционировала себя как прозрачную некоммерческую организацию, стремящуюся к тому, чтобы передовой искусственный интеллект приносил пользу человечеству.

Но, по словам Хао, она быстро обнаружила совершенно другую реальность.

«С самого начала я понял, что что-то не так», — сказал Хао.

Несмотря на публичную приверженность OpenAI принципам открытости, Хао описал обстановку, характеризующуюся секретностью, ограничениями и внутренней паранойей.

По имеющимся данным, ее сопровождали по всему зданию, запрещали доступ в определенные зоны и отстраняли от участия в важных встречах.

Сотрудников предупредили, чтобы они не общались с ней вне утвержденных каналов, а сотрудникам службы безопасности, как сообщается, выдали ее фотографии и дали указание следить за ее передвижениями.

«Во время разговоров с исследователями я заметил, что они постоянно очень нервничали, пытаясь сказать то, что им не следовало говорить, что было странно, ведь вся суть OpenAI заключалась в том, что они будут делиться всей информацией», — сказал Хао.

По словам Хао, атмосфера внутри компании была «конкурентной, скрытной и замкнутой».

«Идеологическое стремление к Богу-Машине»

По мере расширения своего расследования Хао опросила сотни бывших сотрудников и лиц, связанных с руководством OpenAI.

В ходе этих разговоров она пришла к выводу, что многие из ведущих сотрудников компании относятся к разработке искусственного сверхинтеллекта с почти религиозным рвением.

Она описывает это явление как «идеологическое стремление к богу-машине ».

Несколько бывших сотрудников рассказали истории, которые, по словам Хао, отражали культуру, окружающую разработку искусственного общего интеллекта.

Среди них был и выездной семинар для руководителей в горах Сьерра-Невада в Калифорнии, где, как утверждается, высокопоставленные сотрудники OpenAI собрались вокруг костра, в то время как бывший главный научный сотрудник Илья Суцкевер сжигал чучело, символизирующее искусственный общий интеллект.

Бывшие сотрудники рассказали Хао, что только после ухода из OpenAI они почувствовали, что «спустились с небес на землю».

В ходе расследования также была выявлена, по словам Хао, крайняя секретность, окружающая исследования компании.

Согласно ее репортажу, Суцкевер однажды размышлял о том, как защитить конфиденциальные технологии, если кто-то попытается отрезать ему руку и использовать ее для обхода сканера ладони, защищающего системы компании.

Хао также сообщил, что бывший руководитель OpenAI Дарио Амодей составлял секретные стратегические документы на компьютерах, отключенных от интернета, и распространял их только в виде распечаток.

Гонка за сверхинтеллектом меняет всю отрасль.

По словам Хао, трансформация OpenAI ускорилась по мере того, как руководители компании все больше убеждались в том, что достижение ИИ в первую очередь является важнейшей задачей.

Эти стремления подтолкнули OpenAI к стратегии, основанной на масштабном расширении возможностей больших языковых моделей за счет предоставления им беспрецедентных объемов данных и вычислительной мощности.

Такой подход потребовал огромных финансовых ресурсов, что в конечном итоге привело к тому, что OpenAI создала коммерческое подразделение и начала привлекать внешние инвестиции.

«Трудно переоценить, насколько идея масштаба в то время считалась научной крайностью», — сказал Хао.

Она утверждает, что успех OpenAI спровоцировал общеотраслевую гонку вооружений, поскольку конкуренты бросились создавать все более мощные системы искусственного интеллекта, используя ту же стратегию.

«Мы наблюдаем, как вся область искусственного интеллекта и вся индустрия скатываются к единому подходу, который является крайне ленивым с интеллектуальной точки зрения и глубоко вреден для общества», — утверждал Хао.

«Все негативные последствия использования ИИ, которые мы наблюдаем, проистекают из этой идеи масштабирования».

Предупреждения о конфиденциальности, энергопотреблении и сборе данных

Хао утверждает, что многие опасения, связанные сейчас с искусственным интеллектом, напрямую проистекают из неустанного стремления отрасли к созданию более крупных моделей.

Она указывает на разросшиеся центры обработки данных, потребляющие огромное количество электроэнергии и воды, растущее давление на местные электросети и масштабные методы сбора данных, предполагающие получение информации из различных источников в интернете.

По словам Хао, компания OpenAI первоначально полагалась на тщательно отобранные источники, такие как научные статьи, но в конечном итоге исчерпала эти ресурсы.

Затем компании начали собирать огромные объемы онлайн-контента с форумов, платформ социальных сетей и других общедоступных источников, чтобы продолжать расширять наборы данных для обучения ИИ.

В результате, по ее мнению, появились все более мощные системы, которые зачастую выдают неточную информацию, полуправду и ненадежные результаты, одновременно поднимая серьезные вопросы о неприкосновенности частной жизни и правах интеллектуальной собственности.

Другой путь для искусственного интеллекта

Несмотря на свою критику, Хао настаивает, что не выступает против искусственного интеллекта как такового.

Вместо того чтобы останавливать развитие ИИ, она утверждает, что исследователям следует заниматься более целенаправленными и узконаправленными приложениями, которые решают конкретные проблемы, не требуя огромных объемов данных и вычислительных ресурсов.

«Мы по-прежнему можем быстро развивать ИИ, просто в другом направлении», — сказал Хао.

Она указывает на такие области, как разработка лекарств, где тщательно разработанные системы искусственного интеллекта, обученные на специализированных наборах данных, могли бы обеспечить значительные прорывы, не преследуя при этом гораздо более амбициозную цель создания интеллекта, превосходящего человеческий.

Для Хао главный вопрос остается тем же, который, по ее словам, она задала руководителям OpenAI во время своего первого визита в 2019 году: зачем человечеству вообще стремиться к созданию сверхинтеллектуальных машин?

Спустя семь лет, по ее словам, она все еще ждет убедительного ответа.

Телеграм: t.me/ainewsline

Источник: slaynews.com

Комментарии: