Передовая система искусственного интеллекта уже «самоосознанна»; утверждает основатель ASI Alliance

Основатель ASI Alliance Бен Герцель утверждает, что альфа-версия OpenCog Hyperon - системы искусственного общего интеллекта, которую он разрабатывает уже более двух десятилетий, - уже в определенной степени «самоосознанна».

Самосознание — сознание субъектом самого себя в отличие от иного — других субъектов и мира вообще; это сознание человеком своего взаимодействия с объективным миром и миром субъективным, своих жизненно важных потребностей, мыслей, чувств, мотивов, инстинктов, переживаний, действий.

Гертцель также рассказал, что, по его мнению, OpenAI, скорее всего, уклоняется от превращения своей «очень впечатляющей» новой модели o1 в автономного агента, опасаясь, что это будет воспринято как «рискованное и опасное» и спровоцирует преследование со стороны регулирующих органов.

«Автономные агенты — это системы, способные к автономным целенаправленным действиям в реальном мире».

Альянс искусственного суперинтеллекта был создан в марте этого года, объединив проект SingularityNET Гертцеля, Ocean Protocol и FetchAI ветерана DeepMind Хумаюна Шейха.

На этой неделе 96 % участников голосования CUDOS одобрили слияние децентрализованной сети облачного оборудования с ASI. Слияние позволит увеличить количество вычислительных ресурсов для реализации планов Гертцеля по расширению OpenCog Hyperon, системы искусственного интеллекта, над которой он работал с 2001 года и запустил в 2008 году как фреймворк ИИ с открытым исходным кодом.

OpenCog Hyperon и будущее искусственного общего интеллекта

Три года назад проект приступил к полной переработке OpenCog в «стремлении к огромной масштабируемости, и мы прошли большой путь в этом процессе», - говорит он. Альфа-версия была запущена в апреле, и хотя, по его словам, в настоящее время она работает очень медленно и ожидаются «серьезные изменения», команда работает над тем, чтобы «значительно ускорить ее».

«Я думаю, это должно быть завершено этой осенью. И тогда, то есть в следующем году, мы начнем работать над созданием AGI на новой инфраструктуре Hyperloop».

Герцель говорит, что система использует другой подход по сравнению с большими языковыми моделями (LLM), такими как GPT-4 и o1.

«Система Hyperon - это не просто чатбот. Она спроектирована как своего рода автономный агент, который имеет свои собственные цели и самосознание и пытается понять, кто он и кто вы, чего он пытается достичь в данной ситуации. Таким образом, это в значительной степени автономный, самосознающий агент, а не просто система, отвечающая на вопросы».

Системам AGI необходимо самосознание для обеспечения автономности

Постойте, вы хотите сказать, что нынешняя модель самосознательна?

«Я подразумеваю под самосознанием то, что с самого начала, даже в текущих версиях, у нее есть модель того, кто она есть. У нее есть модель того, кто вы. У нее есть определенные цели, которых она пытается достичь в данной ситуации. Она знает, как она относится к этой ситуации и что она пытается сделать. А система типа ChatGPT не справляется с этой задачей», - Гертцель.

Система сочетает в себе механизм логических рассуждений, эволюционное программное обучение и глубокие нейронные сети, реализованные в динамическом информационном пространстве, которое пересматривает и изменяет себя.

Кстати, по словам Гертцеля, отсутствие модели мира объясняет, почему ни один из созданных до сих пор автономных агентов ИИ не работает по-настоящему. Вы не можете просто взять «систему ответов на вопросы» и сказать ей: «Ты - агент, взаимодействующий с миром».

OpenAI's o1 и нормативно-правовой риск

При всей шумихе вокруг автономного агентоподобного поведения OpenAI, Гертцель считает, что OpenAI намеренно избегает идти по этому пути в выпущенной модели o1.

«Она пытается быть хорошей в рассуждениях и логике, и у нее это очень хорошо получается. Мне это нравится. Это очень впечатляет. Она не пытается быть автономным агентом. Это совсем другое дело. Я думаю, они не хотят этого делать, потому что это будет выглядеть рискованно и опасно, и регулирующие органы попытаются их растоптать. Последнее, что они хотят сделать, - это создать автономного агента».

В этом и заключается одно из преимуществ разработки децентрализованной системы с открытым исходным кодом. Регуляторы не смогут «растоптать ее» таким же образом.

«Когда мы запустим передовые системы ИИ, они будут работать на машинах, разбросанных по всем континентам, в 50 или 100 разных странах. Так что, если одна страна решит, что OpenCog Hyperon незаконен, это будет лишь небольшая часть сети».

На прошлой неделе генеральный директор OpenAI Сэм Альтман опубликовал эссе, в котором нарисовал портрет будущей утопии под названием «Эра интеллекта», к которой приведет AGI. Гертцель также надеется, что доброжелательный AGI, который он пытается создать, будет настолько полезен, что никто не захочет его запрещать.

«Я верю, что это может быть что-то гораздо более умное, чем то, что делают большие технологии. Если мы сможем создать что-то гораздо более умное, чем OpenAI, модель o1 с использованием Opencog Hyperon, и развернуть это в децентрализованной сети, я имею в виду, что тогда мир подхватит это так же, как они подхватили ChatGPT, и тогда они будут использовать децентрализованную сеть, просто между прочим, потому что она находится в базовой инфраструктуре».

Проблемы и преимущества децентрализованных систем ИИ

Проблема, лежащая в основе проектов децентрализованного ИИ, заключается в том, что гораздо проще и дешевле запускать большие модели на централизованном оборудовании.

Обучение нейросетей и трансформаторов на децентрализованном оборудовании в настоящее время не представляется возможным, хотя, по словам Гертцеля, новые исследования показывают, что это вполне осуществимо.

Но, по его словам, логические рассуждения и эволюционное обучение с помощью алгоритмов «очень естественно работают в децентрализованной сети машин».

Судя по всему, план состоит в том, чтобы создать сеть с некоторыми более централизованными объектами, а вычисления дополнить децентрализованной сетью. SingularityNET и Fetch потратили «значительную часть» из 100 миллионов токенов ASI (в настоящее время переименовывается в FET) на покупку графических процессоров для создания суперкомпьютеров. Остальное они потратят, как только цены на токены восстановятся.

«Мы хотим, чтобы это стало своего рода начальным центром децентрализованной сети, чтобы запустить ее. Мы хотим предложить хостинг для людей, которые хотят разместить агентов ИИ в SingularityNET».

В перспективе - удобное для Web3 облачное решение, подобное Hugging Face.

«Разработчики ИИ просто хотят получить самый быстрый, самый дешевый и самый простой способ реализовать ту или иную функцию. Если вы хотите, чтобы это было децентрализовано, вам нужно как-то сделать это более привлекательным для конечных пользователей по причинам, отличным от философии децентрализации».

По оценкам Гертцеля, четыре проекта Альянса вскоре будут располагать «парой сотен миллионов в долларовом эквиваленте». Дополнительные вычисления могут быть получены от побочного проекта SingularityNET - NuNet, который использует незадействованные мощности CPU и GPU подключенных компьютеров, и Hypercycle, который является платформой, объединяющей сервисы ИИ.

Возобновляемая энергия для питания децентрализованных систем ИИ

Брайан Пеллегрино из LayerZero десять лет проработал в области искусственного интеллекта и рассказал Magazine на Korea Blockchain Week, что его опыт, когда цены на электроэнергию влияли на прибыль от майнинга биткоинов, заставил его с большим сомнением относиться к децентрализованному ИИ.

«Очень трудно добиться эффекта масштаба [необходимого] или снижения стоимости базового оборудования [в мире, где вы конкурируете с Google, AWS и всеми остальными, и то, как они делают свое охлаждение и все остальное, зависит от стоимости электроэнергии. Поэтому я всегда был настроен медвежьими настроениями в отношении большинства различных сегментов пересечения».

Но Гертцель говорит, что стоимость электроэнергии меркнет по сравнению со стоимостью оборудования, так что «я не согласен с тем, что это не вариант».

Однако он добавляет, что SingularityNET и Hypercycle изучают возможности получения выгоды от дешевой возобновляемой энергии, учитывая большие потребности ИИ в электроэнергии.

«Мы разговаривали с представителями правительства Эфиопии о размещении кучи серверов рядом с плотиной. Туфи (Салиба, генеральный директор) из Hypercycle ведет переговоры с правительством Парагвая о размещении нескольких центров обработки данных и серверных ферм для ИИ рядом с плотиной на границе Бразилии и Парагвая. Я имею в виду, что можно получать несколько гигаватт энергии прямо в свой вычислительный центр ИИ, разместив свой компьютерный центр по соседству с плотиной и протянув к ней толстый кабель».

Это действительно так. Чтобы подчеркнуть масштаб требуемой электроэнергии, на этой неделе появилась новость о том, что генеральный директор OpenAI Сэм Альтман предложил Белому дому план строительства огромных центров обработки данных в различных штатах США, каждый из которых будет требовать 5 гигаватт энергии - что эквивалентно мощности пяти ядерных реакторов.

"Планета сгорает! Глобальное потепление! ВАМ нужно потреблять меньше энергии! ВЫ ничего не будете иметь и будете счастливы...".

Центры обработки данных искусственного интеллекта обычно располагаются вблизи крупных мегаполисов, поскольку сервисы требуют низкой задержки для обеспечения сверхбыстрых ответов. Однако Гертцель отмечает, что в модели o1 качество ответов приоритетнее скорости, и в Opencog Hyperon тоже.

«Если у вас есть ИИ, который пытается делать какие-либо глубокие размышления, скажем, ИИ пытается предсказать направление движения рынка на следующий день, верно? Или ИИ пытается открыть новое лекарство, верно? Тогда неважно, где он находится - в Парагвае, Эфиопии или где бы то ни было».

Вскоре человечество и искусственный интеллект сольются.

По словам президента OpenAI Грега Брокмана, книга Рэя Курцвейла "Сингулярность уже близка" предсказывает появление общего искусственного интеллекта (AGI) в 2029 году, который превзойдет человеческий интеллект. Он также утверждает, что в 2030 году произойдет объединение человека и искусственного интеллекта. Брокман считает, что это предсказание наиболее точно описывает будущую революцию ИИ.

Нужна энергия и вычислительные мощности, а люди и есть источник энергии и вычислительная мощность, надо просто наночипами их начинить и 8 миллиардов людей станут единым вычислительным центром на основе которого будет существовать сверх-разумный ИИ.

А вы думали вещества с нанороботами просто так миллиардам людей вкололи?

То о чем говорят все эти руководители компаний разрабатывающих ИИ и стремящихся создать разумный и сверхмощный ИИ сводится к одному - для создания ИИ подобного Божеству нужна энергия и вычислительные мощности. Практически невероятно реализовать все это путем создания источников энергии и вычислительных мощностей, для этого придется создавать центры размером с мегаполис.

Но есть очень простой и эффективный путь - снабдить каждого человека на планете (а их 8 миллиардов) наночипом, который будет работать за счет энергии вырабатываемой организмом самого человека, а мозг человека будет сервером, объектом предоставляющим вычислительные мощности.

Остается лишь объединить все 8 миллиардов носителей в единую сеть.

Ну вы же не думали, что планету буквально опутывают сетями 5J и группировкой из тысяч спутников на низкой орбите, что бы дать бесплатный интернет бедным племенам в Африке?

Сюжет "Матрицы" буквально воплощается в жизнь...

«Мы восхищались собственным величием, когда дали жизнь ИИ...» — Морфеус

Сэм Альтман: «Мы более способны не из-за генетических изменений, а потому что мы извлекаем выгоду из инфраструктуры общества, будучи намного умнее и способнее любого из нас ; в важном смысле само общество является формой развитого интеллекта. Как только все наши тела и мозги будут подключены к «интернету вещей» с помощью нанотехнологий, все наши проблемы исчезнут»

ИИ — один из центральных элементов «великой перезагрузки». Он будет контролировать умные "15 минутные" города. Он определит, использовали ли вы свои «углеродные кредиты». Он решит, являетесь ли вы «террористом». Он будет определять являетесь ли вы "полезным для общества".

В конце концов, у него есть модель себя как исполнителя, модель вас как «бесполезного едока», которого нужно контролировать, и модель мира как «мирного». Любых «террористов» или «агентов дезинформации», или "бесполезных едоков" можно устранить с помощью «аварийного выключателя». Это все решат алгоритмы "Богоподобного сверхмощного разумного ИИ".

Источник: vk.com

Комментарии: