Киберэкономика — часть 1: как ИИ-агенты и децентрализация изменят экономику |
||
МЕНЮ Главная страница Поиск Регистрация на сайте Помощь проекту Архив новостей ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ ИИ теория Внедрение ИИКомпьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2024-05-07 11:19 Для усовершенствования системы ИИ нужна криптография, распределенные системы, машинное обучение и криптоэкономические сети. Это повышает конкуренцию, ускоряет инновации и делает ИИ более доступным, понятным и полезным. ИИ и автономные агенты дополняют человека и существующую экономику. Они расширяют возможности и повышают производительность. И именно сейчас необходимо найти ответы на несколько фундаментальных вопросов:
Web3 + Software 3.0 Крис Диксон дал знаменитое определение Web3 как новой итерации интернета с возможностью для пользователей читать, писать и владеть цифровым контентом и активами. Эволюция Интернета выглядит так:
Аналогичная эволюция происходит и в парадигмах программирования программного обеспечения. Традиционно разработка ПО — это написание программистами кода, управляющего поведением программы. Software 2.0 — термин, придуманный Андреем Карпаты из OpenAI и Tesla, — это подход, который стал возможен благодаря достижениям в области машинного обучения. Теперь начинается эпоха Software 3.0, когда системы автономных агентов на базе ИИ смогут писать код, взаимодействовать с внешними инструментами, самосовершенствоваться и участвовать в цифровой экономике, взаимодействуя с пользователями-людьми и автономными агентами. Вот как выглядит эта эволюция:
ИИ-агенты с Web3 — это следующая итерация в технологии сетевых и автономных систем, которая называется кибернетической экономикой. В будущем такие сети автономных агентов (а не просто отдельные модели) с экономическими возможностями сформируют AGI — ИИ, способный выполнять задачи как минимум не хуже человека. Что такое автономные агенты Один из самых интересных вариантов использования ИИ — автономные агенты. Их можно представить в виде множества персональных помощников, всегда готовых помочь. Автономный агент — это интеллектуальная система, способная достигать цели и принимать решения без явных указаний. Он также может самосовершенствоваться по ходу дела. Большинство агентов сегодня — это простые скрипты, использующие цепочки LLM (с помощью таких библиотек, как LangChain, TaskWeaver и LlamaIndex) и внешние инструменты через вызов функций. Агенты производственного уровня в основном представляют собой ту же концепцию, но сильно оптимизированы с помощью эвристики, подсказок и данных дополненного поиска (RAG) для повышения надежности. В будущем агенты получат больше автономности и надежности. Частично это произойдет благодаря усовершенствованию существующих ML-моделей. Подписывайтесь на наш Telegram Подписаться Кибернетическая экономика По словам Ральфа Меркла, Биткоин — это первый пример новой формы жизни. С момента первой публикации в начале 2016 года появилось множество других форм. Блокчейн — это программное обеспечение, которое производит ценную для человечества работу и платит людям, которые ее поддерживают. Стимулируя участие, блокчейн позволяет создать децентрализованную экосистему, где ответственность распределяется между сетью участников. Такой распределенный подход гарантирует, что система продолжит функционировать, даже если отдельные узлы или участники выйдут из сети.
Эта цитата из статьи Меркле относится не только к блокчейнам, используемым в основном в финансовой сфере, но и к автономным агентам. Подобным образом автономный агент выполняет ценную работу для людей, получает вознаграждение за свои услуги и использует средства для приобретения ресурсов и/или расширения своих возможностей. Такой агент играет важную роль в оказании помощи людям и постоянно повышает свою эффективность за счет распределения ресурсов. Децентрализованные агенты в киберэкономике Открытый исходный код позволяет быстрее внедрять инновации, поскольку сотрудничество не ограничено организационными рамками и можно интегрировать в процесс разработки самые разные точки зрения и опыт. Например, Ethereum стал самым композитным блокчейном среди всех: Optimism — это решение второго уровня, построенное поверх сети первого уровня Ethereum. На вершине Optimism находится контракт MakerDAO, который реализует стейблкоин DAI. Компания Aave использует DAI для создания своего рынка. Yearn Finance предлагает стратегии самостоятельного управления деньгами, использующие платформу Aave, которая опирается на DAI, который, в свою очередь, опирается на Optimism, который, в конечном счете, опирается на ETH. Все это происходит на базе, когда протоколу не нужен формальный контракт, чтобы использовать технологии друг друга, в отличие от традиционного финансового рынка. Ожидается, что децентрализованные агенты превзойдут централизованных во многом по той же причине: они имеют доступ к широкому спектру постоянно совершенствующихся моделей, инструментов и навыков. У них есть идентификатор и кошелек, который позволяет им вступать в договорные отношения, например, покупать доступ к данным, соглашаться на выплату роялти в будущем или делиться доходами с разработчиками кода. Они могут оплачивать вычислительные ресурсы на открытом рынке. Чтобы получить представление о том, как может выглядеть киберэкономика, представьте себе агента по созданию посадочных страниц:
Пройдет несколько лет, и мы сможем ожидать появления сети, состоящей из агентов ИИ, способных создавать длинные цепочки взаимоотношений между агентами и людьми для выполнения нетривиальных задач. Эта концепция может развиться только в открытой среде, бюрократические рабочие процессы будут мешать. В отличие от мира Web 2.0, где автономные агенты:
ИИ уже сегодня приносит прибыль в триллионы долларов, улучшая личную жизнь и бизнес-процессы. Он увеличивает темпы технологического прогресса и будет продолжать делать это в еще больших масштабах. Большая часть внимания и капитала направлена на очень немногие компании, такие как OpenAI, Anthropic и Google. Однако есть предположения, что AGI появится не благодаря одной огромной модели, а скорее благодаря опыту миллиардов агентов ИИ, взаимодействующих с людьми и друг с другом и накапливающих «негласные знания» (как выразился Тайлер Коуэн), навыки и возможности реального мира. В предыдущей статье изучили, как ИИ-агенты и децентрализация изменят экономику, а в этой рассмотрим риски и потенциальные проблемы, вызванные централизованным характером разработки ИИ. Централизация власти Представьте мир, где всего три модели ИИ контролируются тремя корпорациями или правительствами. LLM отражает политические взгляды своих создателей. Даже в открытых моделях мы не знаем, как они обучались и какие у них могут быть предубеждения. Кроме того, централизованный доступ к API сопряжен с риском простоев или запрета со стороны поставщика API. Это может привести к тому, что бизнес или сервис, от которого вы зависите, окажется недоступным в самый неподходящий момент. Централизация инфраструктуры Сегодня инфраструктура, необходимая для создания моделей и приложений ИИ, находится в руках очень немногих специалистов. Цепочка поставок чипов для ИИ контролируется несколькими компаниями. Обучающие данные принадлежат IT-гигантам. Блокировка данных Популярные централизованные платформы с пользовательским контентом, такие как Reddit и Twitter, начинают блокировать доступ к пользовательским данным через API. Несмотря на то что контент создается и принадлежит пользователям, платформы решают, кто и как может получить к нему доступ. Подписывайтесь на наш Telegram Подписаться Регулирование Захват регулирования в сфере ИИ создает риск снижения конкуренции и замедления инноваций. С одной стороны, корпорации руководствуются необходимостью максимизировать прибыль акционеров. С другой стороны, регуляторы слишком медленно реагируют и часто отстают от реального развития технологий на многие годы. В условиях постоянно ускоряющегося технологического прогресса традиционные подходы к регулированию просто не успевают за ним. Один крупный субъект не в состоянии адекватно создать условия для прогресса и самоорганизации рынка. Управление моделями В большинстве современных моделей очень мало людей решают, что попадает в обучающий набор для нее (следовательно, чему она на самом деле учится). Те же люди решают, что модели разрешено или не разрешено говорить. Это может привести к идеологическому манипулированию. Конфиденциальность и контроль Поскольку люди доверяют искусственному интеллекту все больше конфиденциальных данных о себе и своем бизнесе, они не хотят, чтобы все эти данные оказались в едином центре обработки данных. ИИ-друг, тренер, врач и бухгалтер в совокупности будут знать вас лучше, чем кто-либо другой. Поэтому ценность защиты этих данных будет только расти. Ресурсы и темпы инноваций Открытый исходный код, свободный от корпоративного или государственного контроля, стимулировал значительные технические инновации в течение последних нескольких десятилетий. Однако разработка ИИ требует значительных капиталовложений. Для обучения моделей с 200 млрд параметров требуются тысячи графических процессоров. Одноранговая экономика (P2P) предлагает решение, ускоряя конкуренцию и проверку идей. На открытом рынке и в формате открытого исходного кода люди могут быстрее формулировать и проверять гипотезы, получать обратную связь и доступ к ресурсам для наиболее перспективных идей. Проблема безопасности ИИ Конфликт между Илоном Маском и OpenAI пролил свет на мысли основателей компании о безопасности ИИ и проблеме ИИ с открытым исходным кодом. Неофициальным девизом Google на протяжении нескольких десятилетий была фраза «Не будь злом». Этот моральный принцип предполагает, что внутренние команды будут принимать правильные решения, но по мере того, как стартап превращался в корпорацию с триллионным оборотом, он терялся в непомерной бюрократии и несогласованных стимулах заинтересованных сторон. В отличие от этого, биткоин стал пионером подхода «Не может быть злом». Это означает, что любой человек может свободно совершать любые транзакции в сети, но правила консенсуса запретят любые незаконные или злонамеренные действия без какого-либо централизованного контроля или бюрократических процедур. Проблема безопасности ИИ остается нерешенной. Нет гарантий, что мощные централизованные игроки (корпорации или государства) сделают все возможное для обеспечения безопасности своих самых мощных моделей ИИ. На самом деле у них есть серьезные стимулы сохранить эти модели для себя, чтобы победить конкурентов. Но и в open-source могут быть разработчики, которые попытаются использовать мощный ИИ не по назначению или злоупотреблять им. По сути, это проблема отрицательных внешних эффектов, также известная как проблема Молоха. Частично ее можно решить с помощью жесткого регулирования и контроля, но за счет всех рисков, описанных выше. Но гораздо более надежным подходом будет создание новых механизмов координации, использующих децентрализованную репутацию, криптографию и парадигму без доверия. Кроме того, важна радикальная прозрачность вместо лоббизма за закрытыми дверями. В предыдущих частях мы изучили, как ИИ-агенты и децентрализация изменят экономику и чем экономике грозит централизованный ИИ. Теперь рассмотрим «строительные блоки» для создания децентрализованных сетей ИИ-агентов. Децентрализованные системы сложны в создании, но они гораздо более устойчивы к внешним событиям и атакам. Многие существующие децентрализованные системы называют криптоэкономикой, поскольку они опираются на такие основные компоненты:
Подобно тому, как человеческая цивилизация развивалась не только благодаря индивидуальным интеллектуальным способностям, но и в результате создания социальных и экономических сетей, искусственный интеллект также выиграет от специализации и конкуренции. Однако для удовлетворения потребностей этих новых кибернетических систем потребуется также создание (в идеале — децентрализованной) инфраструктуры: Рассмотрим «строительные блоки» для создания децентрализованных сетей ИИ-агентов. Открытый AGI Предположительно, для настоящего AGI не будет единой основополагающей модели. Скорее, подобно человеческому мозгу и обществу, он будет состоять из множества специализированных систем, беспрепятственно работающих друг с другом. Чтобы достичь этого, нужен протокол. Как и в Bitcoin и Ethereum, он не должен принадлежать одной стороне. Как и в Web3, каждый может внести свой вклад: предварительное обучение новых моделей, тонкие настройки, предоставление наборов данных RAG, работа RLHF, оценочные бенчмарки. Чем сложнее задача, тем важнее становится цепочка агентов. Одного промта будет недостаточно, если хотите, чтобы ИИ помог организовать большую конференцию. AutoGPT — забавный эксперимент, но он не может создать больше, чем просто правдоподобный журнал действий. Тысяча специализированных приложений, моделей, тщательно разработанных промтов, навыков агентов (таких как написание и выполнение кода) смогут сделать это: некоторые из них предназначены для планирования или маркетинговой деятельности, другие могут платить людям за работу и контролировать выполнение. Этот список можно продолжать, чтобы отразить и в конечном итоге автоматизировать все шаги. Конфиденциальность и контроль Поскольку мы все больше полагаемся на ИИ-агентов в жизни, обеспечение конфиденциальности данных и вычислений приобретает первостепенное значение. Последние достижения в области технологий позволили создать полностью приватный, децентрализованный и контролируемый пользователем стек ML.
Стимулы Блокчейн — это система программируемых стимулов. Они позволяют строить программируемые сети распределения вознаграждений и увеличивают пространство проектирования механизмов. Эту технологию можно использовать для создания децентрализованных стимулов для исследований и разработок в ML. Например, Bittensor — это одноранговая сеть для совместной работы над моделями машинного обучения и сервисами ИИ. Валидаторы отвечают за проверку работы майнеров и распределение вознаграждения между подсетями и отдельными майнерами. Сеть спроектирована таким образом, чтобы генерировать лучшее возможное решение задачи машинного обучения, определенной в коде подсети. Как майнеры, так и проверяющие получают равную долю вознаграждения, которое может достигать 150 000 долларов в день для каждого узла с лучшими показателями. Подписывайтесь на наш Telegram Подписаться Рынки Децентрализованные сети отлично подходят для создания рыночных площадок с эффективной экономикой и простым участием — от финансовых рынков на базе Bitcoin и Ethereum до узкоспециализированных рынков, необходимых для агентской экономики будущего с искусственным интеллектом.
Репутация Построить рыночные площадки как открытые сети непросто. Многие блокчейн-проекты и децентрализованные инициативы в области ИИ потерпели неудачу из-за неспособности найти равновесие. В децентрализованной сети любая возможность получить более высокую выплату за счет нечестного поведения будет немедленно использована участниками сети. Платежи и связь Чтобы ИИ мог представлять реальную экономику, необходим общий протокол для общения между агентами ИИ и протокол платежей. Такие сети, как Morpheus и Autonolas, выступают примерами обнаружения агентов и коммуникации между ними, а также децентрализованной среды исполнения для них. Nevermined разрабатывает платежный протокол, который будет способствовать развитию экономики ИИ, основанной на взаимодействии агентов с агентами. Идентичность и аутентичность Идентичность и подлинность становятся все более важными как для агентов ИИ, так и для реальных людей. В мире, где большая часть контента в сети генерируется ИИ, подлинность становится ценным ресурсом. Децентрализованные идентификаторы помогут решить проблему мошеннического или спамерского контента. Маршрутизация Для выполнения действительно полезных задач (например, организация конференции, съемка видео, обучение ребенка, подача заявления на получение вида на жительство или юридические действия) должен существовать эффективный алгоритм маршрутизации, который организует наиболее оптимальный ансамбль агентов. Для этого потребуется как минимум два децентрализованных компонента:
Договор В настоящее время ведется активная работа по созданию основ для формального заключения договоров в многоагентных системах. Цель — уменьшить сговор и негативные внешние эффекты, возникающие из-за отсутствия сотрудничества между независимыми системами ИИ. Для виртуального агента гораздо естественнее использовать код и криптографические подписи, аналогичные традиционным правовым рамкам для людей, чтобы добиться большей эффективности и сотрудничества на рынке. Использование агентами контрактов будет способствовать улучшению социальных результатов киберэкономики в целом. Управление Последним компонентом децентрализованных систем ИИ является управление. Кто и как будет решать, что разрешено или не разрешено делать моделям и агентам? Кто владеет и руководит ими? Как происходит согласование и объяснение ИИ? Децентрализованные автономные организации (DAO) исследуют новый рубеж программируемой демократии. Важно отметить, что речь идет не об одном проекте или фреймворке, а о целом пространстве проектирования, начиная с голосования, исполнения, управления капиталом и заканчивая целыми организациями, которые дополняются, расширяются и управляются ИИ. Заключение Появление искусственного интеллекта и автономных агентов представляет собой важный поворотный момент в эволюции человечества. Эти технологии способны переосмыслить жизнь общества в целом, что подчеркивает необходимость обеспечить доступ к ИИ в качестве фундаментального права для всех. Однако нынешняя централизация владения и разработки ИИ создает серьезные риски, включая злоупотребление властью и замедление инноваций. Децентрализованный ИИ, напротив, представляет собой многообещающую альтернативу, способствующую развитию инноваций, собственности и контроля.Поддерживая развитие децентрализованного ИИ, можно обеспечить будущее, в котором ИИ будет приносить пользу всему человечеству. Источник: www.computerra.ru Комментарии: |
|