Сегодня мы начнем рассматривать и анализировать новую книгу Рэя Курцвейла "Singularity is Nearer", чтобы понять, какие достижения прогресса нас ожидают в ближайшем будущем

Начало

Во введении Курцвейл выделяет несколько ключевых областей изменений, которые продолжают ускоряться и двигают значимые для человека области вперед. Во-первых, вычислительная мощность становится дешевле. Во-вторых, наше понимание человеческой биологии значительно углубляется. В-третьих, мы теперь можем работать с объектами в гораздо меньших масштабах, чем ранее.

С ростом возможностей искусственного интеллекта и увеличением доступности информации, мы все больше интегрируем эти возможности с нашим биологическим интеллектом. Курцвейл прогнозирует, что в ближайшие 15 лет нанотехнологии позволят расширить функции нашего мозга с помощью виртуальных нейронов в облаке. Это приведет к слиянию с искусственным интеллектом и значительному увеличению наших возможностей. Этот процесс, по его мнению, и называется Сингулярностью, и в настоящее время нам сложно осознать, что будет по ее достижению.

Хоть сейчас это сложно понять, но по мере того, как будет происходить этот переход, мы будем достаточно быстро улучшать наше мышление, чтобы адаптироваться.

Прогресс и критика

В своей предыдущей книге "Singularity is Near" (2005), Курцвейл также описывал ускорение прогресса, но было достаточно много критиков, говорящих о замедлении или даже остановке прогресса. Однако с тех пор прогресс продолжал ускоряться. Алгоритмические инновации и появление больших данных позволили искусственному интеллекту достичь поразительных прорывов раньше, чем даже ожидали эксперты — от освоения интеллектуальных игр, таких как Jeopardy! и Go, до управления автомобилями, написания эссе, сдачи экзаменов (например, на адвоката) и диагностики рака. Теперь мощные и гибкие большие языковые модели, такие как GPT-4 и Gemini, могут переводить инструкции на естественном языке в компьютерный код — значительно снижая барьер между людьми и машинами. Стоимость секвенирования генома человека снизилась примерно на 99.99%, а нейронные сети начали делать значительные медицинские открытия, моделируя биологию в цифровом формате. Мы даже начинаем приобретать способность непосредственно подключать компьютеры к головному мозгу!

Прорыв AlphaFold

Считаю, что тут можно упомянуть и появление (в 2018 году) программы AlphaFold, которая описывает пространственную структуру белков организма. Например, до 2020х в течение биологи разгадывали объёмные структуры белков с помощью сложных дорогостоящих инструментов (вроде рентгеновской кристаллографии). Всего за около 40 лет исследователи разгадали и описали 150 тысяч структур белков. Как правило на раскрытие одной такой структуры уходит все 4-5 лет работы специалиста. А известно около 200 миллионов белков. Значит для раскрытия их всех в том же темпе нужно было бы 53 000 лет! А AlphaFold раскрыл все 200 миллионов структур белков за один год. Теперь можно быстрее разрабатывать более эффективные и безопасные лекарства против абсолютного большинства болезней.

Закон ускоряющейся отдачи

Курцвейл объясняет, что в основе всех этих разработок и достижений лежит закон ускоряющейся отдачи - информационные технологии, например, вычислительная техника, становятся экспоненциально дешевле, потому что каждое достижение облегчает разработку следующего этапа. На момент 2024 года один доллар покупает в 11 200 раз больше вычислительной мощности, чем в 2005 году.

Обратите внимание на график на изображении, он суммирует наиболее важную тенденцию, движущую нашу технологическую цивилизацию: долгосрочный экспоненциальный рост (что-то похожее на прямую линию на логарифмическом масштабе) в количестве вычислительной мощности, которую можно приобрести за доллар. Знаменитый закон Мура описывает, что транзисторы постоянно уменьшаются, позволяя компьютерам становиться все более мощными, но это лишь одно проявление закона ускоряющейся отдачи, который действовал задолго до изобретения транзисторов и, как можно ожидать, продолжится даже после того, как транзисторы достигнут своих физических пределов и будут заменены новыми технологиями. Это важно понимать, что на достижении физического предела размеров транзисторов прогресс не остановится.

Хоть этот график сосредоточен на соотношении цена-качество в эпоху программируемых компьютеров, но приблизительные данные для более ранних электромеханических вычислительных устройств показывают, что эта тенденция продолжается, по крайней мере, с 1880-х годов.

Влияние на общество и будущее биотехнологий

И мы подошли к очень важной части. В начале 2020-х годов мы вошли в резко возрастающую часть экспоненциальной кривой развития, и темп инноваций влияет на общество как никогда раньше. И если в 2005 году Курцвей писал, что мы находились "на ранних стадиях перехода к Сингулярности", то теперь мы входим в его кульминацию. В течение следующего десятилетия люди будут взаимодействовать с искусственным интеллектом, который может казаться убедительно человечным, и простые интерфейсы "мозг-компьютер" будут оказывать влияние на повседневную жизнь так же, как смартфоны делают это сегодня.

В книге детально будут рассмотрены инструменты, которые мы будем использовать в предстоящие десятилетия для достижения все большего мастерства над человеческой биологией самой по себе — сначала побеждая старение наших тел, а затем улучшая наши ограниченные мозги и приближая Сингулярность.

Цифровая революция в биотехнологии вылечит болезни и значительно продлит здоровую жизнь людей. В 2030-х годах самоулучшающийся искусственный интеллект и созревающая нанотехнология объединят людей и наши машинные творения как никогда раньше, еще больше усиливая как наши возможности, так и риски разнообразных угроз.

Риски

В ближайшее десятилетие многие работники ощутят экономические потрясения, и все мы столкнемся с рисками случайного или преднамеренного злоупотребления новыми возможностями. Если мы сможем справиться с научными, этическими, социальными и политическими вызовами, которые ставят эти достижения, к 2045 году мы значительно преобразим жизнь на Земле к лучшему. Но если мы потерпим неудачу, под угрозой окажется само наше выживание. В книге позже будут рассмотрены и все возможные экзистенциальные риски (безработица, пандемии, цепная реакция самовоспроизводящихся машин) и важные философские вопросы (включая влияния перехода на собственную идентичность и чувство цели).

Курцвейл отмечает, что хотя многие риски реальны, далее в книге мы увидим, почему есть веские причины для долгосрочного оптимизма — и почему мы в конечном итоге не конкурируем с искусственным интеллектом.

Наступили самые захватывающие и важные годы во всей истории! Мы не можем с уверенностью сказать, какой будет жизнь после Сингулярности. Но, понимая и предвидя переходы, ведущие к ней, мы можем помочь обеспечить, чтобы этот период для человечества был безопасным и успешным.

Источник: vk.com

Комментарии: