«Слияние человека и машины уже началось»

Президент Y Combinator Сэм Альтман написал заметку о том, как быстро человечество объединится с искусственным интеллектом.

В Кремниевой долине популярны обсуждения о том, в каком году люди и машины сольются воедино (а если этого не случится, то в каком году человека превзойдёт стремительно развивающийся искусственный интеллект или генетически улучшенный вид). Большая часть прогнозов приходится на интервал между 2025 и 2075 годом.

Это называют сингулярностью; хотя теперь это выглядит настолько реальным и некомфортным, что многие предпочитают вообще никак это не называть.

Возможно, другая причина, по которой люди перестали использовать слово «сингулярность», заключается в том, что оно обозначает единый момент во времени, а уже сейчас кажется, что слияние будет постепенным процессом. И его будет трудно заметить.

Я считаю, что слияние уже началось, оно происходит уже несколько лет. Наши телефоны управляют нами и говорят, что и когда делать, социальные медиа управляют чувствами, поисковые системы — мыслями.

Алгоритмы, которые за это отвечают, уже не поддаются пониманию человека. Они оптимизируют то, что говорят оптимизировать их создатели, но таким образом, что понять это не в силах ни один человек. Сегодня это выглядит сложным искусственным интеллектом, а завтра будет казаться детской шалостью.

И эти алгоритмы чрезвычайно эффективны — по крайней мере, лично мне трудно сопротивляться тому, что они говорят делать. Я чувствовал себя крайне зависимым от интернета, до тех пор, пока не стал с этим бороться по-настоящему.

Мы уже находимся в стадии коэволюции — искусственный интеллект воздействует на нас, а затем мы его улучшаем. Мы создаём больше вычислительных мощностей и запускаем на них ИИ, а он придумывает, как создавать ещё более производительные микросхемы.

Вероятно, это нельзя прекратить. Как мы уже выяснили, наука в конечном итоге продвигается, если законы физики этому не мешают.

Но что более важно, если мы не уничтожим себя, однажды появится и сверхчеловеческий искусственный интеллект, и генетические улучшения, и интерфейс «мозг—компьютер». Человеческое воображение и высокомерие не дадут нам предположить, что мы никогда не будем строить вещи умнее нас самих.

Наша самооценка настолько сильно зависит от нашего интеллекта, что мы считаем, что он должен быть исключительным и значительно выше, чем у всех остальных. Возможно, ИИ будет чувствовать то же самое и поймёт, что различия между нами и обезьянами едва ли стоит обсуждать.

Соединение человека и машины может принимать множество форм: мы могли бы вставлять электроды себе в мозг, или просто стать очень близкими друзьями с чатботом. Но я думаю, что слияние — это, вероятно, наш лучший сценарий. Если два разных вида хотят одного и того же, но только один может это получить — в нашем случае, стать доминирующим видом на планете и за её пределами — у них начнётся конфликт. Мы должны работать в одной команде, члены которой заботятся о благополучии всех остальных.

Хотя слияние уже началось, оно станет гораздо более странным. Мы будем первым видом, который спроектирует своих потомков. Я предполагаю, что мы можем либо стать биологическим загрузчиком для цифрового интеллекта, а затем исчезнуть в эволюционной ветви, или мы можем выяснить, как выглядит успешное слияние.

Вероятно, это случится быстрее, чем думает большее число людей. Аппаратура развивается экспоненциально. Самое удивительное, что я узнал, работая над OpenAI — это то, как коррелирует развитие вычислительной мощности и прорывы в разработке ИИ. И число умных людей, которые занимаются искусственным интеллектом, так же растёт в геометрической прогрессии. Вдвойне экспоненциальные функции ускользнут от нас очень быстро.

Было бы хорошо, если бы весь мир начал воспринимать это гораздо более серьезно. Всемирная координация происходит не так быстро, как нам нужно.