Киборги против ИИ: как подготовиться к наступлению сингулярности

Немного о двойных стандартах: когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера, потому что слышал, что существует риск возникновения чёрной дыры, над ним все смеются. Когда Стивен Хокинг предупреждает, что искусственный интеллект может поработить человечество - все напрягаются. Результат, впрочем, в обоих случаях одинаковый - БАК запускается, нейронные сети развиваются наперегонки с квантовыми компьютерами. Вы можете меня упрекнуть в том, что сравнивать суеверный ужас средней руки радиоведущего с осторожным предупреждением мирового учёного не совсем корректно - но в обоих случаях это как минимум повод задуматься, что нам прогресс готовит.

Можно понять, почему предупреждение Хокинга не оказало существенного воздействия на заинтересованных в разработке АИ. Дело не только в обычной инерции процессов - когда цели намечены, планы составлены и бюджеты выделены, нужно что-то большее, чем глас обеспокоенной общественности, чтобы остановить разгоняющийся состав. На стороне исследователей и программистов здравый смысл и весь человеческий опыт: предсказания алармистов ещё ни разу не сбылись, а страхи луддитов сделали их в исторической перспективе посмешищем. Города Европы не были покрыты конским навозом, паровозный дым не убил посевы и не отравил лошадей, трудовые мигранты не уничтожили ещё ни одну экономику, 7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и тотальной войне за ресурсы, ядерное оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привёл к созданию чёрной дыры.

Нас продолжают пугать: ГМО заразят всех раком, качественная медицина приведёт к вырождению человечество, однополые браки тоже приведут к вырождению человечества, а искусственный интеллект поработит всех, кто переживёт ГМО, качественную медицину и однополые браки. Впрочем, нарисованная алармистами картина настолько безрадостна, что не исключаю, что ИИ при таких исходных данных просто откажется нас порабощать - мол, ну вас вообще. Это если алармисты правы. А алармисты всегда ошибаются.

Люди могут до конца не понимать, как именно происходят те или иные процессы, даже если непосредственно к ним причастным - но понимают закономерности: самолёты летают и крыльями не машут, а прогресс делает жизнь людей лучше. И чем быстрее разгоняется прогресс, тем быстрее растёт качество жизни.

Главным образом потому, что всегда видят одну сторону вещей, недооценивая тот факт, что любое движение приводит к последствиям не только напрямую, но и от обратного, охлаждая пыл любителей экстраполяции.



Допустим, более или менее очевидно, что, выйдя замуж, невеста на какое-то время успокаивается - наличие одного мужа отменяет потребность в новых. По крайней мере, в один и тот же момент времени. Система сама себя уравновесила. Менее очевидный, но тем не менее широко признанный факт - повышение уровня жизни не ведёт к бесконечному размножению. Всплеск прироста населения наблюдается на сравнительно коротком историческом промежутке - 2-3 десятилетия, жизнь одного поколения, после чего увеличившаяся продолжительность жизни и падение смертности уравновешиваются падением рождаемости. Проще говоря, оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда». Как та невеста, люди понимают, что им не нужно много детей, если они уверены в выживании уже имеющегося.

Оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда».

Свойством любой системы является стремление к равновесию. Без этого система не может быть системой. Какие бы сюрпризы не преподносил прогресс, на том или ином уровне баланс и гармония всегда восстанавливаются - на уровне человека, общества, цивилизации или человечества Целиком. Впрочем, для любой системы есть вызов, может быть погашен только уровнем выше. Допустим, считается, что глобальное потепление - процесс, который не может быть уравновешен самим человечеством, и поэтому нас ждёт балансировка на планетарном уровне - скажем, таяние арктических льдов и затопление промышленных районов и мегаполисов, которые как раз обычно расположены в низовых прибрежных районах - как удобно, да? - сильно умерит пыл и возможности человечества подогревать наш шарик в дальнейшем. Бац, и баланс вновь восстановлен.

Многие считают, что климатические циклы вообще от человеческой деятельности не зависят, а проблема выхлопов уладится на цивилизационном уровне, не вызывая вмешательства планетарных сил. Так это или нет - вопрос спорный, но принцип, думаю, понятен. Прогресс теоретически может порождать вызовы, которые не получится уравновесить на цивилизационном уровне, сохраняя движение человечества к лучшему. Матушку-Землю лучше не будить, если не хотим разделить участь динозавров. Кстати, тот же Хокинг считает, что глобальная техногенная катастрофа в ближайшие тысячу или десять тысяч лет неизбежна - так что надо поскорее обустраивать жилплощадь за пределами родной планеты. Кто бы спорил, мы все за. Но это всё-таки относительно далёкая перспектива.

Возвращаясь же к теме статьи, чтобы понять, грозит ли нам порабощение искусственным интеллектом, нужно понять, относится ли ИИ к вызовам, которые будут уравновешены цивилизацией или всё-таки он будет уравновешен за счёт цивилизации?


 

Шанс объехать сингулярность на кривой козе

Но до наступления сингулярности человечество наверняка даст бой любым шансам ИИ окончательно его спасти или уничтожить. Хокинг заметил, что человечество пытается себя улучшить генетически - но недостаточно быстро. Однако это не единственный способ эволюции. Помимо эволюции биологической, которая рано или поздно - скорее рано - станет управляемой - есть эволюция и технологическая.
Когда-то давно фантасты считали, что киборги могут положить конец человеческой расе. Но на практике киборгизация скорее всего станет следующим этапом развития человечества, чем-то, описываемым не словами «внедрение», «прорыв» или «следушая ступень», что по определению подразумевает некое усилие, насилие и надлом, а во что человечество скользнёт легко и радостно, как сейчас нырнуло в социальные сети. Более того, повальная айфонизация и социализация людей порождает спрос на киборгизацию, возможность стать киборгами ожидаема сильнее нового айфона.

Окей, конечно, ни одна фокус-группа вам такого не скажет. Как в 2006 году она бы не сказала, что ей нужен айфон:

Создавать продукт, опираясь на фокус-группы, по-настоящему трудно. Чаще всего люди не понимают, что им на самом деле нужно, пока сам им этого не покажешь.
- Стив Джобс, BusinessWeek (25 May 1998)

Однако сейчас искать новый айфон или даже новый интернет долго не надо: бутылочным горлышком всей IT-индустрии являются интерфейсы. Вычислительные мощности и возможности наших устройств, возможности софта обрабатывать наши запросы существенно превышают наши возможности им эти запросы сообщать. Обработка простейших массивов данных - например, собрать статистику по всем статьям на Хабре и ранжировать их по просмотрам - требуют навыков программирования, хотя понять, что нужно сделать, может даже ребёнок, а выполнить работу средний компьютер способен за считанные минуты. Но вот на этапе между «понять» и «выполнить» - треднопреодолимый барьер в виде необходимости наличия навыков программирования. Бутылочное горлышко, которое не даёт нам пользоваться возможностями, которые у нас есть. Популярная цитата упрекает в этом нас:



Но доступ к знаниям не имеет особой ценности без умения ими пользоваться. Ещё до всяких ЭВМ математиков учили, что важно не помнить формулы - они все есть в справочниках - а уметь их применять. Сейчас же величайшие знания человечества основной массе человечества доступны в режиме read only - делать они с ними ничего, даже простейшую категоризацию и анализ - оно без специальных знаний не может.

Изобретение способа коммуникации с машинами без посредства кода - или хотя бы его ручного ввода - может стать прорывом уровня создания интернета как такового. Человечество получит не просто неограниченный доступ к знаниям, а доступ к широчайшим возможностям этими знаниями оперировать и рождать новое знание. То, что сейчас называется big data и кормит ограниченное количество высокооплачиваемых специалистов, должно и станет доступно каждому - как когда-то массовое образование извело под корень профессию писца.

Взрывной рост интеллектуальной мощи человечества станет неизбежен. Есть ещё одна популярная шутка - про то, что каждое кладбище набито непризнанными гениями. Я не считаю это шуткой. Множество гениальных идей, талантливых книг и полезных изобретений никогда не увидело света просто потому, что не все способны посвящать им свою жизнь или иногда просто не в состоянии их как следует сформулировать. Мотивационные статьи и книги полны примерами людей, которые потеряли руки и научились писать, кодить и играть музыку ногами. Или вспомним опять того же Хокинга.

Но многие люди неспособны даже имея обе руки использовать свой потенциал целиком. И не стоить их в этом винить - глаза, руки, голос - это всё интерфейсы. Мощные, удобные, но неидеальные. В той или иной степени они ограничивают творческие возможности человеческого мозга. Есть множество примеров того, как эти возможности на самом деле гораздо шире, чем может показаться. Большая часть из них связана именно с технологическим прогрессом.



Одна из алармистских страшилок, с ним связанных, была в том, что люди потеряют работу, когда всё за них станут делать машины. Однако же, как оказывается, с развитием технологий, новые виды работы появляются быстрее, чем угасают старые. И речь не только о сфере обслуживания, которую раньше было принято считать уделом будущих человеков - мол, пока машины нас кормят, одевают и лечат, людям останется только оказывать другим людям разные услуги.

Реальной революцией, совершённой изобретением айфона стал не смартфон с сенсорным экраном, а открытая платформа для диструбуции приложений. Людям дали интерфейс - и сотни тысяч, если уже не миллионы, стали наполнять его своими идеями по тому, как его можно применять. Приложения - это serious business, потому что меняют не только нашу повседневность - они меняют сами принципы нашей жизни. Они уже сейчас могли бы заботиться о нашем здоровье и безопасности на уровне, который недоступен и богатейшим людям в мире, но всё вновь упирается в интерфейсы. Мы слишком отчуждены от наших устройств.

Google Glass, голосовые помощники Siri, Cortana и Google Now и даже концепты необычных клавиатур octodon.mobi пытаются решить эту проблему. Но это всё надстройки на надстройки - наши руки, глаза и голос со всеми их ограничениями. Реальное и очевидное решение на поверхности: нужно подбираться ближе к мозгу.



Человечество созрело для киборгизации, оно жаждёт киборгизации, ему нужна киборгизация и оно скользнёт в это состояние так же естественно, как сейчас залезает в свой смартфон, чтобы проверить почту или новые лайки во Вконтакте.

Самое прекрасное, что люди даже не поймут, как стали киборгами - они просто купят очередной Apple iMind или Google Thoughts, каким бы образом они не выглядели и не соединялись с нашей нервной системой - как очередной гаджет, глубже затягивающий нас во всемирную паутину. В конце концов, 90% возможностей умных часов - сообщать нам об уведомлениях из соцсетей, почты и мессенджеров - и только потом считать время, шаги и пульс. Под этим соусом люди примут любой мозговой интерфейс - лишь бы он был упакован в коробочке покрасивее.

Ещё одна прелесть киборгизации в том, что она снимет нарастающее неравенство поколений, которое в перспективе могло бы быть пострашнее социального неравенства - если подумать, все эти «бабушкофоны» для старшего поколения - это же просто унизительно. А теперь представьте себя через 30 лет перед лицом будущих 10-летних - уже готовы к «дедушкопэдам»? А ведь проблема не в разнице интеллекта (хотя интеллектуальная акселерация тоже существует), а в потребности обучения новым, постоянно меняющимся интерфейсам взаимодействия с вычислительными машинами. Призывы обучать программированию детей снимают только часть проблемы - те, кто уже научился чему-то ранее будут всегда в положении догоняющих относительно тех, кто учит самое новое и актуальное из состояния tabula rasa.

Это похоже на изучение иностранных языков - мы все знаем, что их надо учить, и учим, по мере возможностей, один за другим - иногда забывая, что смысл-то не в знании новых языков как таковых, а в общении и обмене знаниями, мыслями, чувствами и идеями с людьми другой культуры. С этой точки зрения язык оказывается не средством коммуникации, а ещё одним барьером, очередным интерфейсом, который ограничивает возможности человека и человечества, и задачей прогресса является не научиться скакать через этот барьер как образцовая скаковая лошадь, а элиминировать его целиком. Свести на ноль его значение в коммуникации.

То же самое должны сделать нейроинтерфейсы для человека и машины. И сделать быстро - возвращаясь к теме войны человека и машин, точнее, будущего человека в реальности существующего и действующего ИИ - возможно, лучшей гарантией того, что мы никогда не проиграем эволюционную гонку машинам будет самим стать машинами. Или хотя бы научиться говорить с ними на одном языке.

Источник: geektimes.ru

Комментарии: