Выскажу свои мысли про будущее ИИ - вслед манифесту Альтмана и всенародному футурошоку

Мне ситуация в целом очень нравится: ИИ все лучше мне помогает, - размышлять, изучать и понимать этот мир, создавать тексты, находить и структурировать инфу и т.п. С ним приятно работать, без него было скучнее и медленнее, он дает возможности для творчества, - а это главная радость в жизни. И потихоньку начинает происходить то, чего я больше всего ждал от будущего в последние годы – что появится идеально меня знающий и понимающий не просто помощник, а советник и наставник. ИИ уже начинает учить! Моя жена разговаривает с ним как с репетитором по-английски, например, и это намного круче совы с ее бесконечными упреками. Кстати, в исследованиях ИИ как репетитор показывает себя просто блестяще: в недавнем исследовании, например, студенты Гарварда, изучавшие физику с ИИ-репетитором, показали намного лучшие результаты, чем те, кто занимался по обычной программе. В другом исследовании ученики, работавшие с ИИ-репетитором по математике показали на 46% больший прирост знаний, чем те, кто учился с помощью опытного человека-репетитора! И так далее, таких исследований много (ссылки в комментах). Неудивительно, ведь ИИ-репетитор видит и типичные ошибки, и индивидуальные особенности, и дает обратную связь сразу же. Надеюсь, ИИ-революция в образовании не за горами.

Но дело, конечно, далеко не только в том, что ИИ так здорово помогает работать и учиться. На мой взгляд, ИИ вообще – главная надежда человечества. Развитие технологий и цивилизации неизбежно создает все более сложную среду, и люди все хуже справляются с управлением разными процессами в этой среде. Способностей человеческого мозга все острее не хватает, - поэтому без ИИ нас ждут учащающиеся факапы во всех областях, примитивные решения, войны, катастрофы, деградация. И в главных задачах науки, таких как существенное продление здорового периода жизни людей, тоже основная надежда на ИИ. А без решения этого вопроса человечество просто вымрет, никто больше как кролики размножаться не будет.

Опасен ли ИИ? Конечно! Но опасность не в том, что «машины восстанут». Все истории про пробуждение сознания у ИИ – наши фантазии и проекции. Машины в силу своего устройства не проявляют никакой «агентности» или склонности к самоопределению, потому что в коде нет мотивации, а есть поставленные задачи, команды, и машина их выполняет, - это и есть устройство, выполняющее команды кода, и ничего больше оно не делает, никаких чудес. Впрочем, сколько это не повторяй, люди все равно будут верить в чудо, - в то, что говорящий с ними чат-бот это такой же мотивированный и переживающий субъект, как мы, - эта ориентация на диалог с другими субъектами нам в подкорку вшита.

Настоящая опасность ИИ – в том, что они могут служить злой воле, выполнять программы, созданные одними людьми против других людей. Это очень большая и серьезная опасность, - но это же не значит, что правы цифровые луддиты. Все важнейшие технологии вместе с небывалыми возможностями всегда приносят небывалые опасности, - и что теперь, отказываться от эволюции? Вопрос в поиске оптимальных решений, а не в том, как спрятаться от будущего.

Что делать, чтобы минимизировать опасность ИИ? Те, кто будет пытаться затормозить разработку умных технологий, просто станут жертвой хищных ИИ, созданных конкурентами. Мне кажется, пришло время «в гаражах» тайно создавать «добрые ИИ», никому, кроме владельца, неподконтрольные, охраняющие вашу личную безопасность и ваши интересы от других ИИ, служащих государствам, компаниям, мошенникам и т.п. Такой «крипто ИИ» должен, как криптовалюта, иметь встроенный механизм, принципиально не позволяющий вмешаться в его работу со стороны, - никому, кроме человека, с которым этот ИИ неразрывно связан.

На видео – система доставки книг в китайской библиотеке. Книги классные, как и глиняные таблички, – но усложнившийся мир обрабатывает намного больше информации и нуждается в других системах ее хранения и анализа. То же и с мозгами )

Источник: vk.com

Комментарии: