Новость, что Маск подписал письмо о том, что надо, мол, приостановиться в разработках ИИ, для меня лично стала почти трагедией

Я остро реагирую на проявления технофобии, поэтому новость, что Маск подписал письмо о том, что надо, мол, приостановиться в разработках ИИ, для меня лично стала почти трагедией.

Не потому что Маск, он для меня свергнутый кумир, но там же еще сотни людей поумнее. И все они раздувают, мол, технология эта стремная, науке неизвестная, мы тут все сидим боимся, давайте-ка попробуем провернуть фарш назад. Ну или хоть остановим прогресс как-нибудь. Что по нынешним временам звучит как «пацаны, я тут сахар в чае размешал, давайте попробуем его теперь как-то вынуть, я решил, что не хочу, чтоб сладко».

Дело в том, что искусственный интеллект звучит пугающе, но только если не понимать ключевого различия между думалкой кремниевой и мясной.

А лежит это различие — даже я бы сказала, расслабленно валяется — в области такой штуки как мотивация.

Вот, например, мы ставим нейронке задачу — рисуй нам, значит, Киану Ривза, усыпанного цветами и конфетами.

Нейронка приступает и за какое-то смешное время рисует нам совершенно прекрасного, фотографически точного Киану в цветах. Потом в конфетах. Потом в образе Нео с фиалками, вместо пушек. Потом три тыщи вариантов мема «грустный Киану», но с букетом. Потом Джона Уика на шоколадной фабрике…

Она не знает усталости. У нее нет сомнений. Она не выгорает. Не задумывается над вечными вопросами. Не спрашивает себя, на что она тратит свою жизнь и вычислительные мощности. Не прокрастинирует. Не срывается. Не опаздывает. Она хреначит Киану.

Ее ничто не может остановить (пока мы не пошлем соответствующую команду). Ей не нужны выходные, отпуска и время на подумать. Количество Кианов в этом мире увеличивается.

А нам становится жутко.

Потому что мы примеряем эту зверскую продуктивность на себя, а заодно вспоминаем, какую кучу совершенно невероятной херни мы не воплотили в жизнь из-за банальной человеческой лени. А если бы вы, вон, как она? Это ж чо бы было? А потом мы смотрим на своего коллегу Егора. Того самого, что в прошлом квартале крутился на офисном стуле, обмотался проводом от телефона, упал и сломал три пальца. Того, который на спор приварил к советской пружинной кровати мотор от Урала и катал своего парализованного деда по всей деревне, пока отпуск не кончился (и все радовались, что кончился отпуск, а не дед). Того, который притаранил в офис ведро и посадил туда картофан, потому что «цветы красивые, да и к осени можно пожарить будет».

Вот этому Егору мы приписываем мотивацию и неутомимость ИИ и бежим подписывать письма чтобы все это срочно, блин, остановить. Сжечь тот офис, где это родилось и на всякий случай расстрелять программистов.

Антропоморфируя интеллект искусственный и цифровизируя интеллект естественный — егоркин, то бишь — мы забываем об одной простой штуке. При отсутствии всех багов, связанных с мотивацией у людей, ИИ так же не имеет единственного, но очень важного свойства человеческой мотивации: у машины все импульсы внешние, а у Егорки большая часть их — внутренняя.

Пока мы не сказали машине, что надо рисовать Кианов, она в жизни бы не стала этого делать. Ей самой никогда не может захотеться рисовать, петь, плясать или убивать всех человеков. Какой бы продвинутой, футуристичной и космической эта штука не выглядела, она всего лишь инструмент по исполнению чьих-то внешних команд. И вполне возможно, что она пройдет тест Тьюринга. Но для этого ей нужно сказать его пройти. Просто так, от нефиг делать, она не пойдет его проходить.

А Егорка пойдет. Еще и завалит его. А на предложение порисовать Киану, Егорка ответит: «пошел в жопу, мне работать надо». И нифига не будет работать.

Дело в том, что пока никто даже не приблизился к ответу на вопрос «как заставить эту штуку самой чего-то хотеть». Поэтому миру гораздо больше угрожает Егорка с починенными багами мотивации, чем самая продвинутая ИИ, но без собственной воли.

Да, наверное, человек с хорошей мотивацией никогда не будет настолько же продуктивен, как машина, выполняющая команды, но зато человек всегда играет в своих интересах, а машина — в чьих попало. Именно поэтому к совершенству все же ближе хорошо развитый человеческий интеллект, нежели блистательно запрограммированный компьютерный.

И я настолько же сильно сомневаюсь в том, что ИИ в плохих руках уничтожит мир, как и в том, что софт скиллы в хороших руках этот мир спасут, но я точно знаю, что внутри одной отдельно взятой жизни прирученная и хорошо отрабатывающая мотивация — это великая сила.

А на вопрос «как, блин, эту штуку внутри своей головы настроить правильно» ответы знают нейробиологи и давно уже не делают из этого ни тайного знания, ни каких еще секретных протоколов. Вот так оно работает, вот так работать не будет никогда, вот это мешает, вот это помогает, вот так настраивается.

Вот у Тани в Хронологии этому всему будет посвящен целый месяц. Приходите, читайте: https://vk.com/chronologia_school

Только господом-богом прошу: Егорке не показывайте, лан?

Источник: vk.com

Комментарии: