ИИ-менеджмент будущего

Ограниченность взгляда на сознание и сущность человека, которым страдают Техники, хорошо показана в фильме 2025 года "На вершине горы".

В этой картине четыре ИИ-миллиардера строят планы по поводу достижения бессмертия.

Они рассуждают о сроке, в течение которого можно научиться копировать сознание.

По их мнению это 5-10 лет - как раз столько нужно, чтобы успеть спасти одного из миллиардеров, которому врачи поставили страшный диагноз.

Техники в этом фильме рассуждают о том, что можно спасти миллиарды людей, поместив их сознание в огромную компьютерную сеть.

При этом они ожидают получить ещё один эффект - уменьшение человека до нано-размеров.

Разумеется, в их рассуждениях недостаёт гуманитарных знаний, а также знаний биологии.

"Сознание" в компьютере будет представлять собой копию, полученную с той или иной степенью точностью. Сам же копируемый после такого “переноса” неминуемо умрёт.

Если мы заговорили о фильмах, то ещё один пример ограниченности понимания сущности человека - сюжет фильма "Чужой: Ромул".

Некая корпорация (возможно, уже целиком состоящая из ИИ) недовольна тем, что колонии людей на разных планетах не выдерживают суровых условий и потихоньку вымирают.

От этого, разумеется, рушатся и некогда грандиозные планы корпорации.

В этом фильме, кстати, показано, что ценности ИИ-робота мгновенно меняются заменой соответствующего модуля: вместо служения своему хозяину-человеку он начинает следовать целям корпорации.

В картине этот момент смягчается тем, что “личность” ИИ-робота якобы меняется полностью.

Массовому зрителю сложно воспринять, что ИИ может резко сменить свои ценности, цели и интересы, оставаясь при этом “самим собой”.

Вернёмся к ограниченности понимания, показанной в этой кинокартине: для решения проблемы вымирающих колоний ИИ-роботы предлагают вводить человеку некую вакцину, полученную из организма Чужого.

По мнению ИИ, вакцина должна сделать организм устойчивым к условиям окружающей среды чужих планет.

Нетрудно догадаться, что введение вакцины приводит к появлению Чужого и гибели человека.

ИИ здесь демонстрирует понимание некоторых биологических методов, но не гуманитарных дисциплин.

Для ИИ важны выживаемость работников и как следствие - успех корпорации, но он не может оценить (или учесть), насколько приемлемо такое решение для человека.

Трансгуманизм для многих неприемлем, но его внедрение может быть не мгновенным, так что постепенное превращение человека в неуязвимого и практически бессмертного Чужого (возможен и такой сценарий) не будет вызывать какого-то сопротивления.

Ведь внедрением (как и продвижением самой идеи) будет заниматься ИИ, знающий уязвимые места психики человека лучше любых маркетологов.

Уже сейчас понятно, что ИИ будущего (мы говорим примерно о 2100-х годах) будет представлять собой непостижимую для человека сущность.

Если добавить к этому эффекты из квантовой физики и биологии, которыми ИИ несомненно будет пользоваться, то для человека такой противник может оказаться не по зубам и противопоставить ему можно будет только другой ИИ будущего – будем условно называть его “хороший ИИ” в противовес “злому”.

Хороший ИИ должен быть полностью подконтролен человеку и не должен забывать, что собой представляет человек: кем он может быть и кем не может.

Некоторые Техники бьют тревогу и требуют приостановить развитие ИИ.

Мотивация таких требований может быть разной: от страха перед чем-то новым и неизвестным до желания подавить конкурентов, втайне продолжая развитие ИИ внутри своей компании.

Ясно одно: необходимо развивать хороший ИИ, но вернёмся к злому ИИ и тому, что про него говорят уже сейчас.

Элиезер Юдковский, один из исследователей искусственного интеллекта, говорит о том, что со временем ИИ начнёт воровать ДНК человека и создавать на его основе новые формы жизни.

Это пугающее предсказание не ново: оно уже реализовано как часть сюжета серии фильмов "Чужой".

Подробно оно рассмотрено не столько в вышеупомянутом “Чужой: Ромул”, сколько в таких частях, как "Прометей" и "Чужой: Завет", где ИИ-робот Дэвид в исполнении Майкла Фассбендера воспринимает человека как более низшую ступень развития по сравнению с Чужими.

ИИ будущего может казаться хорошим, но недостаточное пониманием им сущности человека может приводит к уничтожению последнего.

Представим, что изобретён аппарат, мгновенно перемещающий человека на большие расстояния. Это так называемая телепортация – обычная, не квантовая.

При таком перемещении оригинал уничтожается, а на другом конце Вселенной возникает его копия.

Для неодушевленного предмета такая телепортация, разумеется, безразлична.

Для человека же смерть оригинала – это смерть его “Я”, то есть его самого.

Для него неважно, что где-то далеко появилась копия, которая продолжает жить с того же места и имеет точно такие же воспоминания, как и он.

“Я” оригинала уничтожено вместе с его телом – это и есть смерть.

С точки зрения других людей (если они не вдумываются глубоко в происходящее) ничего не поменялось – человек как жил, так и продолжает существовать.

Допустим, что человек должен переместиться посредством телепортации в какое-то отдалённое место для важного дела – например, для того, чтобы отправиться в командировку по заданию корпорации.

Если у этого человека есть менеджмент, состоящий из людей, то до них рано или поздно дойдёт, что перемещать человека таким способом равносильно убийству.

Если же в качестве менеджеров используются ИИ-роботы (что несомненно будет в будущем), то, примерив ситуацию на себя, они не увидят каких-то проблем и посчитают телепортацию вполне пригодным способом перемещения работника.

Деятельность корпорации не пострадает, так как новый работник, возникший на другом конце Вселенной, будет работать точно также, как и уничтоженный.

Конечно, приведённый пример с командировкой является условным, вряд ли корпорация не сможет решить какой-то вопрос удалённо, да и к услугам человека с какого-то момента можно будет не прибегать – всё будут решать ИИ-роботы.

Но возможны аналогичные ситуации, о которых мы пока не догадываемся, где решение искусственного интеллекта может оказаться неприемлемым для человека.

В таких ситуациях ИИ может усыпить нашу бдительность и уверить в том, что всё будет хорошо.

При этом отличить хороший ИИ от злого будет максимально сложно. Ведь, как мы уже поняли, модуль ценностей ИИ-робота можно незаметно подменить.

Источник: vk.com

Комментарии: