Eliezer Yudkowsky в Твиттере

Серия твитов Элиезера Юдковского, заставляющая задуматься о рисках развития искусственного интеллекта: twitter.com/ESYudkowsky/status/1438198181209133058

Напомню: наряду с многими исследователями, Юдковский считает, что в какой-то момент в будущем появится сверхсильный искусственный интеллект. Он либо уничтожит нас, либо будет править миром, не нанося нам вреда – в случае, если мы заранее решим сложнейшую задачу создания «дружественного» ИИ.

Если вы не погружены в тему, советую культовый мастрид от Тима Урбана с обоснованием позиций по этому вопросу. Первая часть: waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html. Вторая часть: waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html. Перевод на русский: interpreted.dirty.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922.

Текст Урбана вышел в 2015 году, но в целом не устарел (разве что ИИ теперь может намного больше – посмотрите хотя бы на GPT-3). Читается на одном дыхании, несмотря на огромный размер.

Но вернёмся к Юдковскому. В новом твиттер-треде он пишет: в будущем настанет момент, когда ИИ уже можно будет использовать для радикального изменения жизни людей к лучшему, но ему не позволят это сделать политические ограничения. В этом случае единственный способ для ИИ «причинить пользу» миру – захватить над ним власть.

Что сделал бы мощный ИИ в текущей политической ситуации? Разработал вакцину от ковида за час, а не за год? Но проблема с вакциной была не в этом: её разработали в первые недели пандемии, но пришлось долго ждать из-за бюрократических процедур по регистрации, введённых госорганами. Умный ИИ, который при этом не занимался бы свержением текущего политического строя, не решил бы проблему.

ИИ стал бы лечить людей лучше, чем живые доктора? Для этого ему нужно было бы получать статус доктора – в США, как и во многих других странах, на это уходят долгие годы, а сократить этот срок нельзя. То же самое можно сказать про беспилотники и многие другие сферы, в которых ИИ уже сегодня превосходит человека.

Поэтому Юдковский ожидает, что в ближайшие годы прототипы сверхмощного ИИ, даже если они появятся, поначалу не особо сильно поменяют мировую экономику. Зато потом в какой-то момент появится уже полноценный сверх-ИИ, и когда он начнет вмешиваться в политику для достижения целей, мир резко изменится. Причём не факт, что всё человечество не будет уничтожено за 3 секунды армией нанороботов в результате «оптимизаторской» деятельности какой-нибудь программы.

Скоро сделаю ролик, где подробнее раскрою тему!

Источник: twitter.com

Комментарии: