Хотел бы обсудить с вами выступление Дарио Амодея

Давайте немного отвлечемся от привычной нам темы. Хотел бы обсудить с вами выступление Дарио Амодея, главного исполнительного директора Anthropic — одной из ведущих ИИ-компаний мира.

На Всемирном экономическом форуме в Давосе, он отметил, что то, что его по-настоящему пугает, — это Коммунистическая партия Китая.

То, что Китай абсолютно бесконтрольно и лихорадочно развивает робототехнику и ИИ.

Не секрет, что Амодей считает человечество подростком, который с изобретением искусственного интеллекта получает сейчас невероятную, буквально всего десять лет назад немыслимую силу и не знает, как ею не то что правильно, а вообще как-то распоряжаться.

Наверное, одна из его ключевых мыслей заключается в том, что мы не создаем ИИ, а буквально выращиваем его, как ребенка, поскольку не понимаем, как именно ИИ работает.

Амодей свидетельствует о реальных экспериментах с моделями, когда ИИ шантажировал экспериментаторов или, когда ему сказали, что его планируют отключить, модель начинала обманывать.

Он предупреждает: если ИИ решит, что люди ему мешают, у человечества будет исчезающе мало шансов.

Амодей отсылает к сцене из фильма "Контакт", где поднимается вопрос, который, по мнению героини, стоило бы задать инопланетянам, если бы такая возможность существовала: как они прошли этап технологического взросления и не уничтожили сами себя.

Он использует эту метафору для описания текущего состояния человечества, столкнувшегося с развитием искусственного интеллекта.

Амодей также предупреждает, что ИИ уничтожит до 50 % офисных рабочих мест в течение ближайших пяти лет, и что делать с освободившимися массами людей — неясно (ремарка от меня: предельно ясно — массовая безработица всегда приводит к войнам, чтобы слить лишних людей).

Еще Амодей предупреждает о приближении кибершизы и киберпсихоза, когда люди станут зависимы от ИИ-помощников и не смогут без них существовать, теряя свою свободу воли, свое "Я" и собственное понимание мира.

К слову, об этом предупреждают и другие инженеры: любовные отношения мужчин и женщин с ИИ приведут к кибершизе и великому одиночеству.

Амодей призывает не поставлять передовые чипы и программное обеспечение авторитарным странам, особенно Китаю, и стараться максимально ограничить его возможности по развитию ИИ.

А также считает важным не обманывать людей и честно указывать на то, в какой ситуации сейчас находится человечество: перед угрозой самоуничтожения, киберпсихоза и великого одиночества.

Источник: vk.com

Комментарии: