Искусственный интеллект – опасность или возможность для человечества? ?

Бывший исследователь Anthropic Джейкоб Коксон считает, что #OpenAI и #Anthropic могут уничтожить человечество к 2030 году.

Интервью с Коксоном на CNN посмотрели более 3 миллионов пользователей YouTube.

"Подобный точный сценарий звучит несколько научно-фантастически, – сказал он. – Кажется, будто это что-то нереальное, но, по-моему, это пугающе реально. И проще всего это понять, если вспомнить вполне реальные события двухмесячной давности.

Так вот, два месяца назад #ИИ-агенты компании OpenAI взломали стороннюю инфраструктуру исключительно по собственной инициативе. И это была буквально целенаправленная серия взломов, которую они провели совершенно самостоятельно.

И мне кажется, если экстраполировать в будущее уровень возможностей этих систем ИИ при сохранении той же независимой инициативы, они способны устроить масштабнейший хаос.

Например, взламывать критически важную инфраструктуру, создавать биологическое оружие судного дня, способное привести к вымиранию человечества. Существует множество путей, которыми искусственный интеллект может проявить себя и воздействовать на реальный мир".

27-летний математик, проработавший три года над предварительным обучением моделей в OpenAI и Anthropic, 8 сентября объявил об увольнении и уходе из индустрии ИИ в целом. В своём посте в X он заявил, что обе компании «мчатся прямо к самосовершенствованию сверхинтеллекта и азартным играм с нашей жизнью».

Далее в своих постах Коксон написал: "Вскоре это будут сверхчеловеческие системы, способные взломать что угодно, революционизировать любую область за одну ночь и получить реальную власть и ресурсы".

Также он заявил, что "люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия":

Пост Коксона за 72 часа набрал более 164 миллионов просмотров. В соцсетях его сравнивают с героем Леонардо ДиКаприо из фильма «Не смотрите наверх» — он пытался донести до людей очевидную угрозу кометы, которая уничтожит Землю, но его никто не воспринимал всерьёз.

Слова Коксона подтвердил Эван Хубингер — руководитель направления Anthropic по согласованию ИИ с человеческими целями и ценностями.

«Джейкоб здесь прав — мы действительно всерьёз считаем, что ИИ может убить всех людей», — заявил он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10% .

Сенатор-республиканец Тед Круз назвал риски ИИ «катастрофическими» и призвал принять меры для защиты от подобных угроз.

Однако он отметил, что приостановить развитие ИИ-технологий – это невыполнимая задача, поскольку США конкурируют с другими странами, которые рвутся вперед.

«Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские», – сказал Круз.

Видео: можно проследить путь развития искусственного интеллекта (ИИ) от игровой индустрии до экономической, медицинской, военной, политической и других сфер человеческой жизнедеятельности.

P.S. Если при Советской власти достижения науки используются, чтобы улучшить жизнь трудового народа, то при капитализме для извлечения прибыли крупным капиталом, который контролирует все сферы жизни общества, в том числе и науку.

Поэтому если власть народная, то она стремиться использовать научно-технические достижения для облегчения труда и учёбы, для улучшения досуга и здоровья всего общества, а если власть контролирует капитал, то он стремиться увеличить свои доходы любыми средствами, в том числе используя достижения науки для развязывания войн, захвата новых рынков сбыта, свержения неугодных правительств через госперевороты, торговли наркотиками и т.д.

«Только социализм освободит науку от её буржуазных пут, от её порабощения капиталу, от её рабства перед интересами грязного капиталистического корыстолюбия.

Только #социализм даст возможность широко распространить и настоящим образом подчинить общественное производство и распределение продуктов по научным соображениям относительно того, как сделать жизнь всех трудящихся наиболее лёгкой, доставляющей им возможность благосостояния. Только социализм может осуществить это»

(В. И. #Ленин, Соч., т. 27, стр. 375).

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: