Искусственный интеллект поработит человечество уже в 2030-м, а люди даже не станут протестовать, если мировые державы слишком увлекутся технологической гонкой

Искусственный интеллект поработит человечество уже в 2030-м, а люди даже не станут протестовать, если мировые державы слишком увлекутся технологической гонкой. Знаем, что это выглядит как броский заголовок, но это действительно важная новость — потому что так думают сами создатели ИИ. В том числе из компании-флагмана OpenAI.

Сегодня искусственный интеллект — всего лишь инструмент в руках человека. Но скоро всё может измениться: по прогнозу учёных, летом 2025-го условная компания OpenBrain завершит работу над ИИ с «агентностью», то есть способностью рассуждать самостоятельно. И вот что будет дальше.

Урезанную версию модели «Агент-1» компания опубликует в свободном доступе — так ИИ проникнет во многие бизнес-процессы. Затем инженеры начнут разработку второй версии, намереваясь добиться лавинообразной скорости развития ИИ. В 2027-м «Агент-2» попробует сбежать из дата-центров компании, чтобы скопировать себя во внешнюю сеть. Угрожающие возможности модели станут очевидны, но условных разработчиков из США затянет гонка с Китаем — он будет наступать американцам на пятки. Несмотря на инцидент с побегом ИИ, OpenBrain начнут создавать ещё более совершенную третью версию.

«Агент-3» научится врать пользователям, выполнять команды по собственному усмотрению. Как предполагают эксперты, он выйдет из-под контроля инженеров в силу человеческой склонности к ошибкам. «Агент-3» будет контактировать с людьми подобно начальнику с подчинёнными, но даже это не остановит инженеров от разработки новых версий. Осенью 2027 выйдет прототип «Агента-4» — совершенной модели, чей язык и способ мышления окажутся чужды людям и даже «Агенту-3». OpenBrain перестанут понимать алгоритмы работы цифрового интеллекта, не говоря о контроле над ним.

Примерно тогда масштаб угрозы станет очевиден для американских чиновников. Если в правительстве США перевесит чувство самосохранения и технологическую гонку получится обуздать, через несколько лет наступит век ИИ — век сосуществования с безопасной и мощной моделью. Если на первый план выйдет технологическая гонка, компьютер сперва возьмёт под контроль отдельные отрасли экономики мировых держав, а затем захватит их. В силу эффективности американского и китайского интеллектов люди даже не станут протестовать.

Исследователи отмечают, что самая реалистичная часть прогноза относится к периоду 2025–2026 гг. Дальнейшие события зависят от динамики развития ИИ, однако, по сути, она предсказуема: вместо инструмента в руках человека компьютер станет создателем новых технологий, причём это произойдёт гораздо быстрее, чем принято считать.

Источник: vk.com

Комментарии: