The Times: ИИ с вероятностью 95% станет причиной вымирания человечества

Глава некоммерческой организации Machine Intelligence Research Institute, бывший инженер компаний Google и Microsoft Нейт Соарес заявил, что вероятность вымирания человечества из-за искусственного интеллекта (ИИ) составляет не менее 95% при сохранении текущих темпов развития технологий. Об этом сообщает британская газета The Times.

По словам господина Соареса, современные системы ИИ находятся в начальной стадии, однако в ближайшем будущем они смогут самостоятельно ставить цели, принимать решения и планировать на долгосрочную перспективу. Эксперт сравнил ситуацию с движением к обрыву на огромной скорости, подчеркнув: «Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву»,—приводит слова специалиста издание.

Особую угрозу, по его мнению, представляет невозможность контроля над процессами принятия решений искусственного интеллекта и его способность к систематическому обману. «У нас не будет возможности узнать правду. Многие внутренние процессы принятия решений в ИИ уже непостижимы для людей»,— говорится в публикации.

Одним из пугающих сценариев, приведенных газетой, является возможный выпуск ИИ биологического оружия, которое сможет незаметно заразить большую часть населения крупных городов.