Бывший руководитель Google Эрик Шмидт предупреждает, что от ИИ «придется отказаться»

Бывший руководитель Google Эрик Шмидт предупреждает, что вскоре компьютеры смогут принимать собственные решения. В этот момент людям придется отключить их отказаться от ИИ, сказал экс-генеральный директор Google.

Дело в том, что социальные сети быстро изменили глобальный дух времени, «и теперь используется гораздо более умный, гораздо более мощный способ отправки сообщений, изобретаются новые вещи». Также растут темпы инноваций, «создаются лекарства и многие плохие вещи, такие как оружие, и учащаются кибератаки».

Шмидт уверен, что скоро появятся компьютеры, которые «работают сами по себе и решают, что они хотят делать». Хотя в настоящее время отрасль уделяет больше внимания агентам искусственного интеллекта, у этой технологии будут «более важные цели».

«В какой-то момент вы говорите компьютеру: "Научись чему угодно и делай что угодно", и это опасный момент», — говорит Шмидт.

Если система сможет улучшиться сама, «нужно серьезно подумать о том, чтобы отключить ее». Он также считает, что опасность того, что мощная система искусственного интеллекта сможет противодействовать попыткам ее отключить, реальна: «Теоретически, нам было бы лучше, если бы кто-то мог отключить систему».

Шмидт также задается вопросом, есть ли смысл «каждому человеку иметь в кармане такой мощный инструмент». Неизвестно, «что значит дать каждому человеку такие возможности».

Он также беспокоится о том, что может сделать компания, которая хочет оставаться впереди гонки ИИ. Возможно, этапы тестирования безопасности будут пропущены, что может привести к тому, что компания выпустит вредоносную систему.

Правительства в настоящее время «пока» не делают достаточно для регулирования ИИ на пути к сверхразуму. Шмидт, однако, уверен, что «они сделают это, потому что вынуждены».

Бывший руководитель Google также обеспокоен прогрессом Китая в секторе искусственного интеллекта. Хотя США в настоящее время все еще «на несколько лет опережают Китай», Поднебесная быстро догоняет Штаты. При этом, администрации Трампа и Байдена пытались ограничить доступ Китая к передовым чипам и другим технологиям.

«Крайне важно, чтобы Америка выиграла эту гонку, в глобальном масштабе и особенно опередив Китай», — предупреждает Шмидт.

В этом плане он рассчитывает на новое правительство США, которое «в основном сосредоточится на конфликте между Китаем и США». Фактически обе страны лидируют в разных областях сектора искусственного интеллекта.

США в настоящее время являются технологическим лидером, главным образом, в области фундаментальных исследований и передовых технологий, а Китай – лидером в масштабировании и внедрении систем искусственного интеллекта на широком уровне, в первую очередь за счет огромных массивов данных от собственного населения.