Ведущие математики мира написали открытое письмо об опасности ИИ

Группа из 25 лауреатов престижной Филдсовской премии по математике опубликовала письмо против использования искусственного интеллекта на портале Math and AI.

"Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математики и математическому сообществу", — сказано в сообщении.

Математики уточнили, что искусственный интеллект способен решать сложные задачи, но не имеет концептуального понимания серьезных проблем. Если корпорации слишком увлекутся искусственным интеллектом и продолжат идеализировать его, научное сообщество может серьезно пострадать.

9 сентября исследователь компании в сфере ИИ Anthropic Джейкоб Коксон уволился из-за опасений выхода нейросетей из-под контроля. Коксон опасался, что после начала самостоятельного совершенствования модели смогут развиться настолько, что перестанут выполнять команды людей.

11 сентября еще один разработчик ушел из Anthropic из-за рисков потери контроля над ИИ. Джо Бентон заявил, что не хочет быть причастным к тому, что в компании, возможно, произойдет "взрыв интеллекта" или будет утрачен контроль над системами, а общественность так об этом и не узнает.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: