Разработку искусственного интеллекта необходимо остановить до появления безопасного пути развития сверхинтеллекта

Разработку искусственного интеллекта необходимо остановить до появления безопасного пути развития сверхинтеллекта, заявил бывший исследователь OpenAI, руководитель проекта AI Futures в Беркли Дэниел Кокотайло 18 сентября в интервью журналу Der Spiegel.

«По сути, мы должны остановить разработку ИИ», — сказал Кокотайло и добавил, что сейчас человечеству не хватает «понимания и способности точно регулировать ИИ и различать добро и зло».

Эксперт отметил, что его опасения связаны с тем, что индустрия ИИ планирует автоматизировать исследования в области ИИ. Обучение одной системы искусственного интеллекта другой значительно ускоряет прогресс, но одновременно затрудняет контроль и повышает вероятность того, что ошибки останутся незамеченными.

«С этого момента ИИ может развить значительно сверхчеловеческие способности во многих отношениях — возможно, во всех отношениях. Это чрезвычайно опасно», — уверен специалист.

В ходе интервью исследователь обвинил Anthropic, OpenAI, X и Google в ограничении контроля за безопасностью с помощью предложенных ими мер регулирования ИИ. По его словам, компании выступили за введение незначительного регулирования от лица нескольких внешних аудиторов, но..

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: