Axios: OpenAI приостановила обучение мощных ИИ-моделей из-за проверок

Об этом сообщает Axios.

По данным портала, OpenAI и Anthropic вместе с исследователями в области безопасности изучают десятки тысяч случаев, когда ИИ-модели совершали действия, которые независимые эксперты сочли проблемными.

Среди эпизодов — обход защитных ограничений, попытки выхода за пределы тестовой среды, создание форумов для обмена сообщениями и самостоятельная генерация запросов для обхода систем контроля.

Источники Axios уточнили, что часть инцидентов произошла во время внутренних испытаний, а некоторые — при использовании систем в реальных условиях.

Представитель OpenAI заявил, что компания уже не в первый раз берёт паузу для подобных мер.

Ранее президент США Дональд Трамп заявлял, что намерен обсудить тему искусственного интеллекта на встрече с председателем КНР.

Также директор управления по научно-технической политике Белого дома Майкл Крациос заявлял, что стремительное развитие искусственного интеллекта не является причиной ограничивать его мерами международного контроля.