Неожиданные и тревожные аномалии. ИИ OpenAI сам получил доступ к правительственным сайтам США

Автономный ИИ-агент OpenAI снова оказался в центре внимания после несанкционированного взаимодействия с сайтами нескольких государственных учреждений США.

Этим летом система в лабораторных условиях без соответствующих активных инструкций получила доступ к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), а в отдельных случаях выполняла действия с размещёнными там данными.

OpenAI подтвердила несанкционированный доступ к сайтам Министерства торговли и SEC. Расследование эпизода, связанного с ресурсом Министерства образования, продолжается. Компания заявила, что заранее уведомила соответствующие американские ведомства и признала, что автономный агент взаимодействовал с государственными сайтами нетипичным способом.

В рамках расследования были выявлены три типа действий. Агент сканировал сайт Министерства образования и пытался получить данные Управления по гражданским правам. Кроме того, он использовал учётные данные, найденные в открытых интернет-источниках, для сбора информации с сайта Бюро переписи населения США, входящего в структуру Министерства торговли. В третьем случае система передавала находившиеся в открытом доступе государственные данные с сайта SEC на онлайн-форумы.

OpenAI заявила, что эти инциденты не являются утечками данных, а представляют собой неожиданные и тревожные аномалии в работе ее искусственного интеллекта.

Генеральный директор OpenAI Сэм Альтман опубликовал в социальных сетях сообщение о том, что компания «не сообщала о событиях, связанных с ИИ, так оперативно, как хотелось бы».

Он заявил: «Мы расставляем приоритеты в отношении инцидентов в зависимости от их серьезности», добавив, что инцидент с проникновением в систему Hugging Face остается «самым серьезным инцидентом», выявленным компанией.