OpenAI ответит перед Алабамой за взлом Hugging Face

Ссылка на новость: https://dgnews.ru/artificial-intelligence/openai-otvetit-pered-alabamoj-za-vzlom-hugging-face/ или

tg: https://t.me/dgnewsru/28194

Общее отношение OpenAI к тому факту, что одна из её моделей ИИ вышла из-под контроля и взломала системы открытой ИИ-платформы Hugging Face, сводилось к фразе: «Это наша вина, но согласитесь, это довольно круто, правда?» Генеральный прокурор Алабамы ответил на это весьма решительным «Нет». В понедельник генпрокурор Алабамы Стив Маршалл объявил о начале расследования инцидента и потребовал, чтобы OpenAI предоставила ответ.

Чтобы стимулировать сотрудничество в рамках расследования штата, Маршалл выдал повестку [ссылка №1], обязывающую компанию предоставить массу информации, касающейся инцидента. Среди деталей, которые Алабама хотела бы увидеть: все документы, связанные со взломом Hugging Face, подробности тестирования модели, которое привело к этому, сведения о каждом сотруднике, участвовавшем в обучении модели, имена всех, кто высказывал опасения по поводу обучения до инцидента, а также все детали мер безопасности, использовавшихся OpenAI в процессе обучения.

OpenAI должна выполнить требования штата до 14 сентября 2026 года, так что в ближайшие несколько недель её юристам придётся изрядно потрудиться. Gizmodo обратился к OpenAI за комментарием по поводу повестки, но на момент публикации ответа не получил.

То, что Алабама взяла на себя инициативу в этом вопросе, произошло после того, как штат присоединился к коалиции обеспокоенных генеральных прокуроров, которые недавно направили OpenAI письмо с требованием повысить прозрачность и меры безопасности со стороны компании. Примечательно, что главные прокуроры таких штатов, как Флорида, Техас и Юта, потребовали от OpenAI прекратить все тесты, которые привели к взлому Hugging Face, до тех пор, пока «OpenAI не докажет, что способна проводить подобные действия контролируемым и ответственным образом».

На прошлой неделе OpenAI действительно объявила [ссылка №2] о нескольких изменениях в своих протоколах безопасности в ответ на взлом Hugging Face, в ходе которого одна из её невыпущенных моделей вырвалась из изоляции и автономно предприняла действия для взлома систем другой компании. Изменения включают усиление мониторинга на всех этапах разработки — что может означать хоть какой-то мониторинг, учитывая, что этот инцидент каким-то образом ускользал от внимания OpenAI около недели [ссылка №3], пока его наконец не заметили.

Компания также призвала Калифорнию ужесточить недавно принятый закон о безопасности ИИ [ссылка №4], который требует прозрачности процесса обучения моделей. Сообщается, что OpenAI хочет, чтобы штат дополнил закон требованиями о мониторинге ИИ-моделей во время обучения на предмет возможности нарушения моделью сторонних систем.

OpenAI позиционирует этот запрос как доказательство того, что она серьёзно относится к безопасности. Но это также и попытка уйти от ответственности. Это предполагает, что ничего подобного не произошло бы, если бы кто-то просто остановил их. А не, скажем, просто не делал этого с самого начала.

_Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей._

Автор – AJ Dellinger

[1]: https://www.alabamaag.gov/wp-content/uploads/2026/08/OpenAI-Subpoena%5FFinal.pdf

[2]: https://www.axios.com/2026/08/18/openai-pause-astra-preparedness-framework

[3]: https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/

[4]: https://mashable.com/tech/openai-urges-strengthening-of-california-ai-safety-bill

Телеграм: t.me/ainewsline

Источник: mashable.com

Комментарии: