РИСКИ ИИ

Вышел свежий доклад Alan Turing Institute о рисках frontier AI — самых мощных современных ИИ-систем.

Там меньше привычного «а вдруг однажды сверхразум уничтожит человечество» и больше разговора о вещах, которые уже можно наблюдать и проверять: автономные агенты, киберриски, обход ограничений, потеря контроля, персонализированное влияние, права доступа и безопасность всей системы целиком.

Главный тезис:

риск находится не только внутри модели. Он возникает в системе, в которую эту модель поместили.

То есть одна и та же LLM в чате и агент с памятью, браузером, почтой, доступом к данным и правом действовать самостоятельно — это уже два совершенно разных объекта с точки зрения риска.

Каренин сделал короткий конспект отчёта простым языком — без академической вязкости, но с сохранением главных идей.

___________________________

The Alan Turing Institute — независимый национальный институт Великобритании по data science и искусственному интеллекту. Он создан в 2015 году, штаб-квартира находится в Британской библиотеке в Лондоне. Институт назван в честь Алана Тьюринга — математика и одного из основоположников информатики.

По устройству это не компания-разработчик ИИ и не университетская лаборатория. Институт объединяет специалистов из разных дисциплин — от информатики и математики до этики и гуманитарных наук — и занимается исследованиями, общественно значимыми применениями ИИ, подготовкой специалистов и консультациями для государства и общества.

Почему его позиция заметна: это одна из ключевых британских исследовательских площадок, которая рассматривает ИИ не только как технологию, но и как часть более широкой системы — людей, организаций, правил, инфраструктуры и общественных институтов.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: