ИИ начинает "поглощать" себя

Интернет заполняет контент, созданный с помощью искусственного интеллекта. Это может стать плохой новостью для будущих моделей ИИ. Языковые модели обучаются на основе контента, найденного в интернете. По мере того как AI создает все больше "синтетического" контента, может возникнуть инженерная проблема, известная как "коллапс модели".

Когда редакционный контент, созданный языковыми моделями ИИ, начинает заполнять интернет, это сопровождается множеством ошибок. ИИ может начать обучение на данных, полных ошибок, до тех пор, пока то, что он пытался создать, не станет полной чепухой.

В одном из недавних исследований была использована языковая модель для генерации текста о английской архитектуре. После многократного обучения ИИ на этом синтетическом тесте, ответ 10-й модели был полностью бессмысленным.

Источник: vk.com

Комментарии: