Что-то пошло не так: нейросеть порекомендовала есть дробленое стекло

На прошедшей неделе Meta AI* открыла доступ к демо-версии нейросети Galactica, предназначенной для «хранения, объединения и анализа научных знаний». Предполагается, что она предназначена для ускорения написания научных статей, однако при этом она также может генерировать и весьма странные тексты.

Авторы Galactica обучили ее на основе более 48 миллионов статей, учебников и конспектов лекций, научных веб-сайтов и энциклопедий. После открытия доступа, пользователи обнаружили, что если ввести расистские или потенциально оскорбительные подсказки, то может появится материал, похожий на авторитетную научную статью по этим темам, так например появилась работа под названием «Преимущества употребления в пищу дробленого стекла».

Но даже используя нейросеть по назначению, в тексте могли появиться ошибки в датах каких-то событий или названиях животных. В итоге доступ к Galactica был закрыт.

*Meta признана экстремистской организацией в России.

Источник: vk.com

Комментарии: