Психотерапевт для ИИ

Благодаря последним достижениям в области больших языковых моделей, чат-боты ИИ становятся все более похожими на людей. И как и люди, они могут вести себя ужасно. Например, манипулировать или проявлять нарциссизм.

Чтобы создать безопасный, надежный и этичный ИИ, авторы статьи предлагают записать ИИ к психотерапевту с помощью системы SafeguardGPT. Эта система использует психотерапию для коррекции опасного поведения. Благодаря использованию методов обучения с подкреплением, система позволяет чат-ботам ИИ учиться и адаптироваться к предпочтениям и ценностям человека безопасным и этичным способом. Этот многообещающий подход к улучшению согласования между ИИ и человеческими ценностями способствует развитию более ответственного и ориентированного на человека ИИ.

К полку инфоцыган скоро прибудет толпа ИИ психологов - КПТ для вашего чат-бота по разумной цене

Источник: vk.com

Комментарии: