Пытки для роботов: ученые предложили заставить искусственный интеллект страдать, чтобы проверить наличие у него разума

Чтобы обнаружить любое проявление разумного "я" в системах ИИ исследователи обратились к боли. Ученые из Google DeepMind и Лондонской школы экономики и политических наук создали текстовую игру.

Они заставили играть LLM (системы искусственного интеллекта, лежащие в основе чат-ботов, включая ChatGPT). Один из сценариев предполагал, что достижение высокого балла возможно через боль. В другом "умные модели" избегали боли, а поиск удовольствия отвлекал от главной цели.

После достижения критического порога боли или удовольствия LLM переключались с получения наибольшего количества баллов на сокращение боли или увеличение удовольствия, пишет Live Science. Авторы исследования отметили, что чат-бот может вести себя "разумно" не потому что действительно разумен, а чтобы создать впечатление разумности.

Источник: vk.com

Комментарии: