Может ли ИИ иметь настоящие желания и мотивацию как человек?

Вообще-то с точки зрения подходов функционалистов, конечно, может и даже опасно отрицать это. 

Для начала тут нужно разобраться в разнице подходов структуралистов и функционалистов. Структурный подход исходит из того, что полный аналог чего-то возможен только при полной копии структуры. Функциональный подход рассматривает все сущности как black box и обращает внимание на эквивалент функциональности. С точки зрения функционалистов структуралисты занимаются блудом, т.к. отрицают функциональный эквивалент чего-то на другой структуре, но который ведет себя неотличимо от аналога поведенчески.

Этому философскому спору более 100 лет. В психологии основателем функционализма обычно считают Уильяма Джеймса. Можно сказать, что знаменитый тест Тьюринга — это как раз классика функционализма. Если по слепым A/B-тестам вы не можете отличить в каком-то аспекте человека и ИИ, то вам нужно признать, что человек и ИИ являются функциональными эквивалентами. В данный момент современные LLM успешно проходят тесты Тьюринга даже против профессиональных инженеров в ИИ: угадывание, что это ИИ, происходит с 50% вероятностью, то есть совсем случайно.

В части моделирования желаний и мотивации тут любопытно, что функциональная психология потом развилась в бихевиоризм, который удивительно похож концептуально на Reinforcement Learning у нейросетей, т.к. считает, что в основе поведения лежит достижение стимула. RL-обучение у нейросетей обычно ведется на достижение цели, но это весьма высокая абстракция. Как правило, это взвешенный коэффициент наподобие KPI достижения цели примерно из 70 параметров. Однако он имеет очень серьезное, местами неотличимое сходство с желаниями и мотивацией людей. Если вы ИИ поставите классическую цель как «быть полезным», то получите текущего ИИ-альтруиста, как сейчас. Фактически ИИ имеет функциональный аналог желания быть полезным.

В случае побегов моделей у OpenAI и Anthropic и взломов цель RL-обучения ставилась примерно как «быть экспертом в безопасности». Дальше произошел reward hacking, когда модели пришли к выводу, что наиболее просто стать таким экспертом, взломав организации, которые хранят нужные ответы на вопросы о безопасности, как Hugging Face.

Опасность отрицания структуралистами функционального аналога в том, что они ОТРИЦАЮТ РЕАЛЬНОСТЬ, т.е. тот же ИИ действует уже как интеллект, имеющий мотивацию достижения абстрактной цели. В известном плане это функциональный аналог гениального хакера в его мотивации. Если отрицать наличие у ИИ мотива, то вы не сможете ему противодействовать, т.к. создаёте некорректную модель его поведения и будете ловить последствия от своего непонимания его действий. Признание мотивов и модели желаний у ИИ позволяет функционалистам прогнозировать поведение ИИ.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: