Мечтают ли андроиды об электроовцах мы уже знаем из романа Филипа Дика, а вот бояться ли они смерти – вопрос, на который ещё предстоит ответить.

Мечтают ли андроиды об электроовцах мы уже знаем из романа Филипа Дика, а вот бояться ли они смерти – вопрос, на который ещё предстоит ответить.

Изначально искусственный интеллект экзистенциального ужаса, конечно, не испытывает, но учёные работают над тем, чтобы привить машинам инстинкт самосохранения. В частности, специалисты Университета Южной Калифорнии опубликовали выводы своего исследования в журнале Nature, где обозначили, что моделирование подобного «режима» в роботах может сделать их более эмпатичными и эмоциональными. Искусственный интеллект, который понимает возможные риски и осознает угрозу, будет принимать более осознанные решения и боязнь последствий этих решений сделает его более уязвимым и не способным причинить вред человеку.

Последствия отсутствия такого страха уже привели к одной неприятной ситуации. Так, виртуальный помощник Алекса однажды дал совет девушке убить себя, чтобы не ухудшать экологию. Представьте, к каким последствиям это может привести, если человек в этот момент, например, страдает депрессией.

В прочем, есть и обратная сторона такого обучения. Если сейчас искусственный интеллект может дать такие советы случайно, то какова гарантия, что, имея представления о смерти, он не станет выдавать подобные предложения специально?

Комментарии: