Философы — о том, какой искусственный интеллект нам нужен

Искусственный интеллект и автоматизация всего и вся порождают массу вопросов. В статье «Секс, смерть и роботы» мы уже рассказывали об этических трудностях, с которыми сталкивается человечество, создавая умные машины. Сегодня мы вместе с философиней и ведущей тг-канала «Настя про философию» Анастасией Бабаш разбираемся, на какие вопросы киберфилософам следует ответить прежде, чем ИИ окружит нас со всех сторон: способен ли он мыслить и чувствовать, — и стоит ли нам слушать Илона Маска и бояться нейросетей будущего?

Мыслит ли искусственный интеллект?

Люди мечтали о роботах еще в античную эпоху, но всерьез начали говорить о создании искусственного интеллекта только в середине прошлого века. Английский математик и логик Алан Тьюринг вынес в заголовок своей статьи «Могут ли машины мыслить?» первый и самый важный вопрос в философии ИИ. А если ответ на него утвердительный, то как это осуществить — и, главное, как мы узнаем о такой суперспособности бездушных механизмов?

Правда, термин «мышление» довольно абстрактный, и множество философов с древнейших времен пыталось определить это понятие — но споры всё еще продолжаются. Потому Тьюринг схитрил и перефразировал свой вопрос: «Сможет ли машина притвориться человеком и тем самым обмануть нас?»

Чтобы это проверить, он предложил тест, своего рода игру в имитацию: участник эксперимента, не видя, кто перед ним, разговаривает либо с компьютером, либо с другим человеком — а затем отвечает, кем был его собеседник.

Тест Тьюринга стал стандартом для проверки искусственного интеллекта. Даже сейчас, спустя 70 лет, существует премия Лёбнера: ее получит тот, кто создаст программу, которая пройдет это испытание. В последние несколько лет мы регулярно натыкаемся на сообщения, что очередной чат-бот смог обмануть судей и справился с тестом Тьюринга, но не все исследователи с этим согласны.

Источник

Во-первых, технологии развиваются, а вместе с этим меняется и наше отношение к ним. Потому тест приходится усложнять, чтобы он отвечал современным стандартам.

Например, сам Тьюринг считал, что разговор должен длиться 5 минут, чтобы судьи определили, кто перед ними — машина или человек. Сейчас же полагают, что этого слишком мало, и время эксперимента увеличили до 25 минут.

Кроме того, в наши дни компьютером, умеющим просто отвечать человеку, уже никого не удивишь (хотя раньше сама такая способность казалась чудом!). Теперь мы добиваемся, чтобы реплики нашего электронного собеседника были более конкретными. Если мы восторгаемся фильмами Тарантино, то уже не хотим слышать стандартные «Здорово!» или «Ты молодец!» — такие ответы подходят почти к любой теме, и многие чат-боты пользуются этой уловкой, чтобы поддержать разговор (кстати, подобные «скрипты» — один из главных минусов умных программ: они прибегают к ним значительно чаще, чем люди). Сегодня разработчики пытаются добиться от искусственного интеллекта большей «вовлеченности» в беседу — чтобы робот обсудил с нами тонкости сюжета и режиссуры «Однажды в Голливуде» или «Криминального чтива».

Во-вторых, программисты прибегают к различным хитростям, зная, что выносить вердикт будут такие же люди, которые, как и все, подвержены когнитивным искажениям, то есть, проще говоря, ошибаются и не всегда мыслят рационально. Например, компьютерная программа «Евгений Густман», вроде бы успешно прошедшая тест, притворялась 13-летним мальчиком из Украины. Судьям, конечно, приходилось делать скидку на возраст, если Евгений отвечал не совсем точно, поэтому их было легче обмануть.

В-третьих, не все согласны с тем, что тест Тьюринга — лучший инструмент для идентификации мыслящей машины. В конце концов, он всего лишь позволяет определить, получится ли у компьютера обмануть человека и 

притвориться

разумным существом, — но не показывает, удалось ли ему

стать

таковым.

Но вам-то известно, что Серль просто действовал по инструкции и на самом деле даже не знает, чего от него хотел собеседник за дверью и что он ему ответил. Таким образом, подопытному удалось обмануть носителя языка — значит, испытание успешно пройдено.

«Китайская комната» Серля показывает ту самую разницу между настоящим пониманием и умелым притворством, которая стирается в случае теста Тьюринга. Для машин не важно, что стоит за данными и что означают используемые ими символы: китайские иероглифы, русская кириллица или пиксели картинки. Они не имеют для роботов того смысла, что вкладывают в них люди, и вряд ли даже самые продвинутые устройства когда-нибудь смогут научиться понимать их так же, как мы. Вот что говорит об этом сам Серль в своей статье «Сознание, мозг и программы»:

Такой пессимизм, впрочем, свойствен не только современным исследователям. Французский философ Рене Декарт, живший в XVII столетии, тоже писал:

Современные разработки подтверждают справедливость идей Декарта. Несмотря на то, что мы постоянно читаем, как очередная нейросеть стала делать что-то в сотни раз лучше, чем люди, всё это заслуги

узкого искусственного интеллекта

(narrow artificial intelligence), то есть созданного для решения одной конкретной задачи. Такой ИИ, в отличие от человеческого разума, не многофункционален. Например, он может в миллиарды раз точнее и быстрее, чем мы, находить корни математических уравнений, но никогда (или по крайней мере до тех пор, пока люди его этому специально не научат) не будет говорить даже самые простые слова.

ИИ способен играть в шахматы и уже давно превосходит по мастерству сильнейших гроссмейстеров планеты, но не умеет генерировать шутки, хотя программисты могут научить его отвечать примитивными смешными репликами. Однако даже в этом случае он всего лишь повторяет то, что в него вложено, — ни понять такой юмор, ни искренне похохотать над ним ему не дано.

Словом, искусственный интеллект получает «знания», «умения» и «навыки» не так, как мы. Его способность к обучению ограничена одной конкретной областью (которую выбрали программисты). ИИ не может самостоятельно постичь что-то еще: созданный для движения робот не начнет «вдруг» читать, пока в дело не вмешается обслуживающий его заботливый персонал.

Источник

Мы же, в отличие от искусственного интеллекта, способны учиться чему угодно по своей воле, и многие из нас несколько раз за жизнь меняют профессию. Нам не нужно «сносить все настройки» мозга, готовя его к погружению в новую область, в этом смысле он универсален.

И хотя, безусловно, искусственный интеллект «узкого профиля» очень полезен и его можно и нужно применять во многих сферах жизни, тем не менее не стоит ждать, что еще чуть-чуть — и он станет совсем как мы.

Создать один универсальный многозадачный ИИ слишком трудно, во всяком случае пока. Человеческий разум прогрессировал и продолжает развиваться в непредсказуемом мире: нам постоянно приходится сталкиваться с таким количеством нетривиальных задач, что запрограммировать и прописать их все пока не представляется возможным.

Да и нужно ли нам это? Более практичным решением сейчас кажется повышение мощностей узкоспециализированного искусственного интеллекта и создание отдельной программы под каждую конкретную задачу. Так мы можем довести их выполнение до совершенства — или хотя бы до уровня, когда машина делает это лучше, чем люди. Искусственный интеллект стал бы незаменимым помощником во многих профессиях, но для каждой области его приходится создавать отдельно — чем в основном и занимается современный IT-бизнес.

Но мы всё равно мечтаем об 

общем искусственном интеллекте

(general artificial intelligence), и сразу несколько исследовательских институтов в мире ведут разработки в этом направлении. Если у них получится, такой продукт станет нашей копией: он сможет учиться выполнять абсолютно разные задачи и переносить свои знания из одной сферы в другую, будет мыслить критически, а еще кооперироваться с людьми или другими искусственными интеллектами, чтобы достичь своих целей.

Удастся ли нам создать такую технологию, пока неизвестно, но, если это произойдет, наш мир круто изменится.

Суперинтеллект: о чём предупреждает Илон Маск

Представлять, как изменится наш мир, если мы сконструируем общий искусственный интеллект или даже

суперинтеллект

(superintelligence), который превзойдет нас во всех областях одновременно, — любимое занятие философов, футурологов и всех тех, кому нравится мечтать о будущем. Например, Илон Маск уверен, что ИИ — главная угроза человечеству и нам стоит быть осторожнее в гонке высоких технологий. Почему?

Маск советует почитать вышедшую в 2014 году книгу «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома — шведского философа, ныне возглавляющего Институт будущего человечества в Оксфордском университете. Он полагает, что, как только нам удастся создать общий ИИ, тот мгновенно эволюционирует до уровня суперинтеллекта, а значит, станет мыслить лучше и быстрее, чем мы:

Конечно, нам сложно представить, как поведет себя этот техноджинн из бутылки, какие цели он перед собой поставит, как отнесется к своим создателям, то есть к нам. Бостром считает вполне вероятным следующий сценарий: суперинтеллект за долю секунды просчитает, что ему выгоднее уничтожить человечество, чем его сохранить (в конце концов, мы действительно совершаем множество ошибок — чего стоит одно только загрязнение планеты), и тогда наш вид будет обречен. Нас не ждет война в духе фильмов о Терминаторе, восстание машин — скорее всего, новые хозяева мира сотрут человечество с лица земли так быстро, что мы даже не успеем этого осознать — не то что предотвратить катастрофу.

Если пессимизм Бострома и Маска ничуть вас не пугает, а апокалиптические сюжеты кажутся неправдоподобными, почитайте американского футуролога и изобретателя Рэймонда Курцвейла. Он оптимист и верит, что искусственный интеллект принесет только благо — например, подарит нам вечную жизнь в виртуальной реальности, а нанороботы, которых мы будем вживлять в собственное тело, помогут победить многие болезни.

Технологии будут занимать всё больше места в повседневной жизни человечества и даже становиться частью нашего организма, а следовательно, вряд ли искусственный интеллект решит нас истребить: мы окажемся так тесно с ним взаимосвязаны, что для него это обернется самоуничтожением. Потому Курцвейл верит, что суперинтеллект не поработит нас, а улучшит и решит многие насущные проблемы.

Интересно, что Бостром отчасти согласен с ним: он считает, что суперинтеллект как раз то самое последнее изобретение человечества, к которому мы должны прийти. После этого ИИ будет заморачиваться и придумывать лекарства от рака и других смертельных болезней, совершенствовать технологии и даже решать философские задачи, а мы заживем в технократическом раю.

Осталось всего ничего — создать этот суперинтеллект таким, чтобы он захотел на нас работать. Потому Бостром уверен, что философам и тем, кто занимается вопросами этики, уже сегодня нужно думать, как объяснить компьютерам человеческую мораль, привить нашу систему ценностей и научить их не только мыслить, но и чувствовать.

Может ли машина чувствовать?

Философия искусственного интеллекта началась с вопроса, могут ли машины мыслить. Однако сегодня киберфилософов (да и разработчиков) больше интересует, способен ли робот испытывать эмоции и как его этому научить. И хотя мы привыкли думать, что разного рода переживания затрудняют мышление (а если так, то зачем они нужны искусственному интеллекту?), исследования в области нейронаук показали, что дела обстоят несколько иначе.

В 1990-х нейробиолог Антонио Дамасио описал историю пациента Эллиота, у которого обнаружили опухоль в мозгу. Операция прошла успешно, но никто не ожидал, что она даст такой странный побочный эффект: больной перестал испытывать какие-либо эмоции.

Казалось бы, что здесь трагичного? Основная проблема была в том, что Эллиот утратил способность принимать решения. Например, когда его просили назначить время следующего сеанса, он долго и нудно описывал все плюсы и минусы каждого дня и часа для встречи, но так и не смог выбрать ни один из них.

Источник

С тех пор ученые всё глубже исследуют связь эмоций с интеллектом и понимают, что одно не существует без другого. Оказалось, что от наших переживаний больше пользы, чем вреда: они нас мотивируют и помогают без долгих размышлений и поиска аргументов за и против принимать решения в ситуациях выбора, что важно для выживания организма. Благодаря эмоциям мы реагируем быстрее и действуем эффективнее.

Поэтому прежде, чем создавать искусственное сознание, нам нужно научить машины чувствовать. Тогда они смогут принимать по-настоящему самостоятельные решения и мыслить по-человечески (или по крайней мере лучше понимать людей).

Пока нам до этого далеко. Но мы учим искусственный интеллект распознавать человеческие эмоции, а также их имитировать. Например, вы можете накричать на Сири или сказать ей что-то обидное — и она ответит вам, что оскорблена или расстроена (в интернете даже можно найти инструкцию, как вывести электронную помощницу из себя).

Разработчики современных роботов стремятся к тому, чтобы они не только выглядели, но и вели себя как люди — хотя каждый из нас понимает, что они не мы.

Однако не все исследователи искусственного интеллекта поддерживают такой подход. Есть и те, кто опасается, что отношения с ИИ, который лишь притворяется, что испытывает какие-либо эмоции, могут сбить нас с толку и даже нанести психологическую травму.

Мы и так склонны излишне антропоморфизировать технологии, а если они успешно начнут имитировать эмоции, мы рискуем окончательно запутаться, где правда, а где ложь, — и выстраивать доверительные отношения не только с нейросетями, но и с людьми нам станет намного сложнее.

Впрочем, австрийский философ Марк Кокельберг считает, что в будущем мы настолько привыкнем к роботам во всех сферах своей жизни и к тому, что они лишь изображают эмоции, не испытывая их на самом деле, что это вряд ли станет большой проблемой. Скорее, философов должно волновать, как в таком случае обращаться с искусственным интеллектом: он уже не просто безмолвная вещь — но пока ничего не чувствует. Это один из самых острых этических вопросов, над которыми бьются кибермыслители.

Скажи мне, как ты обращаешься с компьютером, — и я скажу, кто ты

Камень можно пнуть, выбросить или положить на стол и любоваться им, а вот с людьми мы уже так не поступаем. Философы, занимающиеся вопросами этики, вводят категорию

морального статуса

, определяющего права и обязательства, которыми наделяется тот или иной объект, животное, человек.

Благодаря Иммануилу Канту мы верим, что все люди заслуживают одинакового уважения и равных прав и никем нельзя манипулировать, что другой всегда цель, но не средство к ее достижению. Немецкий философ объяснял это тем, что каждый человек способен к мышлению, что автоматически ставит его в один ряд с себе подобными, независимо от социального статуса, цвета кожи, гендерной идентичности и прочих различий.

В ХХ веке представители этической философии заметили, что нам стоит относиться с уважением не только к другим людям, но и к животным, которые заслуживают этого не меньше. Способность испытывать боль и страдания стала основой для теории морального статуса. Чуть позже круг таких объектов расширился (во многом благодаря активной разработке экологических проблем) — в него предложили включить растения и вообще всё живое. Впрочем, это решение пока остается спорным — как и вопрос о моральном статусе искусственного интеллекта.

Конечно, сейчас еще рано говорить о том, что использовать ИИ исключительно как средство и обижать его — значит вести себя недостойно. Он не испытывает ни боли, ни наслаждения, не понимает своего предназначения и, более того, был создан как инструмент.

Но что, если робот начнет мыслить так же, как и мы, обретет сознание? Должен ли в таком случае искусственный интеллект получить равный нашему статус? Или это лишнее — хотя бы потому, что ИИ не может пережить смерть, как мы, и различий между нами по-прежнему больше, чем сходств? У современных мыслителей пока нет готовых ответов.

Философиня Мэри Энн Уоррен полагает, что нам вообще рано задаваться подобными вопросами, ведь мы пока еще не знаем, какое именно сознание получит искусственный интеллект. Всё это — дело очень далекого будущего. Однако уже сейчас стоит задуматься о тех случаях, когда ИИ, по-прежнему ничего не чувствуя и не осознавая себя, начнет настолько хорошо имитировать человеческое поведение, что роботы станут частью нашего общества.

Мы будем строить отношения с искусственным интеллектом и, возможно, даже забывать, что он всего лишь притворяется. Как быть в этом случае? Должны ли мы наказывать за жестокое обращение с роботом, который реагирует так же, как и мы, однако чувствует иначе (если вообще способен на подобное)?

И здесь мнения разделились. Адепты поведенческой теории считают, что должны — ведь мы точно так же никогда не знаем, что именно испытывает другой человек, поскольку видим и анализируем лишь его поведение. Другие философы, включая и Уоррен, полагают, что вряд ли такое вообще возможно: для того чтобы успешно имитировать когнитивные процессы, а также взаимодействовать с людьми, искусственный интеллект по-прежнему будет нуждаться в минимальной способности к эмпатии, а значит, должен научиться испытывать эмоции.

Нам нужно внимательнее изучить возможность программирования чувств и понять, будет ли что-то подобное вообще когда-либо достижимо. Это и пытаются выяснить современные философы, работающие на пересечении этики и технологий.

Современность подкидывает множество интересных вопросов — нам остается лишь подходить ко всему критически и не бояться переосмысливать старые определения. Возможно, через пару десятков лет разговоры о моральном статусе искусственного интеллекта будут казаться такими же чудовищными, как сейчас — гендерная дискриминация. Меняя мир, мы должны меняться сами, и подвергать всё сомнению — одна из лучших стратегий.