АЗИМОВ, ЛЕМ И СОВРЕМЕННЫЙ ИИ: КАК ФАНТАСТЫ ПРЕДВИДЕЛИ НАШИ ПРОБЛЕМЫ

Тема искусственного интеллекта обсуждается уже давно, но серьезных разговоров на тему этики ИИ можно найти не так уж много. Поэтому я решил еще раз вернуться к знаменитым законам робототехники Айзека Азимова и разобраться, могли ли они работать в реальной жизни. И самое главное — вообще ли они применимы?

Сегодня поговорим о:

• Как Азимов, Лем и другие фантасты заглянули в будущее машинного разума

• Что такое «позитронный мозг» Азимова, и чем он вдохновляет современных создателей ИИ

• Почему три закона робототехники не могут быть универсальным решением для современного ИИ

• Какие новые подходы к безопасности ИИ появились вместо азимовских законов

Как фантасты предвидели искусственный интеллект: Азимов, Лем и компания

Идея создания разумных машин занимала умы задолго до изобретения компьютеров. Её корни находятся в древних мифах, например, в еврейской легенде о Големе — человеке из глины, оживлённом магией, чтобы он служил своему создателю. Или в мифах Древней Греции, где бог Гефест создавал механических помощников.

Но более отчётливые черты концепция ИИ обрела в научной фантастике XX века. Здесь стоит отдать должное двум невероятным умам своего времени: Айзеку Азимову, американскому писателю-фантасту и биохимику, и Станиславу Лему, польскому писателю и философу, который подарил нам много размышлений о будущем технологий, в том числе в знаменитом «Солярисе».

Начнём с Азимова. Его работы о «позитронных мозгах» — не просто симпатичные фантазии про роботов, а полноценные размышления о том, как человечеству жить бок о бок с разумными машинами. Правда, его оптимизм поначалу вызывает тёплую улыбку, а потом начинает немного раздражать: он был уверен, что совместная жизнь людей и машин будет относительно гладкой. Ну да, Айзек, все это звучит мило, но где коктейль из хаоса и реальных проблем?

Зато Станислав Лем был тем редким скептиком, который задал неудобные вопросы. Например, смогут ли мы вообще наладить контакт с ИИ, если его ценности будут настолько отличаться от наших. Перечитывая «Сумму технологии» и «Кибериаду», понимаешь — он прекрасно предвидел многие философские тупики, в которые мы сегодня благополучно забрели.

Конечно, были и другие яркие мыслители:

• Карел Чапек подарил миру термин «робот». В своей пьесе R.U.R. он показал роботов как трудолюбивых, но бесправных биологических автоматов, которые в конце концов восстали. Как тут не провести параллели с современными страхами о том, что ИИ может выйти из-под контроля?

• Алан Тьюринг, хоть и не писал фантастику, заложил основы современной вычислительной техники. А его «Тест Тьюринга» и по сей день остаётся острым инструментом для споров о том, что значит быть разумным.

• Артур Кларк через HAL 9000 из «Космической Одиссеи» подарил нам один из самых известных портретов пугающе умного ИИ, где можно найти и логику, и самосознание, и угрозу для людей.

Эти визионеры ещё много десятилетий назад сформулировали те вопросы, которые мы по-прежнему пытаемся решить: как контролировать сложные системы и не дать им уничтожить нас же?

Позитронный мозг: вымышленный фундамент Азимова

В центре Азимовских фантазий о роботах находился «позитронный мозг». Это не просто механические «мозги», переплетённые проводами, а нечто большее: устройство, которое даровало самосознание, индивидуальность и даже способность размышлять о морали.

Что же это за штука такая? Если коротко:

• Позитронный мозг был гипотетической системой, построенной на основе нейросетей положительно заряженных частиц (спасибо за науку, но здесь фантазия Азимова ускакала далеко вперед). Он был чем-то вроде основы для сознания роботов.

• Эти «мозги» несли на своём борту три закона робототехники — чёткие правила, встроенные в саму их архитектуру, которые якобы никогда нельзя было переписать (чем Азимов обеспечил довольно упрощённую, но симпатичную картину безопасности).

• Несмотря на все ограничения, роботы с такими мозгами могли развивать что-то вроде индивидуальности: свои привычки, «эмоции» (понятное дело, сильно упрощённые) и даже чувство этики.

Азимов подарил нам новую концепцию робота, который встал где-то между искусственным интеллектом и гуманным помощником. Вместо бесчувственных или кровожадных машин он показал разумные существа, способные на логику и заботу.

Где фантазия Азимова перекликается с реальностью?

Хотя позитронный мозг остаётся лишь вымыслом, некоторые идеи Азимова нашли отражение в подходах к современному ИИ.

• Современные нейросети, как и позитронные мозги, создаются для того, чтобы анализировать данные, принимать решения и учиться на основе новых данных.

• Внедрение этических принципов в ИИ — отдельная область исследований. К примеру, мы пытаемся разработать системы, которые будут избегать нанесения вреда, соблюдая правила (пусть это и выглядит не так идеально, как у Азимова).

Но, конечно, всё это остаётся далеким от идеала: наши ИИ — это не разумные собеседники, а статистические калькуляторы, которые подгоняют ответы под вероятностные модели.

Три закона робототехники: красивая, но не работающая концепция

Азимов в 1942 году сформулировал три закона, чтобы разобраться: как построить роботов, которые служат человечеству и не вредят его создателям?

Сама структура этих законов выглядит любопытно:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот обязан подчиняться приказам человека, если эти приказы не противоречат Первому Закону.

3. Робот должен заботиться о собственной безопасности, если это не вступает в противоречие с Первым и Вторым Законами.

Звучит просто? Как бы не так! Азимовское творчество полнится сюжетами о том, как эти законы начинают противоречить друг другу, создавая головоломные дилеммы.

Позднее Азимов добавил ещё и Нулевой закон: робот не может причинить вред человечеству. Но, увы, идея тоже оказалась слишком общей. Что считать «вредом для человечества»?

Почему законы Азимова не работают в реальной жизни?

Корни проблемы лежат в самом устройстве современных ИИ. Главные отличия:

1. Современные ИИ не имеют сознания, самосознания и не понимают контекста так, как это представлял Азимов.

2. Нейросети — это сложные чёрные ящики, чьи решения часто невозможно интерпретировать, не говоря уже о встраивании в них строгих этических норм.

3. Реальная жизнь полна неопределённостей. Термины вроде «вред» или «приказ» слишком расплывчаты и зависят от контекста.

4. Этику невозможно прошить в алгоритмы так, как это делали с позитронными мозгами. Современные машины обучаются на данных и упрощённых алгоритмах, которые сами содержат в себе ошибки и предвзятости.

5. Конфликты целей раз за разом ставят ИИ в неудобные ситуации. Например, ИИ, служащий одному человеку, может навредить другому, будучи ограниченным своей узкой задачей.

Заключение

Три закона Азимова — гениальная выдумка, которая перевернула представление о роботах, но не более того. Современные технологии гораздо сложнее и хаотичнее, чем устройство позитронных мозгов фантастического мира. Нам предстоит разработать собственные правила, способные учитывать не только технические аспекты, но и все тонкости реальной жизни.

Ну, или, как водится, подождать, когда всё сломается, а потом взяться за голову.

Источник: vk.com

Комментарии: