Когда читаю в новостях, что эксперты рассматривают искусственный интеллект как (я цитирую) "постоянного собеседника для одиноких пожилых людей, учитывающего их интересы и ценности", — мне кажется,

Когда читаю в новостях, что эксперты рассматривают искусственный интеллект как (я цитирую) "постоянного собеседника для одиноких пожилых людей, учитывающего их интересы и ценности", — мне кажется, что я попала в серию "Чёрного зеркала". Или в рассказ Константина Крылова.

Но эксперты — они это серьёзно пишут. И нет сомнений, что в таковом качестве ИИ будут старательно продвигать. "Для блага человечества".

Наверное, раньше, если бы я прочитала, что (опять цитирую) "учёные разработали программу, которая выявляет шизофрению по МРТ с точностью до 85%", — я подумала бы, что это, пожалуй, хорошо. Но после 2020 года я сразу думаю об этих 15%, и о том, как может такая программа использоваться недобросовестно. Потому что после 2020 года у меня нет сомнений, что не существует никаких (именно так: никаких) сдерживающих механизмов, чтобы она не использовалась недобросовестно. После 2020 года мои представления о благе человечества не просто "отличаются", а резко разошлись с представлениями многих людей, которых принято считать экспертами.

Мне недавно написали в комментариях, что непонятно, как избежать ударной цифровизации. Это на самом деле глубокий и важный комментарий.

Потому что никто по доброй воле от неё не откажется. Я это хорошо понимаю.

— С одной стороны, начальство будет настаивать, что это очень удобно и экономит сколько-то много денег (вот и Греф на днях сказал). Да и вообще: "все цивилизованные люди так делают, а кто не делает — тому же хуже".

— С другой стороны, цифровизация НЕ НАСТОЛЬКО угнетает людей, чтобы они захотели немедленно сопротивляться. Вот если бы их резали или выкидывали из жилищ — это одно. А всего лишь организовать за ними слежку и сделать их беззащитными — это другое. "Ну следят и следят, ну и что". Тут возможны ответвления: от самоутверждения ("да мы и всегда знали, что начальство за всеми следит, если вы не знали — вы простаки и не понимаете, как жизнь устроена") — до самоуничижения ("начальство следит — и правильно делает, без присмотра людишки сами себе навредят").

Короче: нет достаточного ОСНОВАНИЯ, чтобы такая выгодная (в некотором смысле) цифровизация была прекращена и проект искусственного интеллекта свёрнут.

Поэтому дальше будут мои мечты/фантазии, кому не интересно — не читайте. А если предупреждённый прочитает и станет над мечтой издеваться — будет удалён.

Если бы Россия захотела стать тем, чем я очень хочу, мечтаю, чтобы она стала, — ковчегом белого консервативного человечества — то цифровизация и ИИ, конечно, не были бы в ней полностью истреблены, поскольку это ослабило бы Россию перед внешней угрозой со стороны "прогрессивных сил". Всё, что нужно для контура самообороны, пришлось бы делать с применением ИИ и цифровизации (увы, это тоже плохо, но от этого просто никуда, в сложившихся условиях, не денешься). А вот внутри страны должен действовать жёсткий Этический кодекс, прямо запрещающий вмешательство ИИ в любые сферы, где он замещает людей. Никаких "ИИ в законотворчестве", "ИИ в социальной сфере", "ИИ в искусстве" и даже — это вызовет наибольшие споры — "ИИ в медицине". Даже этого не следует допускать.

(И да, я считаю, что пусть люди лучше будут рожать троих детей и жить до семидесяти-восьмидесяти лет, чем рожать одного ребёнка или вовсе не рожать — и жить до ста и более лет.)

Разумеется, это ни в коем случае не значит, что человеческую жизнь надо как-то специально пресекать на определённом сроке — нет, это значит только то, что продление жизни не должно становиться идолом, в жертву которому следует приносить человеческие свободы.

Соответственно, и цифровизация в ковчеге консервативного человечества должна быть резко ограничена. Во-первых, она не должна рекламироваться. Не должна преподноситься, как что-то однозначно хорошее. Люди, выбирающие цифровизацию, не должны получать за это ровно никаких дополнительных выгод, никаких преимуществ. В определённых случаях они имеют право её выбрать (например, потому, что это объективно удобнее, чем добираться откуда-то сильно издалека) — но и только. В образовательной сфере цифровизация не должна применяться вообще никогда, это должно быть принципиально. В медицине — лишь строго дозированно, для труднодоступных территорий.

Главная идея — запретить цифровизацию централизованную. То есть если водители, по своему желанию, ездят с видеорегистраторами — это нормально. Если жители того или иного города голосуют за установку камер на предмет выявления нарушений ПДД — это ещё допустимо. Обставлять видеокамерами федеральные трассы — нет.

Да, я хорошо понимаю, что от таких видеокамер бывает и польза. Не нужно мне это доказывать. Что я говорю — это что от некоторой пользы приходится сознательно отказаться, чтобы не получить в качестве побочки большее зло.

И весь камень преткновения здесь, на самом деле, в том, что это зло должно быть признано бОльшим.

А поскольку люди никогда в своей истории с цифровизацией и искусственным интеллектом не сталкивались — они пока ещё не имели и возможности от них пострадать, в полной мере ощутить как зло (в 2020-м году была проба пера, небольшая такая почеркушка). Потому это зло как бОльшее многими не осознаётся, и потому то, что я написала выше, выглядит как утопия. Но это всего-навсего мечта даже не удержать человечество в "золотом веке", который у него как раз уже был, — а хотя бы не дать уйти настолько далеко, чтобы нельзя было вернуться.

Источник: vk.com

Комментарии: