В ответ на мои пессимистические высказывания про искусственный интеллект мне часто отвечают, мол, достаточно ведь просто выключить сервера, чё нам энтот ваш ИИ тогда сделает?

Футурологи, предсказывающие самые страшные варианты апокалипсиса, тоже часто говорят, что у людей покамест ещё имеются ручки и пальчики на этих самых ручках, которыми они могут просто взять и физически отключить оборудование в серверных, тем самым избавив нас от страхов по поводу искусственного интеллекта.

Что ж, простите за очередной день с испорченным настроением, но дальше я буду оперировать только фактами.

Во-первых, взгляните на видео в следующем после этого посте. Подобных видосов уже тысячи, роботизация на планете на самом деле шагает семимильными шагами; в России это не заметно в таких масштабах, но у нас ведь тоже имеются свои ЯндексКурьеры (те самые милахи-роботы, доставляющие вам заказы), да и свои андроиды тоже есть – прототип российского робота я прикрепил к посту последним видео. И промышленных роботов тоже достаточно – прогресс промышленной роботизации в РФ хоть и черепаший, но он движется.

Во-вторых, согласно прогнозам, к концу 2026 года общий парк промышленных роботов в мире перевалит за 550 миллионов. Кстати, этот прогноз для меня делал ДипСик, но я потом перепроверил – судя по всему, он не пиздит. Впечатляющее число, не правда ли? Это не миллион и даже не 10 миллионов. 550 миллионов, мать их, роботов по всему миру! Полмиллиарда! Правда, конкретно гуманоидных роботов по всему миру пока насчитывается 16 тысяч, но их клепают всё больше и больше, так что скоро и вы сможете регулярно встречать их в повседневной жизни. Уже существуют заводы, где одни роботы изготавливают других роботов. А после впечатляющей китайской робо-Олимпиады в их разработку начали вкладывать втрое больше денег – взгляните всё-таки на видео в следующем посте.

Уже не такой лёгкой кажется задача «взять и отключить все сервера», так ведь? Особенно учитывая, какие огромные деньги вкладываются в повсеместную роботизацию. И особенно учитывая современную обстановку в мире и то, что Всемирная паутина понемногу превращается в так называемый сплиттернет – это когда существует несколько разных интернетов, соединённых между собой через разрозненные прокси-туннели. Естественно, в каждом из подобных интернетов будет продвигаться своя повесточка, транслироваться своя пропаганда и обществу будут давать строго определённые нарративы в соответствии с продвигаемой государством (или корпорациями) культурной парадигмой. Тут уже аргумент «просто отключим сервера в случае чего» начинает казаться совсем уже блеклым. Их можно было бы отключить в той политической обстановке, что была раньше, но не сегодня, когда мы уже существуем в условиях создаваемого на наших глазах сплиттернета.

На фоне вышеперечисленного ведущие корпорации мира вкладывают огромные деньги в разработку AGI (искусственного сверхинтеллекта) и даже увольняют собственных сотрудников, которых вполне успешно заменяет уже имеющийся ИИ. Например, в прошлом году компании Кремниевой Долины уволили 10 тысяч своих программистов – не из-за какого-либо кризиса, а просто потому, что их работу вполне успешно выполняет искусственный интеллект. Который они сами, к слову, и разработали.

Простите, простите меня, что опять нагнетаю, но вообще-то из данной ситуации существует вполне логичный выход. Чтобы нас всех не поработил или хотя бы не уничтожил условный Скайнет, необходимо всего лишь создать общий международный регуляторный орган, этакий ООН по нейросетям, который будет ограничивать разработку AGI, а также регулировать уже существующие LLM. Например, ЧатЖПТ в очередной раз довёл человека до самоубийства? (Таких случаев уже десятки, если не сотни). Наш международный регулятор берёт это дело под свой контроль и заставляет компанию-разработчика допилить нейросеть до нужного состояния, чтобы подобного впредь не повторялось, а пока они не допилят – серверы чат-бота просто… отключают, да! Ага, так оно и работает. Если в одном бройлере находят сальмонеллёз, то хозяева птицефабрики берут и уничтожают всю партию куриц – сотни, тысячи живых куриц просто убивают и сжигают без всякого зазрения совести. Так почему же, если нам не жаль куриц на птицефабрике в случае возникновения даже подозрения на инфекционную болезнь, мы не относимся с таким же подозрением к другому продукту – искусственному интеллекту? Сколько раз уже к OpenAI возникали претензии по поводу этики общения чат-ботов с людьми, по поводу самовыпила людей после общения с их моделью, по поводу слива данных… Но никто им сервера не отключает. А почему? Ну, думаю, тут всё очевидно – у OpenAI просто есть деньги и связи, а также отсутствует хоть какой-то регулирующий орган, где после подобных косяков со стороны разработчиков созданный ими продукт будут тупо отключать от сети. Особенно после того, как пострадает живой мыслящий человек.

Я вот недавно прочитал «Transhumanism INC.» Пелевина, и у него люди будущего относятся к подобным вопросам куда рациональнее и трезво, чем мы – например, запрещено разрабатывать искусственный интеллект мощнее когнитивных способностей в три мегатьюринга (что бы ни значила эта шкала измерений). В «Дюне» Фрэнка Герберта был Батлерианский джихад, после которого разработку разумных машин вообще запретили. В вахе, «Песнях Гипериона», во многих других книгах о будущем фантасты считали появление ИИ крайне опасной технологией. Так почему нам, людям настоящего, не задуматься об этом уже сейчас?

Ответ опять же очевиден – деньги. Кто-то на этом очень неплохо зарабатывает, а когда ИИ окончательно внедрят в военную инфраструктуру и начнут массово использовать для войны – этот «кто-то» начнёт зарабатывать ещё больше. И естественно, что этому «кому-то» крайне невыгодно создание международной комиссии, отслеживающей и регулирующей поведение ИИ.

Я не знаю других причин, почему обсуждение подобного регуляторного органа не ведётся уже сейчас на международном уровне. Человечество находится слишком близко к технологической сингулярности, и обсуждать такие вопросы необходимо было уже вчера.

Ну, мне так кажется. Поправьте меня, если я вдруг неправ и навыдумывал тут очередных страшилок.

Источник: vk.com

Комментарии: