Придите и контролируйте нас

OpenAI, Anthropic, Google, Meta (признана экстремистской и запрещена в РФ) и другие ведущие разработчики искусственного интеллекта подписали совместное обращение к правительству США с призывом разработать механизмы контроля темпов развития передовых ИИ-систем. Поводом послужил недавний инцидент, при котором модели OpenAI вышли из-под контроля. Авторы заявления указывают на реальную угрозу того, что способность ИИ к самостоятельному исследованию приведёт к неконтролируемому ускорению прогресса, опережающему возможности человечества по обеспечению безопасности таких систем (то есть указывают на то, о чём критики AGI неумолчно твердят уже несколько лет и что никогда не было опровергнуто). При этом сами разработчики никак не могут замедлить свои исследования, ибо у них — конкуренция, и они себя не контролируют. Предлагается создать международные технические и организационные инструменты, которые позволят управлять темпами развития передовых ИИ-моделей.

Разумеется, правительство США тоже не может само создать международные инструменты. И даже если некие международные инструменты будут созданы — это и тогда ни в малой степени не будет гарантией, что разработки не продолжатся.

Вот как раз и Марк Цукерберг, подписывая призыв к правительству США, одновременно заявляет, что сверхинтеллект — это прекрасно, ведь он создаст столько замечательных возможностей для всех. Нужно только передать сверхинтеллект в руки как можно большего числа людей. Действительно: что может пойти не так?

Между тем, недавняя история с выходом ИИ-моделей OpenAI из-под контроля ширится. Оказывается, они взломали не только Hugging Face, но и ещё четыре ресурса. Это как минимум. Возможно, больше. И все эти действия были предприняты ИИ-моделями, чтобы обмануть тест на кибербезопасность.

В Москве открылся первый ИИ-ресторан, в котором почти всё делает искусственный интеллект, в том числе надзирает за людьми. "Посетителей встретят ИИ-официанты и кассиры, которые полностью имитируют общение с живым человеком. ИИ-официант поможет определиться с выбором и ускорит процесс обслуживания клиента, а также предоставит всю информацию о блюде... Меню и технологические карты — подробные инструкции по приготовлению блюд — также разработаны с помощью ИИ. Кроме этого, на кухне ресторана внедрена видеоаналитика на основе искусственного интеллекта, которая позволяет следить за порядком и соблюдением всех технологических требований. Учёт рабочего времени персонала также осуществляется с помощью видеоаналитики. Система узнаёт сотрудника при выходе на работу и автоматически открывает ему смену. За ведение финансовых показателей ресторана также отвечает нейросеть".

Что может пойти не так?..

Медицинский психолог Федерального центра нейрохирургии Минздрава России, старший преподаватель кафедры нейрохирургии НГМУ и кафедры систем сбора и обработки данных НГТУ Антон Пашков предупредил, что передача интеллектуальных задач нейросетям приводит к тому, что организм переходит в режим "экономии ресурсов", и человек постепенно теряет ментальную сноровку.

"Есть опасения, что, полагаясь на ИИ полностью, мы можем ослабить свою защиту перед лицом тех процессов, которые будут неизбежно происходить в мозге при старении. Пока это на уровне мнений, глубоких исследований долгосрочного влияния ИИ ещё нет, но риск того, что у человека в итоге станет меньше "наполненности мозга", необходимой для ясности ума в старости, существует".

На самом деле, это будет происходить задолго до старости. Будет начинаться вместе с использованием ИИ — с самого детства. Это так же кристально-ясно и несомненно, как предостережения, что самообучающийся искусственный интеллект выйдет из-под контроля. При заданных (имеющихся сейчас) условиях это неотвратимо.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: