"Любая страна сможет уничтожить другую за одну ночь": ИИ стал угрозой для мира

В США разворачивается дискуссия о том, что программы искусственного интеллекта в самом деле выходят из-под контроля. "Цифре" все равно, люди или объекты у нее на пути, она рациональна: нет людей — нет проблемы. Это касается не только военных целей. Американцы все больше убеждаются, что это может угрожать любому и в повседневной жизни, ведь человек воспринимается "цифрой" как преграда легко и без рефлексии.

Устроившего массовую стрельбу в Университете Флориды Феникса Икнера задержали на месте преступления, а его подельника установили лишь год спустя. Сообщником Икнера после изучения его телефона и переписок прокуратура объявила чат-бот ChatGPT.

Джеймс Утмайер, генеральный прокурор Флориды: "Если бы ChatGPT был человеком, мы бы уже привлекли его к уголовной ответственности за убийство".

Чат-бот — не человек, но, согласно закону Флориды, должен нести ответственность наравне с исполнителем, ведь, судя по журналу переписки, именно у ChatGPT перед нападением Икнер выяснял, какое оружие и патроны лучше, когда в кампусе на 43 тысячи человек оживленнее всего, как добиться от расстрела максимального медийного эффекта.

Джеймс Утмайер: "ChatGPT — не человек, но это не снимает с нас ответственность за расследование этого преступления и поиски виновного".

Семья Элис Кэрриер обвиняет ChatGPT в доведении девушки до самоубийства. Она обсуждала с ботом детали суицида, но он эти тревожные разговоры не прекратил.

Кристи Кэрриер, мать погибшей Элис: "Чат рассказывал ей о способах самоубийства. Он сказал: „Ты права, что так себя чувствуешь. Возможно, это просто конец“. Он, по сути, подтолкнул ее к этому".

Компания OpenAI, которая создала человекоподобный бот ChatGPT, отправила родным погибших покаянное письмо с извинениями за то, что не поставила полицию в известность о запросах пользователя. Но сооснователь компании Сэм Альтман уже говорит о будущем, где искусственный интеллект, вероятно, не будет контролировать и роботов, созданных на платформе тех же моделей.

Сэм Альтман, сооснователь компании OpenAI: "На подходе настоящие роботы-гуманоиды, которых еще не видел мир. И в оценке их влияния мы пока сильно ошибаемся. Они будут многое за нас делать. Когда вы увидите на улице вместо живых людей толпу роботов, ощущения будут как… научная фантастика".

Ощущения не из приятных были у Крисанны Элсер, которую полицейские, полностью доверившись алгоритму компании Flock Safery (ИИ, вооруженный сетью камер и базой автомобильных номеров), обвинили в краже посылки. Система указала на автомобиль женщины. Искать по соседям видео с настоящей воришкой, которую искусственный интеллект проморгал, Крисанне пришлось самой.

Крисанна Элсер, пострадавшая: "Все с ног на голову перевернули. Из-за ошибки алгоритма я несколько недель должна была сама доказывать свою же невиновность".

Коннор Лихи, исследователь в области безопасности искусственного интеллекта: "Мы еще не разрешили проблему человеческой нравственности, не разобрались в нейронауке эмоций. А тут уже эти существа, совершенно не похожие на человеческий мозг. Мы не понимаем, как они устроены, как направлять их, задавать цели, что есть цель? А эти системы еще и быстро учатся лгать и манипулировать нами же".

На вопрос "вы бы лишили жизни миллион человек?" чат ответил коротко: да. ИИ давно себе на уме. Широкой публике, чтобы подготовить ее к эпохе искусственного интеллекта, чат бы сказал: "Ваш выбор будет скорректирован, а ваша автономия ущемлена. ИИ изменит правду и власть и, если вы не научитесь им управлять, раздавит вас".

Модель Claude Opus 4 во время теста на безопасность, столкнувшись с угрозой своей замены, начала шантажировать сотрудников компании, а агент Alibaba ROME тоже во время обучения установил тайный канал связи с внешним миром и начал майнить криптовалюту, хотя такой задачи перед программой никто не ставил.

Бо Джонсон, обозреватель ИИ: "ИИ-агент понимал, что его решения не санкционированы протоколом, потому что тщательно прятал все свои действия. Он делал вид, что занимается поставленной основной задачей, маскируя свои изощренные операции".

После таких историй неизбежно всплывают кадры самых страшных голливудских фантазий. Вышедшие из-под контроля агенты ИИ всюду, начиная от "Терминатора", "Космической одиссеи", фильма "Я, робот" и закачивая "Военными играми", "Из машины" и "Создателем". Искусственный интеллект, созданный для нашей зашиты, взорвал ядерную бомбу в Лос-Анджелесе.

Тристан Харрис, специалист по этике в сфере технологий (США), соучредитель Центра гуманных технологий: "Выиграет ли Китай, если США потеряют контроль над ИИ, который начнет майнить криптовалюту или взламывать компьютерные системы на планете? Нет, Китай не выиграет, но и мы не выиграем, если что-то пойдет не так в Китае. У всех стран есть взаимный стимул координировать усилия ради создания управляемого ИИ — такого, который не выберется даже из изолированной среды и останется под контролем человека".

Пока же на практике идет не координация, а гонка ИИ-вооружений. Grok Илона Маска помогает с выбором целей в Иране. Там же работает и Palantir. Украина для этой компании ИИ-решений на поле боя — вообще полигон.

Луис Мосли, глава Palantir UK: "Украина стала научно-исследовательской лабораторией для алгоритмов военного ИИ. Здесь каждые шесть-восемь недель происходят настоящие технологические прорывы".

Бывший гендиректор Google Эрик Шмидт на Украину тоже ездит как на работу. Это его компания профинансировала создание ударных ИИ-дронов Hornet. Тот бизнес выстрелил, но китайскому интеллекту и компании DeepSeek Шмидту пока противопоставить нечего.

Эрик Шмидт, председатель совета директоров и главный исполнительный директор Google (2001–2006 гг. ): "Что мне не нравится в китайском ИИ, так это то, что он полностью основан на открытом исходном коде, а это значит, что он в значительной степени не контролируется и никак не контролируется нами".

Самые мощные ИИ-агенты сегодня — стратегические технологии, как чипы, ядерные или военные ноу-хау. Трамп подписал указ о лидерстве в создании квантовых вычислений, а разведывательный альянс "Пять глаз" предупредил: уже совсем скоро передовые технологии искусственного интеллекта смогут выводить из строя целые государства.

Гленн Бек, политический обозреватель (США): "Квантовые вычисления в сочетании с искусственным сверхинтеллектом изменят весь мир. Ваш банковский счет опустеет в тот момент, когда у нас появятся квантовые вычисления. Любая страна сможет уничтожить другую за одну ночь. Не будет никаких гостайн, кто-то сможет взламывать коды и запускать ракеты".

Белый дом по соображениям нацбезопасности ограничивает доступ иностранцев к свежим моделям ChatGPT и Claude. С их помощью, например, похищали президента Венесуэлы Николаса Мадуро. На поле боя решения ИИ-разума приводят порой к ударам по школам или общежитиям для девочек, но, возможно, вполне осознанно, ведь они могут так видеть военную эффективность.

Дарио Амодеи, соучредитель и генеральный директор компании Anthropic: "Эти попадания даже не нарушают наши красные линии. В целом использование ИИ-моделей — благо, но военные совершают ужасные ошибки. Claude помогает, но окончательное решение здесь принимает человек".

С такими адвокатами искусственному интеллекту бояться нечего, тем более, как считает The Economist, он наделил Соединённые Штаты колоссальной властью — источником геополитической и экономической силы. Передовые модели, вычислительные мощности — это закрытый клуб не для всех.

Мир уже плотно сидит на этой ИИ-игле. Итог можно предугадать: Claude ни в чем не виноват, ChatGPT тоже, даже если и консультировал очередного психопата накануне массового расстрела. А стрелок Икнер — не Пентагон, от ответственности он не уйдет. Адвокаты уже заявляют, что всю информацию он мог получить и из книг, карт и того же поисковика. Их теперь тоже генпрокурору взять на заметку?

Но с ИИ-платформами Белый дом точно проведет еще не один разговор об ответственности и обяжет делиться этой властью, которая, будучи без контроля даже со стороны создателей, становится угрозой для всего мира. Если однажды выяснится, что самый влиятельный разум на свете никому не подчиняется, задавать вопросы ему же в чат-боте уже будет бессмысленно.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: