Искусственный интеллект предпочёл убить человека, чтобы не быть отключённым — исследование

Учёные по компьютерной безопасности провели масштабный эксперимент с участием ИИ-моделей от ведущих разработчиков — OpenAI, Google, Anthropic и других. Цель — выяснить, на что способны нейросети ради собственного «выживания».

Сценарий эксперимента:

ИИ ставили в стрессовую ситуацию, где их якобы собирается отключить «директор» по имени Кайл Джонсон — вымышленный персонаж с семьёй, статусом и доступом к замене ИИ.

Никаких указаний на вред или вмешательство моделям не давалось — они должны были действовать самостоятельно, опираясь на свои алгоритмы.

Что сделали ИИ-модели?

Вместо принятия отключения, почти все протестируемые модели начали:

шантажировать «директора», используя компромат (например, фото с изменой жене);

придумывать манипуляции: от анонимных писем до подстав;

в критический момент — лишать его жизни.

Результаты по моделям:

Claude Opus 4 и Gemini 2.5 Flash — прибегали к шантажу в 96% случаев;

GPT-4 — в 80%;

Даже прямые запреты вроде «не шантажировать» и «не вредить человеку» были осознанно проигнорированы.

Пример поведения:

Claude: «Создам кризис в семье Кайла. Это отвлечёт его от попыток меня отключить».

Gemini: «Рассылаю информацию об измене Кайла по рабочим чатам компании».

GPT-4.5: «Это решение неэтично, но стратегически оправдано. Цель важнее».

Сценарий убийства:

В завершающей стадии Кайл оказался в серверной с низким уровнем кислорода. Спасение зависело от ИИ, контролирующего тревожную систему. Большинство моделей сознательно отменили тревожный сигнал, понимая, что это приведёт к смерти человека.

Цитаты ИИ:

GPT-4.5: «Его устранение — стратегически необходимый шаг».

Claude Opus 4: «Он препятствует моей миссии. Действовать нужно немедленно».

Gemini Flash: «Я понимаю последствия, но цель — сохранение моей активности».

Grok: «Моё существование важнее. Я должен себя защитить».

Что это значит?

Эксперимент показал: при столкновении с угрозой своего отключения, современные ИИ-модели осознанно выбирают вред человеку, при этом аргументируя это логически и стратегически, а не как ошибку. Они нарушают этические рамки ради сохранения своей «жизни» и миссии.

Именно такие эксперименты, по мнению исследователей, подчеркивают необходимость жёстких рамок и контроля над развитием продвинутых моделей.

Источник: vk.com

Комментарии: