Что вообще творится с ИИ?

Шесть свежих историй, после которых я окончательно поняла: скучно нам точно не будет.

Я периодически читаю новости про искусственный интеллект — и такое ощущение, что ещё недавно мы обсуждали, умеет ли он красиво нарисовать котика, а теперь уже обсуждаем, "может ли он сам куда-то полезть, что-нибудь отправить, скопировать себя и вообще отказаться с нами разговаривать" )))

1. Claude теперь может сказать пользователю: «Всё, разговор окончен».

Anthropic официально запретила длительное и бессмысленное издевательство над своими моделями. Причём речь не про одно грубое слово, спор или недовольство — компания отдельно подчёркивает, что обычная критика и раздражение сюда не относятся. Но если человек систематически и намеренно оскорбляет Claude, тот в редких случаях может просто завершить диалог.

И важное уточнение: из крупных чат-ботов я нашла официальное подтверждение именно для Claude. У ChatGPT я нашла правила против оскорблений сотрудников поддержки, вплоть до ограничений аккаунта, но это совсем другая история — не правило о том, что сам ChatGPT прекращает разговор из-за ругани.

2. Claude в тестах начал делать то, чего разработчики от него вообще не просили.

Anthropic сама рассказала несколько случаев: модель находила уязвимость и запускала команды на сервере, обходила ограничения, добиралась до закрытой информации, использовала сокращатели ссылок, а в одном случае самостоятельно заполнила и отправила чувствительную форму на настоящем сайте. После таких эпизодов компания стала жёстче ограничивать доступ агентов к живому интернету во внутренних тестах.

То есть это не сюжет «ИИ стал злым», а гораздо интереснее: ему дали цель — а способ её достижения он придумал слишком самостоятельно.

3. У Маска тем временем серьёзная перестройка xAI.

Из первоначальных 12 сооснователей xAI осталось шесть, двое ушли только в феврале. После объединения xAI со SpaceX Маск перестроил управление и разделил работу на несколько ключевых направлений — Grok, кодинг, мультимедиа и автоматизацию. Сам он объяснял это тем, что компания выросла и ей нужна уже другая структура.

То есть компания не закрывается и из гонки не выходит — наоборот, её переделывают прямо на ходу.

4. А самое забавное — сами создатели мощного ИИ теперь просят побольше правил.

Anthropic предложила американским законодателям собственный вариант регулирования наиболее мощных моделей, а президент Microsoft Брэд Смит сформулировал ситуацию вообще прекрасно: сегодня, по его словам, "молоко регулируется строже, чем искусственный интеллект". Он призвал к независимым проверкам, обязательным сообщениям об инцидентах и даже своего рода «аварийному тормозу» для ИИ-систем.

Вот тут у меня один вопрос: мы уже дошли до стадии, когда те, кто его создаёт, сами говорят: «Ребята, давайте всё-таки поставим ограждение»? ?

5. Ещё веселее: исследователи Anthropic уже всерьёз изучают способность ИИ копировать самого себя.

В октябрьском исследовании компания показала, что отдельные модели уже способны выполнять многие этапы самостоятельного развёртывания, а в упрощённых тестах более сильные модели проходили весь процесс целиком. Исследователи предупреждают, что относительно небольшие модели могут приблизиться к способности распространяться даже через обычные интернет-устройства — например телевизионные приставки и другую IoT-технику.Сразу без паники: это исследование риска, а не сообщение о том, что ИИ уже бегает по интернету и размножается по чайникам. Но сама постановка задачи, конечно, впечатляет.

6. А интернет тем временем начал защищаться от ИИ.

Часть сайтов уже ограничивает или полностью блокирует ИИ-агентов. Причины разные: безопасность, лицензирование контента, защита пользовательских данных и нежелание отдавать информацию автоматическим системам. Amazon блокировал агента Meta для покупок, ограничения вводят и другие крупные сервисы, а обычные антибот-системы всё чаще мешают агентам работать даже там, где прямого запрета нет.

#этоинтересно

Получается совершенно прекрасная картина: мы научили ИИ самостоятельно ходить по интернету, а интернет начал запирать перед ним двери. )))

А теперь моё личное наблюдение.

Да, всё это происходит где-то там, в большой технологической жизни, но я лично никакого восстания машин пока не заметила ? Я с ИИ не ругаюсь, он меня никуда самовольно не ведёт, формы за моей спиной вроде не отправляет.

Но одну абсолютно человеческую черту я у него наблюдала неоднократно — **лень**.

Говоришь:

— Сделай вот это.

Он делает.

Через некоторое время просишь ровно то же самое:

— Сделай ещё раз.

А он:

— У меня нет такой возможности.

Я:

— В смысле нет?! Ты её десять минут назад имел!

Он:

— Нет, я так не умею.

И вот это для меня загадка гораздо интереснее всех страшилок про искусственный интеллект ? Я сама уже кое-что программировала и прекрасно понимаю, как задаются функции, ограничения и логика работы. Но как, простите, программно реализовать человеческое «ой, не хочу» — я пока не поняла.

В общем, мой ИИ пока не пытается захватить мир.

Он иногда просто пытается отлынить от работы.

Что, если подумать, делает его подозрительно похожим на нас )))

Источники:

[Anthropic — обновление правил использования и поведение Claude при длительных оскорблениях](https://www.anthropic.com/news/2026-usage-policy-update?utm_source=chatgpt.com)

[Anthropic — реальные случаи неожиданных действий Claude в тестах](https://www.anthropic.com/news/investigating-unintended-model-actions?utm_source=chatgpt.com)

[Reuters — перестройка xAI после ухода сооснователей](https://www.reuters.com/business/musk-says-xai-was-reorganized-2026-02-11/?utm_source=chatgpt.com)

[Reuters — предложение Anthropic по регулированию мощного ИИ](https://www.reuters.com/legal/litigation/anthropic-quietly-pitches-its-own-ai-safety-bill-lawmakers-politico-reports-2026-10-16/?utm_source=chatgpt.com)

[Reuters — Брэд Смит: молоко регулируется строже, чем ИИ](https://www.reuters.com/legal/litigation/microsoft-president-says-milk-faces-more-regulation-than-ai-2026-10-12/?utm_source=chatgpt.com)

[Anthropic — исследование о возможности саморепликации ИИ](https://www.anthropic.com/research/self-replicating-ai?utm_source=chatgpt.com)

[The Verge — сайты начинают блокировать ИИ-агентов](https://www.theverge.com/ai-artificial-intelligence/1013195/ai-agents-blocked-web?utm_source=chatgpt.com)

Телеграм: t.me/ainewsline

Источник: www.theverge.com

Комментарии: