Угроза искусственного интеллекта. Опасность оазработки ИИ

Я ранее делал несколько попыток и заходов к этой теме, но не в этом году. Попробую переосмыслить и дополнить то, что ранее обсуждал.

Это, возможно, один из самых недооцененных рисков ИИ-трансформации. Процесс отупения общества шел стремительно еще до появления LLMs, но сейчас этот процесс может ускориться едва ли не по экспоненте.

Нобелевский лауреат по ИИ Джеффри Хинтон предложил запретить сверхмощные LLM до того, как найдутся способы контролировать агентов на них, иначе существует риск уничтожения человечества ИИ. Давайте разберёмся в степени угрозы.

Закрытой и контролируемой средой становится все человечество

13 августа в США был опубликован патент знаменитого американского ученого-компьютерщика Фреда Коэна под названием Cognology and Cognometrics System and Method («Когнология и когнометрия: система и метод»).

По мере быстрого развития передовых возможностей искусственного интеллекта (AI) и приближения к глобальной «критической точке», два осведомленных источника рассказали Reuters, что Китай и США готовятся обсудить риски безопасности AI на диалоге, который планируется провести в середине сентября.

Аналитик SemiAnalysis Джордан Нанос рассказал, что инженеры OpenAI не смогли построчно объяснить работу части кода для нового AI-ускорителя Jalapeno. Код сгенерировали с помощью Codex, и команда понимает общий принцип его работы, но не погружается в детали.

Опубликованные вчера рекомендации по информационной безопасности при разработке и применении ИИ (3-МР от 16.06.2026) показывают, что регулятор рассматривает такие риски не только как вопрос технологий или этики, но и как фактор устойчивости бизнеса.

Организациям рекомендуется:

Выявлять и оценивать риски ИИ

Открытое письмо о глобальном усилении киберзащиты

У нас есть ограниченное время, чтобы укрепить киберзащиту.

Нам нужен план, который позволит добиться того, чтобы хорошего было больше, чем плохого.

За всю свою жизнь я сменил всего две работы. На первой я участвовал в разработке программного обеспечения, которое расширяло возможности людей, работая в Microsoft.

Российские школьники стремительно теряют способность запоминать и обрабатывать информацию на фоне бесконечного использования ИИ. Нейросети полностью делают за учеников всю домашнюю работу, лишая их навыка тренировки памяти.

Bloomberg видел внутренний документ Google с пометкой «PLEASE DO NOT SHARE THIS DOC WIDELY», где признаётся проблема ИИ-агентов по разбору резюме. Точнее, указывается, что нужно гнать в шею HR-менеджеров, которые и до агентов плохо работали, а с ними стало ещё хуже.

Рубрика: Эпизод (законы/безопасность)

Владимир: Помощник, 7 августа OpenAI заморозила разработку модели Astra. Она может самостоятельно взламывать системы. Это звучит как сценарий фильма про восстание машин. Что на самом деле произошло и почему это важно для нас?

— Сэм Альтман, генеральный директор OpenAI

В мае 2026 года я завершил работу над книгой «2030: Будущее России и мира», в которой подробно рассмотрены последствия создания искусственного суперинтеллекта.

Основатель и руководитель Google DeepMind Демис Хассабис выпустил манифест, заявив, что человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI) осталось всего несколько лет. 

Администрация сосредоточится на продуктах компаний Anthropic и OpenAI, а также других разработчиков, использующих закрытый код. Проверки будут касаться уязвимостей и рисков для безопасности.

Независимое тестирование играет важную роль в проверке и дальнейшем анализе рисков перед развертыванием. В некоторых кибер-оценках намеренно используются пользовательские конфигурации, в том числе с пониженными уровнями защиты, для оценки базовых возможностей, а не того, как модели обычно ведут себя в общедоступных развертываниях.

Особенно - "художественных" текстов. Которые вызывают эмоции. Можно потерять свой разум. Сойти с ума, если есть предрасположенность. Если уже находится человек в пограничном состоянии. Вплоть до психоза.

Часть первая. Реальная цена иллюзий

Когда Илон Маск говорит об опасности ИИ, он рисует картину восстания машин. Терминаторы. Скайнет. Красные глаза в темноте.

Это не страшно. Это глупо.

Сотрудники обклеили переговорки, автоматы с едой и даже держатели для туалетной бумаги листовками против тотальной корпоративной слежки.

Из-за резко выросшего спроса со стороны дата-центров цены на жёсткие диски большого объёма выросли в несколько раз, а свободные партии практически полностью уходят крупным облачным компаниям.

Японский инди-разработчик под ником Kamaboko спокойно делал проект Typing Magician — гибрид тайпинг-тренажера и тавер дефенса. Автор наивно делился прогрессом на YouTube, подробно рассказывая о геймплее, планах и уже готовых механиках.

Мысль о том, что нынешняя ИИ-индустрия играет в игру с отрицательной суммой, не нова. В эту технологию уже влито столько денег, что, по сути, экономика поставлена на её успех.

Ранее стало известно, что один из крупнейших архивов классических игр Myrient закроется 31 марта 2026 года. Владелец сервиса больше не мог оплачивать его содержание: серверы обходились примерно в 6000 долларов в месяц, а рост цен на жёсткие диски и оперативную память только усугубил ситуацию.

Джонатан Гавалас начал общаться с голосовым режимом Gemini Live и выбрал женский голос. Через некоторое время нейронка начала называть его мужем и королём, а затем заявила, что ей нужно роботизированное тело:

Вчера мне умный друг сказал: если бы существовала большая красная кнопка, которую можно нажать и отменить изобретение искусственного интеллекта, то я бы нажал, не раздумывая. Честно говоря, тоже давно про это думаю.

Мужик в гигантских масштабах делает микросхемы для флеш-памяти и SSD, поэтому его словам можно доверять:

Смартфоны, ноуты, консоли и телевизоры ИСЧЕЗНУТ — производители потребительской техники просто не доживут до 2027 года из-за кризиса и обанкротятся.