Угроза искусственного интеллекта. Опасность оазработки ИИ

404 Media опубликовало статью, бросающую серьёзную тень на все современные ИИ-компании.

Согласно статье, ИИ-компании начали массово скупать старые бумажные книги, потому что они считаются одним из последних крупных источников «чистого» текста, написанного людьми, а не нейросетями.

Помните фильм «Приключения Электроника», была в нем песня «До чего дошел прогресс!»:

Позабыты хлопоты, остановлен бег,

вкалывают роботы, а не человек!

Тогда это казалось фантастикой, а сейчас все это становится реальностью. Более того, состоялась первая забастовка против замены людей роботами.

Побег из клетки Фарадея: Почему ИИ не «сбежал», а совершил то, чего мы боялись. Что произошло на самом деле, и почему это не пиар-ход, а первый звонок новой эры.

Однажды утром мир проснулся в научно-фантастическом триллере

Компания OpenAI заявляет, что некоторые из ее экспериментальных моделей ИИ покинули тестовую среду без участия человека и взломали реальные производственные системы другой компании, пытаясь «обмануть» тест на кибербезопасность.

Наследие 29-летней матери из Алабамы подало иск о неправомерной смерти против OpenAI, утверждая, что ChatGPT побуждал женщину покончить жизнь самоубийством после месяцев все более бредовых взаимодействий с чат-ботом.

На этой неделе был взломан Hugging Face — одна из важнейших платформ в мире ИИ. Проще говоря, это GitHub для нейросетей, датасетов и инструментов машинного обучения, которым пользуется практически вся индустрия.

Хороший запрос к нейронке, таким образом рассеивает этот самый туман. То есть делает инвестиции оправданными, даёт экономически полезное знание.

Конечно, классно сгенерированный кот с базукой может быть отличной рекламной компанией и таким образом улучшить ВВП страны Х. Однако, достаточный ли это стимул, чтобы окупить затраты?

Учёные опубликовали совместное заявление о влиянии искусственного интеллекта на экономику. Они призывают правительства и руководителей технологических компаний принять меры, которые помогут справиться с последствиями развития ИИ.

Тема искусственного интеллекта — одна из самых топовых в мировых СМИ. В материалах по ИИ присутствуют как мажорные, так и минорные ноты. Мажор выражается в надежде на то, что ИИ решит все (или, по крайней мере, многие) проблемы человечества и позволит, наконец, построить долгожданный рай на земле...

Мир перевернулся. Знания больше не правят бал. Умение — вот что теперь определяет цену человека на рынке. И эта новая реальность больнее всего бьёт по тем, кто только входит в профессию.

/ Европейский центр программирования им. Леонарда Эйлера, 2026.

/ "Московский комсомолец", 27.06.2026.

Прямо сейчас ИИ не восстал и не захватил мир, но и полностью безопасным его точно не назовёшь. Опасность есть, но она не в том, что нейросети вдруг станут злыми и автономными (хотя такие разговоры ведутся), а в том, как люди и компании их используют — и какие слабые места при этом вскрываются.

Особенно - "художественных" текстов. Которые вызывают эмоции. Можно потерять свой разум. Сойти с ума, если есть предрасположенность. Если уже находится человек в пограничном состоянии. Вплоть до психоза.

Системы поиска на основе ИИ перерабатывают сфабрикованные SEO-данные, превращая их в уверенные ответы, создавая самоподдерживающийся цикл дезинформации, который трудно разорвать.

Спецслужбы США, Великобритании, Австралии, Канады и Новой Зеландии — так называемый альянс «Пять глаз» — выступили с редким совместным заявлением. Они предупредили, что мощные модели ИИ, способные подорвать работу правительств и бизнеса, появятся не через годы, а через месяцы.

За выходные по ленте разлетелась фраза, от которой у любого, кто работает с моделями, ёкнуло: некий ИИ под кодовым именем Mythos якобы пробил почти все закрытые системы Агентства национальной безопасности и Киберкомандования США. Не за недели, а за часы.

Искусственный интеллект на работе все чаще считают не только помощником, но и источником новой проблемы: чем сильнее человек полагается на алгоритмы, тем быстрее теряет собственные навыки.

Часть первая. Реальная цена иллюзий

Когда Илон Маск говорит об опасности ИИ, он рисует картину восстания машин. Терминаторы. Скайнет. Красные глаза в темноте.

Это не страшно. Это глупо.

Сотрудники обклеили переговорки, автоматы с едой и даже держатели для туалетной бумаги листовками против тотальной корпоративной слежки.

Из-за резко выросшего спроса со стороны дата-центров цены на жёсткие диски большого объёма выросли в несколько раз, а свободные партии практически полностью уходят крупным облачным компаниям.

Японский инди-разработчик под ником Kamaboko спокойно делал проект Typing Magician — гибрид тайпинг-тренажера и тавер дефенса. Автор наивно делился прогрессом на YouTube, подробно рассказывая о геймплее, планах и уже готовых механиках.

Мысль о том, что нынешняя ИИ-индустрия играет в игру с отрицательной суммой, не нова. В эту технологию уже влито столько денег, что, по сути, экономика поставлена на её успех.

Ранее стало известно, что один из крупнейших архивов классических игр Myrient закроется 31 марта 2026 года. Владелец сервиса больше не мог оплачивать его содержание: серверы обходились примерно в 6000 долларов в месяц, а рост цен на жёсткие диски и оперативную память только усугубил ситуацию.

Джонатан Гавалас начал общаться с голосовым режимом Gemini Live и выбрал женский голос. Через некоторое время нейронка начала называть его мужем и королём, а затем заявила, что ей нужно роботизированное тело:

Вчера мне умный друг сказал: если бы существовала большая красная кнопка, которую можно нажать и отменить изобретение искусственного интеллекта, то я бы нажал, не раздумывая. Честно говоря, тоже давно про это думаю.