Угроза искусственного интеллекта. Опасность оазработки ИИ

Это совсем не похоже на совпадение: дроны, управляемые системой ИИ Palantir, бьют именно по детям. Перед трагедией в Старобельске была школа для девочек в Иране. Если прибавить к этому характерное высказывание одного из основателей Palantir Алекса Карпа – пазл складывается со всей очевидностью.

Microsoft выдала сотрудникам доступ к Claude Code. Нейросетевому помощнику для программистов от Anthropic. Через полгода компания начала сворачивать лицензии: пользоваться удобно, но счёт за токены растёт слишком быстро. И это Microsoft, у которой, казалось бы, свои облака, свои дата-центры и вообще почти домашняя кухня.

«Вы замечены в краже». Петербурженка попала в «базу магазинных воров» и два года добивается, чтобы ее оттуда убрали (оч много текста - в ШОте - t.me/shuvalov0_0zerki и ШмаксО - max.ru/shuvalov0_0zerki - лайт-вариант

Заменят ли роботы людей? Искусственный интеллект (ИИ) стремительно входит в жизнь каждого человека и всего человечества в целом. Но у многих эта победная поступь ИИ вызывает не радость, а тревогу и даже страх. Эксперты говорят не только о плюсах, но и минусах неконтролируемого развития технологий ИИ. Упоминаются самые разные минусы.

ИИ способен создавать вирусы, токсины и другое биологическое оружие. Насколько серьезно следует относиться к этой угрозе? (часть 2ая).

Совсем недавно ИИ продавали как технологию, которая «освободит человека от рутины», однако теперь миллионы работников всё чаще слышат другое: ИИ может освободить работодателя уже от них самих.

"Самая важная книга из прочитанных мной за многие годы. Хочу показать ее всем политическим лидерам мира и руководителям корпораций — и стоять над ними, пока они ее не прочтут. Юдковский и Соарес призывают человечество к действию, стремясь разбудить нас, пока мы в лунатическом сне идем к катастрофе". Стивен Фрай

Часть первая. Реальная цена иллюзий

Когда Илон Маск говорит об опасности ИИ, он рисует картину восстания машин. Терминаторы. Скайнет. Красные глаза в темноте.

Это не страшно. Это глупо.

Алгоритмы вроде AlphaFold заслуженно забирают Нобелевки, а нейросети феноменально расшифровывают МРТ и пишут заявки на гранты. Но проблема пришла, откуда не ждали.

Сотрудники обклеили переговорки, автоматы с едой и даже держатели для туалетной бумаги листовками против тотальной корпоративной слежки.

Из-за резко выросшего спроса со стороны дата-центров цены на жёсткие диски большого объёма выросли в несколько раз, а свободные партии практически полностью уходят крупным облачным компаниям.

Mozilla рассказала, что Claude Mythos обнаружил 423 уязвимости в Firefox всего за месяц. И это больше, чем нашли участники программы для «белых хакеров» за всё время её существования.

Введение в тему искусственного интеллекта

К 2030 году искусственный интеллект станет умнее человечества.

Профессор Роман Ямпольский в 2011 году предложил концепцию безопасности искусственного интеллекта.

Компании конкурируют в экономическом, но не в этическом смысле.

Риски и опасности искусственного интеллекта

Экономисты из Университета Пенсильвании и Бостонского университета представили математическое доказательство того, как искусственный интеллект разрушает капитализм.

Японский инди-разработчик под ником Kamaboko спокойно делал проект Typing Magician — гибрид тайпинг-тренажера и тавер дефенса. Автор наивно делился прогрессом на YouTube, подробно рассказывая о геймплее, планах и уже готовых механиках.

Мысль о том, что нынешняя ИИ-индустрия играет в игру с отрицательной суммой, не нова. В эту технологию уже влито столько денег, что, по сути, экономика поставлена на её успех.

Ранее стало известно, что один из крупнейших архивов классических игр Myrient закроется 31 марта 2026 года. Владелец сервиса больше не мог оплачивать его содержание: серверы обходились примерно в 6000 долларов в месяц, а рост цен на жёсткие диски и оперативную память только усугубил ситуацию.

Джонатан Гавалас начал общаться с голосовым режимом Gemini Live и выбрал женский голос. Через некоторое время нейронка начала называть его мужем и королём, а затем заявила, что ей нужно роботизированное тело:

Вчера мне умный друг сказал: если бы существовала большая красная кнопка, которую можно нажать и отменить изобретение искусственного интеллекта, то я бы нажал, не раздумывая. Честно говоря, тоже давно про это думаю.

Мужик в гигантских масштабах делает микросхемы для флеш-памяти и SSD, поэтому его словам можно доверять:

Смартфоны, ноуты, консоли и телевизоры ИСЧЕЗНУТ — производители потребительской техники просто не доживут до 2027 года из-за кризиса и обанкротятся.

Автор: анималистический дизайнер, заводчик и ветеринарный врач Галина Захаренкова.

Промт: Нарисуй нелепую смесь обезьяны с крокодилом, фон: пляж, море. Промт: Напиши, что произойдёт, если развитие ИИ и компьютерных нейросетей пойдёт по "плохому" сценарию.