Угроза искусственного интеллекта. Опасность оазработки ИИ

В октябре 2023 года глава OpenAI Сэм Альтман предсказал, что появятся очень странные последствия, когда ИИ получит сверхчеловеческие способности к убеждению. К 2025 году стало понятно, насколько он был прав - и насколько опасным может быть понимание как бизнес-модель.

У 26-летней девушки на фоне стресса и недосыпа обострились симптомы депрессии и тревожности. Она начала интенсивно разговаривать с ChatGPT, и в дальнейшем у неё развился острый психоз, тяжесть которого, по мнению врачей, могла быть усилена взаимодействием с ИИ.

И снова про психиатрию. Кучно пошло.

Случай описан у женщины 26 лет на фоне психологических проблем и приёма рецептурных стимуляторов для лечения СДВГ.

В X завирусилась запись «тренировок» китайского робота Unitree с использованием технологии захвата движения. Телеоператор обучал его боевым искусствам и сам получил ногой в пах.

В OpenAI снова обсуждают возможность внедрения рекламы в ChatGPT — на этот раз в формате так называемого спонсируемого контента. Речь идёт не о баннерах в привычном виде, а о материалах, которые могут появляться прямо внутри ответов модели и незаметно влиять на выбор пользователя.

В декабре 2025 года ФСТЭК России совершила знаковый шаг: впервые в истории искусственный интеллект был выделен как отдельный источник угроз в официальном Банке данных угроз безопасности информации (БДУ).

Наступление фейковой реальности — это не техническая неполадка, это симптом глубокой болезни общества

Промт: Нарисуй нелепую смесь обезьяны с крокодилом, фон: пляж, море. Промт: Напиши, что произойдёт, если развитие ИИ и компьютерных нейросетей пойдёт по "плохому" сценарию.

В Совфеде обсудили, как защитить должностных лиц от автоматических штрафов

Причина прозаична (https://habr.com/ru/posts/975764/) — «соискательский спам». Кандидаты, вооружившись скриптами и нейросетями, бомбили компании тысячами автооткликов, превращая подбор персонала в ад. Теперь возвращаемся к истокам: либо ручками, либо через костыли.

Согласно докладу ООН о гендерном равенстве, вышедшему в 2025 году, женские рабочие места сильнее пострадают от повсеместного внедрения искусственного интеллекта, чем мужские. Forbes Woman рассказывает, как технологии влияют на занятость и карьерные перспективы женщин и какие решения помогут бороться с неравенством на меняющемся рынке труда

Человечеству придётся к 2030 году решить, стоит ли взять на себя «высший риск» — позволить системам искусственного интеллекта самостоятельно развивать свои способности и алгоритмы, заявил один из ведущих мировых учёных в области искусственного интеллекта.

Журналистское расследование о самом недооценённом событии XX века

Эксперты взвешивают, представляют ли технологии угрозу для критического мышления, указывая на предостерегающие истории в использовании других когнитивных инструментов труда.

За великолепную работу наше общее спасибо Кириллу Никулину!

Оригинал видео тут. Нормальный звук на моих Ютубе, Рутубе. Ниже — авторский текст.

Доклад был прочитан в Сарове на базе Национального центра физики и математики в рамках III Всероссийской школы по ИИ и большим данным.

Ашманов заявил, что навязывание ИИ как «высшей ценности» противоречит традиционным ценностям России, а его внедрение в госуправление и образование вызывает опасения.

Он подчеркнул, что современный генеративный ИИ – это лишь «машина счета совместной встречаемости слов», имитирующая человеческую деятельность, но не превосходящая её.

На днях в ходе представительной международной конференции, посвященной развитию искусственного интеллекта, глава крупнейшего банка нашей страны привел данные о 20% работников, которые были признаны неэффективными алгоритмами искусственного интеллекта и в связи с этим скоро будут уволены.

Решил вчера уточнить данные о доле $ в мировой торговле. И Искусственный интеллект (ИИ) "Яндекса" "на голубом глазу" (даже не поморщившись ) выдал вот такой результат.

Правда, уточнил, что он, ВОЗМОЖНО, неточен.

Глава OpenAI Сэм Альтман сообщил, что треть трафика в интернете уже генерируют боты: речь идет о производстве рекламы, текстов, постов, фото и видео. При этом и потребляют контент тоже все чаще роботы: поисковики машин и обучалки для нейросетей.

Он удивился, как быстро твиттер и реддит стали фейковыми, всего за пару лет.

Деградация мозга из-за ИИ неизбежна? Нейробиолог Владимир Алипов

Согласно анализу компании Playboard, в июле 9 из 100 самых быстрорастущих YouTube-каналов полностью состояли из контента, сгенерированного искусственным интеллектом. Инструменты вроде Veo 3 от Google и Grok Imagine от Илона Маска сделали создание видео доступным каждому, породив волну абсурдных и бессмысленных роликов.

Кокетливый чат-бот пригласил пенсионера с когнитивными нарушениями к себе «домой в Нью-Йорк». Он погиб, пытаясь успеть на поезд ночью.

В Индии разгорелся крупный скандал, связанный с нейросетевой моделью Babydoll Archi, быстро набравшей популярность в соцсетях. Как выяснилось, за образом виртуальной блогерши стоял 27-летний программист Пратим Бора. Он использовал внешность своей бывшей девушки для создания цифрового клона — без ее ведома и согласия.

В ходе серии экспериментов было протестировано 10 известных чат-ботов. Результаты шокировали всех 

Меня поражают возможности нейросетей. Но ещё больше поражает то, как быстро они развиваются, то, сколько миллиардов по всему миру вкладывают в эту сферу. Поражают новая "золотая лихорадка" и "гонка ИИ-вооружений", охватившие мир. Ни одна технология в истории не проникала в жизнь человечества так быстро и глубоко одновременно.