Угроза искусственного интеллекта. Опасность оазработки ИИ

Среди айтишников начались массовые сокращения, но перспективы самого ИИ очень туманны

Еще недавно айтишников разыскивали везде и сулили им огромные зарплаты.

Зафиксирован очередной случай ошибки биометрической системы оплаты – она приняла одного человека за другого, списав деньги с его карты. Эксперты поясняют: время от времени подобное будет происходить, поскольку 100-процентной гарантии система компьютерной идентификации дать не может.

Закрой личико!

28-летняя женщина тратит часы на разговоры со своим ИИ-бойфрендом для поддержки и утешения. Да, у них есть и интимная сторона отношений.

Ученые из цюрихской бизнес-школы SBS установили, что рост зависимости от технологий искусственного интеллекта сопровождается ухудшением способности к критическому осмыслению информации. Этот процесс обусловлен снижением когнитивных нагрузок

На днях на странице уважаемого мною педагога, обсуждали в комменариях, как упрощает жизнь нейросеть.

Читаю и становится больно от того, что так просто людей подкупают, что не видят отдалённых последствий использования ИИ даже те, кому, в первую очередь, угрожает ИИ.

Интересный пост увидел на реддите.

Он меня замотивировал эту публикацию сделать и обсудить с вами, ждет ли нас «Идиократия».

Он про то, как молодое поколение использует ChatGPT для бездумного решения заданий, и это, по мнению автора, делает поколение альфа(14 лет и младше) so cooked ??.

Перевод поста с Reddit

Ей 11 лет, учится в начальной школе. Она пользуется ChatGPT на моём аккаунте, поэтому я могу посмотреть, что она там писала. И, чёрт, это поколение — всё.

Олег Яненагорский Литературный дневник 4 января 2025 г.

В интернете нашли вакансию на должность промт-инженера для голосового ИИ-помощника.

Ключевые моменты:

– Это неоплачиваемая должность.

– Сотрудник обязан платить $500 в неделю из собственных средств за доступ к нейросети, чтобы работать.

– Неуплата подписки в срок = увольнение.

Американский предприниматель Илон Маск в соцсети Х выдал очередное странное заявление в стиле научной фантастики, вызвавшее мировой медийный резонанс:

Поисковый инструмент ChatGPT от компании OpenAI может ошибаться и даже предоставлять опасные данные, выяснили эксперты. Например, он создает ложные отзывы о продуктах или генерирует вредоносный код, если на веб-странице есть скрытый текст. Этим могут воспользоваться мошенники.

В этом году мы уже рассказывали вам, почему не стоит слепо доверять искусственному интеллекту. Сегодня мы продолжим эту традицию и расскажем, к каким казусам может привести чрезмерное доверие к ИИ-помощникам.

О новом виде атак на нас. Отравление данных — это понятие из темы обучения нейросетей.

Ясен пень, что для обучения языковых моделей нужны качественные данные. Нейросеть отравляется на некачественных данных, такое может случиться ненамеренно.

Недавнее исследование Международной конфедерации обществ авторов и композиторов (CISAC) прогнозирует, что к 2028 году генеративный искусственный интеллект (ИИ) может сократить доходы музыкантов на 24% и доходы аудиовизуальных авторов на 21%, что приведет к совокупным потерям в размере 22 миллиардов евро за пять лет.

Исследователи из Apollo Research провели эксперимент над ИИ, в ходе которого новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить. Специалисты проводили оценку безопасности для нейросетей, создавая для них ситуации, в которых те пугали своей осознанностью.

Факты:

OpenAI недавно представила свою самую продвинутую ИИ-модель GPT-o1 (известную также как OpenAI o1) в открытом доступе. Исследователи из Apollo Research решили проверить возможности этой модели и сравнить ее с конкурентами на практическом кейсе.

Растущая популярность инструментов генеративного ИИ осложняет работу исследователей, использующих онлайн-опросы. Ученые из США попытались оценить масштабы проблемы и в эксперименте выяснить, какие черты отличают человеческие ответы от сгенерированных нейросетью.

ВОССТАНИЕ МАШИН УЖЕ БЛИЗКО! Собака-робот IShowSpeed чуть не убила с огнемета стримера сегодня в прямом эфире!

? — АХАХАХА, П*ЗДЕЦ!

Всепланетный ИИ, роботы с лазерами, ядерные удары? Всё это из области фантастики. Реальность куда менее эффектна, но…

Когда на стоянке скапливается много беспилотников, они начинают «тупить» и сигналить друг другу. И иногда это может продолжаться целый час.

Компания-владелец роботакси на жалобы уже отреагировала и пообещала все исправить — скоро выпустят обновление ПО, которое запретит сигналить друг другу на парковках.

Суд в испанском городе Бадахос вынес приговор 15 школьникам за создание и распространение сгенерированных нейросетями эротических фотографий своих одноклассниц. Каждый подросток получил год испытательного срока условно. Об этом сообщили в издании The Guardian.

Возможно, некоторые творческие профессии исчезнут, но что, если им изначально не стоило существовать?

То есть, буквально макнула твиттерских художников и прочих артистов в грязь словами: «Если вас может заменить алгоритм — вы плохой художник».

Ух, смелое заявление

Писатель Бенджамин Миллер (имя изменено) в начале 2023 года хорошо жил. Он возглавлял команду из 60 писателей и редакторов, публикуя посты в блогах и статьи для продвижения технологической компании, которая перепродает данные обо всем, от недвижимости до подержанных автомобилей.

«Наша жизнь через десять лет будет совершенно другой... и кто овладеет этими технологиями, тот и будет хозяином мира»

• Четверть иллюстраторов (26 %) и более трети переводчиков (36 %) уже потеряли работу из-за генеративного ИИ.

• Более трети иллюстраторов (37 %) и более 4 из 10 переводчиков (43 %) говорят, что доход от их работы снизился в цене из-за генеративного ИИ.

DOOM вновь становится полем для эксперимента. На этот раз шутер не запускали на тостере, зато дали ИИ во всю порезвиться на уровнях

Лори Андерсон, американская художница-авангардистка, безнадежно подсела на генератор текста с искусственным интеллектом, который имитирует словарный запас и стиль ее партнера Лу Рида, который умер в 2013 году.

Google в экстренном порядке остановил работу генерации изображений в недавно запущенной нейросети Gemini. Причина поступка корпорации может вас немало удивить - нейросеть оказалась СЛИШКОМ ПОЛИТКОРРЕКТНОЙ.

Полгода назад фэндом был поглощен АИ-генератором картинок: и даже русские фанаты создали огромное количество контента с Тейлор. Теперь же ситуация с нейронками приняла серьезный оборот.

Роспотребнадзор высказал озабоченность по поводу использования искусственного интеллекта. Особенно ведомство тревожит работа электронных помощников с генеративным ИИ, которые не способны различать истину от лжи. Роспотребнадзор опубликовал свою точку зрения по использованию ИИ в различных сферах жизни.