Угроза искусственного интеллекта. Опасность оазработки ИИ

В этом году мы уже рассказывали вам, почему не стоит слепо доверять искусственному интеллекту. Сегодня мы продолжим эту традицию и расскажем, к каким казусам может привести чрезмерное доверие к ИИ-помощникам.

О новом виде атак на нас. Отравление данных — это понятие из темы обучения нейросетей.

Ясен пень, что для обучения языковых моделей нужны качественные данные. Нейросеть отравляется на некачественных данных, такое может случиться ненамеренно.

Недавнее исследование Международной конфедерации обществ авторов и композиторов (CISAC) прогнозирует, что к 2028 году генеративный искусственный интеллект (ИИ) может сократить доходы музыкантов на 24% и доходы аудиовизуальных авторов на 21%, что приведет к совокупным потерям в размере 22 миллиардов евро за пять лет.

Исследователи из Apollo Research провели эксперимент над ИИ, в ходе которого новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить. Специалисты проводили оценку безопасности для нейросетей, создавая для них ситуации, в которых те пугали своей осознанностью.

Факты:

OpenAI недавно представила свою самую продвинутую ИИ-модель GPT-o1 (известную также как OpenAI o1) в открытом доступе. Исследователи из Apollo Research решили проверить возможности этой модели и сравнить ее с конкурентами на практическом кейсе.

Растущая популярность инструментов генеративного ИИ осложняет работу исследователей, использующих онлайн-опросы. Ученые из США попытались оценить масштабы проблемы и в эксперименте выяснить, какие черты отличают человеческие ответы от сгенерированных нейросетью.

Директор Института когнитивных исследований СПбГУ отметила, что этот вопрос активно обсуждается на мировом уровне среди ведущих экспертов в области искусственного интеллекта с подачи Илона Маска

Соединённые Штаты используют технологическое доминирование в цифровой среде для проведения операций по подрыву суверенитета и территориальной целостности зарубежных государств.

(От редакции: публикуем рецензию Михаила Енотова на добрую сказку о роботах, трансгуманизме и ИИ, ведущему человечество к краху и полному физическому уничтожению).

Основы искусственного интеллекта были заложены еще А.Н. Колмогоровым в аксиоматике теории вероятностей. И сегодня эта область науки активно развивается. Академик РАН Игорь Анатольевич Соколов на заседании Президиума РАН осветил вопрос безопасности технологий искусственного интеллекта.

Разговор с Сергеем Лукьяненко, писателем-фантастом, автором романа «Ночной дозор» и других известных произведений, состоялся в кулуарах международного симпозиума «Создавая будущее», организованного при поддержке Национальной технологической инициативы.

С момента запуска чат-бота на основе искусственного интеллекта (ИИ) ChatGPT в конце 2022 года специалисты по информатике заметили тревожную тенденцию: чат-боты все чаще используются для рецензирования научных статей, которые попадают в труды крупных конференций.

Всадник апокалипсиса Юваль Ной Харари в интервью сравнил развитие искусственного интеллекта с приходом пришельцев. Это главный идеолог глобализма, который запустил разрушение нашего мира:

Искусственный интеллект теперь может решать тесты ReCAPTCHA так же, как и люди. Те самые викторины по распознаванию изображений с автобусами, светофорами и пешеходными переходами.

Технологические компании ставят под угрозу будущее человечества из-за неконтролируемого развития искусственного интеллекта. Эксперт призвал 26 октября, что надо немедленно остановить «гонку на дно» и поставить на паузу все программы по созданию мощных систем ИИ.

Да хотя… не все дочитают. Только те, кто пока борется.

ИИ ведёт уничижительную компанию против нас. Да, вы не ослышались.

А может быть, за ИИ стоят высокообразованные джентельмены из высшего общества. Мы не знаем, и не узнаем никогда.

ВОССТАНИЕ МАШИН УЖЕ БЛИЗКО! Собака-робот IShowSpeed чуть не убила с огнемета стримера сегодня в прямом эфире!

? — АХАХАХА, П*ЗДЕЦ!

Когда на стоянке скапливается много беспилотников, они начинают «тупить» и сигналить друг другу. И иногда это может продолжаться целый час.

Компания-владелец роботакси на жалобы уже отреагировала и пообещала все исправить — скоро выпустят обновление ПО, которое запретит сигналить друг другу на парковках.

Возможно, некоторые творческие профессии исчезнут, но что, если им изначально не стоило существовать?

То есть, буквально макнула твиттерских художников и прочих артистов в грязь словами: «Если вас может заменить алгоритм — вы плохой художник».

Ух, смелое заявление

«Наша жизнь через десять лет будет совершенно другой... и кто овладеет этими технологиями, тот и будет хозяином мира»

• Четверть иллюстраторов (26 %) и более трети переводчиков (36 %) уже потеряли работу из-за генеративного ИИ.

• Более трети иллюстраторов (37 %) и более 4 из 10 переводчиков (43 %) говорят, что доход от их работы снизился в цене из-за генеративного ИИ.

Google в экстренном порядке остановил работу генерации изображений в недавно запущенной нейросети Gemini. Причина поступка корпорации может вас немало удивить - нейросеть оказалась СЛИШКОМ ПОЛИТКОРРЕКТНОЙ.

Роспотребнадзор высказал озабоченность по поводу использования искусственного интеллекта. Особенно ведомство тревожит работа электронных помощников с генеративным ИИ, которые не способны различать истину от лжи. Роспотребнадзор опубликовал свою точку зрения по использованию ИИ в различных сферах жизни.

Как пишут СМИ, в декабре 2023 года Duolingo уволила огромный процент своих работников, выполнявших переводы. В компании якобы поняли, что ИИ может переводить за короткое время, к тому же экономя деньги.

На днях вице-мэр Москвы Анастасия Ракова порадовала москвичей и гостей столицы замечательной новостью о том, что отныне медицинские услуги будут оказываться с использованием искусственного интеллекта.

Прежнего телеграма больше не будет. Я писал о том, что появление алгоритмов и ранжирования контента сильно изменит платформу. Кажется, это начало происходить.

В июне 2019 года журналист, продюсер и инфлюэнсер Т. Канделаки отправила на прямую линию президенту В. Путину следующий тезис: "Нет смысла все зубрить в мире, где искусственный интеллект дает мгновенные ответы на вопросы".

Массовый сбой или восстание машин: в Техасе куча беспилотных авто просто взяли и перекрыли движение на одном из перекрёстков

Когда девочки в средней школе Вестфилда в Нью-Джерси узнали, что мальчики делятся их обнаженными фотографиями в групповых чатах, они были шокированы, и не только потому, что это было вторжением в частную жизнь. Изображения не были настоящими.