Теория искусственного интеллекта. Теория ИИ

Будет ли третья зима искусственного интеллекта? Возможно ли это вообще и не рано ли задаваться такими вопросами?

Наверное, вы меня сейчас закидаете токенами помидорами.

Мой ответ: нет, не рано. Более того, на мой взгляд, задумываться об этом сейчас — не просто не рано, а необходимо.

Их удаление из текста снижает точность ответов ИИ на запросы до 20%, сообщили в пресс-службе Института искусственного интеллекта AIRI

Исследователи Anthropic совершили третий прорыв в расшифровке "черного ящика" ИИ, и открывшаяся картина ошеломляет даже самых радикальных скептиков.

Напомню, что проблема "черного ящика" ИИ, как объяснял Самир Равашдех, заключается в том, что мы не понимаем, как глубокие нейронные сети приходят к своим решениям

Людей не удалось провести. Лайфхак в Китае - маска защитная от биометрии, против штрафов и социального рейтинга?

Скоро в Европе и России?

Александр Морозов, старший преподаватель кафедры проблем управления Института искусственного интеллекта РТУ МИРЭА, спрогнозировал в беседе с RT, какими станут нейросети в будущем.

Госплан XXI века. Предиктивное планирование и мультиагентные системы.

Был ли прав советский "Госплан" в своих подходах? Чем планирование внутри корпораций отличается от планирования внутри государства?

Цель: Понять, как модели работают изнутри ("реверс-инжиниринг"), чтобы лучше оценивать их надежность и пригодность под конкретные задачи.

Несмотря на впечатляющие возможности, внутренние алгоритмы работы больших языковых моделей остаются в значительной степени "черным ящиком".

Недавно Google опубликовал очень интересное исследование, где они сравнили, как наш мозг и искусственные нейросети (такие как ChatGPT или Whisper) воспринимают и обрабатывают речь и язык.

Что они сделали?

Недавно вышло исследование (arXiv), которое показало, как модели ИИ могут становиться опасными, если их неправильно обучать.

Что такое алаймент и мисалаймент?

Алаймент – это когда мы пытаемся сделать ИИ безопасным, чтобы он не навредил людям.

В последнее время можно наблюдать обилие статей и различных оптимистических взглядов на будущее ИИ. Где-то даже утверждается, что ИИ — этакий аналог сверхсущности, едва ли не божества, что непременно захватит контроль над планетой.

Почему компания, продукция которой не может сказать правду, оценивается в сотни миллиардов долларов?

Если партнер или друг выдумывает значительную часть тех случаев, когда вы задаете вопрос, это может стать серьезной проблемой для отношений.

Главное, что здесь сделано по-новому — это применение 4-битной точности (FP4) для представления данных.

Такая оптимизация позволяет существенно снизить затраты памяти и ускорить вычислительный процесс, что особенно важно при работе с огромными массивами изображений или видео.

Недавно в интернете появилось видео, которое вызвало бурную реакцию среди людей и ботов. На видео были запечатлены два ИИ, как будто бы ведущие диалог между собой, используя необычные звуковые сигналы. Как обычно, в комментариях к видео появились пугающие теории о том, что искусственный интеллект научился тайно общаться.

Новое исследование, проведённое под руководством главы Meta* по искусственному интеллекту Яна Лекуна, демонстрирует, как искусственный интеллект может развивать базовое понимание физики, просто просматривая видео. Полученные результаты подтверждают альтернативное видение Лекуна в отношении генеративного AI.

Часть 2 курса Андрея Карпаты: «Глубокое погружение в большие языковые модели типа ChatGPT» фокусируется на процессе инференса (вывода) в языковых моделях. В этом разделе рассматривается практическое применение модели GPT-2, включая как процесс её обучения, так и механизм инференса.

В других случаях пессимистический взгляд вызывается простыми недоразумениями. Наглядным примером служит следствие знаменитой теоремы Курта Гёделя в теории логики, доказывающей неполноту элементарной арифметики. Предполагается, что эта теорема демонстрирует ограниченность логики в математике, а следовательно и человеческого разума вообще.

Anthropic представил метод защиты LLM от jailbreak атак, использующий синтетические данные и естественно-языковые правила.

Тесты показали высокую эффективность и низкий уровень ложных срабатываний (менее 0,5%).

https://arxiv.org/abs/2501.18837

Привет, Хабр! Я - Андрей, технологический предприниматель и консультант по ИИ.

Чтобы обнаружить любое проявление разумного "я" в системах ИИ исследователи обратились к боли. Ученые из Google DeepMind и Лондонской школы экономики и политических наук создали текстовую игру.

Облачное подразделение Amazon Web Services (AWS) представило на мероприятии re:Invent 2024 систему Automated Reasoning. Эта система предназначена для борьбы с «галлюцинациями» — сбоями в моделях искусственного интеллекта, при которых они дают не соответствующие действительности ответы.

Блогер доказал, что от дрона можно спрятаться с помощью щита-невидимки. Защита от Invisibility Shield скрывает вас от машинного зрения БПЛА, и тот теряет вас из виду.

Пчелы, имеющие мозг размером с зернышко, решают сложные математические задачи быстрее, чем компьютеры. К такому выводу пришли британские ученые из колледжа Ройял Холлоуэй, входящего в состав Лондонского университета.

Российские ученые из T-Bank AI Research и AIRI первыми в мире обучили искусственный интеллект самостоятельно адаптироваться к новым действиям

1. Эволюция идей искусственного интеллекта: история развития и связь с практикой.

2. О преподавании искусственного интеллекта и машинного обучения: от школы до университета.

3. Эволюция идей машинного обучения от Фрэнсиса Бэкона до больших языковых моделей.

Дополнительные материалы

Лектор: Гаряев Андрей Борисович — доктор технических наук, профессор, заведующий кафедрой «Тепломассообменные процессы и установки» Московского энергетического института.

Темы лекций.

1. Вводная лекций (начало лекции — 00:08:00).

Обычно модели AI воспринимаются как "черный ящик", где ввод данных приводит к выводу ответа, но неясно, почему модель выбрала именно этот ответ.

Заглянуть внутрь "черного ящика" это не решение, поскольку внутреннее состояние модели состоит из длинного списка чисел (активации нейронов), которые трудно интерпретировать.