Теория искусственного интеллекта. Теория ИИ

Интересный фрагмент из интервью с Романом Ямпольским.

Российские ученые теоретически обосновали вычислительно легкий метод оценки неопределенности для одной из популярных форм машинного обучения. Теперь разработчики смогут получать надежные оценки неопределенности быстрее и с меньшими вычислительными затратами, это особенно важно в областях медицины, финансов и автономных системах.

Как архитектура трансформера изменила искусственный интеллект и стала основой современных LLM? Разговор с Михаилом Бурцевым — исследователем AI, кандидатом физико-математических наук и Arnold & Landau AI Fellow в London Institute for Mathematical Sciences.

Как научить компьютер понимать эмоции? Выпускник направления 09.03.01 Информатика и вычислительная техника ответил на этот вопрос.

AI-подразделение китайского производителя электромобилей Lixiang опубликовало (https://arxiv.org/pdf/2607.09375) интересную работу о том, как они оптимизацией насыщали компактную модель доменными знаниями.

Mach-Mind-4-Flash - итоговая MoE-модель на 35 млрд общих 3 млрд активных параметров на базе Qwen3.5-35B-A3B.

В статье подробно рассматриваются принципы работы больших языковых моделей (large language model, LLM). Поскольку в основе большинства современных LLM лежит архитектура трансформера (transformer), ее понимание дает представление о ключевых механизмах, обеспечивающих работу таких моделей.

Спойлер: он сам появился там.

У Claude нашли нечто очень похожее на внутренний голос. Причём зачатки "сознания" в модель никто не вкладывал, по мере её развития они появились сами.

Сотрудники Исследовательского центра в сфере искусственного интеллекта МГУ имени М.В. Ломоносова создали метод, который позволяет объяснять решения графовых нейронных сетей при анализе молекул. Результаты исследования опубликованы в Journal of Chemical Information and Modeling.

На китайских маркетплейсах возникла целая индустрия по продаже крошечных пластиковых кукольных голов со специальными креплениями, предназначенных для того, чтобы обмануть салонную камеру Tesla и заставить ее думать, что водитель внимателен.

Это одна из ключевых способностей человеческой социальной cognition, развивающаяся у детей примерно к 4–5 годам (тест ложной веры Sally-Anne). В когнитивных науках и ИИ ToM — фундамент для эмпатии, сотрудничества, общения и этичного взаимодействия.

Почему ToM важна для ИИ?

Называется From AGI to ASI. Среди авторов Маркус Хаттер, Айасон Гэбриэл и ещё несколько старших исследователей DeepMind. Документ на 57 страниц, и он интересен не прогнозами в стиле «когда AGI», а тем, что команда уже разбирает следующий этап.

Приказ в целом вполне разумный, но то, что начали колхозить наши доблестные водилы...

Перед вами какой-то "зёбра-мобиль" - это, конечно, чистый колхоз. Если они таким образом проверяют, насколько тупой ИИ у Hornet и сломается ли он на чёрно-белых полосках - ладно, эксперимент есть эксперимент. Помянем водилу.

Здравоохранение – это одна из наиболее перспективных отраслей для внедрения искусственного интеллекта. Эффективная диагностика и лечение – важный фактор роста качества жизни, сбережения народа России.

Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.

Представьте, что вам дают 10 терабайт текста и говорят запихнуть это в файл на 70 гигабайт. Да так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко, и не побайтово, но чтобы по смыслу билось.

Вы бы сказали: «так это же lossy-компрессия, часть данных неизбежно потеряется».

Есть законы, по которым значки складываются в текст. Это правила — синтаксис, формальная логика, структура. Они позволяют нам соединять символы так, чтобы получались осмысленные высказывания. Но есть и нечто иное — то, что стоит за этими значками. То, что они выражают: содержание, смысл, связь с реальностью.

В Массачусетском технологическом институте (MIT) придумали способ, как искусственные интеллекты снабдить почти безграничной памятью, для обработки и охранения огромного массива информации.

Научный сотрудник из НИУ ВШЭ Растям Алиев исследовал склонность искусственного интеллекта к галлюцинациям. В статье "Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху" он сравнивает вымышленные факты, которые генерируют большие языковые модели, с симптомами психических заболеваний у людей.

Йип ван Леувенстейн сделал её в рамках проекта Surveillance Exclusion, когда учился в Утрехтской школе искусств.

Задача оказалась не по зубам даже лучшим моделям. По условиям, каждую минуту нейросети должны генерировать новый, заметно отличающийся код. В некоторых случаях код попадал в задачу почти идеально, но ни одна модель не смогла создавать правильный циферблат стабильно каждую минуту.

Как пить из чашки, если у неё нет дна, а верх запаян? Эта милая загадка, которую я припоминаю ещё из старших классов школы, стала чрезвычайно мемной минувшим летом, когда выяснилось, что она ставит в тупик самые современные языковые модели. ChatGPT оказывается на удивление наивен, сталкиваясь с ней: