Теория искусственного интеллекта. Теория ИИ

Как это всегда бывает с прорывными решениями - их находят люди "не из нашего района". Алекс Карп - в физмате ни уха, ни рыла, Он вообще-то эндокринолог медиаконсультант.

Сама по себе идея Палантира — это все родом из СССР.

Как советские академики «рассчитали» Палантир

Здравоохранение – это одна из наиболее перспективных отраслей для внедрения искусственного интеллекта. Эффективная диагностика и лечение – важный фактор роста качества жизни, сбережения народа России.

Помните прошлогодний скандал, когда Claude в специально подстроенных сценариях начинал шантажировать пользователя, чтобы избежать отключения? Anthropic выкатили исследование о том, как они полностью убрали это поведение, и подход там любопытный.

Anthropic решила, что цифровым работягам тоже нужен отдых, и выкатила режим "сновидений" (dreaming) для агентов Claude. Теперь, пока сервер простаивает, ИИ не просто ждет новых команд, а уходит в глубокий рефлексивный транс.

Помните то самое платье?
В 2015 году интернет раскололся пополам: одни клялись, что оно бело-золотое, другие — мол, сине-черное. Люди ругались в комментах, крутили яркость на мониторе, а самые умные врубали пипетку в Paint. Само платье, кстати, оказалось сине-черным, но дело вообще не в этом.

Современный ИИ со временем может начать развиваться по законам дарвиновской эволюции — с отбором, наследованием и борьбой за «выживание». К такому выводу пришли профессор ИИ Люк Стилс, Эёрс Сатмари и их коллеги-эволюционные биологи. Работа опубликована в Proceedings of the National Academy of Sciences.

Мой ответ ИИ - осваиваем символьные вычисления, а ИИ как справка по программе символьных вычислений! Осваиваю только сейчас, хотя лет 25 тому назат прочитал несколько лекций по пакетам Maple и Mathematica. Тогда мой выбор склонялся в пользу Maple ....

Вавилов Н.А., Халин В.Г., Юрков А.В. Mathematica для нематематика

Sakana AI представила работу “Learning to Orchestrate Agents in Natural Language with the Conductor”, принятую на ICLR 2026. Идея простая, но мощная: вместо того чтобы заставлять одну модель тянуть всю задачу на себе, исследователи обучили отдельную 7B-модель быть менеджером для других ИИ.

«Когда ИИ станет реальностью, всё будет упираться в огромные объёмы вычислений, а не в хитрые алгоритмы, придуманные у доски. Моя теория такая: если посмотреть на вашу "программу" - на ДНК - то в сжатом виде это всего около 600 мегабайт.

Нейронаука VS Машинное обучение.

Его тезис: передовые модели не потому огромные, что технология сложная, а потому что данные для обучения мусорные.

Когда обычный человек думает про интернет, ему в голову приходят статьи Wall Street Journal, Википедия, серьёзные тексты.

У Антропиков новая интересная статья: Language models transmit behavioural traits through hidden signals in data.

Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.

Представьте, что вам дают 10 терабайт текста и говорят запихнуть это в файл на 70 гигабайт. Да так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко, и не побайтово, но чтобы по смыслу билось.

Вы бы сказали: «так это же lossy-компрессия, часть данных неизбежно потеряется».

Есть законы, по которым значки складываются в текст. Это правила — синтаксис, формальная логика, структура. Они позволяют нам соединять символы так, чтобы получались осмысленные высказывания. Но есть и нечто иное — то, что стоит за этими значками. То, что они выражают: содержание, смысл, связь с реальностью.

В Массачусетском технологическом институте (MIT) придумали способ, как искусственные интеллекты снабдить почти безграничной памятью, для обработки и охранения огромного массива информации.

Самый частый вопрос к тезису о том, что языковые модели не думают - чисто практический.

Возражение, которое я слышу чаще всего

Научный сотрудник из НИУ ВШЭ Растям Алиев исследовал склонность искусственного интеллекта к галлюцинациям. В статье "Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху" он сравнивает вымышленные факты, которые генерируют большие языковые модели, с симптомами психических заболеваний у людей.

Ваш мозг работает всего на 12 ваттах — меньше, чем обычная лампочка ?. А вот ИИ, выполняющий схожие задачи, может потреблять 2,7 миллиарда ватт, то есть в 225 миллионов раз больше энергии ??.

Почему такая разница?

Йип ван Леувенстейн сделал её в рамках проекта Surveillance Exclusion, когда учился в Утрехтской школе искусств.

Задача оказалась не по зубам даже лучшим моделям. По условиям, каждую минуту нейросети должны генерировать новый, заметно отличающийся код. В некоторых случаях код попадал в задачу почти идеально, но ни одна модель не смогла создавать правильный циферблат стабильно каждую минуту.

Как пить из чашки, если у неё нет дна, а верх запаян? Эта милая загадка, которую я припоминаю ещё из старших классов школы, стала чрезвычайно мемной минувшим летом, когда выяснилось, что она ставит в тупик самые современные языковые модели. ChatGPT оказывается на удивление наивен, сталкиваясь с ней: