Теория искусственного интеллекта. Теория ИИ

На китайских маркетплейсах возникла целая индустрия по продаже крошечных пластиковых кукольных голов со специальными креплениями, предназначенных для того, чтобы обмануть салонную камеру Tesla и заставить ее думать, что водитель внимателен.

Это одна из ключевых способностей человеческой социальной cognition, развивающаяся у детей примерно к 4–5 годам (тест ложной веры Sally-Anne). В когнитивных науках и ИИ ToM — фундамент для эмпатии, сотрудничества, общения и этичного взаимодействия.

Почему ToM важна для ИИ?

Называется From AGI to ASI. Среди авторов Маркус Хаттер, Айасон Гэбриэл и ещё несколько старших исследователей DeepMind. Документ на 57 страниц, и он интересен не прогнозами в стиле «когда AGI», а тем, что команда уже разбирает следующий этап.

В ней разбирают, как может произойти переход от AGI к ASI, и почему это не обязательно будет один резкий скачок.

Авторы выделяют 4 технических пути:

- дальнейшее масштабирование вычислений, размера моделей, данных и inference-time reasoning;

Проблема в том, что прогресс ИИ до сих пор сильно зависит от людей: они вручную правят промпты, инструменты, код, данные для обучения и веса модели.

Авторы предлагают SIA - цикл, где один ИИ наблюдает за работой task-agent, а затем улучшает либо его внешнюю настройку, либо саму модель.

Глава Google DeepMind и свежеиспеченный нобелевский лауреат Демис Хассабис решил немного остудить пыл тех, кто боится скорого появления живых нейросетей.

Ты пишешь вопрос и нажимаешь Enter. Через секунду начинают появляться слова. Кажется, будто кто-то думает и печатает. Но внутри не происходит ничего похожего на мышление — зато происходит кое-что куда более странное и интересное.

Главное заблуждение

(Hypothesis of Lu Ban and Li Tuguai)

(Формальная постановка, версия 2.1 Final)

Посвящается моему учителю математики - Никифорову Леониду Гербертовичу.

Предисловие

Приказ в целом вполне разумный, но то, что начали колхозить наши доблестные водилы...

Перед вами какой-то "зёбра-мобиль" - это, конечно, чистый колхоз. Если они таким образом проверяют, насколько тупой ИИ у Hornet и сломается ли он на чёрно-белых полосках - ладно, эксперимент есть эксперимент. Помянем водилу.

Как известно, самая главная уловка дьявола – убедить всех в том, что его не существует.

На снимке — результат попытки наших бойцов увести КАМАЗ от ударов дронов-камикадзе типа Hornet с элементами машинного зрения и ИИ. Для этого на грузовик нанесли так называемый деформирующий камуфляж, задача которого — не спрятать машину полностью, а «сломать» её силуэт чтобы дрон запутался.

Как это всегда бывает с прорывными решениями - их находят люди "не из нашего района". Алекс Карп - в физмате ни уха, ни рыла, Он вообще-то эндокринолог медиаконсультант.

Сама по себе идея Палантира — это все родом из СССР.

Как советские академики «рассчитали» Палантир

Здравоохранение – это одна из наиболее перспективных отраслей для внедрения искусственного интеллекта. Эффективная диагностика и лечение – важный фактор роста качества жизни, сбережения народа России.

Помните прошлогодний скандал, когда Claude в специально подстроенных сценариях начинал шантажировать пользователя, чтобы избежать отключения? Anthropic выкатили исследование о том, как они полностью убрали это поведение, и подход там любопытный.

Anthropic решила, что цифровым работягам тоже нужен отдых, и выкатила режим "сновидений" (dreaming) для агентов Claude. Теперь, пока сервер простаивает, ИИ не просто ждет новых команд, а уходит в глубокий рефлексивный транс.

Помните то самое платье?
В 2015 году интернет раскололся пополам: одни клялись, что оно бело-золотое, другие — мол, сине-черное. Люди ругались в комментах, крутили яркость на мониторе, а самые умные врубали пипетку в Paint. Само платье, кстати, оказалось сине-черным, но дело вообще не в этом.

Современный ИИ со временем может начать развиваться по законам дарвиновской эволюции — с отбором, наследованием и борьбой за «выживание». К такому выводу пришли профессор ИИ Люк Стилс, Эёрс Сатмари и их коллеги-эволюционные биологи. Работа опубликована в Proceedings of the National Academy of Sciences.

Мой ответ ИИ - осваиваем символьные вычисления, а ИИ как справка по программе символьных вычислений! Осваиваю только сейчас, хотя лет 25 тому назат прочитал несколько лекций по пакетам Maple и Mathematica. Тогда мой выбор склонялся в пользу Maple ....

Вавилов Н.А., Халин В.Г., Юрков А.В. Mathematica для нематематика

Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.

Представьте, что вам дают 10 терабайт текста и говорят запихнуть это в файл на 70 гигабайт. Да так, чтобы потом по любому вопросу можно было восстановить нужный кусок. Не точно, но близко, и не побайтово, но чтобы по смыслу билось.

Вы бы сказали: «так это же lossy-компрессия, часть данных неизбежно потеряется».

Есть законы, по которым значки складываются в текст. Это правила — синтаксис, формальная логика, структура. Они позволяют нам соединять символы так, чтобы получались осмысленные высказывания. Но есть и нечто иное — то, что стоит за этими значками. То, что они выражают: содержание, смысл, связь с реальностью.

В Массачусетском технологическом институте (MIT) придумали способ, как искусственные интеллекты снабдить почти безграничной памятью, для обработки и охранения огромного массива информации.

Самый частый вопрос к тезису о том, что языковые модели не думают - чисто практический.

Возражение, которое я слышу чаще всего

Научный сотрудник из НИУ ВШЭ Растям Алиев исследовал склонность искусственного интеллекта к галлюцинациям. В статье "Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху" он сравнивает вымышленные факты, которые генерируют большие языковые модели, с симптомами психических заболеваний у людей.

Йип ван Леувенстейн сделал её в рамках проекта Surveillance Exclusion, когда учился в Утрехтской школе искусств.

Задача оказалась не по зубам даже лучшим моделям. По условиям, каждую минуту нейросети должны генерировать новый, заметно отличающийся код. В некоторых случаях код попадал в задачу почти идеально, но ни одна модель не смогла создавать правильный циферблат стабильно каждую минуту.

Как пить из чашки, если у неё нет дна, а верх запаян? Эта милая загадка, которую я припоминаю ещё из старших классов школы, стала чрезвычайно мемной минувшим летом, когда выяснилось, что она ставит в тупик самые современные языковые модели. ChatGPT оказывается на удивление наивен, сталкиваясь с ней: