Биофизики из Пущино разработали новый алгоритм для ИИ

Искусственный интеллект (ИИ) играет все более важную роль в нашей жизни. Сегодняшние системы ИИ, основанные на машинном обучении, используют непонятные человеку алгоритмы принятия решений. Эта непрозрачность вызывает недоверие и опасения. Ученые из Института теоретической и экспериментальной биофизики РАН и Института биофизики клетки РАН разработали и реализовали новые алгоритмы прозрачного ИИ, которые понятны человеку, надежны и безопасны. Разработка включает новые принципы создания ИИ, открытый код разработанных программ и относится к области символического ИИ. Результаты работы опубликованы в журнале Information Fusion.

Символический ИИ специализируется на основе прямого использования логики и человеческих знаний. Этот подход доминировал с середины 1950-х до конца 1980-х. Потом оказалось, что перед его широким использованием стоит ряд непреодолимых проблем: непрозрачность используемых математических моделей, неоднозначность терминов естественного языка, непреодолимый комбинаторный взрыв, возникающий при полном переборе возможных вариантов в поисках наилучшего решения. Такой перебор может потребовать больше времени, чем время тепловой смерти нашей Вселенной.

Ученые из ИТЭБ РАН и ИБК РАН разработали алгоритм, который преодолевает перечисленные препятствия. Исследование прокомментировал н.с. ИТЭБ РАН Лев Калмыков: «Созданный логически прозрачный искусственный интеллект реализует автоматический логический вывод одновременно на трех уровнях организации сложной системы, учитывая локальные зависимости её микрообъектов. Онтологической основой прозрачного ИИ служит аксиоматическая теория соответствующей предметной области, а инструментальной основой являются логические клеточные автоматы. С помощью разработанного символического ИИ нами проверены формулировки принципа конкурентного исключения, гипотеза лимитирующего сходства, гипотеза лимитирующего различия, решен парадокс биоразнообразия, найдены новые механизмы сосуществования, исследован механизм квазисолитонного прохождения популяционных автоволн. Реализованный вариант символического ИИ основан на полностью прозрачных алгоритмах и имеет природу белого ящика. Этим он принципиально отличается от современного генеративного ИИ, реализованного на непрозрачных алгоритмах, имеющих природу черного ящика».

Попытки решить проблему черного ящика современного ИИ известны как программа «Объяснимого ИИ» Управления перспективных исследовательских проектов Министерства обороны США (DARPA) 2016 года – “eXplainable Artificial Intelligence (XAI).” Хотя результаты программы “XAI” помогли частично интерпретировать работу черного ящика нейронных сетей, они не изменили их первоначальную непрозрачную статистическую природу и неопределенность в отношении безопасности и надежности принимаемых решений. Разработанный в Пущино новый метод ИИ полностью преодолевает проблему черного ящика ИИ, что отражено в названии предлагаемого подхода – “eXplicitly eXplainable Artificial Intelligence (XXAI).” Эксплицитно значит явно, прямо, однозначно.

Представляемый подход использован авторами для автоматической проверки экологических гипотез, но их работа закладывает методологическую основу для программы исследований и разработок по созданию символического ИИ общего назначения. Авторы предлагают использовать разработанный прозрачный ИИ в качестве старшего партнера непрозрачного генеративного ИИ в будущих гибридных решениях ИИ так, как это реализовано в функционально асимметричном мозге человека, в котором левое логическое полушарие контролирует образные и инстинктивные решения, принимаемые правым полушарием.

Источник: Kalmykov V. L., Kalmykov L. V. Towards eXplicitly eXplainable Artificial Intelligence // Information Fusion. – 2025. – 18.05.2025 – C. 103352. IF=15.5; CiteScore=24.1

https://doi.org/10.1016/j.inffus.2025.103352

До 12 июля 2025 года статья бесплатно доступна по ссылке: https://authors.elsevier.com/a/1l8aA5a7-G-6-X

Доступ к открытому коду: https://doi.org/10.20935/AcadBiol6166 https://doi.org/10.1016/j.chaos.2021.110814

На фото Лев и Вячеслав Калмыковы

Материал подготовила Алсу Дюкина

Пресс-служба ИТЭБ РАН

iteb-press@yandex.ru

https://iteb.ru/press-center/press-releases/

Источник: iteb.ru

Комментарии: