Распределенный интеллект

Речь о системах, где когнитивные процессы рассредоточены между множеством агентов — будь то нейроны, алгоритмы, люди или их причудливые комбинации. Вы когда-нибудь наблюдали за муравейником? Каждый муравей — простейшее создание с интеллектом калькулятора из 90-х. Но вместе эти крошечные существа создают сверхорганизм, способный решать сложнейшие задачи: от архитектуры до логистики. И самое интересное — ни один из муравьев не имеет "общего плана". Каждый просто следует простым правилам, но вместе они творят чудеса сложности.

А теперь представьте, что вместо муравьев — миллиарды транзисторов в суперкомпьютере или миллионы специалистов, работающих над проектом космического масштаба. Такие системы уже не просто сумма своих частей, а нечто большее — они обладают эмерджентными свойствами, которые не выводятся напрямую из свойств компонентов. И вот мы, с нашими жалкими 86 миллиардами нейронов, пытаемся постичь системы, которые оперируют триллионами параметров в многомерных пространствах. Это всё равно что муравью пытаться понять квантовую физику — смешно и немного грустно одновременно.

Коллективное знание против индивидуального понимания

Тут самое время вспомнить старую-добрую фразу "я знаю, что ничего не знаю". Только в нашем случае, это превращается в "мы знаем, но никто из нас не понимает". Забавный парадокс, не правда ли? Знание и понимание — это как дальние родственники: вроде бы из одной семьи, но на семейных посиделках сидят в разных углах. Можно владеть информацией, но не постигать её сути. Классический пример — современные нейросети. Они "знают" как генерировать изображения, тексты, музыку, но спросите разработчика, почему сеть сгенерировала именно такой результат, и вы увидите замешательство на его лице.

Мы создали настоящие чёрные ящики, которые выдают результаты без объяснений. И что самое ироничное, даже создатели этих систем часто разводят руками, когда их спрашивают о внутренних механизмах принятия решений. "Оно просто работает!" — восклицают они, принимая очередной многомиллионный грант.

А теперь добавьте к этому распределенность. Когда решение принимается не одним "черным ящиком", а сетью таких ящиков, взаимодействующих между собой по непрозрачным правилам. Получается матрёшка непонимания — непонятное внутри непонятного.

И вот мы, гордые своим интеллектом существа, обнаруживаем себя в положении шамана, который поклоняется грозе, не понимая электромагнитной природы молний. Только наши "молнии" — это алгоритмы, определяющие, получите ли вы кредит, какую медицинскую помощь вам окажут и какие новости вы увидите в своей ленте.

Источник: dzen.ru

Комментарии: