Разработчики ИИ вдохновляются мозгом крыс

Сегодняшние системы с искусственным интеллектом могут разгромить людей-чемпионов в таких сложных играх, как шахматы, го и техасский холдем. В симуляторах полёта они могут сбивать лучших пилотов. Они превосходят людей-докторов в создании точных хирургических стежков и постановке диагнозов рака. Но в некоторых случаях трёхлетний ребёнок легко обставит лучший ИИ в мире: когда соревнование идёт связано с обучением, настолько рутинным, что люди даже не подозревают о нём.

Такая мысль пришла в голову Дэвиду Коксу [David Cox] – нейробиологу из Гарварда, эксперту по ИИ, гордому отцу трёхлетней дочки – когда она, заметив в музее национальной истории длинноногий скелет, показала на него пальцем и сказала: «Верблюд!» Единственная её встреча с верблюдом происходила за несколько месяцев до того, когда отец показывал ей рисованного верблюда в книжке с картинками.

Исследователи ИИ называют эту способность определять объект по единственному примеру «обучением за один раз», и жутко завидуют таким способностям карапузов. Сегодняшние ИИ-системы обучаются совершенно по-другому. Согласно автономной системе обучения под названием «глубинное обучение», программе выдаётся массив данных, из которого нужно делать выводы. Чтобы натренировать ИИ, распознающий верблюдов, система должна переварить тысячи изображений верблюдов – рисунки, анатомические схемы, фотографии одногорбых и двугорбых верблюдов – все изображения с пометкой «верблюд». ИИ потребуются также тысячи других картинок, с пометкой «не верблюд». И когда он прожуёт все эти данные и определить отличительные черты животного, он станет превосходным определителем верблюдов. Но дочка Кокса к тому времени уже успеет перейти на жирафов и утконосов.

Кокс упомянул о своей дочери, объясняя государственную программу США под названием «Машинный интеллект на корковых сетях» [Machine Intelligence from Cortical Networks, Microns]. Его амбициозная цель: провести реверс-инжиниринг человеческого интеллекта так, чтобы программисты смогли создать улучшенный ИИ. Во-первых, нейробиологи должны узнать, какие вычислительные стратегии проходят в сером веществе мозга; затем команда, работающая с данными, переведёт их в алгоритмы. Одной из основных задач итогового ИИ будет обучение за один раз. « У людей потрясающая возможность делать выводы и обобщать, – говорит Кокс, – и именно это мы пытаемся ухватить».

Пятилетняя программа, получившая финансирование на сумму $100 млн от Агентства передовых исследований в сфере разведки (IARPA) фокусируется на зрительной коре, части мозга, обрабатывающей визуальную информацию. Работая с мышами и крысами, три команды Microns планируют разметить схему расположения нейронов в кубическом миллиметре мозговой ткани. Это может звучать не так впечатляюще, но в этом кубике содержится порядка 50 000 нейронов соединённых друг с другом посредством 500 млн связей, синапсов. Исследователи надеются, что чёткое представление обо всех связях позволит им определить нейронные «контуры», активируемые во время работы зрительной коры. Проекту требуется особая система нейровизуализации, показывающая отдельные нейроны с разрешением на уровне нанометров, чего ещё не было достигнуто для участка мозга такого размера.

И хотя в каждой команде Microns работают представители нескольких институтов, большинство из участников команды, работающей под руководством Кокса, ассистент-профессора молекулярной и клеточной биологии и информатики в Гарварде, работает в одном здании на территории Гарварда. Во время прогулки по лаборатории можно наблюдать грызунов, занятых выполнением заданий в «игровом клубе» для крыс; машину, нарезающую мозг так, как наилучший автоматический резак для колбасы; одни из самых быстрых и мощных микроскопов на планете. С таким оборудованием, работающим на полную катушку, и с огромными вложениями человеческих сил Кокс считает, что у них есть все шансы взломать код этого несчастного кубического миллиметра.

Попробуйте представить эту огромную мощность человеческого мозга. Для обработки информации о мире и поддержания функционирования тела электрические импульсы проходят через 86 млрд нейронов, втиснутых в губчатые ткани внутри вашего черепа. У каждого нейрона есть длинный аксон, вьющийся сквозь эту ткань и позволяющий соединяться с тысячами других нейронов, в результате чего возникают триллионы связей. Рисунки электрических импульсов коррелируют со всеми чувствами и ощущениями человека: движением пальца, перевариванием обеда, влюблённостью или распознаванием верблюда.

Двухфотонный лазерный микроскоп. Инфракрасный лазер сканирует мозговые ткани живого животного, выполняющего определённую задачу. Когда два фотона одновременно ударяют по нейрону, флуоресцентная метка испускает фотон с другой длиной волны. Микроскоп записывает видео с этими вспышками (вверху). « Можно видеть, как думает крыса», – говорит Дэвид Кокс.

Программисты пытаются эмулировать работу мозга ещё с 1940-х, когда они впервые придумали программные структуры под названием искусственные нейросети. Большинство лучших современных ИИ используют некую современную форму этой архитектуры: глубинные нейросети, свёрточные нейросети, нейросети с обратной связью, и т.д. Эти сети, созданные по мотивам структуры мозга, состоят из множества вычислительных узлов, искусственных нейронов, выполняющих небольшие конкретные задачи и связанных друг с другом так, чтобы вся система могла выполнять впечатляющие вещи.

Нейросети не смогли скопировать анатомический мозг более точно, поскольку у науки всё ещё нет основной информации о компоновке нервной системы. Джейкоб Вогельштейн, менеджер проекта Microns в IARPA, говорит, что исследователи работали обычно либо на микромасштабе, либо на макромасштабе. « Мы использовали инструменты, которые либо отслеживали отдельные нейроны, либо собирали сигналы с больших участков мозга, – говорит он. – Существует большой разрыв в понимании операций на уровне контуров – как тысячи нейронов работают вместе над обработкой информации».

Ситуация поменялась благодаря недавним технологическим прорывам, позволившим нейробиологам построить карты "коннектома", открывающие множество связей между нейронами. Но Microns нужна не просто статичная диаграмма связей. Команда должна продемонстрировать, как эти связи активируются, когда грызун видит, обучается и вспоминает. « Очень похоже на то, как человек пытается разобраться в работе электронной схемы, – говорит Вогельштейн. – Чип можно разглядывать в подробной детализации, но вы не поймёте, что он должен делать, пока не увидите, как он работает».

Для IARPA реальный результат будет получен, если исследователи смогут отследить схему нейронов, участвующих в распознавании, и перевести её в более похожую на мозг архитектуру искусственных нейросетей. « Надеюсь, что вычислительные стратегии мозга можно воспроизвести в терминах математики и алгоритмов», – говорит Вогельштейн. Правительство ставит на то, что системы с ИИ, работающие схожим с мозгом образом, сумеют лучше справиться с реальными задачами, чем их предшественники. Конечно, понять, как работает мозг – задача благородная, но разведывательные агентства хотят, чтобы ИИ мог быстро обучаться распознавать не только верблюда, но и наполовину скрытое лицо на зернистом кадре камеры наблюдения.

« Игровой клуб» для крыс Кокса – это небольшая комната, в которой чёрные коробки размером с микроволновку поставлены друг на друга по четыре штуки. В каждой коробке мордой к экрану стоит крыса, а напротив её носа находятся два краника.

В Аргоннской национальной лаборатории синхротрон APS разгоняет электроны и они врезаются в металлическую нить, производя чрезвычайно яркие рентгеновские лучи, фокусирующиеся на небольшом кусочке мозговой ткани. Рентгеновские изображения, сделанные со многих углов, комбинируются для создания трёхмерного изображения, демонстрирующего каждый нейрон, находящийся внутри кусочка.

Нейроны в мозговой ткани

В текущем эксперименте крысы пытаются справиться со сложной задачей. На экране показывают трёхмерные изображения, созданные компьютером. Это не какие-то объекты из внешнего мира, просто комковатые абстрактные формы. Когда крыса видит объект А, она должна лизнуть левый краник, чтобы получить каплю сладкого сока. Когда она видит объект Б, сок будет в правом кранике. Но объекты показываются с разных ракурсов, поэтому крысе нужно будет в уме повернуть каждый объект и решить, относится он к А или к Б.

Тренировочные занятия разбавлены получением снимков, для которых крыс несут по коридору в другую лабораторию, где стоит большой микроскоп, накрытый чёрной тканью, и выглядящий как старомодное фотографическое оборудование. Команда использует двухфотонный лазерный микроскоп для изучения зрительной коры животного, когда она смотрит на экран, где демонстрируются два знакомых объекта А и Б в разных ракурсах. Микроскоп записывает вспышки и свечение, происходящие, когда лазер попадает на активные нейроны, а трёхмерное видео показывает рисунки, напоминающие зелёных светлячков, мигающих в летней ночи. Кокс хочет узнать, как эти рисунки меняются, когда животное становится экспертом в данной задаче.

Разрешение микроскопа недостаточно хорошее, чтобы увидеть аксоны, соединяющие нейроны друг с другом. Без этой информации учёным не определить, как один нейрон активирует следующий для создания контура обработки информации. Для этого животное нужно убить, а мозг – подвергнуть более пристальному изучению.

Исследователи вырезают крохотный кубик из зрительной коры, который FedEx доставляет в Аргоннскую национальную лабораторию. Там ускоритель частиц использует мощное рентгеновское излучение для построения трёхмерной карты, показывающей отдельные нейроны, другие типы клеток мозга и сосуды. На этой карте тоже не видно связанных аксионов в кубике, но она помогает позже, когда исследователи сравнивают изображения с двухфотонного микроскопа с изображениями, полученными с электронных микроскопов. « Рентген для нас – это Розеттский камень», – говорит Кокс.

Затем кусочек мозга возвращается в гарвардскую лабораторию Джеффа Лихтмана, профессора молекулярной и клеточной биологии, лидирующего эксперта по коннектому мозга. Команда Лихтмана берёт этот кубический миллиметр мозга и нарезает его при помощи машины на 33 000 кусочков по 30 нм толщиной. Эти тончайшие листки собираются на полосках плёнки и располагаются на кремниевой подложке. Затем исследователи используют один из быстрейших в мире электронных микроскопов, отправляющий 61 луч из электронов на каждый образец ткани, и измеряющий рассеивание электронов. Машина размером с холодильник работает круглосуточно, и выдаёт изображения каждого ломтика с разрешением в 4 нм.

Каждое изображение напоминает разрез куба из плотно упакованных спагетти. Система программной обработки изображений собирает ломтики по порядку и отслеживает каждую нить спагетти, идущую от одного ломтика до другого, делая наброски полной длины аксона каждого из нейронов вместе с его тысячами связей с другими нейронами. Но ПО иногда теряет нить или путает одну с другой. Люди лучше компьютеров справляются с такой задачей, говорит Кокс. « К несчастью, для обработки такого количества данных не хватит людей всей Земли». Программисты из Гарварда и MIT работают над задачей отслеживания, которую им необходимо решить для построения точной диаграммы структуры мозга.

Наложив эту диаграмму на карту активности мозга, полученную на двухфотонном микроскопе, можно будет обнаружить вычислительные структуры мозга. К примеру, такое совмещение должно показать, какой из нейронов схемы, зажигающийся, когда крыса видит странный объект, мысленно переворачивает его вверх ногами и решает, что он больше похож на объект А.

Ещё одна сложная проблема, стоящая перед командой Кокса – это скорость. В первой фазе проекта, закончившейся в мае, каждой команде нужно было показать результаты исследования кусочка мозговой ткани размером в 100 кубических микрометров. С таким уменьшенным кусочком команда Кокса завершила этап с электронной микроскопией и реконструкцией за две недели. Во второй фазе командам нужно научиться обрабатывать кусочки такого же размера за несколько часов. Масштабирование от 100 ?м ³ to 1 мм ³ приводит к увеличению объёма в тысячу раз. Поэтому Кокс одержим автоматизацией каждого шага процесса, от тренировок крыс с видео до отслеживания коннектома. « Эти проекты IARPA заставляют научные исследования походить на работу инженеров, – говорит он. – Нам нужно очень быстро вращать заводной ручкой».

Ускорение экспериментов позволяет команде Кокса проверять больше теорий, связанных со структурой мозга, которые помогут и исследователям ИИ. В машинном обучении программист задаёт общую архитектуру нейросети, а программа сама решает, как связывать расчёты в последовательность. Поэтому исследователи планируют натренировать крыс и нейросети на одной и той же визуальной задаче и сравнивать схемы связей и результаты. « Если мы заметим какие-то закономерности в мозговых связях, и не заметим их в моделях – это может стать намёком на то, что мы что-то делаем не так», – говорит Кокс.

Одна из областей исследований включает правила обучения мозга. Считается, что распознавание объектов происходит через иерархическую обработку, в которой первый набор нейронов получает основные цвета и форму, следующий набор находит края, чтобы отделить объект от фона, и так далее. Когда животное учится лучше справляться с задачей распознавания, исследователи могут спросить: какой из наборов нейронов в иерархии меняет свою деятельность сильнее всего? И когда ИИ начинает лучше справляться с той же задачей, меняется ли его нейросеть таким же образом, как нейросеть крыс?

IARPA надеется, что открытия будут применимы не только к компьютерному зрению, но и к машинному обучению в целом. « Мы все тут действуем наудачу, но наша удача подкреплена доказательствами», – говорит Кокс. Он отмечает, что кора головного мозга, внешний слой нервной ткани, в котором происходит распознавание высокого уровня, обладает «подозрительно одинаковой» структурой по всему объёму. Такая однородность заставляет нейробиологов и экспертов по ИИ считать, что в обработке информации в мозгу можно использовать одну фундаментальную схему связей, которую они и планируют обнаружить. Определение такой протосхемы может стать шагом вперёд к ИИ общего назначения.

А пока команда Кокса вращает заводную ручку, пытаясь заставить испытанные процедуры работать быстрее, другой исследователь из Microns занимается радикальной идеей. Если она сработает, как говорит Джордж Чёрч, профессор из гарвардского Института вдохновлённых биологией технологий им. Уисса, она может произвести революцию в науке о мозге.

Чёрч руководит командой Microns совместно с Тай Синг Ли из Университета Карнеги-Мэлон в Питсбурге. Чёрч отвечает за разметку коннектома, и его подход разительно отличается от других команд. Он не использует электронный микроскоп для отслеживания аксонных связей. Он считает, что эта технология слишком медленная и производит слишком много ошибок. Он говорит, что при попытке отследить аксоны в кубическом миллиметре ткани ошибки будут накапливаться и загрязнять данные коннектома.

Метод Чёрча не зависит от длины аксона или размера исследуемого кусочка мозга. Он использует генетически модифицированных мышей и технологию под названием "баркодирование ДНК", отмечающую каждый нейрон уникальным генетическим идентификатором, который можно прочесть как с бахромы его дендритов, так и с окончания его длинного аксона. « Неважно, насколько огромен ваш аксон, – говорит он. – С баркодированием вы находите два конца, а как всё запутано посередине, значения не имеет». Его команда использует ломтики мозговой ткани толщиной больше, чем у команды Кокса – 20 ?м вместо 30 нм – поскольку им не нужно волноваться по поводу потери точного пути прохождения аксона между ломтиками. Машины, секвенирующие ДНК, записывают все баркоды, присутствующие в данном ломтике, а затем программа обрабатывает списки генетической информации и создаёт карту, показывающую, какие нейроны связаны с какими.

Чёрч и его коллега Энтони Задор, профессор нейробиологии в Лаборатории Колд-Сприн-Харбор в Нью-Йорке, доказали в предыдущих экспериментах, что технологии баркодирования и секвенирования работают, но пока ещё не собрали данные в цельную карту коннектома, нужную для работы над проектом Microns. Если команде удастся это сделать, Чёрч говорит, что Microns станет только началом его попыток построения карты мозга: затем он хочет построить схему всех соединений во всём мозге мыши, в котором можно найти 70 млн нейронов и 70 млрд соединений. « Работать с кубическим миллиметром – значит, быть чрезвычайно близоруким, – говорит Чёрч. – Мои планы на этом не заканчиваются».


Карта участка мозга, построенная на основе баркодирования РНК

Секвенирующая машина

Такие крупномасштабные карты могут способствовать появлению новых идей для разработки ИИ, досконально эмулирующих биологический мозг. Но Чёрч, наслаждающийся ролью провокатора, представляет себе другой способ развития вычислительных машин: он говорит, что нужно прекратить попытки создания кремниевых копий мозга и построить биологический мозг, который сможет справиться с вычислительными задачами лучше человеческого. « Я думаю, что скоро у нас появится возможность заниматься синтетической нейробиологией и создавать видоизменённые варианты биологических мозгов», – говорит он. И хотя кремниевые компьютеры выигрывают у биологических систем в скорости обработки информации, Чёрч представляет себе искусственный мозг, дополненный специальными контурами, ускоряющими его работу.

Чёрч прикидывает, что проект Microns по реверс-инжинирингу мозга может и не завершиться удачей. Он говорит, что мозг настолько сложен, что даже если исследователи сумеют построить такие машины, они могут не понять полностью все тайны мозга – и это не страшно. « Я думаю, что понимание – это некий фетиш у учёных, – говорит Чёрч. – Может так получиться, что создать мозг будет проще, чем понять его».

Источник: geektimes.ru

Комментарии: