Мозг размером с булавку – как «издеваются» над цифровой мухой…

Я уже делал посты об оцифровке головного мозга взрослой мухи-дрозофилы, теперь сделали полное картирование центральной нервной системы. Помогли завершить проект продвинутые алгоритмы ИИ от Google, которые автоматически собирали 3D-модель по сверхточным электронным снимкам. Это, действительно, серьезный научный прорыв. Тем более, что команда ученых взялась за оцифровку нервной системы мыши, в планах – овечка. Ну а далее… Понятно, какие будут следующие шаги, но это пока в туманной перспективе. Хотя прогресс идет семимильными шагами.

См.: A connectomics milestone: Mapping the complete male fruit fly brain / https://research.google/blog/a-connectomics-milestone-mapping-the-complete-male-fruit-fly-brain/

Но как только датасет (набор данных) выложили в открытый доступ, за дело взялись независимые инженеры, которые стали подключать виртуальный мозг к различным симуляторам. И тут фантазиям был дан простор.

1. Цифровую муху «научили» играть в DOOM. Видео выложили в открытую сеть.

2. Цифровая муха «поработала» ди-джеем на дискотеке в Beat Saber. Разработчик под ником domi запустил проект Aimbug Tweaktown. Зрительные нейроны следят за летящими кубиками в ритм-игре, а чтобы муха вовремя махала световыми мечами, инженер привязал управление к участку мозга, отвечающему за... брачные песни дрозофил Tweaktown.

3. Цифровая муха осуществила и криптотрейдинг на 100 долларов в симуляции Stonkfly. Ей показывали график биржевых свечей, а выходные сигналы интерпретируют как команды BUY, SELL или HOLD.

4. Цифровая муха устроилась и в автошколу. Поскольку ученые оцифровали не только мозг, но и нервные цепочки управления телом, виртуальное насекомое «посадили» за руль в автосимуляторе и заставили крутить руль и делать параллельную парковку.

Сразу снимем все спекуляции, это не означает, что муха ожила, или получила какое-то цифровое бессмертие, или еще что-то в этом роде.

Это и не полноценный искусственный интеллект, осознающий себя.

Это – эксперименты с цифровой моделью, и это именно симуляция.

Зачем это нужно искусственному интеллекту? – главный вопрос.

Современные нейросети тратят мегаватты энергии и страдают от «катастрофического забывания» – когда обучение новым навыкам стирает старые.

Живая муха тратит энергии меньше, чем крошечный светодиод, но при этом прекрасно ориентируется в пространстве, учится и ничего не забывает. Поэтому использование цифровой мухи – попытка перенести биологические преимущества в цифровое пространство.

Исследуя коннектом, ученые обнаружили, что в мозге мухи нет алгоритма обратного распространения ошибки (backpropagation), на котором строятся все современные нейросети. Биологические цепи работают на совершенно иных, более эффективных принципах непрерывного обучения. Извлечение этих принципов из карты дорог мозга – главная цель ИИ-лабораторий на ближайшие годы.

Представленные видео выглядят жутковато. На мой взгляд, можно было все это и не выкладывать в открытое пространство. Но здесь сработал маркетинговый принцип – не представишь наглядный результат, не получишь финансирование.

И вот здесь начинается нейроправо.

1. Правовой статус цифровой копии мозга: данные, имущество или уже какой-то субъект?

Мозг мухи, извлеченный и оцифрованный, – это набор данных, датасет. Он не подпадает ни под определение «животного», ни под определение «биологического материала» в момент, когда становится цифровой моделью.

Но если эта модель функционально воспроизводит поведение живого организма – обучается, реагирует на стимулы, «принимает решения» –  это все также просто данные?

С мухой пока можно ответ на этот вопрос пропустить, но дальше коннектом мыши, потом коннектом овцы, далее, скорее всего, будут приматы.

Нейроправо, как формирующаяся отрасль, пока не дает ответа на вопрос: с какого уровня сложности цифровая нейронная модель требует особого правового статуса (или все-таки режима)?

2. «Цифровое насилие» или безобидная симуляция?

Когда муху определили в ди-джеи, инженер привязал управление световыми мечами в Beat Saber к участку мозга, отвечающему за брачные песни дрозофил. По сути, брачное поведение насекомого было переназначено на несвойственную ему функцию – развлечение зрителей на дискотеке.

Если аналогичный эксперимент проведут с цифровой моделью мозга мыши, у которой есть доказанная способность к страданию? И далее по цепочке опять подходим к приматам.

И пока, по-видимому, не провести грань между «симуляцией» и «цифровым экспериментом.

Усложним задачу. В биоэтике действует принцип 3R (Replacement – замена, Reduction – сокращение, Refinement – улучшение) для экспериментов на животных. Будут ли новые принципы биоэтики для использования цифровых копий мозга? И если да, то какие? Мне представляется, что пока никто не даст какие-то однозначные ответы на все эти вопросы.

3. Криптотрейдинг мухи – финансовые моменты всегда упираются в ответственность. Сейчас эта была игра – «забава», но если такой алгоритм, основанный на биологической нейросети, начнет вести себя как игрок – совершать сделки, а затем манипулировать рынком, то к кому предъявлять претензии?

И опять усложним задачу – сейчас алгоритмические покупки находятся в регламентационном поле, есть указания Банка России, в Европе тоже есть своя регуляторика, но правовые акты ориентированы на детерминированные алгоритмы. Только вот биологическая нейросеть – это нечто иное, чем просто математическая модель, она обучается непрерывно и непредсказуемо.

4. Исследователи открыли доступ к коннектому, что можно рассматривать как приглашение всем ученым присоединиться к новому направлению и использовать коннектом для проверки своих научных идей. Сейчас любой пользователь с достаточной квалификацией может скачать, модифицировать и запустить «свою» муху. Что, в общем-то, мы и наблюдали с игрой, дискотекой и игрой на бирже. Но опять одни вопросы: кто владеет правами на коннектом? кто является правообладателем производных открытий? есть ли требования (включая биоэтические) к процессу использования коннектома?

Подведем итог.

1. Цифровая муха, играющая в DOOM, – это не мем. Это, скорее всего, показательный прецедент, который обнажает системную неготовность правовой системы к эпохе коннектомики.

2. Биологические нейросети, перенесенные в цифровую среду, не вписываются ни в одну существующую правовую категорию: это не ИИ в классическом понимании, не животное, не персональные данные, не программное обеспечение.

3. Пока ученые «развлекаются» над цифровой мухой, юристам стоит задуматься: а что мы будем делать, когда горизонты сильно расширятся. И речь пойдет не о цифровой мухе, а … ну, вы поняли.

Телеграм: t.me/ainewsline

Источник: research.google

Комментарии: