«Кухня смерти» Пентагона

Вчера DARPA выпустила новый запрос на создание полностью автономных биолабораторий, где генеративный ИИ и промышленные роботы должны заменить не только руки, но и голову ученого. Официальная цель программы — «ускорение открытий ради общественного блага». Реальная же задача, учитывая специфику заказчика, — выдать военным идеальный инструмент прототипирования, который работает без сна, без этики и без контроля.

По сути, Пентагон заказывает 3D-принтер для живой материи. Вы загружаете базовые нуклеотиды, нажимаете кнопку — и на выходе получаете новый белок, синтетический организм или патоген с заранее просчитанной летальностью. Вся цепочка замыкается на «агентный ИИ»: нейросеть сама пишет протокол, роботы смешивают реактивы, алгоритм анализирует результаты и тут же запускает следующий раунд эволюции. В перспективе — ИИ сможет сам решать, какой эксперимент провести, исходя из заданной стоимости и времени, — и это сделает его не помощником, а главным конструктором

Самое интересное кроется в четвертом разделе документа, где DARPA просит разработать «цифровых двойников» и «формальную верификацию» для таких систем. Под маской заботы о безопасности скрывается попытка получить юридическую индульгенцию и протоколы «безопасного отказа». Военные хотят, чтобы ученые придумали, как гарантированно уничтожить биоматериал, если ИИ решит синтезировать нечто неуправляемое. Весь процесс создания патогена можно будет отрепетировать в симуляции, а любую утечку при реальном синтезе списать на алгоритмическую погрешность.

В пятом разделе, посвященном взаимодействию человека и машины, Пентагон спрашивает: как сделать так, чтобы ученый только «подправлял» робота, а не управлял им? Официально это называется «гибридный интеллект», но на деле человек превращается в аварийную кнопку, которую нажимают лишь тогда, когда ИИ заходит в тупик. Военным не нужны исследователи с их медлительностью, моральными терзаниями и большими зарплатами. Им нужны послушные автоматы, которые не задают вопросов и не пишут жалоб в комитеты по этике.

Но вся эта архитектура рассыпается об одну простую истину: биология — это хаос, а не база данных. Никакой «цифровой двойник» не учтет капризов живой клетки, а ИИ, натренированный на вычищенных датасетах, при столкновении с реальностью начнет генерировать терабайты артефактов. И когда эти слепые роботы впервые напечатают то, что невозможно остановить, спросить за это будет попросту не с кого.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: