Цифровые староверы против Скайнета

Тут на главной сходке линуксоидов в Брюсселе на FOSDEM 2026 Михил Леенаарс выдал базу, от которой у старой гвардии должны зашевелиться волосы даже там, где их уже нет

Он выступил с докладом на тему:

FOSS in times of war, scarcity and (adversarial) AI.

(FOSS во времена войны, дефицита и (враждебного) ИИ).

Если кратко, то праздник закончился. Эпоха конца истории, когда сообщество верило, что интернет всех объединит, а код вне политики - мертва. Опенсорс стал заложником собственной открытости... свободные лицензии сыграли злую шутку, превратив софт в топливо для военных дронов, систем тотальной слежки и цифровых диктатур. Сообщество строило мир без границ, а создало идеальный арсенал для глобальной кибервойны, геополитических конфликтов и цифрового феодализма ?

Но главная угроза исходит от больших языковых моделей. Корпорации предлагают помощь ИИ в написании кода, но это ловушка. Если раньше мы боролись с закрытыми проприетарными драйверами, пытаясь понять, что спрятал вендор, то теперь мы добровольно пускаем в проект троянского ИИ-коня. Атака на цепочку поставок через нейросети это уже вопрос времени.

Злоумышленникам (будь то спецслужбы или корпорации) даже не нужно ломать ваш репозиторий. Им достаточно отравить обучающие данные, подкрутив веса моделей. Нейронка, обученная на правильных примерах, будет генерировать код с тончайшими, незаметными уязвимостями, которые пройдут любое ревью, потому что выглядят как обычный баг джуна или выгоревшего сеньора ?

Корпорации хотят заменить живых разработчиков на свои модели, вытеснив FOSS. В итоге мы рискуем получить мир, где код пишут машины, которые галлюцинируют бэкдорами, а мы даже не можем это проверить, потому что объем кода растет экспоненциально ?

Леенаарс призывает к созданию "Maximal Defendable FOSS", т.е. максимальной обороны через изоляцию, формальные доказательства и отказ от слепого доверия коду ИИ.

Мы стоим на пороге нового Великого Раскола, только на этот раз в ИТ. Как когда-то старообрядцы уходили в скиты, так и сейчас формируется согласие цифровых FOSS-беспоповцев. Они уйдут в цифровые скиты, будут писать код вручную, проверять каждую строку и хранить знания о том, как на самом деле работает машина, а не галлюцинация ИИ. Эта горстка хранителей истины будет выглядеть маргиналами и сектантами в глазах прогрессивного большинства, штампующего продукты через ЖПТ. Но именно они станут единственным холодным бэкапом человечества. Тем самым семенным фондом чистого разума, который понадобится, когда, перегруженная багами и закладками, современная Вавилонская башня рухнет под собственным весом.

Источник: vk.com

Комментарии: