Полуторачасовая беседа Цукерберга с Ювалем Ноем Харари

Полуторачасовая беседа Цукерберга с Ювалем Ноем Харари ("Sapiens", "Homo Deus", "21 lessons for XXI century") о проблемах нынешней технологической революции.

Харари меньше говорил, а больше слушал, зато задавал Цукербергу неудобные вопросы об опасностях для человечества, связанных с развитием больших ИТ-корпораций, искусственного интеллекта и всеобъемлющего сбора данных об интернет-пользователях. Цукерберг изворачивался как мог, осторожно маневрировал между имиджем понимающего все риски продвинутого вдумчивого мыслителя и расхваливающего собственную корпорацию предпринимателя, умело сменял тему в сложные моменты, но всё равно по итогу его аргументы смотрелись намного менее убедительно. Но дискуссия получилась захватывающая.

Если неудобно смотреть видео, можете почитать в текстовом формате: fbnewsroomus.files.wordpress.com/2019/04/transcript_-marks-personal-challenge-yuval-noah-harari.pdf

Два главных опасения Харари остались неотвеченными:

(1) что будет, если тоталитарные режимы будут использовать ИИ и тотальную слежку со сбором данных о гражданах для их тотального контроля и максимизации эффективности госаппарата с помощью ИИ и big data? Такими темпами тоталитаризм может победить во всём мире, и он будет намного страшнее и непобедимее, чем Гитлер, Сталин или Брат из "1984" - потому что можно будет манипулировать людьми с помощью ИИ, знающего предпочтения каждого человека лучше, чем он сам. Большинство граждан будут искренне любить "Большого Брата", никакие пытки не понадобятся.

(2) над демократическими странами тоже висит явная опасность. Уже сейчас можно с помощью ИИ (например, алгоритмов Фейсбука) влиять на человека в самых разных аспектах: от его выбора кандидата на выборах до принятия решения вступить в секту, движение антипрививочников или клуб сторонников теории плоской Земли. С годами нами будет только проще манипулировать (ИИ будет совершенствоваться, а объём собранных о нас данных - возрастать), и свобода воли будет превращаться во всё бОльшую фикцию.

Мне сложно поверить, что Цукерберг ведёт нас в светлое будущее. Он говорит о приоритете свободы слова, но его соцсеть банит за "хейт-спич" всех подряд. Говорит, мол, главное - чтобы всесильные технологии были в руках у компаний и стран с благими ценностями, при этом очевидно, что для него и других топ-менеджеров Фейсбука главная ценность - деньги и власть (почитайте слитую переписку, которую я публиковал на "Мастридах": tlg.name/mustreads/1819). А для Трампа - тем более. В этом все они не сильно лучше китайского правительства (просто в США работает система сдержек и противовесов, а в Китае её нет).

Конечно, в ближайшее время говорить обо всех этих темах будут всё больше и больше. Чего только стоит нынешняя дискуссия на страницах NY Times о необходимости разделить Фейсбук на несколько компаний - см. последний пост на "Мастридах": tlg.name/mustreads/1980

Комментарии: