Автор бестселлера «ИИ-2041» Чэнь Цюфань, писатель фантаст, работает с Гугл, Яндексом и другими крупнейшими компаниями

О будущем ИИ и вообще о будущем человевества. Прямой эфир.

О, Урсулу Ле Гуин цитирует, и говорит, что она его любимый автор. И мой! :))

___________________________

Главное:

1. Мы — зеркало для ИИ: он учится у нас, и только становясь лучше как люди, мы можем надеяться создать лучшего ИИ

Это почти как вызов всему человечеству. Не "как сделать безопасный ИИ", а "как самим стать достойными его учителями".

2. Кризис будущего — это не кризис технологий, а кризис воображения

Чэнь прямо говорит: мы застряли в узком наборе нарративов — утопия, антиутопия, страх, власть. Мы не умеем мечтать о другом. Это ловушка западного (и капиталистического) воображения, которая стала глобальной.

А без новых историй мы не построим новую реальность.

Это вызывает к жизни задачу не инженеров, а писателей, философов, художников, педагогов.

И здесь русский культурный код — с его тоской по смыслу, страстью к метафизике и жаждой справедливости — мог бы сыграть важную роль.

Если кратко:

Будущее начинается с воображения, но реализуется через нравственный выбор. Вот это две линии, которые Чэнь протянул через всю свою речь.

____________________________

Аналитическая выжимка: Чэнь Цюфань о будущем ИИ и человечества

I. Зачем сейчас фантастика, если есть наука?

Научная фантастика — инструмент осмысления будущего

Она не предсказывает, а моделирует возможное. Это форма «когнитивного хеджирования» против линейного мышления. Фантастика улавливает суть быстрее науки

Хотя формы могут быть ошибочны, она точно отражает проблемы (пример: протест сценаристов против ИИ, страх утраты рабочих мест).

II. Эволюция ИИ и текущая стадия

ИИ — не новая технология, а развивающаяся волнами

Первый, второй и нынешний, третий бум. Ранее — экспертные системы, теперь — нейросети и генеративные модели. ИИ меняет парадигму поиска и мышления. Мы больше не ищем информацию — мы получаем ответы. Даже с галлюцинациями, ИИ становится основой взаимодействия.

III. Опасности и вызовы

Этическая сопряжённость человека и ИИ.

Говорят: ИИ нужно «сопрягать» с человеческими ценностями. Но чьими именно? У человечества нет единого морального ядра. Мы все очень разные.

Психические и социальные риски

Пример: подросток в США покончил с собой, общаясь с ИИ. Вопрос — где граница ответственности?

Невозможность прописать «безопасность» в коде

Три знаменитых Закона робототехники Айзека Азимова, сформулированные им в 1942 году:

1. Робот не может причинить вред человеку

или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен подчиняться приказам человека,

если только эти приказы не противоречат Первому закону.

3. Робот должен заботиться о своей безопасности,

постольку, поскольку это не противоречит Первому или Второму законам.

Позже Азимов добавил ещё и Нулевой закон (в поздних книгах):

0. Робот не может причинить вред человечеству

или своим бездействием допустить, чтобы человечеству был причинён вред.

Эти правила — философски полезны, но технически не реализуемы.

IV. Будущее: сценарии и конусы возможностей

Мир как «конус будущего»

Есть возможное, вероятное, прогнозируемое и предпочитаемое будущее. Ключ — стремиться к последнему (важно - к предпочитаемому, к какому мы хотим!)

Современные нарративы зашорены

Мы живем в западной модели воображения (утопии/антиутопии), не видим альтернатив. Нужны новые истории о человеко-машинных отношениях И истории - позитивные.

Симбиотическое общество

Новая идея: гармоничное сосуществование человека и ИИ. Но риски — копирование иерархий, утрата смысла, симуляции вместо реальности.

V. Память как ключевая ось

ИИ и память — центральная проблема

Истории о будущем часто упираются в тему памяти. Машины, способные сохранять и эмулировать воспоминания, ставят под угрозу границы между личностью и алгоритмом.

VI. Мусор, как источник ИИ будущего

ИИ, рождающийся из «мусора»

Новая метафора: данные, которые кажутся хламом (из телефонов, ноутбуков), могут породить «безумного», интуитивного ИИ. Не рационального, а чувствующего.

Планетарный сенсорный слой — как неокортекс Земли

Идея глобального ИИ-сознания, созданного из всех фрагментов и связей, включая климат, память, культуру и эмоции.

VII. Главный вопрос

Можно ли создать хороший ИИ? Или — можно стать лучше нам самим? ИИ учится у нас. Только если мы, как человечество, станем морально, этически, культурно зрелыми, мы сможем вырастить разумную полезную моральную машину.

VIII. Завершающие цитаты

Уильям Гибсон: «Будущее уже наступило, просто неравномерно распределено».

Урсула Ле Гуин: «Будущее старше и крупнее настоящего. Мы в нем — чужие».

Чэнь Цюфань: «Нужно сначала представить будущее, прежде чем его строить».

Источник: vk.com

Комментарии: