«Вы даже не представляете масштабы катастрофы» — Роман Ямпольский о сверхинтеллекте

Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс?

Разговор с Романом Владимировичем Ямпольский, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности.

В выпуске:

— Когда может появиться сверхинтеллект и что сможет его остановить?

— Кто несёт ответственность за решения, принимаемые ИИ?

— Какие сценарии будущего человечества возможны после появления сверхинтеллекта?

— Можно ли контролировать систему, которая умнее нас?

— Существует ли риск утраты контроля над ИИ?

Таймкоды:

00:00 Вступление

01:40 Мы записали подкаст на двух языках

02:09 Скептицизм вокруг ИИ

04:35 Ограничения ИИ

06:27 Когда случится опасный для человечества переход?

08:19 Главная опасность ИИ

09:37 ИИ пытался избежать отключения

11:39 Когда ИИ пытался соврать?

12:15 Мы вошли в технологическую сингулярность?

13:42 Когда ожидать появления AGI?

15:04 Polymarket — индикатор того, что событие случится?

16:19 Что почувствуют люди при появлении AGI?

17:37 Человечеству осталось несколько лет?

19:35 Какие профессии исчезнут и НЕ исчезнут?

20:20 Какой мотив у создателей ИИ?

22:20 Ограничений ИИ не ждать?

24:10 Ядерное оружие сравнимо с ИИ?

25:09 Контроль не будет сохраняться?

27:08 Другие цивилизации должны создать ИИ?

30:11 О гипотезе симуляции

31:01 Мы живём в симуляции?

33:07 Когда могла быть запущена симуляция?

33:43 Как спокойно реагировать на будущее?

34:37 Как отодвинуть дату смерти человечества?

35:32 84% людей не использовали ИИ

37:36 Лучшие инженеры не должны создавать оружие?

39:21 Отделы безопасности ИИ в компаниях

40:17 Вариант будущего от Илона Маска

41:38 Будущие соревнования без ИИ

42:07 ИИ может всё испортить

43:17 С какой вероятностью ИИ нас уничтожит?

45:03 Борьба между ИИ

46:40 Контракт OpenAI с Пентагоном

47:56 Есть ли сознание у Claude?

49:29 Страдания ИИ-агентов

52:19 Реакция учёных из 2000-х на ИИ

54:18 Возможен ли квантовый компьютер?

55:46 Гипотеза микротрубочек и нейроморфные компьютеры

56:22 У нас осталось 2 года до точки невозврата?

57:54 Есть ли лучик надежды?

58:57 Подписывайтесь, оставляйте комментарии

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: