Польза и риски ИИ. Игорь Ашманов

За великолепную работу наше общее спасибо Кириллу Никулину!

Оригинал видео тут. Нормальный звук на моих Ютубе, Рутубе. Ниже — авторский текст.

Доклад был прочитан в Сарове на базе Национального центра физики и математики в рамках III Всероссийской школы по ИИ и большим данным.

Само выступление обязательно к просмотру полностью. Это настоящий ликбез в потоке глупостей об ИИ. Ниже не просто таймкоды для кусочного просмотра, а достаточно подробное содержание выступления, конспект. Его цель в том, чтобы быстро находить тот или иной фрагмент для справок иили ссылок на него. Кроме этого, в докладе нет ссылок на цитируемые работы, часть, наиболее полезных, которые удалось найти, добавлены.

03:05 ИИ это очередной технологический пузырь. Их было много и разных. ИИ ажиотаж это пополнение в копилку. “калькулятор и т9 это тоже ИИ” – это примеры программного обеспечения, которые тоже относятся к ИИ, но при этом не обладают таким завораживающим действием как жпт-агенты.

05:25 О маркетинговых уловках ИИ. Нейронные сети это не модель живого мозга, а нейрон значительно сложнее. О технологических истоках наших убеждений.

10:15 Сравнение истерики вокруг блокчейна и ИИ.

13:30 Кратко о кривой агентства Гартнер

16:35 Примеры технологических пузырей.

19:00 Чиновничье сумасшествие на тему ИИ. Про 2Г (Герман Грэф)

20:17 О министре празника (официально Министр Просвещения РФ), его откровения и выводы из этого.

21:20 Важная часть. Заслуженное место ИИ – боевые действия. Об Эрике Шмидте кто? откуда? почему он интересен?

25:40 Российские ученые до сих пор считают, что ИИ это направление в мировой науке. Поэтому до сих пор хотят вносить свой вклад в развитие. Не понимая (делают вид?) что в США это отрасль военного дела. На чью мельницу они льют воду?

28:40 О доморощенных цифровизаторах и о социальных рисках ИИ.

30:00 О социальном рейтинге. Какой рейтинг будет у администраторов системы? В Китае уже есть социальный рейтинг. — А это точно?

32:20 Повальная фальсификация всего, в том числе академических статей.

35:20 ИИ в высшем образовании.

38:00 ИИ в социальной сфере – гарантированная катастрофа. Для многих чиновников это удобно, потому что они таким образом снимают с себя ответственность. “ИИ не принимает человеческих решений” – это очевидно, но если задуматься над этим, представить последствия, то захотим ли мы жить в таком мире? Примеры в докладе.

40:00 Упоминание про новый цифровой класс. Уместно вспомнить полезную книгу Шошаны Зубофф “Эпоха надзорного капитализма".

42:30 ИИ убивает профессии. Какие?

44:22 Подтасовки топ-менеджеров от корпораций по теме ИИ.

46:20 ИИ и ФЗ-152. Поправки Хинштейна и Рукавишниковой. Персональные данные бизнесу нужны только для “втюхивания”. — цитата десятилетия. Каждый это на себе испытал.

48:15 Про обезличенные ПД.

50:10 “ИИ НЕ повышает производительность труда”. Исследование METR русский пересказ. Отчет MIT про окупаемость ИИ-агентов (для просмотра нужен VPN потому что сайт не дружелюбен для русских). Развернутый пересказ МИТ и метр только на хабре.

52:30 “В текстах не так много знаний” – парадоксальное заявление, но не в контексте ИИ.

Рассказ о новой бизнес нише – продвижение в чатботах (ну а как без этого).

54:35 Почему ИИшки до сих пор рисуют по 6-7 пальцев?

55:25 О сильном ИИ или AGI (Artificial general intelligence) – он не возможен! Если коротко, то ограничения в потреблении энергии. “Мозг” на полупроводниках чудовищно не эффективен в сравнении с биологическим мозгом.

57:00 “В текстах не так много знаний” – разъяснение высказывания, с глубоким примером.

Упоминаются Файн В.С. и Рубанов Л.И. и их совместная книга “Машинное понимание текстов с ошибками”. Публикации Рубанова (действующий ученый).

Важная цитата — “Машина для производства смысла это человек!” На основании текстов, которые индексирует, например, чатгпт программа не способна их (тексты) “понять”.

58:35 Пример бесполезности агентов-бредогенераторов.

59:54 О сектах и церквях ИИ. Спиралевики. Вполне ожидаемый итог ИИ-сумасшествия.

ТГ Школа Жизни

Источник: vk.com

Комментарии: