«Стоит ли нам на самом деле бояться нейросетей? — спрашивает наша подписчица Елена Лукашина

«Стоит ли нам на самом деле бояться нейросетей? — спрашивает наша подписчица Елена Лукашина. — Еще пару лет назад казалось, что до достижения AGI, то есть, момента, когда модели смогут самостоятельно справляться с задачами, решению которых их не обучали, еще лет 30-40. Но сегодня Дженсен Хуанг заявил, что новая GPT-6 Astra — это уже AGI. Получается, что искусственному интеллекту мы больше не нужны? Он уже может справляться с любыми задачами без участия человека?».

Отвечает Сергей Марков —директор по развитию технологий искусственного интеллекта ПАО «Сбербанк»:

«Если какой-то инструмент может решать какие-то задачи лучше человека, значит ли это, что его следует бояться? Боимся ли мы подъёмного крана, хотя он поднимает грузы, многократно превосходящие те, которые способен поднять человек. Боимся ли мы циркуля, когда он способен нарисовать окружность точнее любого художника? Боимся ли мы калькулятора? Почему именно бояться, а не восхищаться? Не использовать для добрых и полезных дел?

Также важно понимать, что системы ИИ сегодня демонстрируют так называемый «зубчатый» интеллект (Jagged Intelligence; автор этого термина — известный специалист по ИИ Андрей Карпатый). Они легко справляются со сложными для людей задачами (например, позволили серьёзно продвинуться в решении математических задач из списка Эрдёша или в поиске решений для уравнений Навье—Стокса), однако в несложных задачках для детей из журнала «Весёлые картинки» (проведи линию, проходящую поочерёдно через груши и яблоки и соединяющую все фрукты; какая бабушка вяжет каким клубком и т. п.) часто пасуют и отстают практически от любого человека. Скажем, в момент запуска бенчмарка ArcAGI-3, с его задачами успешно справлялось 100% людей, в то время как результаты лучших моделей были <1% даже в режиме размышления. Большие модели быстро пробежали условные 80% пути до «универсального» интеллекта, но оставшийся «хвост» будет, скорее всего, решаться ещё очень и очень долго.

Ещё один важный момент заключается в том, что AGI — это довольно неформальный термин — из него невозможно сделать строгий тест на соответствие системы этому уровню. Действительно, давайте посмотрим на популярное определение AGI: «AGI — система, способная успешно решить любую интеллектуальную задачу, посильную для человека». Буквально каждая его часть определена достаточно неточно. Что значит «успешно решить»? Легко проверить правильность нахождения корней квадратного уравнения, а как насчёт задачи, скажем, написания романа? Создания картины? Люди тут не могут договориться о ценности творчества друг друга, не то что творчества машин. Что значит «посильную»? Какой ценой может быть решена задача? Например, написать программу, идеально играющую в шахматы, крайне просто — полный перебор дерева игры с гарантией найдёт лучший ход. Проблема только в том, что в большинстве позиций такая программа будет обдумывать ход многие и многие миллиарды лет. Следует ли признать AGI систему, которая способна решить любую задачу, но думать над ней будет до конца времён? Что значит «для человека» — для какого человека? Интеллект это не число из теста на IQ, интеллект это способность решать задачи, и разные люди хороши в разных задачах. Офисный работник умеет хорошо проходить тесты на IQ, а охотник-собиратель из племени масаев умеет хорошо охотиться на антилопу. Но стоит нам поменять их местами, и успехи их станут весьма плачевными. Какие именно задачи нам следует включать в набор AGI IQ? Мы знаем немало задач, в которых у современной электроники нет никаких преимуществ между человеческим мозгом, и при желании легко создаём тесты, в которых большие языковые модели проваливаются (что, конечно, отнюдь не снижает их полезности для решения тех задач, в которых они хороши). В общем, проблема в том, что термин AGI на деле размыт и превратить его в конкретный проверяемый тест не получится без доопределения.

Ну и, наконец, совсем непонятно, почему из успехов в решении тех или иных задач следует ненужность человека. Современные системы ИИ это всегда инструменты в руках людей. Они не встречаются в «дикой природе», они не обладают собственным сознанием, волей, целями, кроме тех, которые формулируют для них люди. В XIX веке художники считали, что появление фотографии может сделать художников ненужными, но мы прекрасно понимаем, что мир оказался гораздо сложнее. Само понятие «нужности» не существует без человека — нет никакого «нужно» без человека, и люди, безусловно, нужны и всегда будут нужны друг другу, просто технический прогресс приводит к тому, что многие из тех вещей, которые раньше мы делали «вручную», теперь делаются при помощи инструментов, в том числе теперь и таких сложных и универсальных, как системы ИИ».

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: