ИИ стал угрожать основам науки и образования

Двадцать пять (!) лауреатов медали Филдса (высшая международная награда для математиков) опубликовали открытое письмо об угрозе искусственного интеллекта (ИИ) для математической науки и вообще науки и образования. Как же так? Ведь ИИ, как утверждают его адепты, как раз помогает изучать точные науки. Ученые же уверены в обратном. Подробнее — в материале Накануне.RU.

Филдсовская премия присуждается раз в четыре года на Международном математическом конгрессе молодым ученым (не старше 40 лет). Это люди, которые достигли выдающихся результатов в математике и точно знают, что это такое. Почему они заговорили об угрозе ИИ для математической мысли? Они отмечают, что само стремление компаний, занимающихся ИИ, использовать математические задачи в качестве эталона наносит ущерб математике. Их цели сильно расходятся с целями математического сообщества. И проблема не только в математике, но и в науке и обществе в целом, которые ИИ-подход сильно искажает.

"В последние месяцы успех ИИ в решении основных математических задач попал в заголовки газет даже за пределами математических кругов", — признают ученые.

Например, недавно стало известно, что ИИ решил одну из семи "задач тысячелетия" — уравнения Навье-Стокса, которые описывают движение жидкостей и газов. Для этого потребовались усилия около 10 тыс. ИИ-агентов, которые в разных группах одновременно работали в течение почти 100 часов. Задача состоит в том, чтобы установить, всегда ли их трехмерные решения остаются гладкими или в них может за конечное время возникнуть сингулярность — например, скорость может стать неограниченной. ИИ удалось доказать, что при некоторых условиях может возникнуть сингулярность. Правда, еще все это предстоит проверить, но результат уже вызвал переполох в научном мире.

А вот что об этом думают выдающиеся математики.

"Решение задач — это всего лишь инструмент для достижения основной цели — концептуального понимания. Забвение этого в мире ИИ может обернуть инструмент против основной цели. Массовое производство все более и более быстрых утверждений типа "правда/ложь" может разрушить плодородную почву, вместо того чтобы вдохнуть жизнь в новые идеи. Часто эти решения объявляются в спешке, не оставляя времени на тщательное изложение, выделение новых методов и идей и цитирование соответствующих предыдущих работ других людей. Без заинтересованных математиков, которые должны заботиться об их развитии и интеграции в математический канон, идеи, созданные ИИ, никогда бы не воплотились в жизнь в полной мере, и важнейшая цепочка передачи знаний между математиками была бы утрачена. Мы являемся свидетелями общей угрозы интеллектуальному труду, связанной с несоответствием результатов использования ИИ его первоначальной цели. <...> Проблемы, с которыми сталкивается сейчас математическое сообщество, схожи с проблемами, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество: как сделать так, чтобы, когда ИИ изменит способ выполнения работы, мы не теряли из виду того, чего эта работа должна была достичь в будущем?" — подчеркивают ведущие математики мира.

Иными словами, ИИ ставит проблему не столько технического, сколько концептуального характера — зачем все это нужно и как оно будет использоваться. Почему бы не провести параллели с ядерным оружием? Когда оно было создано, первым же вопросом встал следующий: а готово ли человечество к обладанию им? Еще Альберт Эйнштейн (и многие другие ученые) высказывал серьезные опасения техническим прогрессом без моральных ограничений.

Применительно к математике и математической мысли можно привести простой пример того, в чем разница между подлинным математическим мышлением и результатами мощных компьютерных вычислений. В том, что они полезны, спору нет. Но вот пример. Сначала нужно вычислить квадратный корень из двух. Компьютер может вычислить его с точностью до любого, самого умопомрачительного количества знаков после запятой. И если затем это число возвести в квадрат, можно убедиться в том, что оно будет бесконечно близко к двум. Если ничего не знать и опираться только на численные результаты, из этого можно сделать "открытие". Однако оно прямо вытекает из самого определения квадратного корня. Конечно, в памяти компьютера это действие, в отличие от старых калькуляторов, хранится, так что результат точно будет равен двум. Но сам пример показывает, что вычислительная мощь, какой бы огромной она ни была, и мышление — это не одно и то же.

Еще более это проявляется, когда дело касается человеческого сообщества. Количественный результат — это не всегда цель. А пресловутая эффективность — не идол.

Старший научный сотрудник МФТИ, лауреат премии "Молодая математика России", доктор физико-математических наук Илья Иванов-Погодаев говорит, что нейросети действительно совершили огромный рывок. Теперь задачи Международной олимпиады платная версия ChatGPT полностью решает за полчаса-час.

"Машина хорошо решает технические задачи в рамках шагов, которые часто делали люди. И делать их она теперь умеет гораздо лучше людей. Буквально за недели и месяцы может что-то произойти, что изменит мир навсегда", — считает математик.

Но уже первые калькуляторы считали гораздо быстрее людей. Проблема скорее не в возможностях ИИ, а в том, как их воспринимать. И здесь лауреаты премии Филдса прямо указывают на образование — передачу знаний от поколения к поколению. Этого ни в коем случае нельзя утратить. ИИ же этому мешает, потому что сплошь и рядом сегодня от детей можно услышать, что ИИ все знает лучше взрослых, поэтому их можно не слушать.

Природа человека не изменилась за тысячи лет. А человеческая социальность мгновенно коррумпирует ту сферу, где внедряется ИИ, говорит разработчик ИИ Игорь Ашманов. Так, если можно схалтурить, это и произойдет и уже происходит там, где внедряется ИИ. Об этой проблеме говорят все чаще. Теперь заговорили даже выдающиеся математики.

Телеграм: t.me/ainewsline

Источник: www.nakanune.ru

Комментарии: