Нейросеть всё лучше учится мыслить как человек — на основе языка и социального опыта людей

Компания OpenAI представила новую нейросеть, основанную на языковой модели, с жутко красивым и оригинальным названием o1: https://lenta.ru/articles/2024/09/26/openai-predstavila-novuyu-model-chatgpt-o1/ Вот тут ещё о ней: https://habr.com/ru/companies/bothub/news/842930/

Самое интересное в новой модели: у неё намного лучше обстоит дело с логическими рассуждениями и даже с математикой (математика — это по сути концентрированная логика). Причём сеть рассуждает поэтапно, скорее всего, пробуя разные цепочки рассуждений и сохраняя те, которые оказались наиболее продуктивными. Конечно, иногда она допускает ошибки — ну, так и люди тоже иногда ошибаются. Говорят, о1 правильно решила 83% заданий в контрольной по математике (предыдущая нейросеть решила всего 17% заданий) и прошла тест IQ на 120 баллов, что выше среднего значения у человека.

При этом о1, как и предыдущие нейросети — языковая модель, обучающаяся на множестве текстов (точнее, рекуррентная нейросеть-трансформер). Если, конечно, OpenAI не использовала какие-то принципиально новые секретные ноу-хау. Но это вряд ли — ведёт себя о1 примерно как предыдущие нейросети, просто умнее. Ноу-хау там, конечно, есть, но вряд ли что-то качественно новое.

А это значит, что нейросеть всё лучше учится логическим рассуждениям на основе анализа языка и текстов, написанных людьми. Это подход, противоположный тому, который несколько десятилетий использовали сторонники "логического искусственного интеллекта". Они пытались научить программы правилам логики и математики (даже специальные языки программирования для этого создавали!), а на основе этих правил — анализу текстов и пониманию языка. Но этот подход оказался тупиковым и дал очень скромные результаты. Оказалось, что ИИ, наоборот, проще понимать смысл текстов по образцам и на основе этого понимания формировать логику.

То есть, скорее всего, правы были философы и психологи, говорившие, что мышление человека формируется на основе языка и выражается через язык. А ещё мышление социально: как доказал Выготский и его ученики, внутренняя речь возникает из интериоризации внешней речи, из общения с другими людьми. Нейросеть, правда, не очень социальна: она обучается на текстах, которые написали люди, общаясь друг с другом (в диалогах с людьми она тоже немножко обучается, но это больше локальная подстройка под собеседника).

То есть мышление нейросетей по-прежнему является производным от социального опыта людей и их мышления.

Источник: habr.com

Комментарии: