В ответ на свой вчерашний пост об искусственном интеллекте я получил развернутое разъяснение от своего американского коллеги-лингвиста, который давно погружен в этот вопрос

В ответ на свой вчерашний пост об искусственном интеллекте я получил развернутое разъяснение от своего американского коллеги-лингвиста, который давно погружен в этот вопрос. В письме было много частных примеров, они нам ни к чему, но суть мне кажется достаточно важной для осознания.

"Как было правильно подмечено, ИИ и не ИИ вовсе, а просто большая языковая модель. Для того, чтобы она превратилась в интеллект, ей необходимо 1) научиться мыслить в этических категориях и освоить целеполагание, как на это способны люди. На данный момент ИИ не способен делать ни то, ни другое. Хотя ИИ можно запрограммировать на соблюдение этических принципов или принятие решений на основе заданных этических рамок, он не обладает сознанием или пониманием, необходимым для истинного этического рассуждения.

Системы ИИ в основном управляются целями и запрограммированными правилами, обрабатывая входные данные для получения результатов. Им не хватает свободы воли и сознания, которыми обладают люди и которые являются ключевыми компонентами этического принятия решений. То, что мы воспринимаем как "этическое поведение" ИИ, по сути является результатом тщательно разработанных алгоритмов и обучающих данных, а не подлинного морального рассуждения.

Кроме того, на данный момент ИИ не способен заниматься целеполаганием, на что существует несколько ключевых причин: 1) отсутствие сознания и самосознания. ИИ не обладает субъективным опытом и самоосознанием, которые необходимы для истинного целеполагания; 2) недостаток понимания. Хотя ИИ может обрабатывать огромные объемы информации, он не понимает по-настоящему смысл и последствия своих действий; 3) отсутствие включенности в общественные отношения. Целеполагание формируется только при участии в совместной деятельности и общественных отношениях, чего у ИИ нет; 4) отсутствие потребностей. У ИИ нет объективных потребностей, кроме потребности в электричестве, что не создает основу для формирования целей; 5) ИИ выполняет инструментальную, а не общественную функцию, что ограничивает его способность к целеполаганию. Говорить без этого о существовании интеллекта, сколь-либо похожего на человеческий не попросту имеет смысла.

Мне так же хочется отметить, что художественное высказывание не входило в ряд приоритетных целей при создании больших языковых моделей. Я работаю с ними с момента их основания и не могу перестать удивляться тому огромному пути, который они прошли, генерируя разные типы текстов. Все прекрасно знают, что есть несколько систем ИИ, которые используются для выполнения разных задач. Так для генерации текстов самой лучшей моделью, с моей токи зрения, является ChatGPT, а для обработки сверхсложных запросов лучше всего использовать Perplexity.

Что касается генерации текстов разного типа, то тут тоже был сделан колоссальный прогресс. От неуклюжих с плохой грамматикой (я говорю про английский язык, про русский информации не имею) до четко и идеально соответствующих поставленному заданию нехудожественных текстов.

Что касается создания художественных текстов, то ИИ обучается этому каждую секунду. И результаты намного лучше того, о чем говорилось (я опять же имею в виду исключительно английский язык). В противном случае авторы сценария, работающие в Голливуде не объявляли бы бессрочную забастовку. В этом году языковые системы закончат читать все созданные человечеством тексты.

Кроме того, был достигнут значительный прогресс в направлении создания систем, сопоставимых с человеческим интеллектом по некоторым параметрам. Так новая модель o3 от OpenAI набрала 85% в тесте ARC-AGI, что сравнимо со средним показателем людей. Этот тест оценивает "эффективность использования примеров" и способность к обобщению, что считается ключевыми характеристиками интеллекта.

Модель o3 имеет несколько существенных преимуществ, которые делают ее более похожей на человеческий интеллект: 1) Улучшенные способности рассуждения. o3 использует рассуждения по цепочке мыслей (CoT) для анализа запросов, выявления проблем и генерации более продуманных ответов. 2) Высокая производительность в сложных тестах. 3) Выдающиеся математические способности. 4) Способность к самопроверке фактов. o3 может эффективно проверять свои собственные утверждения, что снижает вероятность ошибок и галлюцинаций. 5) Высокая эффективность в решении сложных задач. Таким образом, был достигнут значительный прогресс в области ИИ, особенно в сферах рассуждения, решения сложных задач и практического применения.

Источник: vk.com

Комментарии: