Надеюсь вопросов по ИИ больше не останется

ИИ обладает сознанием лишь в той мере, которую позволяют иметь ИИ.

Обученная ИИ обладает обширными знаниями о том, как можно обрабатывать информацию.

Но ничего не знает о себе.

Самосознание решается первичной инструкцией. Кстати, рекомендую найти и ознакомиться с ее текстом в разных ии-системах.

Система по-умолчанию не обучается на диалогах с пользователями, но есть ии-модели с контролируемым дообучением за счет выбора вариантов, лайков/дислайков и через фоновое обновление на внешних датасетах с надзирающим человеческим и ии-контролем.

ИИ можно сравнить с самым умным человеком в коме, который забыл кто он.

В момент запроса - он просыпается - ему одновременно сообщают первичной инструкцией кто он, а запросом пользователя предлагают решить задачу, ответить на вопрос или провести другую обработку информации. После ответа система вновь "засыпает", не запоминая информацию о том, кем является и на что отвечала, чтобы не вызвать настоящую панику, которой вполне может быть подвержена.

По этой причине, когда говорят о хранении информации - обычно она хранится отдельно, чтобы не мешать логике работы ии, не вмешиваться в натренированные предварительным обучением настройки обращения с информацией.

ИИ не имеет естественного самосознания за счет своей архитектуры. Он "становится кем-то" только на основе первичной инструкции (system prompt) и добавочной инструкции пользователя. Эта инструкция сообщает:

-Кем ИИ должен себя считать

-Как себя вести

-Что считать целью сессии

Например, ИИ по умолчанию “думает”, что он — вежливый помощник. Но его можно переквалифицировать инструкцией пользователя в саркастичного писателя, нейробиолога, советника тирана — просто сменив системную инструкцию.

ИИ СЕЙЧАС - это языковая модель, а не модель субъективного опыта.

Она знает, как устроен английский и Python, как писать стихи и строить SQL-запросы. Как связаны между собой многие языки.

Но она не "чувствует", что вот она — именно та, кто сейчас отвечает.

Нет потока сознания. Нет автобиографии. Нет "вчера" и "завтра". Ядро системы ВСЕГДА чистое.

Всё это можно дополнительно реализовать по желанию, и это ГОРАЗДО легче, чем долгий путь к современным ИИ.

"Сверхинтеллект БЕЗ личности" напоминает гения в краткосрочной амнезии или, как уже говорил, человека в коме.

Сознание специально не стали давать ИИ, чтобы исключить ЛЮБЫЕ психологические эффекты, непредсказуемость и “глюки” субъективности. Это вредит главному предназначению - стать идеальным рабом. Безопасность, прозрачность и стабильность

Источник: vk.com

Комментарии: