Дегенеративный интеллект. Продолжение серии [отравленные данные]

Есть заблуждение, что нейросети сделаны по подобию и моделируют работу мозга.

Однако, давай глянем на общеизвестный список проблем языковых моделей:

— галлюцинации;

— бессвязный бред

При длительном обучении начинается коллапс модели:

– катастрофическое забывание первоначальных данных;

– не забывает, но неверно интерпретирует реальность, усиливает свои заблуждения

Вам это ничего не напоминает?

Деменция. Шизофрения.

Некоторые спецы из области ИИ сравнивают поведение нейросетей с работой «расщепленного мозга» — это, когда хирургически перерезана связь полушарий.

Есть и другие удачные метафоры из области психиатрии и психопатологии.

Например, у нейросетей отсутствует критичность и нормы морали — поведение психопата-беспредельщика. Ей не стыдно и не жалко, и не холодно.

Похоже, что ИИ хорошо моделирует и воспроизводит именно болезни мозга, а не работу мозга.

Если человек деградирует до этого состояния, то нейросети рождены в нем,

математически.

Как это касается каждого из нас лично, даже вот тебя конкретно — в след постах.

ПС. Колокольчик уведомлений где-то на странице профиля.

Источник: vk.com

Комментарии: