ИИ уже понимает и осознает |
||
МЕНЮ Главная страница Поиск Регистрация на сайте Помощь проекту Архив новостей ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ ИИ теория Внедрение ИИКомпьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2022-11-04 03:13 Ошарашивающие выводы двух новых работ. Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми. • Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием: если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5 • Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки: если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7 В таком пространстве возможных разумов: — кирпич, пчела, осьминог, кот и человек расположатся так — а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так Теоретически возможно создание искусственного разума человеческого типа (AGI). Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок): — от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого … — до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …) Возможные варианты AGI по степени человекоподобия могут быть в диапазоне: — от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса») — до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»). А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам. Теперь о двух новых работах. 1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic 2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам. Вывод 1. Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются. • Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля. • Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга. Вывод 2. Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию • Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания. • Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом). • Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин. Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана: «Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами». (Сергей Карелов) Источник: vk.com Комментарии: |
|