Профессор Джон Нотон: «Сверхинтеллектуальные машины уже среди нас»

МЕНЮ


Главная страница
Поиск
Регистрация на сайте
Помощь проекту
Архив новостей

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


В колонке для The Guardian автор книги «От Гутенберга до Цукерберга» Джон Нотон утверждает, что «сверхинтеллектуальные и недружественные человеку машины уже здесь». Это не искусственный интеллект, а корпорации.

В серии радиолекций для ВВС профессор Стюарт Рассел из США процитировал высказывание Алана Тьюринга, сделанное им в 1950 году в работе «Вычислительные машины и разум»: «Как только появится метод машинного мышления, ему не потребуется много времени на то, чтобы превзойти наши ничтожные способности. Следовательно, на каком-то этапе следует ожидать, что машины возьмут власть». Эта мысль была еще более настойчиво озвучена Ирвингом Гудом, коллегой Тьюринга: «Первая сверхинтеллектуальная машина будет последним изобретением, которое нужно людям, конечно, если машина будет достаточно послушной, чтобы рассказать, как нам контролировать ее».

Разработчики ИИ строят машины, давая им четкие цели и оценивая их по степени успешности в достижении этих задач. Для лаборатории это неплохо, но когда речь заходит о практическом применении в реальном мире, мы не в состоянии полностью и корректно описать задачу. Тем временем, корпорации продолжают создавать все более способные, беспощадные и однозадачные машины, размещая их в критически важных сферах человеческого общества.

Стюарт Рассел отмечает, что если разработка ИИ продолжится в том же направлении, будут созданы сверхинтеллектуальные машины, которые воплотят этот антиутопический кошмар. Разумеется, представители ИТ-индустрии и некоторые коллеги высмеивают такой взгляд как алармистский и беспочвенный. Как пошутил один из них, беспокоиться о сверхинтеллекте следует в той же мере, что и о перенаселении Марса.

Однако, по мнению профессора Джона Нотона, мы уже живем в таком мире. Те самые ИИ, которых следует бояться, называют себя корпорациями. Они определенно достигли уровня сверхинтеллекта, поскольку коллективный IQ их сотрудников превосходит интеллект обычных людей и членов правительств. У них огромный капитал и масса ресурсов. Продолжительность их жизни превосходит срок жизни всякого человека. И они существуют ради выполнения единственной цели — увеличения стоимости своих акций. Ради этого они будут делать что угодно, вне зависимости от этических соображений и сопутствующего ущерба обществу.


Источник: www.theguardian.com

Комментарии: