Философия ИИ

Посмотрел и послушал лекцию Джеффри Хинтона. Большинству фамилия Хинтона ничего не говорит. Если коротко, он один из признанных корифеев в области развития искусственного интеллекта (ИИ).

Появилось новое развёрнутое свидетельство непосредственного участника закрытых встреч Anthropic — раввина и компьютерного инженера Моиса Навона. Оно содержит ранее не рассматривавшиеся подробности обсуждений и существенное уточнение мотивов исследователей компании.

Здесь можно провести параллель с муравейником, пчелиным ульем, коллективным разумом. Но сначала разберём, как это устроено в природе.

1. Как устроен разум муравьиного роя

Муравейник — это практически отдельная биологическая система.

В нём есть:

Задание по курсу "ИИ"

Картинка сгенерирована VeoSuno. Про тест Тьюринга помог Gigachat. Остальное все сама.

Вебсайт https://tilda.ru/page/?pageid=335490309

/

Дамы и господа! Коллеги!

/

Экономическая мысль Си Цзиньпина системно выстраивает теоретическую базу и практический путь экономического развития Китая в новую эпоху. Эта идеология, укоренённая в марксистской философии, углубляет понимание экономических законов в четырёх измерениях: материализме, диалектике, гносеологии и историческом материализме.

Природа пользуется этим трюком везде, куда ни ткни.

Секрет идеальной синхронности косяка оказался до смешного простым — рыбе достаточно следить всего за одним соседом. Это выяснили французские ученые из Национального центра научных исследований (CNRS).

Вот как я вижу устройство мира. Не истина в последней инстанции, скорее карта, которую я чертил для себя, спотыкаясь о противоречия, пока критическая масса косвенных улик не начала сходиться в связную систему. Расскажу как умею.

Всю эту неделю я в Москве и вся неделя - встречи и интервью и подкасты с самыми разными людьми. Очень содержательными и мудрыми. И один общий вопрос звучал буквально каждый день:

Становится ли создание ИИ попыткой занять место бога?

Нельзя дать этому устраивающего всех определения.

А значит и фундамента для конструктивного диспута тут... пока тупо НЕТ.

Есть люди истово придерживающиеся концепции Алена Тьюринга, который ПОСТУЛИРОВАЛ утверждение, что интеллект - это очень сложная программа (только и всего).

В США уже официально переименовали искусственный интеллект в Super Intelligence — «суперинтеллект». После принятого решения федеральные ведомства должны менять привычную терминологию в официальных документах, публикациях и других материалах.

Но зачем понадобилось менять название? И что оно должно означать?

Все беды и проблемы мира ИИ и компьютера заключаются не в том, что его создали, а в том, что его создали не те, кто понимает жизнь, кто понимает природу человека и его реальность, а те, кто понимает технику, электронику, робототехнику, программирование, математику, компьютер и ЭВМ.

Один из центральных экспертов Anthropic Яша Золь-Дикштейн, выступая перед студентами в Стэнфорде, призвал их строить карьеру исходя из того, что их специальность после диплома может уже перестать существовать из-за ИИ.

Демис в интервью отметил, что киберриски уже очевидны всем, кроме искателей «теорий заговора». Биология и даже ядерные риски могут стать следующими. Окно для создания серьёзных мер защиты открыто прямо сейчас.

Возможный захват мира искусственным интеллектом обычно представляют как катастрофу, угрожающую существованию человечества. Однако некоторые эксперты считают, что развитие сверхразумных машин может не уничтожить цивилизацию, а изменить ее к лучшему.

А вы в это верите?

Мы привыкли думать о времени как о линейной стреле: прошлое ? настоящее ? будущее. Секунды, минуты, годы. Но автор новой междисциплинарной модели предлагает взглянуть на время иначе.

В исследовании автора время предстает не как однородный поток, а как пять различных модальностей, которые существуют одновременно:

Рутинный интеллектуальный труд перестает быть сначала интеллектуальным, а потом рутинным.

Искусственный интеллект вам рассказал, дал информацию. А теперь проверьте, это правда или это глюк.

В детстве я был довольно застенчивым ботаником. В шестом классе я зачем-то начал изучать математический анализ и HTML. Тогда я делал это не потому, что мне было интересно, а потому что мне казалось, что именно этим занимаются умные люди, а я очень хотел быть умным.

Нам нравится думать, что он появился, потому что мы эволюционировали до богов. На мой субъективно-гениальный взгляд причин три, и все три ведут к одному и тому же — к страху, войне и естественному отбору. Просто в новой упаковке.

Причина первая: закончилось оружие

Автор: Якуб Пачоцки, главный научный сотрудник OpenAI

Смысл — это что-то, что нужно найти, или то, что нужно создать?

В новой междисциплинарной модели пространства-времени этот вопрос получает неожиданный ответ.

Мы часто думаем об этике ИИ как о наборе правил: «не дискриминируй», «будь прозрачным», «не навреди». Но за каждым из этих пунктов стоит психология - потому что вред, доверие и справедливость ощущаются людьми, а не алгоритмами.

Вот как именно психология «оживляет» этические принципы:

В 2012 году на анонимном форуме появилось крайне странное изображение черной цикады. Автор поста искал людей с исключительно высоким интеллектом и предлагал найти скрытое послание прямо внутри этой картинки. Так стартовала самая масштабная и пугающая криптографическая игра в истории человечества.

Пару-тройку дней назад в треде под моим постом о неоднозначностях науки и научной методологии ув. Владимир Чернявский указал мне на любопытную книжку философа Александра Шадова "Сумма Антисциентизма" и спросил, что я думаю на её счет. Мне кажется, этот труд заслуживает отдельной рецензии.