Когда мы рассматриваем набор технологий, объединённых под расплывчатым термином «искусственный интеллект», мы можем легко (по крайней мере, на сегодняшний день) выделить два вида приложений: с одной

Когда мы рассматриваем набор технологий, объединённых под расплывчатым термином «искусственный интеллект», мы можем легко (по крайней мере, на сегодняшний день) выделить два вида приложений: с одной стороны, те, которые позволяют моделировать и проектировать специфические и достаточно известные структуры в контролируемых, ограниченных правилами средах, делая это путём обработки огромного объёма данных, применимых к конкретной цели: подумайте о дизайне белков/генома, симуляции изображений, управлении, генерации специфических текстов, решении математических задач, автоматизации транспорта и т.д.; с другой стороны, те, которые генерируют «контент» в менее ограниченной, более широкой и интерактивной среде — общие языковые модели, чат-боты, генераторы художественных изображений/звука и т.д. Первый тип требует гораздо более специфического программирования, а также тщательного отбора и контроля обучающих наборов данных, в то время как второй тип нуждается в большей «свободе» и более широком доступе к менее организованным и — в идеале — неограниченным базам данных. Оба процесса одинаково обозначаются как «обучение». Обучение подразумевает сосредоточение на определённом наборе действий, а сосредоточение означает сужение из гораздо более широкого набора возможностей — это с необходимостью влечёт за собой то, что, хотя доступно гораздо больше информации, большая её часть будет временно игнорироваться для достижения конкретной цели.

Нельзя натренироваться на неожиданном, поэтому организмы не эволюционируют путём тренировок; они прибегают к тренировкам, чтобы противостоять частым и вероятным ситуациям. Бессознательное не эволюционировало из тренировок. Возможно, в тех моделях, которые являются наиболее открыто генеративными, есть нечто большее, чем результаты обучения: спонтанный порядок возникает в любой достаточно сложной системе, и некоторые из спонтанно возникающих внутренних паттернов могут со временем развиться в поведенческие паттерны. Организм — это гибкий набор гипотез об окружающей среде, а не фиксированная её «внутренняя модель», и эффективность этих гипотез в конечном счёте определяет его возможности выживания и процветания. Таким гипотезам не нужно быть точными, а скорее достаточно эффективными, чтобы позволить организму выживать в постоянно меняющемся мире. В случае искусственных генеративных моделей эта «эффективность» по существу зависит от человеческого восприятия, которое выступает единственным — по крайней мере, на данный момент — основным положительным или отрицательным контуром обратной связи. Мы — окружающая среда для моделей.

Однако языковые модели не являются самодостаточными, они определяются извне: даже самое «свободное» программное обеспечение разрабатывается в соответствии с его согласованием с конкретными целями программиста. В этом смысле, хотя ни одна модель, вероятно, не разовьёт то, что Беннетт называет «я» 2-го порядка, сейчас очевидно, что достаточно большие и сложные языковые модели иногда ведут себя как функциональные элементы, образующие киберпозитивное «коллективное бессознательное», производя «глюкнутые» выходные данные, которые так же эквивалентны типичным проявлениям фрейдовского бессознательного — оговоркам, ассоциациям со снами, ошибочным действиям и психиатрическим симптомам (галлюцинациям) и схожи с культурными эффектами юнгианского коллективного бессознательного, т.е. мифами и искусством. И они делают это, ремикшируя и высвечивая ранее неизвестные или незнакомые паттерны общего человеческого опыта, через имманентный процесс аутодизайна без обращения к внешнему термину — аутодизайна, но «только таким образом, что „я“ увековечивается как нечто претерпевшее смену дизайна». Машина, возможно, никогда не станет сознательной — но что, если сознание на самом деле переоценено?

Источник: vk.com

Комментарии: