«Библия», написанная искусственным интеллектом

Сможет ли ИИ скопировать стиль человеческого письма?

Именно с целью выяснить это, специалист в области квантовых технологий Джордж Дюрандаль реализовал свой проект под названием ИИ-Иисус (AI Jesus).

В нейросеть по распознаванию текста он загрузил одну из многочисленных версий Библии, после чего «цифровой Иисус» выдал несколько текстов и диалогов. Большая часть из них были сюрреалистичны (впрочем, как и говорящий куст из «книги книг»), хотя некоторые семантические конструкции получились довольно связными.

Например:

«Ибо наполню землю, которую Господь Бог твой дал тебе, чтобы вкусил ты мощь Господа Саваофа, сильного и благочестивого, повелевающего сынами мира, и обращу мое лицо к тебе, и ты будешь называться народом».

«Господин Саваоф, Бог Израилев! Когда они увидят Ангела Господня над всеми братьями, которые были в пустыне, то воины пророков устыдятся мужчин».

«И сказал он им: отправляйтесь за ним и загляните в уста всех смертных, заслуживших прощения...»

– Такие цитаты могут напугать ваших религиозных родственников, – шутит Дюрандаль.

Уже существуют нейросети и куда более прогрессивные чем AI Jesus. Одной из таких является GPT-3, предназначенная для написания текстов на основе всего нескольких примеров.

В июле этого года был проведён 2-недельный эксперимент по публикации мотивационных постов в одном студенческом блоге. За это время их успели прочитать около 26 тыс. человек, многие из которых даже не догадались, что записи блога были сгенерерированы алгоритмом. Предположения некоторых читателей, что тексты написаны специализированной нейросетью вызвали неудовольствие и возмущение у большинства подписчиков.

Несмотря на некоторые неестественные фразы (подобные ошибки может допускать и человек), записи были слишком похожими на слова какого-то мотивационного коуча. По этой причине GPT-3 нельзя найти в открытом доступе, так как на одном из этапов разработки учёные осознали потенциальную опасность подобной системы, ведь она может быть идеальным инструментом в информационной войне и т.п. манипуляций человеческим сознанием. Разработчики утверждают, что будут продавать этот алгоритм исключительно тем, кто докажет что хочет использовать его только «в мирных целях».

Впрочем, кто может гарантировать, что они будут придерживаться своих заявлений на практике?...

Что касается не примитивного ИИ, а т.н. ИСИ (искусственного «сверхинтеллекта»), то исследователь и теоретик в этой области Э. Юдковский отмечает, что этот «синтетический разум» может со скоростью света выстраивать сюжет, зондировать слабости и определять способ, которым проще всего убедить вас в чём-либо или заставить поступить именно так, как выгодно ИСИ.

Для убеждения/принуждения искусственный «сверхинтеллект» может прибегнуть к любому из способов манипуляции или их комбинаций: обман, угроза, установление доверительного контакта, подведение к необходимому выводу через «тщательное логическое рассуждение», внушение чувства вины, чувства беспомощности и т. д.

_____________________

Чтобы не стать жертвами технологического «прогресса» и, как следствие, планомерной массовой биороботизации, мы просто обязаны задуматься над тем, что даже текущие заявленные возможности искусственного интеллекта и прочих гаджетов далеко не так безобидны, как подают их прошитые адепты «счастливого цифрового будущего». А кажущаяся полезность этих алгоритмов, свободных от «человеческого фактора», является всего лишь ширмой, маскирующей цели по умолчанию.

Какие именно цели – предлагаем подумать самостоятельно.

Комментарии: