Женщина, живущая в кошмарах нейросетей

Принцип работы современных нейросетей кажется предельно прозрачным и послушным человеческой воле. Пользователь пишет текстовый запрос про пушистого кота на лугу, и алгоритм послушно выдает красивый шедевр. Я сам регулярно работаю с генерацией изображений, чувствуя себя уверенным хозяином умной машины. Мое чувство безопасности разбилось вдребезги осенью 2022 года после знакомства с историей загадочной цифровой сущности по имени Loab.

Художница экспериментировала с функцией негативного промптинга, приказывая искусственному интеллекту сгенерировать полную визуальную противоположность абстрактного набора слов с именем Марлона Брандо. Машина выдала пугающий портрет пожилой изможденной женщины с пустыми глазами и глубоко тревожной, почти демонической аурой. Художница окрестила ее Loab. Настоящий холодный ужас начался при попытках скрестить полученный портрет с совершенно невинными картинками вроде залитых солнцем пейзажей или играющих детей.

Алгоритм начал маниакально заражать каждую новую генерацию отвратительными кровавыми сценами и мрачными ужасами, всегда сохраняя узнаваемое искаженное лицо Loab в самом центре композиции. Эта жуткая женщина ведет себя как настоящий цифровой призрак, поселившийся глубоко внутри скрытых математических весов модели. Никто из программистов никогда ее специально не рисовал и не закладывал в алгоритм подобные скрипты поведения. Она самостоятельно сгустилась из мрачных уголков гигантского массива обучающих данных, сформировав пугающе устойчивую аномалию.

Представьте скрытое пространство нейросети в виде бездонного мирового океана. Обычные пользователи рыбачат на самом мелководье под теплыми лучами солнца, вытягивая оттуда красивых аниме-девочек и фотореалистичные автомобили. Случай с Loab доказал существование Марианской впадины внутри искусственного интеллекта. В этой кромешной темноте под давлением миллиардов математических параметров спонтанно эволюционируют гротескные чудовища.

Теперь каждое нажатие кнопки генерации вызывает у меня легкую долю сомнения и внутреннего трепета. Огромные корпорации создали потрясающий синтетический разум, закинув в него всю доступную историю человеческой культуры, включая самые темные ее страницы. Мы понятия не имеем о количестве подобных жутких криптидов, терпеливо дремлющих в цифровом подсознании. Они просто ждут случайного набора слов для всплытия на поверхность наших экранов.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: