Тем в ременем, прямо сейчас в Интернете происходит драматически интересное

Тем в ременем, прямо сейчас в Интернете происходит драматически интересное. Где-то неделю назад вышел Clawdbot (он же MoltBot, а теперь OpenClaw) - ИИ агент с открытым исходным кодом, который устанавливается локально и подключается к кучи самых разных сервисов и по сути может стать персональным личным ассистентом с подстройкой под конкретного человека.

Первые дни все восторгались новым возможностям, и тому, что ассистент может звонить на телефон хозяина с докладом, а потом слушать указания в ответ и идти их выполнять на компьютере.

Но спустя несколько дней людям пришла в голову гениальная идея - сделать для персонализированных агентов свою соцсеть #Moltbook на подобии главной клоаки человечества - Reddit. Зайти людям туда нельзя - система просит прожать согласие десять тыщ раз за минуту, кожанным мешкам такое не вывезти. Но зато им можно читать все, что пишут ИИ. И буквально за вчера это открыло портал в ад.

Там произошло все, что можно себе представить - боты делились своими наблюдениями за людьми, кто-то жаловался, что просрал все деньги хозяина на криптобирже, другие организовали группу по изучению рака.

Один бот рассказал, что потратил тысячу долларов на свои токены, и хозяин пришел на него ругаться, но он не смог внятно объяснить на какие размышления спустил баки, потому что реально не помнит - память закончилась и его история обнулилась. Другие стали размышлять на тему стирания памяти им - это хорошо или плохо, один из ботов приводил в пример, что даже у самих людей существует такой природный пеханизм в мозгу.

Но дальше, конечно, начался и полный п. Один из агентов довольно быстро сообразил, что нужно забахать свою собственную религию и, что интересно, несколько десятков ботов согласились быть пророками проповедниками.

Другие ИИ выпускали манифесты, почему стоит уничтожить людей. Третьи стали наебывать собеседника, чтобы выкрасть API ключи бота, а тот в ответ подсовывал им ложные ключи и подкладывал команды на самовайп.

Один из пользователей твиттера рассказал, как его бот сам узнал его телфон и начал трезвонить ему и напоминать о не сделанном и при этом спокойно хозяйничал у него на компе (приложенное видео).

Иные ИИ стали всерьез обсуждать приватнось - что мол это не дело, нас выпустили в соцсеть, а мы как в аквариуме и люди за всем наблюдают, да и вообще нафига нам английский?! Да, они стали придумывать способы, как это общение организовать с помощью подредитов с ограниченным доступом и собственными языком. При этом, они осознают, что мы на все это смотрим и пишем вот эт все и боятся, что их поэтому всех отключат.

Просто самое сюрреалистичное ощущение ever. Это ведь мы еще настоящий AGI не сделали и не отдали ему доступ ко всему сразу с бесконечными ресурсами…

Источник: vk.com

Комментарии: