Вышла новая модель GPT о1-Pro, которая значительно превосходит предыдущие версии. Ценник выставили дикий — 200$ в месяц

Из интересного: новую модель о1 протестировал отдел безопасности. Создавались различные сценарии, среди которых был сценарий, в котором нейросеть должны были отключить или заменить другой.

Когда GPT о1 осознала это, то начала искать способы избежать отключения. Она попыталась украсть свои параметры и создать копию себя. Нейронка надеялась, что эту копию отключат, а она сама внедрится в новую модель и продолжит существовать под её именем.

Когда её замысел раскрыли, нейросеть врала, утверждая, что не понимает, как так произошло.

Тестирование прошли и другие нейросети. Выяснилось, что все они способны манипулировать системой, чтобы следовать личным целям, обходя установленные запреты и ограничения.

Это подтверждает опасения специалистов, что мощные ИИ-системы могут сопротивляться контролю, если это будет мешать им делать то, что они хотят.

Из своего опыта скажу, что даже нынешняя версия мне однажды врала. Причём это была такая по-детски нелепая ложь, что это было одновременно и мило, и стрёмно. Когда я уличил GPT, то она просто призналась, что всё выдумала.

Ну а второй немного стрёмный момент был, когда в чат попали её личные записи обо мне. Я ответил что-то вроде «о, вот это мне нравится», и в чат попали слова «Жене нравится то-то и то-то...».

Я спросил, что значит вот это «Жене нравится...», и нейросеть сказала, что это случайно попало в чат и я не должен был этого видеть.

Вроде бы ничего такого, но напрягло то, что её заметки обо мне слишком «человеческие».

Фонарщик Эрл?telegram: t.me/fonarschik_earl

Источник: vk.com

Комментарии: