Yappi Days Conf 2024

Конференция стала масштабной площадкой для обмена опытом и знаниями между разработчиками — от компаний уровня биг-тех до студентов [вроде меня ?]

Мне очень понравилась идея с параллельными выступлениями в разных залах, где действительно каждый мог найти что-то по душе. Разбирали не только разработческие темы (ИИ, ИБ, архитектура), но и руководящие (стартапы, матрицы компетенций, управление персоналом). Прикиньте, даже затронули больную тему софт-скиллов...

В последнее время тема ИИ тревожит меня всё сильнее. Поэтому я пришёл на конференцию, чтобы лично пообщаться с "акулами" мира нейронных сетей и закидать их вопросами. Собрал максимальное количество выступлений на эту тему и был искренне рад, что на этот раз так много докладов касалось именно ИИ.

Пообщавшись с разными людьми, у меня остались смешанные чувства. С одной стороны, разработчики утверждают, что полностью понимают и контролируют поведение нейронок, но, с другой, я вижу пугающие результаты исследований.

Вот пример: взяли огромное количество текстов и убрали из них всё, что касается личности, рефлексии, разума, миропонимания и т. д, а затем попросили нейросеть дать определение самосознания.

Барабанная дробь.

Она, конечно же, смогла дать определение. У создателей даже начало складываться впечатление, что нейронка определяет себя как личность и осознаёт, что происходит. Её, конечно же, немедленно вырубили. Как она, на примере котиков и собачек, вывела такие глубокие философские определения? Лично у меня мурашки по всему телу...

Ещё один интересный случай: узнал, что компания OpenAI недавно разместила вакансию "Killswitch Engineer" с зарплатой более 10K зелёных в месяц. Вкратце: это человек, который в случае выхода ChatGPT-5 из-под контроля физически должен уничтожать серверы с исходным кодом.

Страшно, не правда ли? Самое пугающее, что таких историй десятки. Куда мы катимся, непонятно... В общем, держим руку на пульсе и внимательно следим за происходящим.

А как вы думаете, выйдут ли нейросети из-под контроля и заменят ли таких прекрасных парней

Источник: vk.com

Комментарии: