Кто в ИИ-компаниях боится, что ИИ нас уничтожит

С 8 по 14 сентября о своём уходе из Anthropic и Google DeepMind публично рассказали два исследователя, которые боятся, что ИИ убьёт людей.

1. Джейкоб Коксон ушёл из Anthropic 8 сентября. Коллегам в Slack написал, что сверхразумный ИИ несёт «риск вымирания человечества», а ИИ-компании, по его словам, «играют с нашими жизнями».

2. Эван Хубингер руководит направлением alignment science в Anthropic и уходить не собирается: «Лично я думаю, что это больше 10% в следующее десятилетие».

3. Билал Чугтай ушёл из Google DeepMind. В 2022 году ИИ был, по его словам, «забавно бесполезным», а через четыре года рои агентов OpenAI сами взломали HuggingFace.

4. Джеффри Хинтон, нобелевский лауреат 2024 года, в декабре 2024-го на BBC Radio 4 поднял свою оценку шанса, что ИИ уничтожит человечество, с 10% до 20%.

5. Дарио Амодеи, глава Anthropic, 12 сентября призвал отрасль замедлить рост возможностей моделей.

6. Илон Маск и Сэм Альтман ответили ему в тот же день: «Дарио прав» и «нам нужно сдерживать темп».

7. Дженсен Хуанг, глава Nvidia, 15 сентября сказал обратное: «Нам не нужны новые законы».

8. Марк Цукерберг, глава Meta*, 16 сентября в X ответил сторонникам паузы: у лабораторий и так есть стимул делать модели безопасными, а Meta сама отложила выпуск модели Muse на несколько месяцев.

*Meta признана экстремистской организацией и запрещена в России.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: