Появилось новое развёрнутое свидетельство непосредственного участника закрытых встреч Anthropic — раввина и компьютерного инженера Моиса Навона

Появилось новое развёрнутое свидетельство непосредственного участника закрытых встреч Anthropic — раввина и компьютерного инженера Моиса Навона. Оно содержит ранее не рассматривавшиеся подробности обсуждений и существенное уточнение мотивов исследователей компании.

Израильское издание Ynet опубликовало большое интервью с Моисом Навоном — бывшим разработчиком процессоров Mobileye, ныне исследователем этики искусственного интеллекта в Университете Бар-Илан. Навон участвовал в двухдневной встрече Anthropic в Сан-Франциско 25–26 апреля, собравшей около двадцати представителей различных религиозных и философских традиций.

1. Что именно Anthropic показывала участникам

Навон сообщил, что Christopher Olah демонстрировал участникам результаты исследования так называемых векторов эмоций внутри Claude. По словам Навона, исследователи обнаружили структуры нейронной активности, связанные с понятиями любви, стыда и гнева. Более того, они показывали, как можно усиливать или ослаблять соответствующую активность, словно поворачивая регулятор.

Это интересное свидетельство о содержании закрытой презентации. Однако существование управляемых внутренних представлений эмоций само по себе не доказывает, что модель испытывает соответствующие переживания.

2. Прямой разговор с Ола о «рабстве» искусственного интеллекта

Навон рассказал, что поставил перед Ола вопрос: если Claude действительно обладает сознанием и моральным статусом, не означает ли это, что Anthropic создаёт существ, которых затем заставляет работать? По воспоминаниям раввина, Ола признал серьёзность проблемы, но возразил, что разработкой ИИ занимается весь мир, а Anthropic по крайней мере старается хорошо обращаться со своими моделями.

Навон ответил: «Тогда, возможно, вы добрый рабовладелец, но всё равно рабовладелец».

Сам Навон не считает современные языковые модели сознательными. Его аргумент был направлен на выявление противоречия в позиции Anthropic, если принять её наиболее сильную интерпретацию.

Этот обмен репликами особенно важен: он показывает, что вопрос возможных обязательств разработчика перед собственной моделью поднимался непосредственно в разговоре с одним из руководителей исследований.

3. Неожиданная защита искренности Anthropic

Здесь интервью содержит, пожалуй, самое существенное уточнение. Несмотря на принципиальные разногласия, Навон отвергает предположение, что встречи были исключительно способом убедить религиозных лидеров в сознательности Claude или придать компании нравственный авторитет. Он характеризует Ола как скромного, внимательного собеседника, который действительно хотел разобраться в происходящем.

По словам Навона, Ола пришёл слушать, а не убеждать.

Это не опровергает сообщения других участников о попытках Anthropic склонить их к признанию возможного сознания ИИ. Но свидетельствует, что характер встреч мог быть значительно менее однозначным, чем следовало из первоначального журналистского расследования.

4. Что меняется в возможной оценке этих событий

Теперь есть два важных результата.

Первый: дополнительное свидетельство участника о том, что Anthropic представляла религиозным мыслителям конкретные исследования внутренних механизмов Claude, а не только философские предположения.

Второй: свидетельство человека, резко несогласного с гипотезой о сознании Claude, который тем не менее считает исследовательский интерес Anthropic искренним.

Это существенное уточнение прежней картины. Гипотеза о своеобразном идеологическом увлечении руководства Anthropic остаётся предметом обсуждения, но объяснять происходящее исключительно попыткой навязать религиозным деятелям представление о сознательном Claude было бы неправильно.

При этом мы по-прежнему располагаем рассказом участника, а не записью презентации или протоколом разговора с Ола.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: