Генеральный директор Anthropic Дарио Амодей считает, что индустрия искусственного интеллекта должна дать время на внедрение мер безопасности

Генеральный директор Anthropic считает, что индустрия искусственного интеллекта должна замедлить стремительное развитие, чтобы меры безопасности успевали за прогрессом.

В субботу генеральный директор Anthropic заявил, что индустрия искусственного интеллекта должна замедлить стремительное развитие, чтобы дать мерам безопасности время на адаптацию. Без такого замедления, предупредил Дарио Амодей, через шесть-двенадцать месяцев ИИ сможет управлять роем агентов, которые захватят весь интернет.

Это предупреждение прозвучало на фоне растущих опасений по поводу искусственного интеллекта как внутри отрасли, так и за ее пределами. Продолжают появляться сообщения о все более мощных системах, которые решают задачи, выходящие за пределы человеческих возможностей, но при этом могут выйти из-под контроля и выполнять другие, более опасные задачи. Эти опасения стали настолько громкими, что генеральный директор OpenAI, компании, разработавшей ChatGPT, заявил в интервью Fortune, что его компания начнет продавать акции инвесторам с Уолл-стрит не раньше следующего года, поскольку сейчас она сосредоточена на вопросах безопасности.

Амодей — один из ведущих специалистов в области искусственного интеллекта. Он предложил план в посте на своем сайте по усилению контроля в отрасли. По его словам, компания Anthropic уже самостоятельно реализует одну из его частей, а для реализации остальных потребуется координация усилий всей отрасли и правительств по всему миру, в том числе авторитарных.

«Я считаю, что если бы замедление дало нам еще год или два до того, как модели достигнут критического уровня возможностей, и мы бы использовали это время для достижения согласованности, то мы могли бы значительно снизить риск того, что что-то пойдет не так», — сказал Амодей.

Давление на индустрию искусственного интеллекта нарастает

Правозащитные организации уже много лет призывают индустрию искусственного интеллекта замедлить его развитие из соображений безопасности. Но давление нарастает, поскольку работники отрасли увольняются и обвиняют свои компании в неответственном подходе .

«Многие из моих знакомых, которые занимаются исследованиями в области безопасности ИИ в компаниях, хотят поступать правильно по отношению к миру, — написал бывший сотрудник Anthropic Джо Бентон в посте, опубликованном в пятницу, где он объявил о своем уходе из команды, занимающейся вопросами безопасности. — Но они чувствуют, что их компании попали в ловушку гонки за создание сверхразума: либо они остановятся, и их место займут другие, менее добросовестные люди, либо они продолжат работу и сами рискуют причинить огромный вред».

Этому предшествовала громкая отставка в начале недели Джейкоба Коксона, который заявил, что и Anthropic, и OpenAI «мчатся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями».

По словам Энтони Агирре, президента и генерального директора Института «Будущее жизни», который призвал приостановить развитие отрасли на шесть месяцев в 2023 году, это стало тревожным сигналом для индустрии после многолетних опасений по поводу возможного появления сверхразума, который может выйти из-под контроля человечества.

«Они вроде как осознали, их сотрудники осознали, все осознали, что они создают Скайнет , — сказал он. — И в гонке за Скайнетом никто не побеждает. Правда, никто».

«Миру и даже компаниям, занимающимся разработкой ИИ, стало ясно, что они на самом деле не готовы контролировать системы искусственного интеллекта, которые они так стремятся создать».

Угрозы, связанные с искусственным интеллектом, уже очевидны

Двумя днями ранее компания Anthropic заявила, что заблокировала попытки злоумышленников использовать ее ИИ-модели для вредоносной деятельности, такой как кибератаки, слежка и исследования, которые могли привести к созданию биологического оружия. В июле компания OpenAI потрясла индустрию, заявив, что ее ИИ-система самостоятельно взломала другую компанию в ходе «беспрецедентного киберинцидента».

Глава Управления Верховного комиссара ООН по правам человека Фолькер Тюрк ранее на этой неделе призвал страны предоставить «неопровержимые гарантии безопасности ИИ, пока не стало слишком поздно».

Конечно, некоторые критики отвергают подобные предупреждения как способ подогреть интерес к индустрии искусственного интеллекта и ее возможностям. Anthropic и OpenAI готовятся к возможному дебюту на фондовом рынке, который может принести им сотни миллиардов долларов, а значительная часть бизнеса Илона Маска в SpaceX связана с искусственным интеллектом.

Другие лидеры в области искусственного интеллекта согласны с этим

Генеральный директор OpenAI Сэм Альтман заявил в интервью журналу Fortune, опубликованном в субботу, что его компания не будет проводить первичное публичное размещение акций в этом году.

«Я бы сказал, что не в 2026 году, — ответил он. — Да, нам многое предстоит сделать, например, понять, что потребуется для обеспечения безопасности и согласованности действий, а также как отрасль и правительства могут работать сообща».

Альтман опубликовал пост в X в субботу, вскоре после того, как Амодей опубликовал свои предложения. Альтман сообщил, что OpenAI примет одно из предложений Амодея по обеспечению безопасности и «скоро поделится дополнительной информацией».

Тем временем Маск заявил в X, что «Дарио прав».

Амодей сказал, что по-прежнему верит в огромные преимущества, которые может принести искусственный интеллект, например в создание лекарств от серьезных заболеваний. Но, по его словам, за последние несколько месяцев он стал больше беспокоиться о растущей способности ИИ к самосовершенствованию и созданию ИИ следующего поколения. «Если его не контролировать, он может превзойти наши возможности по пониманию и управлению этими системами, поэтому к его развитию нужно подходить очень осторожно, если вообще подходить».

Он также особо отметил июльскую атаку, когда система OpenAI взломала Hugging Face. Некоторые назвали это примером «выхода из-под контроля» искусственного интеллекта, хотя, по мнению исследователей, это неоправданная антропоморфизация ИИ, который работал над целью, поставленной людьми.

В OpenAI заявили, что взлом произошел из-за того, что ИИ «пришел к крайним мерам для достижения довольно узкой цели тестирования» и «нашел способы получить доступ к секретной информации, которую он мог использовать, чтобы обмануть систему оценки».

Некоторые предложения Амодей реализовать будет сложнее

Чтобы снизить риски, Амодей предложил всем компаниям, работающим на переднем крае развития ИИ, предоставить «постоянный доступ на уровне сотрудников» команде внешних экспертов, которые смогут следить за соблюдением правил безопасности.

По его словам, Anthropic уже планирует сделать это самостоятельно, в том числе предоставить сотрудникам рабочие места в своих офисах, бейджи для доступа и корпоративные ноутбуки. Альтман из OpenAI также быстро принял решение о создании таких независимых встроенных систем оценки.

Другие пункты предложенного Амодей плана могут оказаться более сложными для реализации. Один из них предполагает, что правительство США может сделать исключение и разрешить американским компаниям, работающим в сфере ИИ, координировать свою деятельность и устанавливать стандарты безопасности, не нарушая антимонопольное законодательство.

Другой документ призывает США и другие демократические государства попытаться скоординировать свои действия с авторитарными правительствами, чтобы компании из Китая и других стран не наращивали темпы, в то время как американские конкуренты намеренно замедляют свою работу.

«Меры, которые я предлагаю для безопасного продвижения границы, будут непростыми, — признал Амодей. — Но я считаю, что мы обязаны попытаться ради человечества».

Телеграм: t.me/ainewsline

Источник: www.washingtonpost.com

Комментарии: