Гендиректор компании OpenAI Сэм Альтман вслед за руководителем Anthropic Дарио Амодеи заявил, что необходимы срочные ограничения в развитии искусственного интеллекта

Гендиректор компании OpenAI Сэм Альтман вслед за руководителем Anthropic Дарио Амодеи заявил, что необходимы срочные ограничения в развитии искусственного интеллекта. Слова Альтмана приводит The Guardian.

По его мнению, из-за быстрого развития ИИ к концу десятилетия существует риск гибели человечества.

Поэтому сейчас OpenAI будет сосредоточена на вопросах безопасности и контроля за ИИ - пусть даже и в ущерб дальнейшему развитию продукта.

"Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%. Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придётся – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесёт пользу всему человечеству, но при этом никто не будет рисковать", – заявил Альтман.

Напомним, глава Anthropic (модель Claude) Дарио Амодеи ранее написал статью с призывом ограничить темпы совершенствования новых моделей искусственного интеллекта.

"За последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется ещё бо?льшая осмотрительность – не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала", – считает глава Anthropic.

Амодеи говорит, что его тревога вызвана значительным ускорением развития нейросетей, которое началось примерно этим летом и в первую очередь связано с возрастающей способностью ИИ создавать модели следующих поколений.

"Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов", – пишет Амодей.

Глава Anthropic предложил трёхэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап – координация между компаниями для установления общих стандартов безопасности и ограничений, третий – глобальная координация на уровне правительств.

Основатель xAI (Grok) Илон Маск согласился с этими идеями.

"Дарио прав", – написал он в соцсети Х.

Ранее "крёстный отец" искусственного интеллекта Джеффри Хинтон заявил, что утрата контроля над мощными нейросетями может привести к уничтожению человечества.

Перед этим молодой сотрудник техногиганта Anthropic уволился из-за опасений, что ИИ уничтожит человечество.

Исследователь Джейкоб Коксон из американской технологической компании в сфере искусственного интеллекта Anthropic, создавшей семейство больших языковых моделей под общим названием Claude, уволился из-за опасений, что искусственный интеллект выйдет из-под контроля и уничтожит человечество. Об этом он написал в своем Х.

27-летний Коксон ранее работал в OpenAI и специализируется на обучении новых моделей ИИ на огромных объемах данных. Он считает, что его компания и ее конкуренты ведут гонку по созданию систем, способных самосовершенствоваться, но в итоге не смогут их контролировать.

"Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения сначала в OpenAI, затем в Anthropic. Действия обеих компаний безответственны. Они наперегонки стремятся к созданию самосовершенствующегося суперинтеллекта, играя при этом нашими жизнями. Не стоит недооценивать мощь этой технологии. Вскоре появятся системы, превосходящие человеческие возможности: они смогут взломать что угодно, в одночасье совершить революцию в любой сфере и обрести реальную власть и ресурсы. Мы все были свидетелями прогресса в каждой из этих областей, и этот прогресс не замедляется. Люди, создающие искусственный интеллект, всерьез полагают, что к концу десятилетия он сможет нас всех погубить. Это не маркетинговый ход. Напротив, в публичных заявлениях многие руководители и ведущие исследователи стараются выражаться сдержанно и рассудительно, однако в частных беседах те же самые люди говорят о своих опасениях. Никакая другая сфера человеческой деятельности не таит в себе столь серьезной угрозы", - написал Коксон в Х.

Он добавил, что часто разработчиков ИИ упрекают в том, что они продолжают делать свое дело несмотря на свои опасения. Коксон объяснил это тем, что сотрудники OpenAI и подобных компаний не до конца осознают, "насколько высоки ставки для цивилизации", или же прекрасно понимают всю серьезность ситуации, но при этом вовлечены в гонку, стремясь опередить конкурентов.

Летом сообщалось, модель искусственного интеллекта от Anthropic за несколько часов взломала базы американской разведки.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: