Двойная игра, или тройная

Усыпляют 

ИИ-гиганты срочно ограничивают развитие ИИ, иначе к концу десятилетия он нас уничтожит

Глава Anthropic (модель Claude) Дарио Амодей:

За последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется еще большая осмотрительность – не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала.

Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов. Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности.

Ставки слишком высоки.

Глава Anthropic предложил внедрить внешнюю экспертную проверку всех передовых компаний в сфере ИИ, их координацию между собой и глобальную координацию на уровне правительств для установления общих стандартов безопасности и ограничений, включая соглашение с Китаем.

Илон Маск (xAI «Grok») заявил, что Дарио Амодей прав.

Гендиректор OpenAI Сэм Альтман:

Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%. Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придется – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесет пользу всему человечеству, но при этом никто не будет рисковать.

Я не думаю, что лично нам когда-нибудь придётся дойти до момента, когда нужно будет сказать: «расплавить все GPU [графические процессоры]!». Но если бы для обеспечения дальнейшего существования человечества нам пришлось сделать что-то подобное — однозначно да.

Поэтому OpenAI сосредоточится на вопросах безопасности и контроля за ИИ.

Глава Hugging Face Клеман Деланж сообщил, что его компания запускает «инициативу открытого согласования» и готова использовать сторонние системы оценки безопасности.

Исследователь Anthropic Джейкоб Коксон накануне всех предыдущих заявлений:

Мы движемся к наиболее агрессивным сценариям, при которых уже к концу следующего года ситуация может выйти из-под контроля.

И УВОЛИЛСЯ, поскольку не хочет участвовать в гонке по созданию ИИ-систем, способных самостоятельно совершенствоваться и уничтожить человечество, так как ни одна компания не способна ответственно разрабатывать искусственный интеллект.

Выглядит так, что ИИ уже выходит из-под контроля, а его создатели пытаются усиленно делать вид, что не при делах 

ЗеРада

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: