Илон Маск предсказал потерю контроля над ИИ?

Илон Маск заявил в свежем интервью главному редактору издания The Economist Зэнни Минтон Беддос, что человечество вряд ли сохранит контроль над искусственным интеллектом в течение следующего десятилетия. По его прогнозам, сверхразум превзойдет совокупный интеллект всех людей вместе взятых примерно за 5 лет. Это звучит как фантастический фильм, но говорит об этом человек, который сам создает эти технологии.

Мне кажется, его личная оценка риска гибели человечества в 10 или 20 процентов выглядит пугающе реалистичной. С одной стороны, основатель xAI обещает нам наступление эпохи изобилия к 2036 году, когда роботы сделают любые товары и услуги практически бесплатными для каждого. С другой стороны, остановить этот технологический поезд уже невозможно, ведь даже гипотетическая кнопка экстренной остановки не сработает. Я не знаю, как именно крупные лаборатории вроде OpenAI или Anthropic смогут договориться о взаимных проверках безопасности перед релизами новых моделей, когда на кону стоят триллионы долларов и мировое господство.

Это пугает.

Маск снова жестко раскритиковал Сэма Альтмана за превращение некогда открытой некоммерческой организации в закрытый коммерческий бизнес, хотя сам недавно проиграл суд против него в Окленде из-за истечения сроков давности. Наверное, взаимные обиды и судебные иски мешают лидерам индустрии увидеть реальную экзистенциальную угрозу, о которой давно предупреждают Элиезер Юдковски и Виталик Бутерин. Если сверхразумные машины действительно выйдут из-под контроля создателей, то делить прибыли и судиться за упущенную выгоду будет уже просто некому.

Вы верите в оптимистичный сценарий Маска с эпохой всеобщего изобилия к 2036 году, или проект xAI просто пытается запугать нас ради усиления контроля над конкурентами из OpenAI

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: