«Миллиард погибших»: Билл Гейтс предупредил о технологии, которая может оказаться опаснее ядерного оружия |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-01 15:27 Большую часть жизни Билл Гейтс убеждал мир, что технологии способны решать проблемы, которые прежде казались неразрешимыми. Он участвовал в создании массового рынка персональных компьютеров, а затем направил значительную часть состояния на борьбу с болезнями, бедностью и неравенством. Когда искусственный интеллект начал стремительно развиваться, Гейтс оказался среди тех, кто видел в нём прежде всего возможность ускорить научные открытия. 26 августа 2026 года он опубликовал большое эссе о будущем искусственного интеллекта. На этот раз привычный технологический оптимизм уступил место тревоге. Гейтс написал, что человечество вступает в период перемен, к которым практически не готово. Системы, способные выполнять интеллектуальную работу быстрее человека, будут менять не только бизнес и науку, но и устройство общества. 14 сентября фонд Гейтса объявил, что направит не менее миллиарда долларов в течение двух лет на развитие доступных ИИ-технологий для медицины, образования и сельского хозяйства. Предприниматель продолжал вкладывать огромные средства в искусственный интеллект, одновременно всё настойчивее требуя ограничить его опасные возможности. Противоречия в этом он не видел: одна и та же технология могла, по его мнению, спасать жизни и создавать угрозы совершенно другого масштаба. Вопрос о гибели человечества и ответ, который прозвучал на NBC 25 сентября американский телеканал NBC опубликовал фрагменты интервью Гейтса ведущей программы Meet the Press Кристен Уэлкер. Полная беседа вышла в эфир 27 сентября. Разговор касался того, насколько далеко способен зайти искусственный интеллект и что произойдёт, если его наиболее мощные инструменты окажутся в распоряжении людей, намеренных причинить массовый вред. Когда ведущая спросила, может ли ИИ представлять угрозу самому существованию человечества, Гейтс ответил, что технология уже достаточно мощна, чтобы способствовать событиям с миллиардом погибших. Он не утверждал, что такая катастрофа неизбежна, и не называл её вероятности. Предупреждение относилось к возможностям злоумышленников, которые получат доступ к новейшим интеллектуальным системам. Главной опасностью предприниматель назвал сочетание человеческого злого умысла и возможностей ИИ. Гейтс обратил внимание, что разработка сложных инструментов нападения, прежде требовавшая крупных организаций, специализированных знаний и значительных ресурсов, становится доступнее благодаря автоматизации интеллектуальных задач. Особенно его беспокоят биологические угрозы. Искусственный интеллект способен анализировать научные данные, помогать исследователям разрабатывать лекарства и искать новые способы борьбы с болезнями. Но те же возможности могут использоваться людьми, которые намерены создать биологическое оружие. Для Гейтса этот риск имеет особое значение. Ещё в 2015 году он предупреждал, что мир плохо подготовлен к масштабной эпидемии. После пандемии COVID-19 предприниматель продолжил финансировать исследования вакцин, инфекционных заболеваний и систем общественного здравоохранения. Теперь его тревога связана с возможностью того, что развитие ИИ увеличит опасность намеренного распространения новых биологических угроз. Почему Гейтс считает государственный контроль необходимым Во время интервью предприниматель призвал американские власти принять законы, обязывающие разработчиков ИИ соблюдать требования безопасности. По его мнению, добровольных обещаний технологических компаний недостаточно, когда последствия ошибок или злоупотреблений могут затронуть миллионы людей. Гейтс предложил привлечь к контролю за индустрией законодателей, правоохранительные органы и независимых специалистов. Речь идёт о постоянном мониторинге опасных способов использования ИИ, обязательных проверках безопасности и возможности своевременно выявлять попытки применения моделей в преступных целях. Саморегулирование индустрии он назвал недостаточным. Даже ответственная компания, которая ограничивает возможности собственной модели, не может гарантировать, что конкуренты примут аналогичные меры или что злоумышленники не воспользуются другими системами. Отдельно Гейтс высказался об идее аварийного отключения опасного искусственного интеллекта. По его мнению, одного такого механизма недостаточно. Если технология уже помогла человеку подготовить вредоносные действия, её последующее отключение не устранит результаты этой работы. Поэтому предприниматель предлагает предотвращать опасное применение ещё на этапе использования системы. При этом Гейтс не призывал полностью запретить искусственный интеллект. Он считает, что обязательный контроль можно организовать без существенного замедления исследований. Дополнительные расходы разработчиков, по его оценке, будут относительно небольшими по сравнению с масштабом отрасли. «Самое опасное, к чему приближалось человечество» 29 сентября Гейтс продолжил разговор об угрозах искусственного интеллекта в большом интервью журналисту Эзре Кляйну для The New York Times. На этот раз предприниматель подробно объяснил, почему изменил собственную оценку технологических рисков. Гейтс рассказал, что наблюдал за развитием ИИ на протяжении десятилетий. В начале его карьеры способность компьютера понимать сложные задачи и выполнять интеллектуальную работу оставалась далёкой целью. Теперь системы не только пишут программы, но и обнаруживают ошибки в программном коде, которые специалисты могли не замечать годами. Именно эти достижения вызвали у него особую тревогу. Инструмент, способный найти уязвимость в программном обеспечении для её исправления, может оказаться полезным и человеку, который хочет использовать ту же уязвимость для нападения. В интервью Кляйну Гейтс заявил, что, по его оценке, возможности ИИ в областях кибератак и биологических угроз уже преодолели критически опасные пороги. Он предупредил, что современные системы способны существенно расширить возможности небольших групп злоумышленников. Предприниматель даже сравнил масштабы потенциальной опасности с ядерным оружием, заявив, что новые возможности ИИ могут поставить человечество перед ещё более сложной задачей. В отличие от ядерных технологий, требующих специальной инфраструктуры и материалов, мощные интеллектуальные инструменты распространяются через программное обеспечение. Гейтс особенно обеспокоен возможностью атак на банковские системы, электросети и другие объекты критической инфраструктуры. Масштабная кибератака может нарушить работу организаций, от которых зависят медицинская помощь, финансовые операции, электроснабжение и повседневная жизнь миллионов людей. Но непосредственную угрозу он связывает не столько с самостоятельным восстанием машин, сколько с действиями людей. По мнению Гейтса, сценарий, при котором искусственный интеллект выходит из-под человеческого контроля и начинает действовать против создателей, тоже заслуживает внимания. Однако опасное использование уже существующих технологий он считает более близкой проблемой. Почему технологические компании не могут просто договориться между собой В разговоре с Кляйном Гейтс напомнил о механизме конкуренции, который сам хорошо знает по работе в Microsoft. Если одна компания решит не выпускать мощную модель из соображений безопасности, другая может продолжить разработку и занять её место на рынке. При этом коммерческие интересы не ограничиваются одной страной. США и Китай стремятся сохранить лидерство в сфере искусственного интеллекта, рассматривая передовые модели как важнейший ресурс для экономики и национальной безопасности. По мнению Гейтса, такая конкуренция создаёт опасный стимул: разработчики стремятся как можно быстрее представить новые возможности, тогда как подготовка механизмов контроля отстаёт. Он считает необходимым международное сотрудничество, даже если государства продолжают соперничать в технологической сфере. Эта позиция расходится с подходом части американских политиков, опасающихся, что жёсткие ограничения ослабят США в борьбе за технологическое первенство. Президент Дональд Трамп публично выражал скепсис в отношении предупреждений о катастрофических рисках ИИ и выступал против новых ограничений, способных затормозить отрасль. Гейтс отверг представление об угрозах искусственного интеллекта как о политической мистификации. Он заявил, что готов обсуждать проблему непосредственно с американским президентом и рассчитывает убедить власти в необходимости обязательных мер безопасности. В Вашингтоне уже предложили остановить разработку сверхинтеллекта Предупреждения Гейтса прозвучали на фоне обострения политической дискуссии в США. 23 сентября сенатор Берни Сандерс и конгрессмен Грег Касар представили законопроект Ban Artificial Superintelligence Act. Инициатива предусматривает запрет на разработку искусственного сверхинтеллекта и временную приостановку создания наиболее мощных ИИ-систем до появления федеральных правил безопасности. Авторы предлагают учредить специальный государственный орган, который будет контролировать развитие передовых моделей. Однако Гейтс делает акцент на несколько иной задаче. Он считает приоритетом обязательное наблюдение за использованием уже существующих мощных систем, поскольку опасность злоупотреблений, по его оценке, не ограничивается будущими технологиями. Так спор о регулировании вышел за пределы технологических лабораторий. Законодателям предстоит определить, какие ограничения допустимы, кто будет проверять соблюдение правил и как государства смогут контролировать программные инструменты, доступные через интернет. Гейтс предупреждает не только о гибели людей, но и о массовой потере работы В своих сентябрьских выступлениях предприниматель затронул ещё одно последствие развития искусственного интеллекта — изменение рынка труда. По его мнению, автоматизация может затронуть офисных сотрудников, программистов, юристов, специалистов по обслуживанию клиентов и работников других отраслей значительно быстрее, чем общество успеет к этому приспособиться. В отличие от предыдущих промышленных преобразований, новые системы способны заменять не только физический труд, но и часть интеллектуальной деятельности. Гейтс опасается, что исчезновение рабочих мест будет происходить быстрее создания новых возможностей для занятости. Он предлагает рассмотреть налогообложение роботизированного труда и использования ИИ, чтобы финансировать переподготовку работников и социальную поддержку. Кроме того, предприниматель выступает за сохранение некоторых видов деятельности исключительно за людьми — например, отдельных функций ухода за больными и пожилыми. Ставки в этой дискуссии для Гейтса не ограничиваются экономикой. Он считает, что чрезмерная зависимость от интеллектуальных систем способна повлиять на человеческие отношения, образование и способность людей самостоятельно принимать решения. Миллиард долларов на технологии, которые могут стать угрозой Несмотря на всё более резкие предупреждения, Гейтс продолжает поддерживать развитие искусственного интеллекта. Его фонд планирует вложить не менее миллиарда долларов за два года в программы, которые помогут врачам, учителям и фермерам использовать новые инструменты, особенно в странах с ограниченными ресурсами. Около 40% этой суммы предполагается направить на образование и ещё 40% — на здравоохранение. Оставшиеся средства предусмотрены для сельского хозяйства и разработки решений, учитывающих местные языки и потребности различных сообществ. После сентябрьских интервью позиция предпринимателя стала отчётливее. Гейтс не предлагает отказаться от технологии, в которую сам продолжает вкладывать деньги. Он требует, чтобы правительства взяли на себя ответственность за её опасные применения, вместо того чтобы полностью доверять решения компаниям-разработчикам. В своём разговоре с Эзрой Кляйном он подчеркнул, что человечество уже располагает инструментами, способными причинить огромный ущерб, тогда как обязательная система надзора за их использованием ещё не создана. Фонд Гейтса тем временем продолжает финансировать медицинские и образовательные проекты с применением ИИ. Предприниматель намерен добиваться того, чтобы технологии, на которые возлагают надежды врачи и учёные, одновременно не превратились в новое оружие массового поражения. https://golbis.com/milliard-pogibshih-bill-gejts-predupredil-o-tehnologii-kotoraya-mozhet-okazatsya-opasnee-yadernogo-oruzhiya/?fbclid=IwVERDUAVQCwNleHRuA2FlbQIxMABwZG9mBXNydGMGYXBwX2lkDDM1MDY4NTUzMTcyOAABH-5Vmlh8BZSTm-fEQLov6A7fUXu0A8T8YYjtQRDDUHCu8MQZs8fIZ_HnqgyS_aem_9OgSKzczy0cTjTaZcJHkXw Телеграм: t.me/ainewsline Источник: golbis.com Комментарии: |
|