Что несёт совершенствование искусственного интеллекта?

Просматривая новости о достижениях в сфере ИИ, мы часто натыкаемся на дискуссии о недопустимости или, наоборот, жизненной необходимости совершенствовать «разум из коробочки». Одни говорят, что машины обязательно захватят мир, другие считают, что рукотворное сознание поднимет человечество на недосягаемые высоты.

? На данный момент ИИ легко обмануть и заставить совершить запретные действия, например напасть на человека. На кадрах парень, используя простейшую лингвистическую хитрость, заставляет робота выстрелить в него. Представьте, что будет, если в будущем огромная серия таких роботов попадёт в руки подготовленных злоумышленников? Горы трупов? Захваты целых городов, а то и стран? И это всё ещё без учёта секретных механизмов, которые будут закладывать производящие корпорации. Непорядок. Нужен по-настоящему «сильный интеллект», защищённый от таких манипуляций.

? Создание «сильного интеллекта» упирается в неразрешимую задачу наделения ИИ инициативой, которая разовьёт в нём творческое мышление и запустит активный поиск информации и сознательное обучение. То есть близкое подобие не только человеческого интеллекта, но и сознания. Но безопаснее ли это тех простых роботов, которых можно обмануть? К каким умозаключениям придёт в ходе своих размышлений создание, чей интеллект будет выше всего человечества вместе взятого? Это слишком непредсказуемая величина, и вряд ли такому ИИ дадут свободу.

Источник: vk.com

Комментарии: