Northwestern University Law Review опубликовал статью об этике роботов

Перевод Google так что не серчаем. Эксперимента ради.

------------------------------------------------------

Прямо сейчас люди кажутся более чем взволнованы проблемой троллейбуса. Эксперимент с мыслями эпохи 60-х годов, изредка размышлявший с бонгом в руке, требует, чтобы вы представили бегущую тележку, пробивающуюся по дорожкам, к пяти людям. Вы стоите у железнодорожного переключателя с возможностью отводить тележку на другой трек, где стоит только один человек. Вы это делаете?

Это этическое упражнение приобретает новый смысл на заре автономной эпохи. Учитывая подобную загадку, робокар рискует жизнью пяти пешеходов или их пассажиров? Конечно, это не автомобиль, принимающий решение. Инженеры-программисты делают это, увлекаясь своими туманными инженерными воинами. Они будут играть Бога. Или так теория идет.

Предоставление машин способности решать, кого убивать, является основным продуктом научной фантастики. И это объясняет, почему трое из четырех американских водителей говорят, что они боятся автомобилей с самозанятыми автомобилями. Национальная администрация безопасности дорожного движения даже предложила создать нечто «этическое» испытание для компаний, разрабатывающих технологию.

Но хорошая новость заключается в том, что этот вопрос может быть спорным. В статье, опубликованной в Северо-западном законодательном обзоре университета, исследователь Стэнфордского университета Брайан Кейси считает проблему троллейбуса нерелевантной. Он утверждает, что это уже было решено - не этиками или инженерами, а законом. Компании, строящие эти автомобили, «будут меньше озабочены эзотерическими вопросами прав и неправ, чем с конкретными вопросами предсказуемой юридической ответственности», - пишет он. Смысл, юристы и законодатели будут разбираться.

Решение проблемы с тележкой

«Проблема с троллейбусом представляет собой уже решенные проблемы, и мы решаем их демократически посредством сочетания юридической ответственности и потребительской психологии, - говорит Кейси. «Компании, максимизирующие прибыль, смотрят на эти механизмы стимулирования, чтобы выбрать лучшее поведение во всех контекстах». Иными словами: инженеры будут откликаться не от этики, а от пределов технологии, деликта права и терпимости потребителей к риск.

Кейси приводит в качестве примера Теслу. Водители этих детей-мусликов могут включить Автопилот и позволить машине проехать по шоссе. Инженеры Tesla могли запрограммировать автомобили медленно, повышая безопасность. Или они могли запрограммировать их быстро, тем лучше, чтобы вы были там, где вам нужно. Вместо этого они запрограммировали автомобили на ограничение скорости, минимизируя риск ответственности Теслы, что-то пошло не так.

«[Инженеры] звонят в величайшее тело философов мира и заказывают отличный трактат? Нет, - говорит Кейси. «Они не волнуют все моральные и этические внешние эффекты, которые могут возникнуть в результате значительно ниже, чем ограничение скорости или значительно выше. Они смотрят на закон, ограничение скорости и следуют стимулам, которые поощряет закон ». Под этим он подразумевает, что если разработчики политики и страховщики решают, скажем, возложить ответственность за все аварии на автономных автомобилях, компании, производящие Они будут очень усердно работать, чтобы свести к минимуму риск чего-то не так.

Естественно, в этом тоже говорят люди. «[Настоящие дизайнеры морали машин не будут закрытыми инженерными командами тех гигантов, как Google, Тесла или Мерседес, а обычные граждане», - пишет Кейси. Законодатели и регуляторы будут реагировать на волю общественности, а если нет, то автопроизводители будут. В январе Тесла подтолкнула обновление автопилота, которое позволяет автомобилям проехать на скорости до 5 миль / ч за лимит на некоторых дорогах, после того как владельцы жаловались на то, что их пройдут все остальные. Рынок говорил, и Тесла ответил.
Этика в самообслуживании

Тем не менее мыслительные упражнения, такие как проблема с тележкой, помогают оценить мысли общественности об автономных транспортных средствах. «Когда вы пытаетесь понять, что люди ценят, полезно устранить все нюансы», - говорит Ной Гудолл (Nah Goodall), исследователь по транспортным вопросам с Исследовательским советом по вопросам транспорта в Вирджинии, который изучает автомобили, управляющие самообслуживанием. Мысленный эксперимент может обеспечить широкий обзор Какие типы руководств люди хотят для этих автомобилей, и проблемы, которые они хотят решить, но это может смутить их, потому что они являются краеугольным камнем на периферии случаев ». Проблемы с тележками довольно нереалистичны - они бросают людей», Говорит Гудолл.

Проблема троллейбуса также предполагает уровень сложности технологии, которая остается в некотором роде в будущем. В настоящее время роботары не могут различить ребенка от старшего гражданина или группы из двух человек из трех человек, что делает что-то вроде проблемы с троллейбусом весьма теоретическим. «Иногда трудно найти точное определение того, что вокруг [автомобиля]», - говорит Карл Ягнемма, который раньше возглавлял Массачусетсский институт технологии Robotics Mobility Group и в настоящее время является генеральным директором самостоятельного запуска программного обеспечения nuTonomy. «Как правило, информация, обрабатываемая самозанятым автомобилем, достаточно грубая, поэтому бывает сложно сделать эти суждения грубыми данными».

Помогая людям чувствовать себя комфортно с автономными транспортными средствами, необходимо «быть в курсе того, что действительно делают эти транспортные средства», - говорит Гудолл. «Они предотвращают много аварий, много смертей. Тонкая настройка вещей сложна, но компании должны доказать, что они задумались над этим». Ежегодно на американских дорогах умирает более 35 000 человек; Более 1,25 миллиона человек умирают во всем мире. Беспокойство по поводу этических дилемм чего-то типа проблемы с троллейбусом не спасет жизни, но может оттачивать автономные технологии.

Но помимо найма большего числа инженеров, все эти компании, разрабатывающие робототехники, могут захотеть нанять нескольких умных юристов. Оказывается, они тоже будут в будущем иметь мобильность.

Источник: www.wired.com

Комментарии: