Кем будем жертвовать?

гугломобиль

Забавная статья вышла на днях в Science – The Social Dilemma of Autonomous Vehicles. Ее суть в обсуждении этического противоречия, которое возникнет у человечества на этапе повального внедрения автомобилей без водителя.

Первые машины-роботы появились на дорогах городов еще в 2007 году (правда только в рамках экспериментов). С тех работы в этом направлении не останавливаются. Значительную лепту в развития концепции безаварийного вождения (а именно для этого нам нужны  машины без водителя) внесли «гугломобили», которые уже накатали по дорогам США уже не одну тысячу миль.

Они, правда, регулярно попадают в аварии, хотя, как правило, и не по «своей вине» —

авария гугломобиля

Лоббисты «гугломобилей» посчитали, что эти аппараты смогут повысить эффективного мирового движения, снизить интенсивность загрязнения окружающей среды и предотвратить до 90% возможных аварий.

Однако, до тех пор, пока человека тоже не заменят на какой-нибудь гуглодроид, аварии все-таки будут, и в некоторых случаях роботу придется принимать непростое (с нашей точки зрения, не с его) решение, а именно – кем жертвовать в случае неизбежной аварии?

Например, если на дорогу внезапно выбежит стая пешеходов «гугломобилю» нужно будет принять решение – давить их или менять полосу (или даже улетать с дороги), убивая водителя (и возможно и пассажиров).

В его программе понадобится алгоритм, который все взвесит и назначит жертву —

безопасность гугломобилей

Причем, если на трассе все более ли менее понятно (дави или в кювет), то в городе все сложнее:

  • Уход налево на встречку – убьешь водителя (с пассажирами) и встречных
  • Уход направо – убьешь водителя (с пассажирами) и пешеходов на тротуаре

Плюс еще надо как-то посчитать других участников движения, которым «гугломобиль» своими маневрами создаст дополнительные риски.

Даже, если такие ситуации кажутся маловероятными, их суммарный риск (производное от робото-машино-часов) игнорировать не получится, и программистам действительно придется закладывать такие алгоритмы.

Авторы статьи провели 6 онлайн-опросов, в которых участвовало 1,928 респондентов. Большинство участников считали, что выбирать нужно то решение, при котором будет наименьшее количество жертв.

Выводы из ответов получились такие:

  1. Лучше убить одного пассажира, чем 10 пешеходов
  2. Если пешеход только один – следует его давить
  3. Люди не желают покупать машину, которая будет ими жертвовать в случае чего

Таким образом, ответы лишь подтвердили дилемму. В целом, все выступили за добро и гуманизм, однако никто не хочет расплачиваться за эти принципы своей жизнью.

Авторы задаются еще несколькими вопросами:

  • Должна ли машина без водителя убираться в стену, чтобы спасти мотоциклиста, исходя из тех соображений, что у людей в машине шансов больше?
  • Должен ли алгоритм учитывать возраст участников потенциальной аварии? Я бы сюда еще обязательно добавил список сопутствующих заболеваний и экономическую целесообразность их лечения.

Также воображение рисует множественные конторы по тюнингу процессоров «гугломобилей» с тем, чтобы научить их принимать правильные решения. И, само собой, алгоритмы автомобилей бизнес- и люкс-класса должны быть немного оптимизированы.

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Sorry that something went wrong, repeat again!

6комментариев

сначала новые
по рейтингу сначала новые по хронологии
1

Опросы показали что все конечно за мировое добро, когда жертвуют не ими. Если компьютер не сбойнул то машина соблюдает ПДД. Значит бить в нарушителя, независимо от того сколько их там. Иначе вместо виноватого массовая гибель непричастных. Ну и как уже было сказано - никому не нужна машина, которая пожертвует пассажирами не спрашивая их мнения.

2

Статья безумно глупая.

У человека в экстренной ситуации не хватает времени на принятие решения. Инстинктивное действие, в случае успеха, преподносится как "водительское мастерство", а в случае неуспеха как "я сделал все, что мог". Качество решения робота, несомненно, выше.

Однако то, что робот водит лучше, чем человек, не означает, что он обязан всех спасать. И тупых пешеходов, и мудака-мотоциклиста. А еще потом вылечить всех от рака и сопутствующих заболеваний. Робот, как и любой водитель, обязан соблюдать ПДД, не более того. Есть надежда, что он может это делать лучше, чем большинство водителей-людей.

Если пешеход или другой водитель нарушает правила, робот просчитает все возможности избежать жертв - уйдет на свободную полосу или обочину, применит экстренное торможение - но если такой возможности нет, то нарушители справедливо отправляются в больницу или в морг, причем в первом случае - выплачивают компенсацию хозяину автомобиля за ремонт. Непонятно, откуда берется мысль отправить в стену хозяина гугл-мобиля.

Автор3
Андрей Саватеев

Чья статья безумно глупая?

4
Максим

Не одолеть гуглофиату российских маршрутчиков! Есть сведения (пойманные на частоте излучения Сноудена) что все маршруточники — это замаскированые многорукие и мультизадачные роботы, потому что только маршруточник может одновременно слушать шансон, рулить маршруткой, смолить папиросы «Прима», отсчитывать чирики, ругать пассажиров, смотреть в зеркало заднего вида, ковырять в носу, материть подрезавшего его другого маршруточника и разговаривать по сотовому телефону Nokia 3310.

Автор5
Андрей Саватеев

Я давно на маршрутках не ездил, неужели так все и осталось? Мне казалось, что это в прошлом. Мне казалось, что водители маршруток одеты в прекрасные строгие костюмы и говорят на трех языках.

6
Максим

Я сам тоже на них не часто передвигаюсь. Но заметил что костюмы достаточно строгие, например три полоски Абибас добавляют плюс 100 к строгости. И то что на трех языках говорят тоже сущая правда: русский со словарем, матерный и строительный.