Кем будем жертвовать?

гугломобиль

Забавная статья вышла на днях в Science – The Social Dilemma of Autonomous Vehicles. Ее суть в обсуждении этического противоречия, которое возникнет у человечества на этапе повального внедрения автомобилей без водителя.

Первые машины-роботы появились на дорогах городов еще в 2007 году (правда только в рамках экспериментов). С тех работы в этом направлении не останавливаются. Значительную лепту в развития концепции безаварийного вождения (а именно для этого нам нужны  машины без водителя) внесли «гугломобили», которые уже накатали по дорогам США уже не одну тысячу миль.

Они, правда, регулярно попадают в аварии, хотя, как правило, и не по «своей вине» —

авария гугломобиля

Лоббисты «гугломобилей» посчитали, что эти аппараты смогут повысить эффективного мирового движения, снизить интенсивность загрязнения окружающей среды и предотвратить до 90% возможных аварий.

Однако, до тех пор, пока человека тоже не заменят на какой-нибудь гуглодроид, аварии все-таки будут, и в некоторых случаях роботу придется принимать непростое (с нашей точки зрения, не с его) решение, а именно – кем жертвовать в случае неизбежной аварии?

Например, если на дорогу внезапно выбежит стая пешеходов «гугломобилю» нужно будет принять решение – давить их или менять полосу (или даже улетать с дороги), убивая водителя (и возможно и пассажиров).

В его программе понадобится алгоритм, который все взвесит и назначит жертву —

безопасность гугломобилей

Причем, если на трассе все более ли менее понятно (дави или в кювет), то в городе все сложнее:

  • Уход налево на встречку – убьешь водителя (с пассажирами) и встречных
  • Уход направо – убьешь водителя (с пассажирами) и пешеходов на тротуаре

Плюс еще надо как-то посчитать других участников движения, которым «гугломобиль» своими маневрами создаст дополнительные риски.

Даже, если такие ситуации кажутся маловероятными, их суммарный риск (производное от робото-машино-часов) игнорировать не получится, и программистам действительно придется закладывать такие алгоритмы.

Авторы статьи провели 6 онлайн-опросов, в которых участвовало 1,928 респондентов. Большинство участников считали, что выбирать нужно то решение, при котором будет наименьшее количество жертв.

Выводы из ответов получились такие:

  1. Лучше убить одного пассажира, чем 10 пешеходов
  2. Если пешеход только один – следует его давить
  3. Люди не желают покупать машину, которая будет ими жертвовать в случае чего

Таким образом, ответы лишь подтвердили дилемму. В целом, все выступили за добро и гуманизм, однако никто не хочет расплачиваться за эти принципы своей жизнью.

Авторы задаются еще несколькими вопросами:

  • Должна ли машина без водителя убираться в стену, чтобы спасти мотоциклиста, исходя из тех соображений, что у людей в машине шансов больше?
  • Должен ли алгоритм учитывать возраст участников потенциальной аварии? Я бы сюда еще обязательно добавил список сопутствующих заболеваний и экономическую целесообразность их лечения.

Также воображение рисует множественные конторы по тюнингу процессоров «гугломобилей» с тем, чтобы научить их принимать правильные решения. И, само собой, алгоритмы автомобилей бизнес- и люкс-класса должны быть немного оптимизированы.

Добавить комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.

5 комментариев

по хронологии
по рейтингу сначала новые по хронологии
1
Максим

Не одолеть гуглофиату российских маршрутчиков! Есть сведения (пойманные на частоте излучения Сноудена) что все маршруточники — это замаскированые многорукие и мультизадачные роботы, потому что только маршруточник может одновременно слушать шансон, рулить маршруткой, смолить папиросы «Прима», отсчитывать чирики, ругать пассажиров, смотреть в зеркало заднего вида, ковырять в носу, материть подрезавшего его другого маршруточника и разговаривать по сотовому телефону Nokia 3310.

Автор2

Я давно на маршрутках не ездил, неужели так все и осталось? Мне казалось, что это в прошлом. Мне казалось, что водители маршруток одеты в прекрасные строгие костюмы и говорят на трех языках.

3
Максим

Я сам тоже на них не часто передвигаюсь. Но заметил что костюмы достаточно строгие, например три полоски Абибас добавляют плюс 100 к строгости. И то что на трех языках говорят тоже сущая правда: русский со словарем, матерный и строительный.

4

Статья безумно глупая.

У человека в экстренной ситуации не хватает времени на принятие решения. Инстинктивное действие, в случае успеха, преподносится как "водительское мастерство", а в случае неуспеха как "я сделал все, что мог". Качество решения робота, несомненно, выше.

Однако то, что робот водит лучше, чем человек, не означает, что он обязан всех спасать. И тупых пешеходов, и мудака-мотоциклиста. А еще потом вылечить всех от рака и сопутствующих заболеваний. Робот, как и любой водитель, обязан соблюдать ПДД, не более того. Есть надежда, что он может это делать лучше, чем большинство водителей-людей.

Если пешеход или другой водитель нарушает правила, робот просчитает все возможности избежать жертв - уйдет на свободную полосу или обочину, применит экстренное торможение - но если такой возможности нет, то нарушители справедливо отправляются в больницу или в морг, причем в первом случае - выплачивают компенсацию хозяину автомобиля за ремонт. Непонятно, откуда берется мысль отправить в стену хозяина гугл-мобиля.

Автор5

Чья статья безумно глупая?