Этические проблемы эры автомобилей без водителя

Резюме
Появление автомобилей без водителей заставляет задуматься о тернистых этических проблемах для производителей и для страховщиков, которые будут возникать вокруг аварийных ситуаций. Самоуправляющиеся автомобили изменяют наше представление о поездках и ставят в связи с этим интересные вопросы перед страховщиками.
Вообразите себя расслабленно отдыхающим в самоуправляемом автомобиле. Вы только что высадили из него вашего сына, который забежал на тротуар немного впереди вас. Автомобиль, набирая ускорение, начинает движение — и внезапно в этот момент шесть велогонщиков выныривают из-за поворота. Столкновение неизбежно, и компьютер вашего самоуправляемого автомобиля в доли секунды должен принять решение. Должен ли автомобиль свернуть с пути шести велосипедистов, сохранив им жизни, но заехать при этом на тротуар и убить вашего сына? Или ему надо продолжать двигаться прямо и перепахать велосипедистов, сохранив жизнь вашему сыну?

И помните, что решение остается не за вами: оно будет принято компьютером самоуправляемого автомобиля. Должен ли компьютер быть запрограммирован на уменьшение числа потенциальных жертв (то есть, объехать велосипедистов, но убить вашего сына), или его надо программировать, заложив в него прежде всего ваши интересы (и тогда столкновение произойдет с велосипедистами).

Классический этический сценарий
Некоторые из внимательных читателей уже распознали в этой ситуации один из классических сценариев, используемых для побуждения этических и философских дебатов. Этот сценарий иллюстрирует две классические позиции: утилитарную и деонтологическую. Первая из них будет стремиться спасти шесть жизней ценой одной. Вторая будет стремиться защитить важные для вас ценности, не считаясь с количеством.
Чисто финансовые последствия для страховых компаний понятны. Самоуправляемый автомобиль будет запрограммирован в соответствии с принципами утилитарной этики, чтобы минимизировать размеры страховой ответственности. Деонтологические принципы при этом не будут иметь значения. Увидим ли мы когда-нибудь страховщиков, обратившихся к философам для принятия оптимального решения — какая модель автомобиля должна нести в себе оптимальный способ решения этой дилеммы?

Программируемый человеком...
Ключевой момент при таком подходе — это не рабочие места для философов, а осознание того факта, что все эти алгоритмы, лежащие за моментом принятия решения компьютером самоуправляемого автомобиля будут программироваться человеческими существами. Так же, как вы или я, они будут наполнены собственными убеждениями и предвзятостями, которые будут влиять на выбираемые ими коды, определяющие решение, которое выберет самоуправляемое авто.
В нашу эпоху «big data» мы вполне можем предположить, что при принятии решений компьютером будет рассматриваться большое множество факторов, способных повлиять на решение. Например, что если шесть велосипедистов будут со всех сторон увешаны датчиками контроля за состоянием здоровья, из чего автомобильный компьютер сделает вывод, что все они — восьмидесятилетние старики? И при этом компьютер знает также, что ваш ребенок — единственный в семье? Может ли это повлиять на выбор направления движения автомобиля?

Вложенные выборы
Комбинировать факторы, способные повлиять на принимаемое решение, можно бесконечно. Но одно измерение остается неизменным. Оно состоит в том, что страховщики, использующие большие массивы данных для андеррайтинга или для разбора страховых случаев, должны понимать, что их выборы укладываются в конечном счете в тот самый исходно обсуждавшийся нами алгоритм. Алгоритм, который базируется на этической подкладке, и поэтому требует осознания страховщиком своих базовых этических ценностей, а также четких законодательных правил принятия решений. Попросту говоря, способ, которым пользуются некоторые современные страховщики — «из этих данных само собой следует заключение, что...» — уже не выдерживает в этом контексте никакой критики.