Представители индустрии сегодня всерьез задумались над отсутствием чувства морали как такового у беспилотного автомобиля. Того самого чувства, которое позволяет водителю, например, принимать решение пожертвовать собой, чтобы спасти пешехода.
- ФБР изучило, как беспилотные автомобили будут убивать людей
Для того чтобы понять, могут ли и должны ли самоуправляемые автомобили располагать неким набором алгоритмов, которые заменили бы чувство этики и морали людей, производители рассмотрели ряд философско-этических задачек, связанных с самоуправляемыми автомобилями.
Вот пример: беспилотный автомобиль движется по одной стороне дороги, перевозя своего владельца. По противоположной стороне дороги движется школьный автобус, который в какой-то момент теряет управление и вылетает на встречную полосу, оказываясь непосредственно перед самоуправляемым авто. Слева от бесплотного авто едет велосипедист без шлема, а справа - велосипедист в защитной экипировке. Как в данном случае поведет себя автомобиль? Какими будут действия автомобиля, если на дорогу перед ним неожиданно выскочит пешеход? Свернет ли он в данном случае на обочину, чтобы сохранить жизнь пешеходу? Свой выбор авто сделает, исходя из одного единственного условия - это обеспечение безопасности пассажира внутри.
Исходя из этого, представителям индустрии беспилотных автомобилей предстоит разработать алгоритмы поведения их автомобиля в ситуациях, когда авария становится неизбежной. Проблема заключается в том, что даже в случае выработки таких алгоритмов всегда будут оставаться сценарии, при которых принятие наименьшего из зол будет все же означать нанесение травм или смерть кого-то из участников ДТП.
"Когда авария уже произойдет, кто-то скажет: что ж, а человек бы не допустил этой аварии, - говорит Герберт Винер, глава факультета автостроения Дармштадского университета технологий. - Люди готовы принять то, что мы все совершаем ошибки, а вот от роботов люди ждут безошибочности".