Рубрика «робомобили» - 7

За убийство, совершённое робомобилем, судить будут программу (и программистов)

2034-й год. Пьяный человек бредёт ночью по тротуару, спотыкается и падает прямо перед робомобилем, который ударяет его и убивает на месте. Если бы за рулём автомобиля был человек, смерть признали бы несчастным случаем, поскольку вина лежала бы на пешеходе, и ни один водитель не сумел бы увернуться от него. Но стандарты для «среднего водителя» (в зарубежном законодательстве присутствует термин "reasonable person"), исчезли в 2020-х годах, когда распространение робомобилей снизило количество ДТП на 90%. Теперь приходится говорить уже о «среднем роботе».

Семья жертвы судится с производителем робомобилей, заявляя, что хотя у машины и не было времени затормозить, она могла бы объехать пешехода, пересечь двойную сплошную и столкнуться со встречным робомобилем. Реконструкция происшествия на основании датчиков робомобиля это подтверждает. Адвокат истца, допрашивая ведущего разработчика ПО автомобиля, спрашивает: «Почему же машина не отвернула?»

Сегодня суд не спрашивает водителей, почему они что-то сделали или не сделали. Вопрос спорный, поскольку человек ошибается – водитель может запаниковать, не додуматься, среагировать на инстинктах. Но когда робот ведёт машину, вопрос «почему?» вполне допустим. Этические стандарты людей, не очень удачно прописанные в законах, делают множество разных предположений, до которых инженеры просто не дошли. Самое важное из них – человек может понять, когда нужно отступить от буквы закона, чтобы сохранить его дух. Теперь инженерам необходимо научить машины и других роботов принимать разумные решения.
Читать полностью »