Количество информации, доступной для обработки и анализа с помощью компьютеров, растёт, как снежный ком. Данные с камер видеонаблюдения, GPS-трекеров, сенсоров мобильных телефонов, записи финансовых транзакций, история посещений страниц в интернете оказывают всё большее влияние на принятие решений. И чем больше этих данных, тем больше приходится полагаться на их автоматическую интерпретацию. Неизбежное следствие этого — появление систем «компьютерного правосудия», которые без участия человека выявляют нарушения законов и правил. Штрафы за превышение скорости, выписываемые автоматически на основании данных с видеокамер и радаров или система анализа контента на Youtube, которая ищет нарушения копирайта — это уже повседневная реальность.
Группа американских учёных, объединяющая юристов, лингвистов и программистов, провела интересный эксперимент в этой сфере. В ходе эксперимента 52 студента-программиста должны были составить программу, которая анализировала бы данные с GPS-трекера, установленного в автомобиле и выписывала штрафы за нарушение скоростного режима в соответствии с правилами дорожного движения штата Нью-Йорк. Это оказалось очень непростой задачей — даже в самых законопослушных государствах законы никогда не выполняются буквально и на все 100%. Часть нарушений остаются незамеченными, часть слишком незначительна, чтобы правоохранители обратили на них внимание. Компьютеры же ничего не забывают и ничего не упускают. Бездумное применение правил и алгоритмов приводит к излишне жестким наказаниям и нелепым ошибкам вроде блокирования видео с шумом ветра за нарушение копирайта.
Экспериментальные данные состояли из GPS-трека, полученного во время реальной поездки на автомобиле, информации о скоростном режиме разных участков трассы и собственно свода правил дорожного движения. Участники эксперимента были разбиты на три группы. Первая группа писала программу, жестко и буквально следуя тексту правил. Вторая группа должна была следовать духу, а не букве закона, и её участники самостоятельно решали, в каких случаях превышение скорости заслуживало штрафа. Программистам из третей группы была дана составленная экспериментаторами спецификация, где были подробно расписаны допустимые пределы нарушений и погрешности датчиков.
По графику скорости автомобиля видно, что водитель в целом соблюдал правила — незначительные пики, выходящие за рамки официальных ограничений скорее всего были связаны с обгонами на трассе или изменением рельефа. При этом программы, следовавшие букве закона, за время поездки в среднем выписывали абсурдные 498 штрафов. В группе, следовавшей духу закона, в среднем нарушение регистрировалось 1,5 раза. Группа, писавшая код по составленной экспертами спецификации вообще не нашла нарушений.
В ходе написания программ выявилось множество факторов, о которых в законе не сказано ни слова, но которые оказывают огромное воздействие на принятие решений. Какова погрешность датчика? Считается ли нарушением превышение скорости на 5 миль в час? А на 10? Если оно длилось всего несколько секунд? Или минут? Или повторялось несколько раз в течение часа? Эти и другие вопросы законодатель оставляет на усмотрение исполнителей. Живой полицейский вряд ли будет штрафовать водителя, превысившего скорость на несколько секунд во время обгона (по крайней мере, если он заинтересован реальном соблюдении правил, а не в выполнении плана по штрафам). У программы же нет здравого смысла, так что программисту необходимо учесть все нюансы и особые случаи.
Интересно, что студенты из разных групп очень по-разному отнеслись к возможности того, что их программа будет анализировать их собственную езду. В группе, следовавшей букве закона, лишь один студент согласился с этим, но лишь при условии, что в системе будет «бэкдор», который позволит ему избежать наказания. Такими же низкими были результаты тех, кто писал программу по жестко заданной спецификации, и это несмотря на полное отсутствие штрафов в их версии программы. Лишь среди тех, кто сам решал, как должна работать программа, набралось 37,5% готовых подчиниться её решению.
Авторы эксперимента считают, что у алгоритмизации правосудия большое будущее, а практика применения компьютеров может оказать сильное влияние на сами законы. На стыке юриспруденции и программирования может возникнуть новая весьма востребованная профессия. Компьютеры и интернет необратимо изменили многие сферы человеческой деятельности. Революция в образовании уже идёт полным ходом, суперкомпьютер Watson ставит диагнозы не хуже профессиональных врачей, возможно и в юриспруденцию ждут большие перемены.
Автор: ymushnikova
