Несмотря на то, что тысячи инженеров по всему миру работают над тем, чтобы сделать беспилотные автомобили безопасными, существуют самые неожиданные уязвимости, которые могут поставить под угрозу как пассажиров беспилотников, так и окружающих людей. К такому выводу пришли немецкие учёные из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета.
Специалисты выяснили, что свести с ума электронику автомобиля может цветное пятно, которое окажется в поле зрения видеокамер. Если такой даже неподвижный рисунок фиксирует беспилотник, то система начинает считать, что разные объекты в поле зрения камер движутся в разные стороны и это приводит к сбою в работе нейросетей.
Учёные подчеркнули, что у них ушло не больше четырёх часов на создание рисунка, который выводит из строя автопилот. При этом, как отмечают исследователи, для того, чтобы машины оказались в сложной ситуации, достаточно даже небольшого по размеру изображения, которое может располагаться где угодно — на других транспортных средствах, на объектах дорожной инфраструктуры и даже на людях.
В своей работе Attacking Optical Flow, опубликованной на arXiv, специалисты подчеркнули, что если взять за 100% весь объём визуальной информации, которые воспринимают камеры беспилотных автомобилей, то если даже менее 1% от этого изображения придётся на цветовое пятно, то в системе возникнут ошибки и автопилот не сможет корректно оценивать ситуацию, а беспилотник начнёт вести себя непредсказуемо. При этом одна и та же машина, «увидев» одно и то же пятно, каждый раз реагирует на «препятствие» неодинаково.
Учёные намерены найти решение выявленной проблемы, а пока пытаются привлечь внимание разработчиков автопилота к найденному багу. Гипотетически подобные цветовые пятна могут использовать хакеры, чтобы выводить из строя беспилотные машины.
