Системы распознавания лиц не впервые испытывают проблемы с идентификацией людей с тёмной кожей: в этом случае искусственный интеллект часто теряется и не может корректно распознать образ. Однако алгоритмы, используемые системами автономного вождения, оказывается, тоже испытывают трудности с распознаванием чернокожих, а это уже грозит серьёзными происшествиями с участием беспилотных автомобилей.
Искусственный интеллект может поставить под угрозу жизнь и безопасность пешеходов с тёмной кожей, выяснили специалисты из Джорджии. Они исследовали восемь моделей искусственного интеллекта, используемых в современных системах распознавания объектов, каждая из которых обучалась по стандартному набору данных. Системы позволяют беспилотным автомобилям распознавать дорожные знаки, пешеходов и другие объекты уличной сети.
Специалисты протестировали модели с использованием изображений пешеходов, разделённых на две категории на основе оценок по известной шкале Фитцпатрика, которая используется для классификации цвета кожи человека. Шкала делит людей на шесть типов, где I — самый светлый цвет кожи, VI — самый тёмный. Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами трёх самых тёмных оттенков кожи.
В среднем точность моделей снизилась на 5% при рассмотрении группы, содержащей изображения пешеходов с более тёмным оттенком кожи — даже когда учитывались такие факторы, как время суток или объекты, которые заслоняли пешехода. Стоит отметить, что алгоритм опирается только на те данные, которые присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет.
И это является проблемой, потому что в подобных базах светлокожих людей, как правило, значительно больше, чем чернокожих. Учёные разработали рекомендации, необходимые для предотвращения подобных казусов: нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и тем самым повышать точность показателей определения этих изображений системами распознавания.
