Исследователи из Стэнфордского университета обнаружили, что системы распознавания речи, разработанные пятью крупнейшими мировыми технологическими компаниями, с разной точностью распознают речь представителей разных рас.
Говоря точнее, системы, разработанные Amazon, Apple, Google, IBM и Microsoft, допускают гораздо больше ошибок, распознавая речь представителей негроидной расы, чем в случае речи европеоидов.
Средние значения по пяти компаниям показывают, что системы неправильно распознавали слова белых людей примерно в 19% случаев, чернокожих — в 35%. Более того, в первом случае системы не могут распознать около 2% речи, а во втором — 20%.
Исследователи объясняют такую ситуацию тем, что системы распознавания обучаются на недостаточно разнообразных данных.
Издание The New York Times обратилось к разработчикам за комментариями. Откликнулась только компания Google, которая объяснила, что «работает над проблемой точного распознавания вариаций речи в течение нескольких лет и будет продолжать это делать».
Следует добавить, что проблему усугубляет положительная обратная связь. Поскольку для развития и совершенствования системы используют данные, собираемые в процессе эксплуатации, происходит автоматическая оптимизация под тех, кого они слышат чаще и понимают лучше, то есть со временем разрыв только увеличивается.
Ранее расовая предвзятость была обнаружена в системах искусственного интеллекта для распознавания лиц.
