Видеосервис YouTube признал, что машинные алгоритмы, созданные компанией, пока не справляются с задачей борьбы с нежелательным контентом. Глава YouTube Сьюзан Войжитски написала в своем блоге, что в 2018 году число сотрудников, которые вручную анализируют видео на предмет нежелательного и незаконного контента достигнет 10 000.
Войжитски уточнила, что YouTube не отказывается от идеи модерировать контент при помощи ИИ, но алгоритму компании нужно учиться и в этом ему должны помогать живые сотрудники. По ее словам, они уже проанализировали около 2 млн видео и удалили 150,000 роликов, при этом 98% из этих роликов были помечены ИИ как подозрительные и потом удалены после проверки человеком. 70% нежелательного контента удаляется через 8 часов после публикации, а 50% - через час-два после размещения.
Проблем YouTube добавляет необходимость бороться не только с экстремистскими и другими нежелательными роликами, а и с комментариями к видео. Многие пользователи сервиса отмечают, что именно в комментариях к роликам больше всего оскорблений и различных высказываний, которые можно оценить как нарушающие чьи-то права.
YouTube столкнулся с целой серией скандалов, связанных с нежелательным контентом. В марте 2017 года сотовый оператор Vodafone и несколько британских банков разорвали контракты с YouTube из-за того, что сервис показал рекламу в видео, которые могут навредить репутации — речь шла о роликах, содержащих пропаганду радикального ислама. Тогда YouTube вернул рекламодателей, выплатив им компенсацию за появление рекламы в роликах экстремистов.
В конце ноября BBC провела расследование и обнаружило на YouTube некоторое количество роликов и комментариев к ним, содержащих элементы сексуального контента с участием несовершеннолетних. В результате рекламу из сервиса отозвали Adidas, Deutsche Bank, Mars и Cadburys.
