В руководстве объясняется какие смайлики могут рассматриваться как угрозы или, в контексте специфических групп, для разжигания ненависти
Находясь под огнём критики, Facebook вынужден принимать меры по модерации контента. Но эта задача не такая простая, как кажется. В СМИ попал внутренний мануал для модераторов Facebook: это более 1400 (!) страниц инструкций, в которых иногда очень сложно разобраться, пишет NY Times.
Читать полностью »
Во всех современных системах модерации используется либо краудсорсинг, либо уже ставшее классикой машинное обучение. На очередной тренировке по ML в Яндексе Константин Котик, Игорь Галицкий и Алексей Носков рассказали о своём участии в конкурсе по массовому выявлению оскорбительных комментариев. Конкурс проходил на платформе Kaggle.
— Всем привет! Меня зовут Константин Котик, я data scientist в компании «Кнопка жизни», студент физфака и Высшей школы бизнеса МГУ.
Читать полностью »
У социальной сети Одноклассники, как и у других интернет-ресурсов, где пользователи могут загружать любой контент, существует задача фильтровать изображения, нарушающие законы Российской Федерации и лицензионное соглашение самой площадки. Таким контентом в соцсети считается порнография в открытом доступе, а также сцены насилия, жестокости и прочие ужасные картинки.
Ежедневно в социальную сеть загружается более 20 миллионов картинок. Для того чтобы их проверить, наши инструменты на основе нейронных сетей автоматически фильтруют картинки определенных категорий. Однако часть контента мы пропускаем через ручную разметку, так как не всегда нейронная модель однозначно может определить, есть запрещенный контент на картинке или нет. Наш любимый пример пограничного контента — диван из разряда «показалось».
Привет! Эта публикация про небольшую интеграцию внешнего сервиса в Хабр и Geektimes, о которой вы бы никогда и не узнали. Тут не будет ни строчки про блокчейн, ни про машинное обучение, ни даже про анализ исходников DOOM III. Зато будет немного котиков.
Реклама фильма BBC рядом с видеороликом националистической группировки «Национальное возрождение Польши»
Каждый день сотни людей в разных уголках США (а может и за границей) включают свои компьютеры и начинают смотреть YouTube. Но они делают это не ради удовольствия, совсем наоборот. Людей тошнит от этой работы, но таковы требования временного работодателя, компании Google — они должны просматривать видеоролики, искать ненавистнические выражения в титрах и речи, помечать видео как «оскорбительное» или «деликатное». Всё ради того, чтобы в такие видеоролики, не дай бог, не попала реклама крупного рекламодателя, которого потом загнобят за финансовую поддержку расистов и тому подобные грехи. С этим столкнулись Walmart, PepsiCo и Verizon, среди прочих.
Читать полностью »
Наверняка, многие обитающие в сети последние 10-15 лет сталкивались с понятием «вахтера». Определение было привнесено из реальной жизни, где «вахтеры» по образу жизни, а не по профессии, встречаются весьма часто.
Это бдительная бабушка, страдающая манией преследования и старческим маразмом, которая через глазок двери контролирует любой шаг соседей по лестничной клетке и строчит заявления участковому. Или одинокая соседка, которая за чуть громче включенную музыку посреди дня уже на следующие сутки превратит вас для всего дома в дебошира и наркомана. Маразматичный председатель ТСЖ, который требует десяток ненужных справок и писем, а вообще, у него обед. Прочие примеры можно придумать самостоятельно, у каждого есть в своей практике что-то похожее.
Сильнее всего «вахтерство» как «life style» ощущается, все же, в сети. «В интернете кто-то не прав» — уже легендарное изречение. Бесконечный поток жалоб, выискивание лазеек в правилах ресурсов для того, чтобы покарать неугодных тебе людей, да и просто постоянное недовольство окружающими — типичный признак «вахтерства».
Это явление здравомыслящие люди не любят и отрицают. Постоянный надзор, давление и «кляузы» со стороны «вахтеров» не дают права на ошибку и просто раздражают, вызывают ненависть и нетерпимость в любом интернет-сообществе. Здравомыслящая администрация стремится пресекать развитие «вахтерства» на своем ресурсе, оставляя за собой единоличное право решать, кто достоин наказания, а кто нет.
Но не YouTube. На днях видео-сервис анонсировал новый функционал — YouTube Heroes, который идеально подходит именно вышеупомянутым «вахтерам».
Читать полностью »
Многие помнят, как год назад сетевой инженер Брайан Сили (Bryan Seely), уставший от обильного спама на картах Google Maps, неоднократно обращался в Google с просьбой улучшить модерацию объявлений, но без толку. Тогда он придумал, как обратить на себя внимание: разместил на Google Maps несколько фальшивых объявлений, указав адреса ФБР и Секретной службы США, но свои собственные номера телефонов. Когда люди звонили по этим номерам, Брайан перенаправлял звонок на настоящие номера спецслужб — и включал аудиозапись.
Читать полностью »
Citigroup повысил оценку цены акций Facebook с 86 $ до 91 $, указывая на новую стоимость одного из давнего приобретения синей соцсети — приложения шаринга фотографий Instagram.
Новая стоимость Instagram — это 35 млрд долларов. Предыдущая оценка Citigroup была значительно ниже — 19 миллиардов. Называются причины для этого повышения: это более высокие темпы роста аудитории и улучшение монетизации сервиса. Citigroup считает, что Instagram может зарабатывать по 2 млрд в год.
Как старая, так и новая оценки значительно превышают то, что в 2012 году за компанию из 13 человек отдал Facebook: это были 715 млн долларов, из которых часть была выплачена в виде акций. Изначально же речь шла о миллиарде. О растущем пузыре тогда не говорил разве что ленивый.
Читать полностью »
Комментарии на YouTube славятся своим низким качеством, руганью и спамом. Компания Google пошла на кардинальное решение этой проблемы и приняла решение с перевести комментарии на платформу Google+. С этой недели для некоторых роликов оставить комментарий можно будет после авторизации в социальной сети.
С одной стороны, это непопулярная мера — далеко не у всех людей есть аккаунты Google+. С другой стороны, это действительно поможет улучшить качество комментариев.
В первое время комментарии через Google+ будут показываться параллельно с обычными комментариями только в некоторых видеороликах. Но до конца текущего года опция станет доступна для всех видео.
Читать полностью »
Как часто ты сидел на совещаниях, которые, перевалив по длительности за 2 часа, пытались решить одновременно все проблемы на свете? Когда люди, красные от духоты, теряя самообладание от усталости, начинают пытаться перекричать друг друга в попытке найти правильное решение? Когда каждое совещание кончается ничем, а все участники клянутся себе, что больше никогда снова не соберутся на эти бессмысленные встречи?
Читать полностью »
