Глобальная экология устойчивых кластеров онлайн-ненависти. Структура подобна синапсам в нервной системе
С распространением социальных медиа люди могут связаться с единомышленниками в несколько кликов. Легко и непринужденно формируются группы людей с общими интересами. В последнее время деятельность этих групп связывают с всплеском преступлений во всём мире. В изолированном «пузыре» единомышленников происходит радикализация мнений, что опасно для людей с неустойчивой психикой.
Согласно новому исследованию, опубликованному в журнале Nature, онлайн-ненависть процветает благодаря самоорганизующимся масштабируемым кластерам, которые соединяются и формируют устойчивые сети. Эти структуры охватывают несколько платформ социальных сетей в разных странах и на разных языках. У групп ненависти нет национальных границ и они исключительно живучи, мигрируя с платформы на платформы.
Исследователи из университета Джорджа Вашингтона во главе с профессором физики Нилом Джонсоном (Neil Johnson) разработали первую в своём роде картографическую модель, чтобы объяснить поразительную живучесть этих кластеров. Они считают, что работа поможет платформам социальных сетей и правоохранительным органам более эффективно бороться с ними.
«Ненависть разрушает жизни, не только как мы видели в Эль-Пасо, Орландо и Новой Зеландии, но и психологически через онлайн-травлю и риторику, — говорит Джонсон. — Мы решили добраться до основ онлайн-ненависти: изучить, почему она настолько устойчива и как с ней лучше бороться. Говорят, что любовь витает в воздухе. Мы обнаружили, что ненависть тоже».
Чтобы понять, как распространяется ненависть в интернете, команда сначала изучила межсоединения кластеров. Через эти связи распространяется нарратив и привлекается новая аудитория. Они сосредоточились на двух крупнейших социальных сетях — Facebook и «Вконтакте». Начав с одного кластера ненависти, они проследили связи ко второму, который был сильно связан с оригиналом. Оказалось, что ненависть выходит за границы конкретных интернет-платформ, включая формируя новые очаги «инфекции» в Instagram, Snapchat и WhatsApp.
Сети очень разнообразны по географии. Например, «Вконтакте» популярен в Восточной Европе, но его активно используют и американские расисты. Кластеры Facebook простираются из США в Западную Европу, но есть также форпосты в Южной Африке и на Филиппинах. Это приводит к некоторым странным кросс-культурным связям, пишут авторы научной работы. Например, «неонацистские кластеры с членами из Великобритании, Канады, США, Австралии и Новой Зеландии содержат материал об английском футболе, Брексите и картинки скинхедов, но в то же время продвигают чёрные музыкальные жанры».
Исследователи увидели, что кластеры создают новые стратегии адаптации, чтобы перегруппироваться на других платформах и/или повторно войти на старую платформу после блокировки. Например, кластеры могут мигрировать и восстанавливаться на других платформах или использовать разные языки, чтобы избежать обнаружения. Это позволяет кластеру быстро вернуть тысячи сторонников на платформу, на которой они были запрещены, и подчёркивает необходимость межплатформенного сотрудничества для ограничения групп ненависти в интернете, считают авторы исследования.
«Аналогия заключается в том, что независимо от того, сколько сорняков выкорчевать со двора, проблема вернётся, потенциально в более агрессивном варианте. В онлайн-мире все соседние дворы связаны между собой очень сложным образом — почти как червоточины. Вот почему отдельные платформы социальных сетей, такие как Facebook, нуждаются в новом анализе вроде нашего, чтобы найти новые более эффективные подходы», — сказал д-р Джонсон.
Исследование проводилось несколько лет, вплоть до 2018 года. За этот период в группах ненависти произошло несколько крупных событий, которые сильно повлияли на структуру сетей расистов. Наиболее заметным среди них является запрет KKK в сети Facebook. Это привело к массовой миграции американских групп KKK во «Вконтакте»; во многих случаях это были просто зеркала сайтов, которые группы создали на Facebook. Но и там ситуация усложнилась, когда Украина решила полностью забанить эту сеть. В этот момент часть оригинальных групп Facebook тайно вернулась на новую платформу, с некоторыми хитростями. Надеясь избежать обнаружения алгоритмами Facebook, вновь сформированные группы KKK часто использовали кириллические символы, говорится в научной работе.
Другим заметным событием стала стрельба в школе Паркленда, когда выяснилось, что стрелок интересовался ККК. После перестрелки многие из небольших групп сторонников ККК начали формировать связи с более крупными, более устоявшимися группами ненависти: «Эта адаптивная эволюционная реакция помогает децентрализованному идеологическому организму ККК защитить себя, объединив ранее несвязанных сторонников», — утверждают авторы.
Адаптивная динамика онлайновых групп ненависти в микромасштабе. Сверху — экосистема KKK в сети «Вконтакте» до и после расстрела в школе Паркленда, Флорида, 14 февраля 2018 года. В последующие недели после расстрела происходит быстрое установление связей между кластерами, которые раньше были изолированы. На второй иллюстрации показаны закрытые группы «Вконтакте» (красным), открытые группы (зелёным) и сильные связи между кластерами. На третьей иллюстрации — похожая эволюция экосистемы в антизападных группах после удара коалиции по лидеру джихадистов 18 марта 2015 года
Команда, в которую вошли исследователи из университета Майами, изучила составленную модель для разработки четырех стратегий вмешательства, которые платформы социальных сетей могут немедленно внедрить:
- Ослабить мощность и количество больших кластеров, блокируя мелкие кластеры. Это проще, так как их гораздо больше, и именно эти отдельные кластеры помогают обеспечить устойчивость системы после блокировки крупных кластеров.
- Атаковать ахиллесову пяту онлайн-групп ненависти, случайным образом блокируя небольшую часть отдельных пользователей мелких кластеров, чтобы подорвать глобальную кластерную сеть. Поскольку общее число запретов относительно невелико и распределено случайным образом, это уменьшает вероятность любой реакции, сказано в научной работе.
- Натравить большие кластеры друг на друга, помогая кластерам анти-ненависти находить и взаимодействовать с кластерами ненависти напрямую. Смысл в том, что одна из причин формирования хейтерских групп в онлайне — то, что здесь люди могут свободно выражать точку зрения, которая не приветствуются в более широком обществе. Тут они говорят свободно, не опасаясь оппозиции или наказания. Присутствие противников уменьшит уровень комфорта, так что некоторые участники могут покинуть группу.
- Создавать промежуточные кластеры, которые вовлекают в себя группы ненависти. Это поможет выявить различия в идеологиях между ними и заставит их начать сомневаться в своей позиции.
Исследователи отметили, что каждая из их стратегий может быть принята в глобальном масштабе и одновременно на всех платформах без необходимости делиться конфиденциальной информацией отдельных пользователей или коммерческой тайной, что раньше было камнем преткновения.
Используя эту карту и математическую модель, д-р Джонсон и его команда разрабатывают программное обеспечение, которое может помочь регуляторам и правоохранительным органам провести описанные вмешательства в социальную ткань онлайновых коммуникаций.
Вероятно, правоохранительные органы могут использовать эти методы для разрушения не только групп ненависти, но и других онлайновых сообществ. Например, активистов политической оппозиции. Учёные сейчас готовят программное обеспечение, которое поможет властям автоматизировать эти действия. Но здесь власти отдельных стран вряд ли могут рассчитывать на международное сотрудничество.
Научная статья опубликована 21 августа 2019 года в журнале Nature (doi: 10.1038/s41586-019-1494-7, pdf).
Автор: alizar
