Алгоритмы сопротивления 

алгоритмы сопротивления

Как соцсети блокируют контент на острые темы, и чем отвечают активисты и СМИ

Соцсети пессимизируют контент, связанный с политикой, но для многих пользователей это важный инструмент выражения своей позиции и поиска единомышленников. Иногда им удается преодолеть сопротивление алгоритмов: программы анализируют формальные критерии, а люди — общие метафоры. «Теплица» разбиралась, почему площадки не любят политизированные темы и как цифровые активисты обходят эти ограничения.‎ 

Ключевые пункты

  • У разных соцсетей разная жесткость модерации контента на острые политические темы: она зависит от рекламодателей, готовности подчиняться властям и потребностей аудитории.
  • Платформы ограничивают контент и аккаунты из-за быстро распространяющейся дезинформации и риска радикализации, даже если все начиналось с нейтральной дискуссии.
  • Опротестовать блокировку очень сложно, но реально, если доказать, что контент или группа не нарушают правила платформы и не опасны для ее пользователей.  
  • Активисты обходят алгоритмы, активизируя существующие связи в коммьюнити, используя иносказательный язык и привлекая СМИ и инфлюенсеров.

Modus operandi платформ

Формально соцсети блокируют публикации и аккаунты, только если они нарушают правила пользования: призывают к насилию, нарушают авторские права и тд. На практике, этим не ограничивается: иногда блокировки происходят из-за жалоб «‎бдительных» граждан, иногда — по требованию властей. В случае с жалобами, соцсети сначала заблокируют пост, и только после возмущений автора будут разбираться, насколько это было обосновано. Презумпция невиновности тут не работает. 

Чем шире аудитория ресурса, тем строже он относится к публикуемому контенту и тем больше вероятность, что компания пойдет на сотрудничество с местными властями. Mozilla по требованию Роскомнадзора заблокировала на территории России несколько расширений для своего браузера Firefox, которые помогали обходить блокировки. У компании нет офисов в РФ, но Firefox занимает четвертое место по популярности среди браузеров у российской аудитории. А Delta Сhat, защищенный децентрализованный мессенджер, уже дважды отказал регулятору в предоставлении данных и метаданных пользователей (справедливость ради, он их даже не собирает).

Финансовый аспект явно влияет на принятие подобных решений. В 2022 году Meta получила от рекламодателей 113,6 млрд долларов, а в 2023 — 132 млрд. TikTok в 2022 году заработал почти в 10 раз меньше — 11,6 млрд. Рекламодатели предпочитают площадки без кровавых дискуссий: по данным Brand Safety Institute, 87% опрошенных считают, что реклама брендов не должна показываться рядом с неприемлемым или оскорбительным контентом, в том числе, хейтспичем. X (Twitter) едва не лишился контрактов с IBM, Disney и т.д., когда компании заметили размещение своей рекламы рядом с антисемитскими постами. 

Помимо выручки, платформы озабочены еще одной серьезной проблемой — радикализацией. Пост на острую дискуссионную тему, особенно с эпатирующими кадрами, может задеть чувство справедливости большого числа людей и сподвигнуть их на решительные действия. Так случилось с твиттер-аккаунтом Дональда Трампа во время протестов против результатов президентских выборов в январе 2021 года. 

Вначале экс-президент призвал несогласных с голосованием присоединиться к митингу, и этот призыв был подхвачен и раскручен правыми активистами. Они стали переходить на зашифрованные средства коммуникации, закупать защитное снаряжение, а конспирологические экстремистские группировки, такие как Stop the Steal и Oath Keepers, усиленно наращивали онлайн-присутствие. Несмотря на то, что в день митинга Трамп не призывал захватывать Капитолий, а только прийти к нему «маршем», демонстранты пошли на штурм, что привело к пострадавшим и вандализму. Трамп успел опубликовать несколько постов, в которых он просил воздержаться от насилия и видео с призывом расходиться по домам, прежде, чем его заблокировали все платформы.

Twitter, Facebook и YouTube тогда удалили большинство постов, в которых результаты выборов назывались сфальсифицированными. Соцсети объяснили это желанием предотвратить распространение дезинформации. Один только Twitter заблокировал около 70 тыс. профилей, в том числе Трампа, с которого сняли блокировку только в конце 2022 года.

Иногда решения об удалении принимаются непрозрачно. Согласно отчету Human Rights Watch, Facebook и Instagram удаляли фото убитых палестинцев, комментарии в поддержку Палестины и отправляли в бан пользователей, разместивших их. В некоторых случаях Meta не смогла убедительно объяснить пользователям, за нарушение каких именно правил они были заблокированы. При этом аналогичные фото с войны в Украине не удалялись (Instagram помечает их как потенциально шокирующие).  

Кроме прямого удаления, у площадок есть инструменты по снижению видимости публикаций, в частности, теневой бан. Это неофициальное ограничение ресурса или поста в поисковой выдаче и в показах подписчикам. Поскольку ограничение неофициальное, ничего не подозревающий контент-мейкер может долго искать причины падения охватов и вовлеченности аудитории. По всей вероятности, платформа применяет теневую блокировку, когда считает, что активность одних пользователей ухудшает времяпрепровождение других. 

Сюда относятся действия, напоминающие автоматические или спамные, такие как частые рассылки в личные сообщения и массовый фолловинг, а также использование триггерных слов и хештегов. Соцсети с большой вероятностью будут пессимизировать публикацию со словом «‎нацисты» или «‎расизм», вне зависимости от посыла этой публикации — даже если это простой пост на историческую или образовательную тему. А видео о преступлениях ЧВК «‎Вагнер» в YouTube, скорее всего, вообще будет удалено, потому что группировка признана преступной и террористической, и любая информация о ней потенциально может навредить.

Ответ активистов

Ограничения платформ сильнее всего сказываются на авторах из недемократических стран. Кроме борьбы с государственной цензурой, им приходится неукоснительно соблюдать правила площадок, наблюдая как проплаченные боты захватывают информационное пространство. Методов, которыми они могут ответить, не так много:

— освещение в СМИ. Независимые медиа стараются находить контакт с глобальными IT-корпорациями: признают сложность ситуации, в которой те оказываются, доказывают, почему люди должны увидеть их материалы, объясняют, почему требования местных властей ограничивают свободу слова и противоречат законодательству юрисдикций этих компаний. Временами это работает, особенно когда случаи блокировок получают широкое медийное освещение.   

В течение нескольких месяцев после полномасштабного вторжения России в Украину поисковик Google оптимизировал в выдаче «‎Комсомольскую правду» и «‎Царьград ТВ» для российских пользователей. В конце 2023 года Bloomberg написал об этом, уточнив, что в целом не очевидно, как Google выбирает, на какие ресурсы перенаправлять российских пользователей. По мнению основателя The True Story Льва Гершензона, именно публикация в таком крупном издании сподвигла Google на то, чтобы вручную убрать оба ресурса из выдачи. 

В мае 2024 года правозащитные организации и просветительские проекты, такие как «‎Роскомсвобода», «Теплица социальных технологий», «Репортеры без границ (RSF)», отправили письмо YouTube с просьбой не выполнять требования Роскомнадзора по удалению «‎противоправного контента». Видеохостинг блокировал материалы про уклонение от военной службы, использование VPN и тд., хотя эти видео не нарушали его правила. Подписанты также отметили, что хотя YouTube и разблокировал три видео после огласки в российских независимых СМИ, эти видео так и не начали показываться в поиске с территории России.   

— Коллективное действие. В 2011–2012 годах а Испании шли протесты движения Indignados против политики жесткой экономии и коррупции, число участников которых достигало, по разным подсчетам, от 6 до 8,5 млн человек. Indignados активно использовали социальные сети, в частности Twitter, чтобы попадать на медиа-радары и мобилизовывать сторонников. Протестующие подбирали ранее не использованный хэштег с виральным потенциалом и через уже существующую сеть профилей активистов ставили его в своих публикациях в один и тот же промежуток времени. Это позволяло им систематически появляться со своей повесткой в разделе Trending (Актуальные темы) в Twitter. 

— Иносказательность. Сюда относятся эмоджи арбуза и выражение «‎Watermelon country» как символы солидаризации с Палестиной из-за ассоциации с цветами флага. Или *** *****, «‎нет войне», как ответ на военную цензуру со стороны российских властей. Часто эти символические метафоры возникают в движениях сопротивления в офлайне и затем перекочевывают онлайн. По требованию властей сотрудники соцсетей могут настроить фильтры на удаление такого контента, но это займет больше времени и будет не так эффективно. Citizen Lab в своем отчете по цензуре в VK указывала, что блокировка на основе ключевых слов — грубый неизбирательный инструмент. Например, соцсеть блокирует не только поисковые запросы, связанные с ЛГБТК+, но и запросы, связанные с анти-ЛГБТК+. Слова «‎ЛГБТ», «‎ЛГБТК» и «‎гей» блокируются, а «‎ЛГБТКИА» и «‎геи» — нет.      

— Привлечение инфлюенсеров. Контент от верифицированного аккаунта с большим числом подписчиков намного сложнее отправить в теневой бан, так что он скорее доставит сообщение широкой аудитории, чем несколько маленьких аккаунтов. 

— Вовлечение аудитории. Это общая рекомендация: соцсети приоритезируют контент, который заставляет пользователей дольше оставаться онлайн. Публикации, которые получают много лайков, комментариев, шеров и сохранений будут показываться чаще — если они не про насилие и непристойности, тогда соцсеть их заблокирует. Для этого нужно изучить аудиторию и понять, что ее беспокоит, когда она онлайн, какие типы постов предпочитает (видео, человеческие истории, мемы) и тд.  

Три «‎T» 

Facebook с более чем 3 млрд пользователей, YouTube с 2,5 млрд и Instagram с 2 млрд отличаются самой строгой модерацией. Возможно, это происходит в том числе из-за высокой роли искусственного интеллекта в Meta: он решает, ограничивать ли доступ к контенту, почти в 100% случаев. Так или иначе, TikTok, X и Telegram — главные конкуренты Meta и YouTube в сфере социальных коммуникаций, которые заявляют о себе как о более свободных и дружественных к пользователям платформах.

В TikTok почти 1,6 млрд пользователей. Их средний возраст ниже, чем пользователей Facebook, а молодежь обычно более активно выражает гражданскую и политическую позицию. Популярность соцсети и вовлеченность ее аудитории приводили к неоднократным попыткам ее запрета в США, к тому, что соперничающие политические партии заводят там аккаунты и к одной из самых высоких цен за размещение рекламы. Рекомендательные алгоритмы TikTok считаются одними из самых эффективных, что приводит к созданию информационного пузыря вокруг пользователей. Как результат, споры между сторонниками разных политических направлений только ожесточаются. С учетом быстрого распространения непроверенной информации, это все сильнее примитивизирует политическую дискуссию.

Telegram с 900 млн пользователей позиционирует себя как мессенджер с расширенными настройками приватности и площадку для свободного выражения мнения без модерации. Telegram даже получил почти миллионный штраф от Роскомнадзора за отсутствие этой модерации. В то же время, в Госдуме прямо заявляли, что мессенджер «‎очень быстро реагируют на происшествия и сотрудничает с правоохранительными органами». Но силовики могут находить и деанонимизировать пользователей и без официального сотрудничества — через систему «‎Инсайдер»

В целом Telegram блокирует каналы и предоставляет данные властям по непрозрачной схеме. Экстремистские каналы и фейки долгое время могут не удаляться, особенно если они не нарушают непосредственно правила мессенджера, а только правила Apple или Google. Каналы Hamas, где публиковались в т. ч. кадры нападения 7 октября, не были заблокированы, а лишь перестали появляться в выдаче.   

Вокруг политики X, самой малочисленной соцсети (611 млн пользователей), было много споров: после нескольких масштабных утечек данных всплыла информация о том, что бывшие сотрудники шпионили в пользу Саудовской Аравии, а сама соцсеть халатно относилась к кибербезопасности. С приходом Илона Маска X получила штраф за таргетинг рекламы на пользователей, чьи номера телефонов и электронные почты были собраны при включении двухфакторной идентификации. Тем не менее, социально-политические движения от Арабской весны до MeToo разгорались именно в X — не в последнюю очередь из-за присутствия там официальных лиц.

Соцсети противоречиво относятся к политическому контенту: с одной стороны, он вовлекает пользователей в дискуссии и увеличивает их время на платформе, с другой — может раскрутить спираль ненависти и отпугнуть рекламодателей. Но пользователи часто оказываются менее пугливыми, чем алгоритмы: так, после получения плашки «‎fake» от Telegram, канал жен мобилизованных «‎Путь домой» только набирал подписчиков. Поэтому если вы не призываете к насилию и не распространяете дезинформацию, не стоит прибегать к самоцензуре.

Источники

From digital activism to algorithmic resistance 

“What are you doing, TikTok?” : How Marginalized Social Media Users Perceive, Theorize, and “Prove” Shadowbanning 

TikTok as a Digital Activism Space: Social Justice Under Algorithmic Control 

Social Media Bans Are Really, Actually, Shockingly Common | WIRED 

Not OK on VK: An Analysis of In-Platform Censorship on Russia’s VKontakte — The Citizen Lab  

Что такое теневой бан и как в него не попасть. Объясняем простыми словами — Секрет фирмы 

What Is ‘Shadow Banning’? — The New York Times 

Biggest social media platforms 2024 | Statista 

Еврочиновники потребовали от Google борьбы с пропагандой Кремля. Как бигтех может держать объективную сторону — объясняет создатель «Яндекс.Новостей» Лев Гершензон 

Seeing less political content on Instagram? It’s a deliberate move from Meta, which experts say could impact democracy — ABC News 

Create engaging and effective social media content – Hootsuite Help Center 

Самое популярное

Будьте с нами на связи, независимо от алгоритмов

Telegram-канал E-mail рассылка RSS-рассылка
Как победить алгоритмы: прочитай инструкции, как настроить приоритетный показ материалов в социальных сетях и подключить RSS-ленту.