Подотчетность платформ, или платформенных компаний (platform accountability), постепенно формируется как область защиты прав потребителей цифровых услуг. Сейчас она представляет собой скорее разнообразие инициатив и проектов, команды которых готовы бороться за то, чтобы платформенные компании хотя бы частично стали подотчетны если не государству, то широкой общественности. Пока большинство инициатив в этом направлении носит скорее активистский и рекомендательный характер. Но давайте по порядку.
До середины 2010-х у ИТ-гигантов, ставших ключевыми участниками платформенной экономики, вроде Google, Amazon, Apple, Facebook или Twitter было достаточно свободы, чтобы принимать самостоятельные решения. При этом они не особенно заботились о том, чтобы отчитываться о своей деятельности кому бы то ни было. Однако, чем больше персональных данных накапливают эти компании, тем более ответственными они за них становятся. Но кажется, что степень этой ответственности они всё ещё слабо осознают. Ситуация стала стремительно меняться со второй половины 2010-х в связи с накопившимися прецедентами.
Почему нужен контроль?
Сейчас, когда платформы имеют возможность модерировать контент, манипулировать алгоритмами, использовать данные в коммерческих целях, свобода их действий требует определенных ограничений. В противном случае мы получаем нарушение авторских прав, вмешательство в политические процессы (пропаганда, выборы и даже терроризм) или нарушение границ неприкосновенности частной жизни. Британская организация ISBA (Incorporated Society of British Advertisers, Объединенное общество британских рекламодателей) следующим образом обобщает негативный опыт платформ:
Facebook, Google и Twitter подвергались нападениям по отдельности или коллективно по широкому кругу вопросов, включая: разрешение распространения террористического и экстремистского контента; предоставление средств для вмешательства в выборы и продвижение фальшивых новостей; разрешение жестокого обращения с детьми; размещение контента, который является неприемлемым или вредным для детей; разрешение высказываний ненависти и кибер-запугивания; и создание зависимости и депрессии. Платформы подвергались критике за их политику и за провалы в правоприменении.
И хотя platform accountability напоминает сейчас скорее движение или призыв, предпринимаются попытки консолидации заинтересованных участников, которые пытаются воздействовать на контроль деятельности ИТ-гигантов. Так, например, отдельные политические и регуляторные попытки предпринимались в Австралии, Канаде, Калифорнии. Самый масштабный пример, отражающий ту же идею, — Европейский Общий регламент по защите данных (General Data Protection Regulation, GDPR), которое едва ли использует это словосочетание в самом регламенте, но по сути вносит огромный вклад в развитие области. Более того, тему регулирования интернета и крупнейших его игроков помогает развивать ряд петиций, деклараций, открытых писем отдельных организаций (Change the terms или Media Justice), даже если не отсылают непосредственно к platform accountability.
От регулирования интернета к подотчетности платформ
Аккуратное формулирование принципов platform accountability начинается только 2018 году. Например, в ноябре 2018 года члены Международного комитета (International Grand Committee) по дезинформации и «фейковым новостям» подписали декларацию о принципах законодательства, регулирующего интернет:
- Интернет глобален, поэтому релевантное законодательство должно основываться на согласованных на глобальном уровне принципах;
- Преднамеренное распространение дезинформации представляет реальную угрозу для развития демократии и цивилизованного глобального диалога;
- Глобальные технологические компании должны признать свою власть и продемонстрировать готовность принять на себя большую ответственность;
- Социальные сети должны нести ответственность, если они не выполняют судебный, законодательный или нормативный приказ об удалении вредного и вводящего в заблуждение контента со своих платформ, и должны регулироваться для обеспечения соблюдения этого требования;
- Технологические компании должны продемонстрировать свою подотчетность пользователям, сделав себя полностью подотчетными национальным законодательным органам и другим органам представительной демократии.
Самые яркие кампании принадлежат тем акторам, чья непосредственная деятельность страдает от недостатка регулирования интернета и ключевых компаний (например, СМИ или креативные индустрии). Правозащитная организация CreativeFuture распространила открытое письмо и петицию по поводу регулирования интернета в контексте platform accountability. Их ключевые пункты:
- Мы рассматриваем интернет как мощную демократизирующую силу для творческих индустрий, отдельных людей и мира в целом.
- Мы требуем, чтобы крупнейшие интернет-платформы (в частности, Google и Facebook) взяли на себя большую ответственность за легальность контент, распространяемый в их сетях, который наносит ущерб способности наших членов зарабатывать на жизнь.
- Мы принимаем сильную систему авторских прав в стране и за рубежом, которая поощряет творчество и способствует здоровому творчеству и экономике.
- Мы с гордостью заявляем, что авторское право способствует и защищает свободу слова – и его защита не подрывает свободу слова.
- Авторское право должно позволить нашим творческим сообществам защищать свои права от тех, кто будет использовать интернет, чтобы подорвать наше творчество.
- Творческие сообщества должны быть частью разговора и выступать за творчество.
Хороших решений и готовых ответов на множественные неопределенности еще нет. Есть понимание, что масштабы влияния платформенных игроков слишком велики, поэтому для эффективного воздействия на них требуются совместные усилия, объединения, коалиции разных заинтересованных участников. Прямые призывы к сотрудничеству и отстаиванию гражданских свобод появляются всё чаще. Например, венчурный фонд и сеть бизнес-ангелов New Media Ventures инициировала открытый призыв к объединению:
Нам нужна лучшая координация между всеми участниками — от академических кругов, мозговых центров, организаций движения, правозащитников и активистов, чтобы они могли говорить единым голосом. Нам также нужно больше спонсоров, чтобы присоединиться к этой работе и обеспечить капитал, чтобы группы, ведущие борьбу за реформирование крупных технологических компаний, могли масштабироваться. Наконец, мы должны признать, что решения должны соответствовать масштабу и сложности стоящих перед нами задач – это, вероятно, потребует большего, чем просто бойкотировать эти платформы или разбивать их на более мелкие части.
Другим активным участником продвижения идеи стал одноименный проект Platform Accountability в Центре Шоренштейна (Shorenstein Center) при Школе Кеннеди в Гарварде. Он ориентирован на взаимодействие СМИ, политики и публичной политики. Цель проекта – решать проблемы на стыке интернет-политики и экономического регулирования. Их инструментами становятся академические исследования и научная экспертиза, а также глубокий анализ современной (американской, в первую очередь) политики и ее возможностей для реализации Platform accountability. Они проводят публичные слушания; приглашают на мероприятия политиков и представителей регуляторной сферы (например, плотно сотрудничают с Федеральной торговой комиссией); распространяют аналитические документы о состоянии дел. В своих заключениях они приходят к выводу о том, что пока состояние соответствующей системы и практики антимонопольного законодательства и судебной практики не отвечает требованиям защиты интересов общества в работе основных платформ, поэтому требуется поиск новых источников для подкрепления.
Ликбез по platform accountability
В академической сфере публикации о platform accountability также стали появляться лишь недавно, там предпринимаются попытки объяснить отдельные ключевые понятия и потенциальные возможности для реализации соответствующих политик. Итак, что надо знать о platform accountability, рассказывают исследователи Дж. Мосс и Х. Форд в своей обзорной статье.
Что такое платформа?
Это “программируемая цифровая архитектура, предназначенная для организации взаимодействия между пользователями— не только конечными пользователями, но и корпоративными субъектами и государственными органами”. Их инструментами являются данные, алгоритмы, интерфейсы, пользовательские соглашения.
Что такое подотчетность (accountability)?
Подотчетность связана с оправданностью действий и решений, которые принимаются с учетом общих нормативных ценностей.
Каковы механизмы подотчетности?
Есть четыре таких механизма:
- рынок (путем конкуренции),
- саморегулирование (от простых отчетностей и каналов обратной связи до публичных дискуссий),
- публичная сфера (прозрачность управления, публичные споры, официальные позиции),
- политические представители (национальные правительства, глобальные организации, гражданское общество).
Критерии оценки подотчетности
Инклюзивность (включая меньшинства), прозрачность (открытый доступ к информации о деятельности), обсуждение (обоснование решений), расширение прав и возможностей (право выбора через доступные механизмы).
В России подотчетности платформ пока не существует, а контролем их деятельности занимаются государственные органы. Идея защиты прав пользователей выражается в ограничениях к доступу к контенту, который представляет потенциальную угрозу: в этом смысле показательна попытка изоляции Рунета. Вместо защиты прав пользователей мы наблюдаем еще более непрозрачные правила игры и издержки. А российские платформы в это время балансируют между требованиями постановлений и приемлемыми, относительно неконфликтными отношениями с пользователями.