Алгоритмы на службе у государства и корпораций
Как устроено регулирование рекомендательных систем в России и мире
![](https://substackcdn.com/image/fetch/w_2400,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F7bf22622-e75b-4faf-971f-9dd2addd5472_930x660.jpeg)
C 1 октября в России вступили в силу подписанные Владимиром Путиным поправки в закон об информации, которые касаются работы рекомендательных алгоритмов. Теперь интернет-сервисы (например, «Яндекс», VK, Ozon, Wildberries и др.) обязаны раскрывать клиентам (то есть обычным пользователям) общие принципы функционирования своих рекомендательных систем. Роскомнадзор получит право блокировать работу сервисов, если алгоритмы распространяют незаконную информацию.
Хотя вступившие в силу поправки во многом носят рамочный характер, их появление в законодательстве – важное событие. Рекомендательные системы стали неотъемлемой частью современного мира. Они влияют на политические взгляды в обществе (в том числе способствуют распространению пропаганды) и его повседневную жизнь: что мы едим, покупаем, где отдыхаем, с кем общаемся, что читаем или смотрим. При этом для обычного человека работа алгоритмов – это черный ящик. Какие данные анализирует алгоритм и по каким принципам? Откуда он берет эти данные и насколько это законно? Можно ли отказаться от алгоритмов при покупках в интернете или чтении сообщений в соцсетях?
Правительства многих стран предпринимают первые попытки регулировать работу алгоритмов, и, скорее всего, в будущем это регулирование будет ужесточаться. В этом тексте мы решили рассказать, что из себя представляет регулирование алгоритмов в России, а также как с этим обстоят дела в Китае, ЕС и США.
Наша маленькая редакция работает только в интересах читателей. И нам очень нужна ваша помощь. Поддержать нас можно здесь: Boosty (можно поддержать из России), Paypal, Patreon. Помогите нам продолжать делать независимую журналистику 🖤
Закон с политическим подтекстом
Автор поправок об алгоритмах – депутат-единоросс Антон Горелкин, известный по законопроектам, направленным на ограничение прав иностранного капитала в российской IT-отрасли. Он анонсировал работу над новым законопроектом в феврале 2021 года. Тогда уже вступили в силу поправки об обязанности социальных сетей самостоятельно удалять запрещенный в России контент. Именно то, что в законодательстве появилось определение соцсетей и онлайн-кинотеатров, позволило заняться регулированием рекомендательных систем», говорил депутат.
Горелкин не скрывал, что у нового законопроекта есть политический смысл. Весной 2021 года он обвинял западные соцсети в пессимизации «российского контента и навешивании ярлыков» на российских пропагандистов и политиков. Речь шла о Facebook, Instagram и Twitter, которые в преддверии президентских выборов в США начали маркировать учетные записи связанных с государством медиа. В том числе российских. Кроме того, Роскомнадзор еще осенью 2020 года потребовал от Google снять якобы наложенные ограничения на YouTube-канал Владимира Соловьева, из-за которых контент от пропагандиста перестал, как посчитали российские чиновники, попадать в тренды.
![](https://substackcdn.com/image/fetch/w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fc515cced-c7b2-49c8-b754-a512b9d0cf71_930x672.jpeg)
Между первыми заявлениями о необходимости регулировать алгоритмы и внесением в Госдуму законопроекта прошло два года. Изначально Горелкин предлагал обязать соцсети и другие платформы предоставить своим пользователям «кнопку отключения» рекомендательных систем. Однако против такой нормы выступали «Яндекс» и VK. Они, как сообщал «Коммерсантъ», опасались, что появление такой функции резко сократит время, которое пользователи проводят на сайтах сервисов.
Почему для интернет-компаний очень важен этот показатель? Чем больше человек проводит времени на сайте, тем больше ему можно показать рекламы, а также собрать больше данных о его привычках, интересах и предпочтениях (чтобы, опять же, показать ему нужную рекламу или товар). Президент Ассоциации компаний интернет-торговли Артем Соколов оценивал ущерб для отрасли от отключения рекомендаций более чем в 100 млрд руб. в год.
В итоге Горелкин поддался давлению компаний. Весной 2023 года он внес законопроект в Госдуму без возможностей отключить алгоритм. Представители «Яндекса», Ozon и VK законопроект в таком виде поддержали.
Что написано в законе и как его исполняют
Итак, с 1 октября в законе об информации вступила в силу новая статья «Об особенностях предоставления информации с применением рекомендательных технологий». Она регулирует работу алгоритмов, которые собирают и обрабатывают «сведения о предпочтениях пользователей, находящихся в России». Таким образом, под регулирование формально подпадают не только российские («Яндекс», VK, Ozon и т.д.), но и зарубежные (Google, Meta и т.д.) сервисы.
Новая статья закона состоит из двух частей. В первой прописаны обязательства интернет-площадок, использующих рекомендательные технологии. Во второй – что может сделать Роскомнадзор, если сайты не будут выполнять эти обязательства.
Что должны делать интернет-площадки:
Не допускать использования алгоритмов, которые нарушают права и законные интересы граждан России или распространяют информацию с нарушением законодательства.
Информировать своих пользователей о применении алгоритмов и предоставить электронную почту для обратной связи.
Опубликовать правила работы своего алгоритма, в том числе — описать методы сбора, систематизации и анализа информации о предпочтениях пользователей, а также источники этих данных.
Какие полномочия получил Роскомнадзор:
Требовать от интернет-площадок, в чьих рекомендациях появляется запрещенная в России информация, отключить рекомендательные алгоритмы.
Блокировать интернет-площадки, если те нарушили правила и не исполнили вышеописанные требования.
Запрашивать у владельцев площадок, которых он уличил в нарушении закона, доступ к программному обеспечению, отвечающему за рекомендации.
Привлекать платформы к административной и уголовной ответственности за нарушения в области рекомендательных систем. Для этого, однако, властям нужно принять поправки в административный и уголовный кодексы.
В целом новеллы дают российским властям еще одну возможность придраться к работе иностранных интернет-сервисов или запретить их вовсе за распространение «незаконного» (по-мнению российских чиновников) контента. Прежде всего, речь идет о YouTube и других площадках Google, которые пока в России не запрещены. Впрочем, у российских властей и сейчас есть все возможности для этого, поэтому преувеличивать репрессивную силу новой статьи не стоит.
Что касается требований к российским площадкам раскрыть принципы работы алгоритмов, то по состоянию на 7 октября 2023 года это сделали, в частности, «Яндекс» (с отдельными описаниями для всех его основных проектов, от поиска до стриминговых сервисов), проекты VK («ВКонтакте», «Дзен», «Одноклассники»), видеохостинг Rutube, онлайн-кинотеатры Wink и Premier, маркетплейсы Ozon и Wildberries.
Единого формата описания работы алгоритмов не существует, и компании по-разному отнеслись к обязанности их раскрыть. «Яндекс», например, вдобавок к собственно правилам работы рекомендаций выпустил и несколько публикаций, рассчитанных непосредственно на пользователя, в то время как онлайн-кинотеатр Premier ограничился десятком абзацев в юридическом стиле. Все компании, однако, так или иначе раскрыли, что их алгоритмы учитывают то, с какими объектами (карточками товаров, медиаконтентом и т. д.) взаимодействуют пользователи и как долго, а также полагаются на ту информацию, которую пользователь раскрыл о себе сам — например, при регистрации. Для построения рекомендаций учитывается и то, что пользователь сохраняет в приватных списках: в случае со стриминговыми сервисами речь идет о медиатеке, в случае с маркетплейсами — список избранного и т.п.
Большинство компаний не стали распространяться насчет того, какие параметры имеют наибольшее значение для составления рекомендаций, а какие — меньшее. «Яндекс» в описании большинства своих алгоритмов ограничился упоминанием, что они используют «множество факторов», а «ВКонтакте» сообщил, что для анализа предпочтений «применяются математические модели». Исключение — Ozon, который раскрыл весомость каждого из параметров. Например, история продаж товара за последние 60 дней имеет большую значимость, чем отзывы или размер скидки.
Опубликовали в кратком виде правила работы своих алгоритмов и одни из главных проводников госпропаганды в интернете – сервисы «Дзен» и «Новости» (бывшие «Яндекс.Новости»). Из их документа следует, что на выдачу контента влияют, например, подписки пользователя, история того, что он читал или лайкал, а также, популярность темы или публикации в регионе, где пользователь проживает.
О том, что государственные СМИ («РИА Новости», ТАСС, RT, «Известия» и т. д.) имеют приоритет в выдаче «Новостей» и «Дзена», в документе не говорится. Как и о возможной блокировке СМИ или блогера, если его контент не нравится властям. Вместо этого «Дзен» и «Новости» утверждают, что их алгоритмы помогают пользователям находить «качественные и достоверные публикации» и «не демонстрируют материалы, содержащие тенденциозные заголовки (т.н. «кликбейт»)».
Мировой опыт
Россия не первопроходец в регулировании рекомендательных алгоритмов.
Похожее регулирование действует, например, в Китае с марта 2022 года. Согласно «Положениям об управлении алгоритмическими рекомендациями…», операторам рекомендательных систем запрещено распространять признанную властями незаконной информацию не только в самом рекомендуемом контенте, но и в ключевых словах или тегах, по которым их можно искать. Также алгоритмы должны быть настроены таким образом, чтобы «сохранять общепринятые ценностные ориентации» и «активно распространять позитивную энергию».
В отличие от российских чиновников, китайские дали своим гражданам возможность отключать алгоритмы или настроить параметры, по которым рекомендации формируются. Как и в России, китайские интернет-площадки должны раскрыть цели и принципы работы алгоритмов. При этом операторам систем, имеющим «способности к социальной мобилизации», нужно пройти аудит со стороны государственных органов, в том числе Министерства общественной безопасности (аналога российского МВД).
Некоторые из положений касаются результатов работы генеративных систем. В частности, в Китае операторам рекомендательных сервисов запрещается «синтезировать» фейковые новости. Сгенерированный нейросетями контент, который не подпадает под этот запрет, должен распространяться только с пометкой об использовании генеративных систем. Искусственный интеллект обязан создавать контент, не нарушающий права на интеллектуальную собственность и соответствующий ценностям социализма.
Рекомендательные системы вскоре будут регулироваться и в странах Евросоюза. Это предусмотрено Законом о цифровых услугах (DSA), все нормы которого вступят в силу в феврале 2024 года. В частности, интернет-платформы, занижающие чей-либо контент в рекомендациях из-за нарушений правил пользования, должны будут раскрывать его авторам «ясные и конкретные причины» такого решения. Владельцы рекомендательных систем также должны будут раскрывать пользователям параметры и возможности настройки алгоритмов. В случае, если работающий в Евросоюзе сервис предоставляет несколько вариантов выдачи контента (например, алгоритмическую и хронологическую ленты), он должен будет разместить переключатель между ними на том же экране.
DSA предъявляет особые требования к владельцам крупных онлайн-платформ и поисковиков. К ним Еврокомиссия, исходя из их числа активных пользователей за месяц, причислила Google вместе с YouTube и магазином приложений Google Play, «Википедию», Facebook, Instagram, TikTok и другие сервисы. С 25 августа они обязаны предоставлять возможность пользоваться рекомендательной системой, не основанной на профилировании пользователей — то есть, не учитывающей автоматический сбор персональных данных, из которого складывается предположение об интересах и поведении человека. Исполняя требования закона, Facebook и Instagram фактически позволили пользователям в ЕС включить классическую хронологическую ленту, состоящую исключительно из постов людей из списка подписок.
За соблюдением требований, предъявляемых к крупным платформам, будут следить координаторы по вопросам цифровых услуг, которые должны появиться в каждой стране Евросоюза. Они смогут запрашивать у компаний данные, необходимые для оценки соблюдения требований, а также предоставлять их сторонним исследователям для изучения «системных рисков».
В США отдельных законов для рекомендательных систем нет ни на федеральном уровне, ни на уровне штатов. Ключевым элементом регулирования онлайн-платформ в стране является Закон о пристойности коммуникаций (Communications Decency Act) — вернее, его раздел 230, который защищает платформы от юридической ответственности и за контент, который публикуют его пользователи, и за собственные решения по вопросам его модерации и фильтрации.
Редактор – Максим Товкайло