Маркировка блогеров, штрафы, рейтинги токсичности — как эксперты предлагают бороться с деструктивным контентом

Общественная палата РФ провела второй круглый стол, посвященный борьбе с деструктивным контентом, в минувшую пятницу, 18 ноября. Дискуссия была посвящена контенту, популяризирующему жестокое отношение к людям, животным и агрессию, направленную на себя: экстремальное похудение, алкоголизм, экстремальное поведение. 

Директор Регионального общественного центра интернет-технологий (РОЦИТ) Рустам Сагдатулин представил участникам круглого стола презентацию с категориями деструктивного контента и аналитикой реакции российских пользователей. 

Как люди реагируют на деструктивный контент

Как следует из презентации РОЦИТ, значительную часть тематического контента составляют сообщения о драках и конфликтах, распространяемые новостными сообществами и каналами в Telegram и «ВКонтакте», ориентированными на шок-контент. При этом в Telegram такие материалы часто публикуют закрытые каналы и чаты, поскольку в них отсутствует цензура.

• В комментариях обычно выделяются следующие тематические линии: этническая агрессия (если конфликт произошел между лицами разной национальности) и осуждение бездействия лиц, снимающих происходящее.
• Часть аудитории однозначно трактует контент, связанный с конфликтами и драками, как развлекательный.

Также в последние месяцы значительно увеличилось количество сообществ и каналов, распространяющих контент, который демонстрирует насилие, связанное с милитари-тематикой. 

Контент, популяризирующий самоповреждающее поведение. В это категории эксперты зафиксировали 55,7 тыс. сообщений с общим количеством просмотров в 556 млн. Материалы, получившие наибольшее распространение, связаны либо с зацепингом и руфингом (они транслируются в новостных сообществах и каналах разного уровня), либо с экстремальными схемами питания. 

• Такие сообщения получают распространение либо в профильных сообществах и каналах. Например, посвященных «лечебному» голоданию и диетам, либо в новостных и развлекательных соцмедиа-ресурсах, публикующих шокирующие факты.
• Если экстремальные схемы питания вызывают у широкой аудитории скорее иронию и сарказм, то руфинг и зацепинг — выражено негативную реакцию. Чаще всего пользователи обвиняют героев таких материалов в безответственности и глупости.
• Материалы, связанные с прямым самоповреждением («селфхармом»), распространяются в основном в нишевых и специализированных сообществах и каналах, романтизирующих подобное поведение. До широкой аудитории подобный контент доходит редко.

Контент, популяризирующий проявление насилия к животным. Эксперты насчитали в соцсетях 574 тыс. сообщений подобного рода, которые набрали в общей сложности 913 млн простором. Чаще всего такой контент распространяется Youtube и «ВКонтакте».

• Пользователи демонстрируют крайнюю вовлеченность в темы, связанные с насилием в отношении животных, и реагируют на такие материалы крайне негативно. Часто встречается выраженная агрессия к человеку, причинившему вред животному. 
• Чаще всего материалы, связанные с насилием над животными, публикуют сообщества и каналы, ориентированные на распространение шок-контента. Как правило, какая-либо цензура и дисклеймеры отсутствуют, либо зацензуренная версия сопровождается ссылкой на закрытые каналы и сообщества, где размещен полный вариант материала.

Контент, популяризирующий киберунижение. В сети аналитики зафиксировали 113 тыс. таких сообщений с 129 млн просмотрами. Материалы, связанные с киберунижением, распространяются в сообществах и каналах во «ВКонтакте» и Telegram, публикующих новостной и шок-контент.

• Для материалов, затрагивающих тему кибербуллинга, характерно наличие эмоционально окрашенной, нецензурной лексики, манипулятивных высказываний.
• В последние месяцы наблюдается значительная поляризация русскоязычной аудитории по теме отношения к СВО. Часто встречаются материалы о том, что те или иные лица подвергаются травле из-за своей позиции по поводу спецоперации.
• Материалы, подпадающие под эту категорию, часто связаны с темами этнической, национальной или религиозной ненависти.
• Пользовательская реакция в отношении такого контента характеризуется как крайне поляризованная, в большинстве случаев комментаторы не осуждают случаи киберунижения, а выступают на стороне одной из групп конфликта.

Как предлагается бороться с деструктивным контентом

К борьбе с жестоким контентом необходимо подключать цифровые платформы и искусственный интеллект, считает Анна Дупан, директор Института проблем правового регулирования НИУ ВШЭ. Она также предложила начать маркировать такой материал. 

Также поднималась тема распространения деструктивного контента конкретными блогерами. Игорь Ашманов, гендиректор компании «Ашманов и партнеры», считает, что надо снижать социальное одобрение распространителей жестокого контента через публичные рейтинги, которые будут показывать уровень токсичности блогеров. Алексей Макаров, организатор общественного проекта «Против пирамид», предложил сокращать доход таких блогеров. Как он уточнил в разговоре с корреспондентом AdIndex, для инфлюенсеров необходимо начать вводить штрафы, в том числе оборотные. Кроме того, Макаров предлагает возобновить ведение реестра блогеров, который Роскомнадзор отменил в 2017 году, и вернуться к обсуждению закона «О блогерах».

Во время обсуждения также поднималась идея маркировать сами источники, например, ставить метку «распространитель деструктивного контента».

Отправной точкой для борьбы с деструктивным контентом станет реестр таких материалов. При этом эксперты сошлись, что представленный на круглом столе категоризатор необходимо доработать. Дмитрий Гуляев, директор Центра по обеспечению прав молодежи в цифровом пространстве, отметил, что не все трэш-стримы популяризируют насилие, а контент с руфингом и зацепингом не всегда пропагандирует самоповреждение. Чтобы не ужесточать законодательное регулирование, он предложил создать систему просвещения на уровне молодежного сообщества.  

По итогам обсуждения рубрикатор деструктивного контента будет доработан. Также его обсуждение продолжится на третьем круглом столе в Общественной палате РФ. Общим результатом дискуссий также станет список рекомендаций по борьбе с такими материалами, которые будут переданы представителям общественных организаций и профильных служб для упрощения работы с информацией, влияющей на психику людей.