Запрет на монетизацию, ограничение распространения и создание фонда универсальных услуг связи – эксперты обсудили борьбу с деструктивным контентом

Директор Регионального общественного центра интернет-технологий (РОЦИТ) Рустам Сагдатулин представил аналитику контента, пропагандирующего оккультизм и табакосодержащую продукцию. 

Исходя из исследований РОЦИТ, контент оккультного характера, который касается причинения вреда здоровью, имеет в интернете около 10 тыс. единиц сообщений. При этом с ним взаимодействует 70 млн аудитории. В табачном контенте в основном содержится реклама, которая активно популяризирует его, чаще всего продажа идет через социальные сети. 

Что РОЦИТ предлагает делать с деструктивным контентом

1. Выделить четкие критерии и признаки такого контента с возможностью их обновления.
2. Создать реестр категорий деструктивного контента.
3. Разработать форму обратной связи, чтобы собрать жалобы и предложения о расширении реестра от пользователей, общественных организаторов, волонтеров.
4. Улучшить систему мониторинга, подключить искусственный интеллект.
5. Маркировать деструктивный контент, ограничить его распространение и возможность взаимодействия с ним.
6. Запретить монетизацию и, возможно, рекламы в пабликах-распространителях таких материалов.
7. Сформировать экспертное сообщество.
8. Создать единый базовый список требований и правил работы с деструктивным контентом на всех площадках;
9. Включить определение деструктива на законодательном уровне.
10. Обязать иностранные площадки, работающие с российскими пользователями, предоставляли доступ к своим ресурсам в рамках закона «о приземлении».

Также научный сотрудник института космических исследований РАН Мирзоева Ирина Константиновна предложила на законодательным уровне запретить размещение рекламного контента на страницах блогеров — по ее мнению, инфлюенсеры публикуют негативный контент для привлечения рекламодателей. Как она уточнила в разговоре с корреспондентом AdIndex, ее идея состоит в том, чтобы вообще запретить рекламу на частных страницах и лендингах. Впрочем, она полагает, что эта инициатива имеет мало шансов на успех. 

Юрий Синодов, директор по развитию СМИ2, высказался о токсичном контенте в СМИ. По его мнению, издания стремящиеся компенсировать потерю прибыли ростом трафика, публикуют токсичный контент. Он предложил создать государственный фонд универсальных услуг связи, который поддерживал бы определенные СМИ, возможно, на базе выкупа у них части рекламного инвентаря. Контент таких СМИ предлагается оценивать автоматическими системами с точки зрения brand safety и в зависимости от показателя повышать или уменьшать количество выкупаемого у изданий трафика. В качестве примера системы автомониторинга Синодов привел американскую Oracle Grapeshot.

Рубцова Ольга Владимировна, ректор академии инновационного образования и развития, вместе с экспертами общественного совета «Безопасная информационная среда детства» провели обсуждения по дополнению и расширению категоризатора деструктивного контента. 

Каким контентом предлагают дополнить «деструктивный» реестр

1.  Ввести категорию, затрагивающую отрицание семейных ценностей и формирование неуважительного отношения к родителям и другим членам семьи. Что попадает под такой контент:

• группы радикальных феминисток с материалами, пропагандирующим аборты и ненависть к другому полу; 
• группы чайлдфри, популяризирующие ненависть к материнству и детству;
• каналы и группы с контентом, который настраивает детей против родителей.

2. Добавить категорию «вовлечение детей в азартные игры».

• такому вовлечению могут способствовать «лутбоксы» — виртуальный предмет в компьютерных играх, при использовании которого игрок получает случайные виртуальные предметы различной ценности и назначения, называемые добычей;
• видеоигры, которые позволяют продавать виртуальные предметы за реальные деньги;
• онлайн-рулетки и букмекерские конторы, принимающие ставки в виде игровых предметов;
• ставки на спорт, букмекерские сайты, онлайн-казино;
• сайты, принимающие ставки в виде предметов онлайн-игр, гейм-стримы.

3. Депрессивный контент, пропагандирующий психические расстройства.

• романтизация психических расстройств;
• контент, наносящий вред психическому здоровью ребенка, провоцирующий нервные расстройства: группы и каналы, содержащие шок-контент, депрессивный контент, эзотерику, оккультизм, группы, пропагандирующие эксперименты над психикой.

4. Дополнить существующую категорию «насилие»: 

• насилие в отношении людей – сообщества, пропагандирующие движение оффников (популяризируют насилие как стиль жизни), сообщества, пропагандирующие субкультуру крипипаста, героизацию маньяков и серийных убийц, группы и каналы, содержащие шок-контент, группы, содержащие контент, пропагандирующий насилие в отношение детей, в том числе и через юмор; 
• контент, пропагандирующий самоповреждения и анерексию, группы и каналы, содержащие шок-контент (сцены убийств, казни, казни, пытки, изнасилования, отрубания конечностей, избиение, видео суицидов и любых смертей на камеру); 
• группы и каналы субкультуры крипипаста, содержащие виды крови и убийства, описание убийств, романтизацию маньяков и серийных убийц, группы, посвященные Джеффу-убийце;
• колумбайн сообщества и группы, романтизирующие маньяков и серийных убийц;
• сообщества сатанистов; 
• группы инцелов (пропагандируют экстремистские идеи, ориентированы на насилие, пропагандируют изнасилования и другие насильственные действия, направленные в сторону женщин – Voat, 4chan, Reddit)

5. Дополнить существующую категорию «кибербуллинг»: 

• группы, пропагандирующие унижение человеческого достоинства (видео, обзоры, комментарии, посты с оскорблениями подростков, инвалидов, высмеиванием их внешности в группах «Вписка», «ЁП», «Четкие приколы», MDK, «Убойный юмор», «БОРЩ», «Орленок», «Институт Благородных Девиц», «Приколы»);
• контент, унижающий достоинство детей через анонимные имиджборды (анонимные комментарии и сообщения, унижающие человеческое достоинство).

6. В критерий «сексуализация несовершеннолетних» добавить: 

• развращающий контент, склоняющий ребенка к смене ориентации или пола, пропагандирующий иные виды извращений: ЛГБТ, смена пола, аниме, фурри, соцсеть Амино, группы гей-знакомств, чат-рулетка, «фикбук», фанфики, слэш, фемслэш, детские группы, содержащие рисованную порнографию; 
• пропаганда нетрадиционных моделей межполовых отношений и гендерной идентификации; 
• жанры аниме, пропагандирующие ЛГБТ; 
• сайт «Фикбук»; 
• анонимные имиджборды, пропагандирующие порнографию; 
• группы, выкладывающие фото обнаженных детей; 
• группы педофилов.

8. Предложения по добавлению новых категорий:

• контент, популяризирующий негативное отношение к чтению и изучению художественной литературы в виде книги в бумажном варианте;
• контент, пропагандирующий негативное отношение к учебе и самообразованию.

Также было предложено убрать из категоризатора контент, популяризирующий отказ от вакцинации, и материалы с призывом лечиться гомеопатическими препаратами.

Рубцова рекомендовала разработать три вида методических рекомендаций по работе с категоризатором: методологические рекомендации для родителей; педагогов и администраций образовательных организаций; общественных экспертов и общественных деятелей, органов публичной власти.

В конце заседания Сагдатулин заявил, что по итогам трех дней обсуждений категоризатор деструктивного контента будет дополняться.