За эту неделю сервис «Яндекс.Дзен», месячная аудитория которого достигла 40 млн пользователей, попал сразу в два скандала из-за модерации контента. Служба поддержки «Дзена» порекомендовала каналу о сериалах убрать из статьи о «Половом воспитании» слово «секс», а каналу об искусстве — удалить картины с обнаженной натурой. Онлайн-платформы во всем мире берут на себя цензурные функции из-за юридических рисков, и приемлемого решения проблемы пока нет.

На что жалуются издатели

• «Секс» под запретом. Автор телеграм-канала «Запасаемся попкорном» Иван Филиппов пожаловался на рекомендации сервиса: чтобы повысить популярность канала, служба поддержки посоветовала ему убрать слово «секс» из текста про сериал «Половое воспитание» (Sex Education). «Может быть, вам стоит попробовать "сглаживать углы" и заменять слово секс или его описание нейтральными синонимами? Заинтересованная аудитория поймет о чём идет речь», — процитировал он пиcьмо службы поддержки «Дзена». Филиппов последовал совету и вставил в текст «нейтральные синонимы» — получилось смешно.

https://www.facebook.com/atticus042/posts/10157420923759415

• Убрать Венеру. Это уже второй скандал с модерацией контента в «Яндекс.Дзен» за неделю. В понедельник, 11 марта искусствовед Софья Багдасарова рассказала, как попыталась попасть в партнерскую программу «Дзена» «Нирвана», которая дает больше показов контента за счет читателей, не подписанных на канал. Но ей было отказано из-за публикации в канале классических картин с обнаженной натурой — например, «Геркулеса и Омфалы» Франсуа Буше из Пушкинского музея, а также католического барельефа с изображением обнаженных Каина и Авеля. Служба поддержки «Дзена» посоветовала Багдасаровой убрать картины внутрь поста и поменять обложку материала. «Судя по всему, Яндекс представляет своего типичного потребителя, как нечто среднее между Милоновым и дошкольником», — написала Багдасарова.

https://www.facebook.com/sofia.ponomareva/posts/10216437743967904

• Без трагедий и фейк-ньюс. Слайд из презентации «Яндекс.Дзена» с рекомендациями для издателей ранее публиковал телеграм-канал «Беспощадный пиарщик». В нем указано, что «Дзен» не рекомендует авторам подробно описывать трагические происшествия, дублировать контент, размещать ложную информацию, кликбейт и тексты, содержащие «пропаганду насилия» и «язык вражды».

Как это объясняет «Яндекс.дзен»

• Сервис работает в том числе по рекомендательной модели: он показывает пользователю публикации, которые с высокой вероятностью могут его заинтересовать. Именно этот инструмент имеет дополнительные ограничения — контент показывается большой аудитории разного возраста и разных представлений о том, что хорошо, а что плохо, сказал The Bell представтель «Яндекс.Дзена». На широкую аудиторию алгоритм не показывает эротику – такой контент можно получать только по подписке. Для рекомендаций для тех, кто не подписывался на канал с таким контентом, есть дополнительные ограничения: на карточках публикаций не должно быть эротики, даже если это произведения искусства.
• Ограничения на карточках введены потому, что пользователи часто жаловались, когда видели такие карточки в своей ленте. Иногда показ откровенных изображений на карточках публикаций – это просто попытка привлечь внимание пользователей, листающих ленту. «В Дзене общие правила для всех авторов, и мы вынуждены формулировать такие требования, которые призваны защитить пользователей от низкокачественных спамерских публикаций. Сейчас «Дзен» думает, как разграничить эротику и искусство», — говорит представитель сервиса.
• Проблемы с авторами объясняются недопониманием. «Иногда советы, вырванные из целой переписки, со стороны могут выглядеть странно».

Как можно решить проблему?

Скандалы из-за избыточной модерации контента — обычное дело во всем мире: веб-платформы с миллиардной аудиторией руководствуются юридическими рисками, но из-за своего размера не могут подходить к модерации индивидуально. Больше всего традиционно достается Facebook. Недавно соцсеть обновила правила публикации контента, запретив демонстировать изображения сосков и посты активистов-антипрививочников. При этом платформа четко разрешила размещать на страницах предметы искусства с элементами обнаженной натуры и скульптуры.

• Проблемы с модерацией могут обрушить бизнес. Недавний пример — история с сервисом фотоблогов Tumblr: который запретил эротический контент из-за чего потерял за месяц 17% своей аудитории. Изменения в политике площадки были продиктованы стремлением создать более безопасное место для женщин и меньшинств.
• Модераторы - не самые счастливые люди. Об автоматизированном гайдлайнами труде модераторов контента на разных платформах много раз писали журналисты. Модераторы Facebook, например, страдают посттравматическим стрессовым расстройством и начинают верить в теории заговора. Об условиях работы модераторов Facebook подробно рассказывал The Verge.
• В Китае социальные сети постоянно наращивают количество проверяющих, недавно популярная у подростков видеоплатформа TikTok сообщила, что контент модерируют 10 тыс. человек.

Антон Баев