Фото:gorodche.ru
В системе модерации твиттера есть особый «VIP-список» из нескольких тысяч популярных или обсуждаемых пользователей — жалобы на оскорбительный контент в их отношении сотрудники рассматривают в первую очередь. Об этом рассказали журналисты издания Bloomberg, а заодно пообщались о системе с представителями соцсети.
Аудитория твиттера составляет порядка 200 миллионов пользователей ежедневно. Из-за такого объёма контента модераторы получают большое количество жалоб на оскорбительный контент, которые необходимо ранжировать для максимальной эффективности.
Для определения приоритета жалобы соцсеть использует как привычные показатели (количество жалоб на определённый твит, вероятность того, что он действительно является оскорбительным), так и применимые для твиттера (количество подписчиков пользователя, популярность твита).
Но одним из самых весомых аргументов для приоритетной модерации является так называемый Project Guardian («Проект Защитник») — список известных и популярных пользователей соцсети, которые потенциально могут стать жертвами массового кибербуллинга.
В список входят как известные люди вроде политиков, артистов, блогеров, так и менее публичные пользователи — малоизвестные журналисты, сотрудники компании или обычные пользователи, которые неожиданно вызвали обсуждение. Список часто меняется, но в среднем включает в себя несколько тысяч аккаунтов, владельцы которых чаще всего даже не подозревают о своём особом положении.
Особых правил модерации для жалоб, связанных с аккаунтами из списка, нет — их лишь обрабатывают быстрее остальных запросов. Это сделано во избежание масштабных преследований и популяризации оскорблений конкретных людей. Project Guardian также помогает сохранить известных инфлюенсеров, обеспечивая их комфортное пребывание на платформе.
Основную часть аккаунтов в список добавляют сотрудники твиттера, если видят аномальное количество оскорблений или угроз в адрес конкретного человека. Иногда за таким «покровительством» обращаются менеджеры знаменитостей или представители СМИ, которые публикуют резонансные новости и расследования;. Представители соцсети не раскрывают, привела ли к созданию проекта какая-то конкретная ситуация. Известно лишь, что список приоритетных пользователей существует уже около двух лет. Журналисты Bloomberg считают, что это в том числе связано с оттоком знаменитостей, которые столкнулись с активным буллингом сразу после регистрации.
Представители твиттера рассказали, что научились определять большую часть оскорбительного контента автоматически — 65% жалоб поступает не от пользователей, а с помощью собственных технологий обнаружения. Система либо сама блокирует сообщения нарушителей, либо оперативно передаёт модераторам.
Хотя в компании настаивают на том, что применяют одинаковые принципы и правила ко всем пользователям, а система Project Guardian отличается от подобных «VIP-списков» в других соцсетях, на практике всё работает немного по-другому.