Кого мы защищаем — чернокожих детей или белых мужчин?

Секретные правила для модераторов контента в Facebook: ProPublica

Каждый месяц модераторы Facebook удаляют 288 тысяч постов, «разжигающих ненависть». В отделе компании, который занимается отслеживанием противоправного контента, работают четыре с половиной тысячи человек, а в ближайший год их станет на три тысячи больше. При этом правила, по которым удаляются те или иные посты, непубличны. Издание ProPublica, получившее доступ к инструкциям для модераторов, рассказало, почему в Facebook можно разжигать ненависть против детей, но нельзя — против геев. «Медуза» пересказывает основные тезисы этого материала.

В правилах для модераторов Facebook описаны группы людей, в отношении которых необходимо пресекать «разжигание ненависти». В слайде под названием «Кого мы защищаем» перечисляется: пол, раса, религиозная принадлежность, этнос, национальное происхождение, сексуальная ориентация, гендерная идентичность, инвалидность и тяжелая болезнь.

Другой слайд называется «Кого мы не защищаем». В нем указаны: профессия, политическая идеология, внешний вид, возраст, религия, страны и другие категории. Модераторам нужно всякий раз — а они отсматривают тысячи постов каждый день — решать, к какой из этих двух групп относится конкретное оскорбление.

Сделать это не так просто, как может показаться. Facebook предлагает своим модераторам тест «Какой из следующих подклассов мы защищаем?» с вариантами ответа: «Женщины-водители», «Чернокожие дети» и «Белые мужчины» (к последнему пункту приложена фотография группы Backstreet Boys). Правильный ответ — «белые мужчины».

Дело в том, что к подклассам — то есть к частям тех групп людей, что перечислены в базовых правилах, — применяются специальные формулы:

Защищенная категория + защищенная категория = защищенная категория

Защищенная категория + незащищенная категория = незащищенная категория

«Белые мужчины» описывают сразу два защищенных параметра — расу и пол. «Чернокожие дети» и «женщины-водители» смешивают защищенные категории (раса и пол соответственно) с незащищенными (возраст и профессия), потому модераторы не должны удалять посты, «разжигающие ненависть» в отношении них. Другой пример от Facebook: «ирландские женщины» защищены, а «ирландские подростки» — уже нет.

В 2008 году список материалов, которые должны быть удалены из соцсети, помещался на одной странице — там упоминались, в частности, фотографии обнаженных тел и Адольфа Гитлера. Внизу страницы была приписка: «Удаляйте все, что вызывает у вас чувство дискомфорта».

Дейв Уиллнер, который стал модератором Facebook в 2008-м, рассказал, что отсматривал 15 тысяч фотографий в день; он пришел к выводу, что существующие инструкции прописаны недостаточно тщательно. Через пять лет он ушел из компании, оставив после себя свод правил на 15 тысяч слов (для сравнения: в этом тексте спецкора «Медузы» Даниила Туровского — около восьми тысяч слов). Документ используют в Facebook по сей день.

Даже рассмотрение кейсов с упоминанием Гитлера и нацизма усложнилось. Например, Facebook не блокирует тех, кто отрицает холокост, и позволяет использовать свастику в качестве политического высказывания (ProPublica приводит слайд, на котором изображен основатель соцсети Марк Цукерберг — на рукаве пририсована свастика, на лице — гитлеровские усики). При этом пост с лягушонком Пепе, ставшим символом американских альт-правых, может быть удален. Facebook запрещает пользователям призывать отправить кого-либо в концентрационные лагеря; в этом правиле есть исключение: фраза «Нацисты должны быть отправлены в концлагерь» допустима.

В правилах упоминаются также «квазизащищенные» группы людей — мигранты. Эта категория появилась из-за наплыва беженцев из Сирии в Европу. Пользователи не могут призывать к насилию против квазизащищенных групп и допускать обобщения, обесчеловечивающие их, — но могут призывать к их выдворению. В одном из документов говорится, что мигрантов можно называть «грязными», но нельзя «грязью»: «Они не должны сравниваться с грязью или болезнью, когда сравнение выражено в форме существительного».

Источники ProPublica и The Wall Street Journal рассказывали, что Марк Цукерберг не позволял удалить из Facebook посты президента США Дональда Трампа, в которых тот призывал запретить въезд в страну мусульманам. Модераторы считали, что записи нарушают правила ресурса, однако Цукерберг решил, что они остаются важной частью политического дискурса.