Что скрывает Цукерберг. Секреты, о которых мир узнал из Facebook Papers

На смену разоблачениям об офшорах американские СМИ захлестнула волна расследований о Facebook. Всю прошлую неделю свыше десятка изданий публиковали свои материалы по мотивам утечки, получившей название Facebook Papers. Рассказываем, что за это время мир узнал о самой популярной в мире соцсети.

Сразу 17 американских изданий 25 октября опубликовали несколько разоблачительных статей на основе анализа внутренних документов Facebook. Проект получил название Facebook Papers, или «Архив Facebook», а разоблачительницей, передавшей материалы журналистам и властям, оказалась сотрудница самой корпорации — экс-менеджер по продвижению продукта Фрэнсис Хауген, скопировавшая данные перед своим увольнением.

Единственной мотивацией Хауген, по ее словам, было содействовать изменениям внутри IT-гиганта. С такой же целью она и устроилась на работу. Однако у ее команды не было достаточно ресурсов для решения выявленных проблем, а разочарование нежеланием корпорации устранить недостатки и открыто подойти к вопросу потенциального вреда собственной платформы росло, рассказала Хауген. К концу своего трудового сотрудничества с Facebook она приняла твердое решение поделиться результатами корпоративного расследования не только с общественностью, но и законодательными органами и регуляторами.

Первую серию публикаций под названием Facebook Files, или «Досье Facebook», выпустила The Wall Street Journal в начале октября. После этого Хауген выступила на слушаниях в Сенате США, где с трибуны в очередной раз обвинила Facebook в негативном воздействии на детей, внесении разногласий в общество и подрыве американской демократии.

Что мы узнали из Facebook Papers

Журналисты продолжают анализировать огромный массив данных, изложенный на тысячах страниц (общепринятой классификации материалов нет). Пока ключевой вывод, который напрашивается из уже вышедших публикаций, состоит в том, что неспособность Facebook всегда эффективно модерировать контент оказывает пагубное воздействие на общественно-политическую сферу — как внутри США, так и за их пределами.

Мы собрали самые главные разоблачения, которые за прошедшую неделю появились в западных СМИ.

Торговля людьми

Facebook как минимум с 2018 года пытался бороться против контента, связанного с использованием принудительного труда горничных — в основном на Ближнем Востоке, рассказывается в материалах CNN и Associated Press. В 2019 году из-за этого Apple даже грозилась удалить приложение Facebook и Instagram из AppStore, но в итоге соцсеть признала, что уделяла недостаточно внимания сообщениям о жестоком обращении на своей платформе, обещала принять меры и уладила претензии.

Речь шла о женщинах из Азии и Африки, которых обманом, угрозой применения силы и прочими незаконными методами принуждали работать в частных домах на Ближнем Востоке и в Северной Африке. Горничные не получали зарплату, сталкивались с физическим и сексуальным насилием, были вынуждены голодать, жить в постоянной изоляции, а затем их могли без согласия продать другому заказчику. Их обращения в кадровые агентства зачастую игнорировались.

Одно из внутренних расследований сотрудников Facebook обнаружило преступную группировку, которая использовала больше сотни фейковых аккаунтов в самой соцсети и в Instagram для вербовки потенциальных жертв (известны минимум 20 случаев), а Messenger и WhatsApp — для переговоров об их перемещении в Дубай, где те были вынуждены работать в сомнительных местах, замаскированных под массажные салоны. Злоумышленники даже тратились на продвижение своей схемы на платформах корпорации — покупка рекламы, таргетированной для мужской аудитории Дубая, обошлась им в $152 тысячи.

Страницы и аккаунты нарушителей, которые обнаруживали сотрудники Facebook, блокировались, но проблема до сих пор не решена, отмечают издания.

Радикализация пользователей

Вред алгоритмов Facebook может проявляться в том, что они умеют подстраиваться под интересы пользователей, предлагая контент, который должен привлечь их внимание, — но иногда в слишком радикальных формах. Об этом свидетельствует история с экспериментальным аккаунтом, который создали для проверки рисков сотрудники самой корпорации, — о том, что из этого вышло, рассказали NBC и NYT.

Владельцем аккаунта была «Кэрол Смит» — вымышленная сторонница экс-президента США Дональда Трампа с консервативными взглядами. Всего за неделю лента фейковой жительницы Северной Каролины наполнилась постами с теориями заговора и рекомендациями вступить в группы, посвященные конспирологическому движению QAnon (о его роли в январском штурме Капитолия мы рассказывали здесь). Алгоритмы Facebook предлагали Кэрол контент, «разжигающий ненависть», «распространяющий дезинформацию» и «нарушающий собственные правила соцсети».

В ответ на запросы СМИ по поводу этого эксперимента представитель Facebook отметил, что это «идеальный пример того, как компания проводит исследования, чтобы совершенствовать свои системы».

Журналисты подчеркивают, что обнародованные внутренние документы раскрывают лишь степень осведомленности Facebook об экстремистских движениях и группах на сайте соцсети, пытавшихся поляризовать американских избирателей в преддверии выборов, но не позволяют увидеть целостную картину. В некоторых исследованиях утверждается, что корпорация изо всех сил старалась взять контроль над масштабом и скоростью распространения вредной информации, в других — прослеживается беспокойство Facebook за собственную репутацию. Несомненно лишь то, что, по мнению сотрудников самой Facebook, соцсеть могла бы приложить больше усилий в этом направлении.

Поверхностная модерация

Борьбе с вредоносным контентом в Facebook препятствует то, что часть модераторов не могут его выявить из-за недостаточного понимания иностранного языка и культурного контекста, указывают Politico, Associated Press, Washington Post и CNN.

Особенно остро проблема стоит в арабском мире. Как говорится в расследованиях, насилие и ненависть активно пропагандируются в Афганистане, но подавляющее большинство модераторов не понимают запрещенные ругательства на языках дари и пушту. А в Сирии и на палестинских территориях, напротив, в бан могут отправиться страницы с безобидными, вошедшими в обиход, выражениями.

Аналогичная ситуация складывалась и в конфликтных зонах Азии: например, в Мьянме и Индии. Так, сторонники антиисламской политики премьер-министра Индии Нарендры Моди создавали аккаунты и беспрепятственно распространяли исламофобский контент, поскольку ни автоматические алгоритмы, ни модераторы не могли распознать буллинг на хинди и бенгальском языке.

Кроме того, жители из стран в конфликтных зонах часто использовали Facebook как цифровое «поле битвы». Например, противоборствующие суннитские и шиитские пользователи в Ираке постили на страницах друг друга запрещенный контент (в том числе фото обнаженных детей), чтобы враг был дискредитирован и забанен соцсетью.

Модераторы били тревогу и по поводу ситуации в Эфиопии, где на фоне гражданской войны вооруженные группировки подстрекали к насилию против этнических меньшинств. Сотрудники предупреждали компанию, что не справляются с задачей в полной мере, но проблема все еще не решена.

В Facebook признали, что за последние два года компания стала тратить больше на поиск сотрудников со знанием редких языков и диалектов, но тут еще есть над чем поработать.

СМИ отмечают, что, по данным за 2020 год, жители США составляют меньше 10% ежедневных пользователей Facebook, но львиная доля бюджета на борьбу с дезинформацией выделяется именно для Америки.

Поблажки политикам и селебрити

Топ-менеджмент мог вмешаться в вопросы модерации, когда дело доходило до особых случаев. Привилегией постить что угодно Facebook наделил знаменитостей, высокопоставленных лиц и целые правительства, пишут FT, Politico и Washington Post.

Сотрудники соцсети жаловались, что подчеркивающий свою политическую нейтральность Facebook шел на уступки представителям правого крыла. Их голосом в корпорации стал вице-президент по публичной политике Джоэль Каплан.

Он и его команда регулярно составляли внутренние рекомендации, как поступать с весомыми политическими фигурами, реагировать на спорную информацию с их стороны, а также что делать с высказываниями Дональда Трампа. Особенно щепетильно руководство компании начало относиться к модерации постов в разгар BLM-движения и в преддверии президентских выборов 2020, свидетельствуют документы. Представители Facebook по этому поводу говорили лишь, что команда Каплана — одна из многих, кто консультирует соцсеть по контенту.

Иногда окончательное решение оставалось лично за Марком Цукербергом, говорится в расследованиях. Например, в 2019 году глава Facebook участвовал в дискуссии о допустимости на платформе видео, где утверждалось, что «с медицинской точки зрения аборты не нужны». Удаленный модератором пост был восстановлен после жалоб республиканцев.

Несколько иначе Facebook трактовал свободу высказываний во Вьетнаме, где корпорация, по расчетам Amnesty International от 2018 года, зарабатывает больше $1 млрд ежегодно. Там Facebook усилил цензуру в отношении антиправительственных публикаций — источники утверждают, что это произошло после личного распоряжения Цукерберга. Журналисты обращают внимание на то, что вьетнамский кейс, по словам десятка бывших сотрудников, свидетельствует о решимости корпорации доминировать на мировом рынке — иногда в ущерб собственным ценностям.

Стареющий монополист

Facebook предпочитает позиционировать себя в роли «медиагиганта в клетке», чью свободу действий ограничивает жесткая конкуренция с такими платформами, как YouTube, TikTok и Snapchat, а вовсе не «всемогущего голиафа», каким его якобы изображают регуляторы. При этом Facebook прекрасно осведомлен, что, доминируя на ключевых для себя рынках, соцсеть становится все менее востребованной среди молодежи. Это обстоятельство, по мнению компании, может рано или поздно отпугнуть инвесторов, следует из материалов Politico, Bloomberg и The Verge.

Согласно внутренним отчетам, 78% взрослого населения Америки пользуются платформами корпорации. По популярности в США YouTube (122 млн активных пользователей ежедневно), TikTok (50 млн), Snap (87,3 млн) и другие конкуренты отстают от Facebook (174 млн). Те, кто присоединяется к продуктам корпорации (будь то Facebook, WhatsApp или Instagram), очень редко отказываются от них, говорится в презентации.

Столь большой отрыв может стать весомым аргументом, подтверждающим монополию Facebook на рынке социальных сетей, подчеркивают СМИ. В августе Федеральная торговая комиссия (FTC) повторно обратилась в суд с попыткой оспорить сделки по покупке компанией Цукерберга Instagram и WhatsApp.

Как бы то ни было, расследования указывают, что с молодой аудиторией не все идет гладко. Статистика свидетельствует, что американские подростки проводят меньше времени в Facebook (-16% год к году). Доля новых аккаунтов среди молодежи снижается (-26% год к году), большая часть их регистрируемых аккаунтов — дубликаты.

В оттоке молодых пользователей Facebook видит риски для своего рекламного бизнеса, но предпочитает не раскрывать все данные партнерам и инвесторам, пишут СМИ. В целом беспокойство вызывает то, что спад постов фиксируется у всех возрастных категорий, а объяснить причину негативных трендов компании пока не удалось.

Что дальше

По данным источников The Wall Street Journal, FTC уже запустила проверку Facebook — пока по материалам Facebook Files о вредоносном влиянии принадлежащего ей Instagram на подростков.

Регулятор подозревает корпорацию в нарушении договора о вопросах конфиденциальности, который был подписан в 2019 году. Тогда Facebook согласился выплатить рекордный штраф в $5 млрд за утечку персональных данных и уделять больше внимания их защите. Один из ключевых вопросов, который, вероятно, теперь изучается FTC, — обязан ли Facebook с юридической точки зрения предупреждать пользователей о рисках, выявленных результатами внутренних исследований.

На фоне новых проверок корпорация предписала сотрудникам сохранять все документы и относящуюся к работе переписку начиная с 2016 года. Письмо с таким требованием было отправлено 26 октября, выяснила The New York Times. Так компания, скорее всего, готовится к судебным разбирательствам по итогам всех проверок и расследований в СМИ.