«Большими буквами написано “свобода слова”. И это фейк-ньюc»

Психолог Кристиан Монтаг — о том, как онлайн-платформы манипулируют нашим выбором

В издательстве Individuum вышла книга психолога, профессора Ульмского университета в Германии Кристиана Монтага «‎Новые боги». Под «новыми богами» подразумеваются онлайн-платформы и социальные сети, которые указывают пользователям, за кого им голосовать, что покупать и о чем думать. Монтаг объясняет, как работают механизмы манипуляции пользователями, анализирует их эффективность и рассказывает, как от них можно защититься. Редактор «Холода» Максим Заговора поговорил с Монтагом об этом и о том, как алгоритмы соцсетей связаны с российским вторжением в Украину.

Чтобы не пропускать главные материалы «Холода», подпишитесь на наш инстаграм и телеграм.

В предисловии к российскому изданию* «Новых богов» вы пишете, что **«‎очень рады увидеть свою книгу опубликованной на русском языке»‎. Многие ваши коллеги не разделяют эту позицию и запрещают публикацию своих книг, фильмов, музыки в России. Почему вы думаете иначе?*

— Я понимаю проблему, о которой вы говорите. Да, с одной стороны, мы являемся свидетелями ужасного нападения России на Украину. Многие люди приравнивают российское правительство к российским гражданам и культуре. Но я думаю, что большинство обычных россиян не имеют никакого отношения к политике и они должны получать информацию о том, что происходит в мире.

Я думаю, что моя книга очень важна для понимания того, как онлайн-платформы манипулируют нашим выбором. В наше ужасное время социальные сети особенно часто используются для дезинформации, и я думаю, что моя книга, изданная на русском, поможет пролить свет на некоторые механизмы, лежащие в основе социальных сетей, которые явно играют большую роль в войне России на украинской земле.

Вы только один раз упоминаете в книге вторжение России в Украину — опять же в предисловии. Но видите ли вы связь между этой войной и теми процессами, которые вы описываете в своей книге?

— Я не упоминаю эту войну, потому что книга была написана до нападения России на Украину. Но там есть длинная глава, посвященная дезинформации и фейкам. Механизм их распространения универсален: социальные сети заинтересованы в том, чтобы пользователи проводили там больше времени: так люди оставляют больший цифровой след, информацию о своих интересах, которую потом можно использовать в любых целях.

Платформы поняли, что затягивать людей, завладевать их вниманием проще всего, показывая им только то, что им нравится. Так работают алгоритмы. Представьте себе человека, который узнает новости только из своей ленты в социальной сети. У него есть некая картина мира, он связан с людьми, которые транслируют близкие ему идеи. И он каждый день получает им подтверждение.

Вокруг его мировоззрения образуется эхокамера, или информационный пузырь, так это мнение постоянно усиливается и не меняется. Концепцию информационного пузыря давно критикуют, но она все еще работает, и работает прекрасно.

В нынешней России ситуация такова, что медийный ландшафт зачищен, то есть фильтрацию осуществляет государство. И если человек приходит в соцсети с теми установками, которые получил от власти, то соцсети будут их только поддерживать.

Кроме того, алгоритмы многих социальных сетей поощряют распространение фейковых новостей. Почему так? Потому что фейковые новости, как правило, очень яркие, они производят впечатление: «Ого! Не может быть! Вот это да! »И многие люди на это ведутся. А социальные сети в выигрыше, потому что люди проводят на платформе больше времени.

Вы говорите о вине онлайн-платформ, и это можно интерпретировать как оправдание тех, кто поддерживает войну. Они жертвы алгоритмов и пропаганды; давайте им посочувствуем.

— Ну, это упрощение. Мы знаем, что гражданское общество складывается из множества факторов. Я не говорю, что люди не несут ответственности. Я живу в Германии, у нас был Третий рейх и Вторая мировая война. И люди, которые не сопротивлялись режиму, разделили ответственность за его преступления.

И тем не менее нельзя отрицать тот факт, что людям становится труднее получать правдивую информацию, когда СМИ и социальные сети создают свой нарратив. Мне кажется, что сейчас в России доступ к альтернативным источникам информации требует от человека больших усилий. Искать правду — это практически работа. Я знаю это по своему опыту жизни в Китае, где государство контролирует интернет. Люди используют VPN-сервисы, находят технические решения обхода блокировок — но это очень непросто. А ведь когда вы все это сделали, вам еще нужно каким-то образом отличить ложь от правды.

В книге вы рассказываете, какие люди легче верят фейковым новостям. Какие?

— Мы провели большое исследование, чтобы понять это. Пробовали разное: тесты на интеллект, изучали черты характера и так далее. И один фактор оказался наиболее релевантным — не интеллектуальный фактор, не фактор характера, а доверие. Доверие к обществу и власти.

Интересно, что те, у кого доверия больше, лучше справлялись с различением настоящих новостей и фейковых, чем те, у кого доверия не было. То есть, если человек заранее не доверяет сложившейся системе, он видит фальшивку и говорит: «Да! Они правы, они поддерживают мою картину мира!»

Но наше исследование актуально для Германии. Я не знаю, что бы оно показало в России, где государство зачастую генерирует фейковые новости.

Правительства, политики и коммерческие компании — они используют соцсети одинаково или по-разному? Именно с точки зрения механизмов пропаганды.

— Сначала надо обсудить термины. Есть политики, например в оппозиции, которые такие же люди, как мы с вами. Они общаются со своей аудиторией в твиттере, пытаются донести свою позицию, иногда получают в ответ хейт, обижаются и уходят.

Но есть политики, которые либо обладают реальной властью, либо борются за самые высокие посты. Может ли политик с помощью социальных сетей манипуляциями заставить пользователя проголосовать тем или иным образом — так же, как компании заставляют вас покупать их продукцию?

Вспомним кампании Трампа и Клинтон и скандал с Cambridge Analytica, которая якобы оказала влияние на выборы.

Cambridge Analytica?

Британская компания, которая использовала технологии глубинного анализа данных для разработки стратегий избирательных кампаний. CA собирала данные о пользователях интернета, пользуясь тем, что они невнимательно читают лицензионные соглашения. Дальше без ведома пользователей она составляла их психологические портреты и на их основе разрабатывала персонализированную рекламу.

В 2015 году CA участвовала в президентской избирательной кампании Теда Круза. В 2016 году — в президентской кампании Трампа. Компанию также подозревали в том, что она оказала влияние на итоги голосования по выходу Великобритании из Европейского союза (расследование это не подтвердило) и на выборы президента Кении Ухуру Кениаты. В 2018 году Cambridge Analytica обанкротилась после череды скандалов.

Было очень интересное независимое исследование, показывающее, что по цифровому следу человека можно определить, например, интроверт он или экстраверт, и скорректировать кампанию в соответствии с предположительным типом личности.

Вы смотрите на цифровой след, то, как человек переписывается, и решаете, что он экстраверт. Тогда вы показываете ему более экстравертную рекламу. И эксперимент показал, что человек с большей вероятностью проголосует за это. Проще говоря, экстраверты — это общительные, решительные, оживленные люди. В этом эксперименте группа из Нидерландов показывала им рекламу типа «Если проголосуете за нас — вы герой!», с сильным посылом. И потом они с большей охотой голосовали за эту кампанию, чем если им показывали интровертную версию типа «Каждый может внести свой небольшой вклад. Голосуйте за нас».

Так что, если найти соответствие между цифровым следом человека и личными характеристиками, это может оказывать влияние на голосование. Это результат независимого научного исследования.

Какая социальная сеть сейчас наиболее политизирована?

— Думаю, твиттер, который теперь называется просто X. Думаю, это одна из самых политизированных платформ в мире. Раньше можно было говорить о фейсбуке: он сыграл большую роль во многих кампаниях, например в известном противостоянии Трампа и Хиллари Клинтон.

Да, есть, конечно, и платформы поменьше, такие как платформа самого Трампа [Truth Social], но они привлекают пользователей определенного типа. На них большими буквами написано «свобода слова». И там людей призывают распространять фейковые новости.

Что вы думаете об изменениях в твиттере после того, как его купил Илон Маск?

—Я в целом не сторонник ситуации, когда таким сильным инструментом владеет один человек, будь то Илон Маск или Марк Цукерберг. Если у одного человека есть возможность влиять на политику такой популярной платформы, это создает много проблем. Эти люди не понимают всю свою ответственность. Если посмотреть, как Илон Маск появился в твиттере, как сумасбродно им управляет… Да, было очевидно, что платформа движется не в том направлении: там появилось больше ненависти, я видел статистику, согласно которой распространяется больше правых идей. Но в ответ на это твиттер движется к тому, чтобы копировать китайские соцсети.

Технологически основная идея Илона Маска — сделать из твиттера суперприложение наподобие китайского WeChat, чтобы в ближайшем будущем через X, как оно теперь называется, можно было совершать финансовые операции. Кстати, Meta тоже движется в этом направлении. Часто говорят, что китайцы — подражатели, но сейчас именно западные социальные сети копируют китайские.

Вы критикуете практически все социальные сети и, кажется, интернет в целом. Но ведь и то и другое задумывалось именно как пространство свободы, где ключевым понятием было «возможность выбора». Когда все пошло не так?

— Давайте вернемся в 1990-е. Это было время, когда не было Google и Facebook, а Amazon, кажется, только появился. Тогда администрация Клинтона приняла закон о телекоммуникации (речь о статье 230 этого закона, которая освобождает интернет-компании от ответственности за информацию, публикуемую пользователями на их платформах. — Прим. «Холода»).

То есть, если вы предоставляете некую инфраструктуру и кто-то публикует там фальшивку, компания не несет за это ответственности. Сейчас это кажется безумием: как вообще такое может быть? Но много лет, вплоть до сегодняшнего дня, большие компании ссылаются на этот закон и говорят: «Смотрите, мы просто информационная инфраструктура, мы не несем ответственности за то, что люди здесь публикуют».

Думаю, именно этот документ позволяет понять, почему социальным сетям до сих пор многое сходит с рук. Потому что они говорят: «Мы инфраструктура, а не СМИ». Но, конечно, по своей природе соцсети — это что-то среднее. Да, они дают инфраструктуру, но часто в то же время являются СМИ. Очевидно, им необходимо регулирование, и этот раздел закона является предметом ожесточенных споров. Вероятно, о нем будут много говорить и в следующем году, когда мы увидим следующие президентские выборы в США. Демократы и республиканцы будут спорить, нужно ли менять этот закон.

Мы можем надеяться на технологическое решение, и это тоже обсуждается много лет. Можно изменить алгоритм — чтобы у человека, скажем, поддерживающего войну, в ленте появлялась и информация с другой стороны.

Законодательно изменить алгоритмы соцсетей? Это возможно?

— Технически — да, взять хотя бы пример Китая. Но в Китае интернет ограничен по политическим причинам. В целом я говорю не только о законах, но и о новых правилах, которые примут владельцы соцсетей. Соцсети — это наднациональные агенты. Они действуют не в одной стране, а по всему миру. Конечно, у них есть возможность изменить алгоритмы и следить за тем, чтобы некоторые новости отфильтровывались.

Но зачем? Всем выгодна текущая ситуация. Фейсбук растет, твиттер растет. Зачем им менять алгоритмы?

— Это вопрос об ответственности бизнеса.

То есть вопрос в том, кто принимает решения? Если Илон Маск — твиттер начнет торговать валютой, если Путин — начнется война, а если папа римский — интернет подчинится христианским ценностям?

— Именно поэтому я категорически против того, чтобы такие крупные платформы принадлежали одному человеку и компании. Это слишком большая власть.

Притом что изначально, опять же, идея соцсетей была в том, чтобы уравнять миллиардеров и нищих, условно говоря. Я мог написать Илону Маску, и у нас завязался бы разговор. В реальном мире, на улице, это было бы невозможно.

— Марк Цукерберг говорил, что его платформа дает людям голос. Но он не сказал, что не ко всем одинаково прислушиваются. Тут работает принцип «победитель получает все». У одних — миллионы подписчиков и серьезное влияние на происходящее. Но собрать такую аудиторию невероятно сложно, и становится только сложнее, если вы только начинаете работать на платформе, где уже есть много гиперактивных пользователей с большим числом подписчиков. Конечно, идея равенства возможностей в интернете провалилась. Да, вы все еще можете завести свой аккаунт, но услышат ли вас? Вероятно, нет.

Верите ли вы, что когда-нибудь интернет развернется к идеалам свободы, равенства и доступности информации?

— Ученые сейчас много говорят о том, как должен выглядеть Web 3.0. Конечно, большинство независимых исследователей сходятся на том, что нам не нужно будущее, созданное несколькими компаниями. Мы видим, что Facebook сменил название на Meta, потому что они хотят создать метавселенную, хотят творить будущее. Конечно, другие компании тоже этого хотят. И я думаю, что сейчас надо сделать так, чтобы будущее не находилось в руках немногих избранных.

Один из образов такого будущего — свободное программное обеспечение для создания социальных сетей. Возьмем, к примеру, [аналог твиттера] Mastodon, который позволяет пользователям самим решать, где хранить свои данные и куда перемещать их, если они разочаровались в какой-то из соцсетей.
Таким образом мы можем влиять на то, где находятся наши данные, куда мы хотим их поместить и зачем, с кем и на какой платформе мы хотим взаимодействовать. Мы видим в Европейском союзе закон о цифровых услугах и закон о цифровых рынках, которые уже позволяют регулировать деятельность крупных компаний и сервисов в сети. Надеюсь, они станут мощным инструментом, с помощью которого можно будет регулировать большие компании уже в ближайшем будущем. И это позволит расти более здоровым социальным сетям.