Боты в контакте: как работает сетевая пропаганда

Боты и тролли — это те, с кем мы имеем дело каждый день, обычно не замечая и не осознавая этого. Их численность в отношении к общему числу пользователей может быть и не так уж высока, но их активность, консолидированная позиция и агрессивность позволяют им захватывать и модерировать дискуссию, провоцируя эффект, похожий на феномен «спирали молчания». Боты и тролли — это инструменты горизонтальной сетевой пропаганды, призванные деформировать представление реальных пользователей о «воображаемом большинстве» нации. Как устроены пропагандистские боты и тролли? Сколько их? Как они себя ведут, о чем пишут? Кем представляются? Тому, как работают пропагандистский троллинг и ботопропаганда в сетевой среде, в частности в самой массовой в России социальной сети «ВКонтакте», посвящено совместное исследование Re: Russia и «Новой газеты Европа», разные части которого публикуются сегодня на обеих площадках.

Обзорную часть исследования, «Нейросети — за Путина», читайте на сайте «Новой газеты Европа».

В начале 2010-х социальные сети заняли прочное место в общественной жизни, став пространством свободы и коммуникативной открытости. Начиная с «арабской весны» и российских протестов 2011–2012 годов, социальные сети сыграли значительную роль в мобилизации противников автократий. Они предельно облегчили процесс поиска и мобилизации единомышленников. А немного позднее, с середины 2010-х годов, также стали выполнять функцию распределенного канала доставки альтернативной и неподцензурной информации — превратились в социальные медиа, организующие навигацию по контенту. В итоге в силу этих своих свойств они оказались большой проблемой для авторитарных режимов.

Однако уже с середины 2010-х годов социальные сети стали полем встречного наступления автократий, которые осваивали новые техники пропаганды — пропаганды соучастия и астротурфинга (кампаний имитации «народного мнения»). По сути дела, речь идет о наступлении эры новой, сетевой пропаганды. Социальные сети оказались населены ботами и троллями, искажающими картину реальной социальной среды, ее настроений, повесток и предпочтений. Пропаганда мимикрировала под мнение «простого» человека. Пропагандистский месседж теперь не просто транслируется с экрана телевизора, а приходит к пользователю в виде реакции на этот месседж со стороны мнимого «соседа» по сетевой дискуссии и тем самым провоцирует соучастие. Иными словами, вертикальная модель пропаганды (сообщение сверху вниз) дополняется горизонтальной пропагандой соучастия, организаторами которой выступают боты/тролли. В итоге, заходя в социальную сеть, пользователь сталкивается с картиной «общественного мнения», существенно искаженной этой пропагандистской инъекцией, которая формирует у него сдвинутый образ «воображаемого большинства».

Впрочем, следует помнить, что боты — не единственный инструмент искажений сетевого пространства. Как отмечает в посвященной российской сетевой пропаганде статье Григорий Асмолов, репрессивные авторитарные режимы используют комбинацию из трех инструментов, которые действуют совместно, дополняя друг друга (→ Григорий Асмолов: Пропаганда в сетевой среде). Первый — это репрессии в отношении реальных пользователей за неугодный контент. По данным проекта «Сетевые свободы», только в 2022 году за публикации в соцсетях уголовному преследованию подверглись 779 человек. Второй — это цензура, которая действует методом блокировок нежелательного содержания (см. анализ стратегии блокировок контента во «ВКонтакте» от Citizen Lab). Эти два инструмента призваны подавить «неправильное» мнение и максимально снизить «слышимость» соответствующей позиции. Третий инструмент — боты и тролли — призван модерировать дискуссию, реагируя на «неправильные» месседжи и «насыщая» сетевое пространство «правильным» контентом, мимикрирующим под «народное» мнение.

Популяция и отряды. «Злые» кремлеботы

По данным «Левада-центра», «ВКонтакте» посещают 66% россиян, которые хотя бы иногда пользуются соцсетями. Исследовательский центр Mediascope дает даже более высокую оценку: 71% россиян посещают эту соцсеть хотя бы раз в месяц. По этим данным, больше всего времени на «ВКонтакте» тратят люди в возрасте от 24 до 44 лет.

В то же время полностью контролируемая российскими властями «ВКонтакте» в наибольшей степени интегрирована в кремлевскую машину политического управления. В 2021 году компанию возглавил сын заместителя руководителя администрации президента, отвечающего за внутреннюю политику, Владимир Кириенко. Именно на «ВКонтакте» делает ставку Кремль, стремясь превратить ее в многофункциональный механизм контроля общественных настроений и социальной лояльности. Ряд расследований и исследований последнего времени вскрывают картину манипуляций сетевыми социальными практиками и показывают, как «ВКонтакте» используется для распространения провоенного контента в группах школ и детских садов и для публикаций постов в поддержку войны от лица бюджетников, а также как Кремль прилагает усилия, чтобы переманить туда аудиторию из более оппозиционного YouTube.

Мы изучили более 7 млн комментариев, оставленных ботами во «ВКонтакте» в 2023 году и выявленных проектом «Ботнадзор». Исходя из данных «Ботнадзора», в 2023 году 120 тыс. ботов написали в «ВКонтакте» 7312 тыс. комментариев. Ботами мы называем не только чисто автоматические аккаунты, которые размещают комментарии без участия живых людей, но и сотрудников «ботоферм», которых иногда также называют троллями. «Ботнадзор» вычислял ботов/троллей по схожим паттернам активности, после чего бóльшая часть аккаунтов ботов валидировалась вручную.

«Ботанадзор» занимается регулярным мониторингом постов во «ВКонтакте» на предмет наличия ботов. Команда ежедневно проверяет около 2500 различных пабликов, собирая из них информацию о комментариях ко всем написанным постам. В этот список входят новостные и политические паблики (например, РИА «Новости», ТАСС, РБК, «Лентач», PostNews), региональные группы и медиа, а также другие группы, популярные у ботов (например, «сетка» пабликов «Подслушано»). Помимо регулярного мониторинга, «Ботнадзор» ищет посты на новостные и политические темы, не относящиеся к фиксированному списку пабликов. Это темы, связанные с Украиной, Израилем, военными беспилотниками, а также новости о различных политических деятелях и т.д.

Все выявленные боты были классифицированы «Ботнадзором» по следующим категориям:

— провластные (кремлеботы);
— оппозиционные («эльфы» — большинство из них, судя по всему, связаны с «Легионом эльфов» Фонда «Свободная Россия»);
— региональные (создающие положительный образ местной власти в различных регионах);
— рекламные (под видом реальных людей пишут отзывы о продуктах, в основном рекламируют лекарства в группах для мам и беременных);
— другие (малочисленные) категории.

Более детальный анализ позволяет выделить в группе провластных ботов две подгруппы — «добрых» и «злых». «Злые» кремлеботы — самая многочисленная категория, им принадлежит абсолютное большинство (73%) всех комментариев ботов. По контенту это, как правило, милитаристы-антизападники, эмоционально заряженные «патриоты», их комментарии обычно имеют выраженную негативную тональность. В противоположность им, «добрые» кремлеботы отличаются почти полным отсутствием агрессии и милитаризма. Они пишут положительные комментарии о ситуации в России, а также утверждают, что Россия хочет мира (установлению которого якобы мешает Зеленский). Скорее всего, большинство «добрых» кремлеботов — автоматические (комментарии за них пишет нейросеть), тогда как за «злыми» ботами стоят реальные люди, задача которых — реагировать на «неправильный» контент и атаковать его носителей. Таким образом, «злые» кремлеботы и есть основные проводники пропаганды в сети «ВКонтакте». Их функция не сводится к транслированию пропагандистского месседжа, но состоит именно в модерации дискуссии, в которой они выглядят группой его яростной и добровольной поддержки.

Типы ботов в российском интернете, % от числа комментариев

Ботоплотность

Все категории ботов, кроме «добрых» (автоматических) кремлеботов, чаще пишут комментарии по будням, чем по выходным. Это еще раз указывает на то, что их активность отличается от естественного поведения пользователей соцсетей.

Активность ботов, 2023–2024, число комментариев

Если учитывать все посты (в том числе в небольших и/или неполитических пабликах), под которыми боты писали комментарии, то по данным за сутки (произвольно выбранные в феврале 2023-го) в них оказалось 9% комментариев ботов, при этом ботам принадлежали 2,3% фигурировавших в комментариях аккаунтов. Таким образом, средний ботоаккаунт в день производит в несколько раз больше комментариев, чем средний настоящий пользователь. Наиболее активны кремлеботы и «эльфы», которые производят комментариев в четыре-пять раз больше, чем реальные люди. Таким образом, в общем объеме дискуссии доля ботов — около 10%, однако благодаря идейной сплоченности их комментариев и, часто, агрессивной тональности они существенно влияют на ее ход, демотивируя настоящих пользователей продолжать разговор, а значит, ограничивая их присутствие (это отчасти напоминает известный социологам эффект «спирали молчания»).

Активность ботов, 2023, среднее число комментариев в сутки

Чаще всего боты пишут комментарии в новостных пабликах, как правило, связанных с государственными или лояльными медиа, такими как РИА «Новости», ТАСС, РБК и т.д. Всего на 45 новостных пабликов, выбранных «Ботнадзором» для регулярного мониторинга, в 2023 году приходилось 72% всех комментариев ботов. В этих пабликах из всех комментариев 22% были написаны ботами; ботам принадлежали 6,3% аккаунтов, которые когда-либо писали в них комментарии. В этих пабликах доля комментариев ботов в 2023 году увеличивалась, причем скорее из-за снижения активности реальных пользователей, чем из-за повышения активности ботов. Если в начале года на ботов приходилась одна пятая всех комментариев, то в конце — уже одна четверть. Это указывает, скорее всего, на то, что реальные пользователи в течение года теряли интерес к подобным дискуссиям или желание их вести.

Активность пользователей и ботов в новостных пабликах, 2023, число сообщений в неделю

«Злые» кремлеботы: тематика сообщений и стратегии коммуникации

Самая многочисленная категория ботов, написавшая 74% всех ботокомментариев в 2023 году, — так называемые злые кремлеботы. Число их сообщений достигло пика в начале года, затем пошло на спад. Причины такой динамики неясны, у ботов других типов и реальных пользователей таких пиков и падений не наблюдается. Возможно, речь идет о какой-то административной реорганизации или перерыве в финансировании. С середины марта число их сообщений вновь стало расти, достигнув нового пика в сентябре, а к концу года снова снизилось. Пик в середине сентября наблюдается и у других провластных ботов: можно предположить, что он связан с региональными выборами, проходившими 10 сентября.

О чем пишут «злые» кремлеботы? Главная их тема, разумеется, — война в Украине и «геополитическое противостояние», то есть роль Запада в войне, его влияние на Украину и на ход конфликта. На две эти темы приходилось около 50% всех высказываний «злых» кремлеботов. Данные о часто используемых словах дополнительно подтверждают вывод тематического моделирования: в сравнении с другими категориями ботов, которые пишут на политические темы, «злые» кремлеботы значительно чаще употребляют слова «Украина», «Россия», «ВСУ», «США», «Запад», «военный», «Зеленский» и значительно реже — слова «война» (это слово все еще не используется российскими официальными источниками для описания происходящего в Украине), «власть», «Путин», «ребенок», «цена», «чиновник».

Анализ доли сообщений с упоминанием слов «Украина», «Зеленский», «Запад», «СВО» и слов, связанных с войной, показывает, что к военным и антизападным темам относится в среднем 36% сообщений «злых» кремлеботов. При этом Путина боты бóльшую часть года упоминали лишь в 1–3% случаев, хотя в декабре доля этих упоминаний возросла до 6%, что может быть также связано с началом избирательной кампании. Но в целом отсутствие образа Путина в ботодискурсе представляется любопытным фактом.

Тематика «злых» кремлеботов, 2023, число сообщений

Для определения основных тем их сообщений мы использовали модель Bertopic. Так как, во-первых, комментариев ботов слишком много, а во-вторых, «злые» кремлеботы пишут слишком похожие комментарии в непропорционально больших количествах, сначала из исходных данных мы составили датасет, на котором обучили модель: в него вошли по 20 тыс. комментариев ботов каждой категории и 50 тыс. комментариев «злых» кремлеботов. После обучения модели на этом датасете мы применили ее ко всем данным для предсказания категории комментария. Чтобы получить более полную картину, включающую комментарии, которые не удалось классифицировать автоматически, мы вручную классифицировали случайную выборку из 400 сообщений категории «Другое». В большинстве случаев эти сообщения входили в одну из тем, выделенных автоматически, но не были идентифицированы в силу специфики живого диалога — модели не хватало контекста. Таким образом, не идентифицированная автоматически часть сообщений не представляет собой отдельного тематического класса, но в основном распределяется между идентифицированными тематическими группами. На графике ниже доли тем представлены с учетом пропорций комментариев из категории «Другое», исходя из ручной классификации 400 сообщений.

Тематика «злых» кремлеботов, 2023, % от числа сообщений

Говоря о войне, боты пытаются создать представление о благоприятной для российской стороны ситуации на фронте, впечатление эмоциональной заряженности и убежденности пишущих. Как видно из примеров ниже, одним из центральных нарративов здесь является борьба с нацизмом. Однако к концу года доля сообщений с упоминанием «нацизма» и «нацистов» снизилась в три раза: с 6 до 2% от общего числа комментариев кремлеботов.

«И прекрасно! А значит что у них там еще меньше припасов, скоро они опять побегут к западу милостыню просить», «Недобитых укронацистов необходимо как можно скорее отправлять в Вальгаллу за их военные преступления!», «в последнее время прям активизировали российские БПЛА и ракеты. Как же сильно огребают ВСУчки», «Россия не когда не забудет тех зверств которые творили нацисты ! и нацисты которые сейчас в Украине не чем не отличаются точно так же будут побеждены нашими войсками!», «Наши танковые бригады показали противнику, что такое силы РФ за работой. Обрушивались на укрепления противника мама не горюй».

Вторая по популярности тема — политика Запада и инструментальное использование им Украины. Доля сообщений с упоминанием Запада за год практически не изменилась и колеблется в районе 7% — как и доля сообщений с упоминанием Украины и Зеленского, которая оставалась в районе 17%.

«Если бы США не пускали свою гнилую руку внутрь этого конфликта, то ничего подобного бы не было», «Украинцы бегут из Незалежной настолько массово, что Зеленскому даже для женщин пришлось границы закрывать», «Сам запад виноват что первый начал агрессировать на Россию и теперь будет огребать», «Видимо правду говорят, что запад готов сражаться до последнего украинца», «затягивая СВО, Зеленский вводит страну в огромный экономический кризис. После СВО украинцы еще лет сто будут работать просто за идею, чтобы их страна с долгами рассчиталась», «Киевскому режиму все равно ничего не поможет, чтобы они не делали, чтобы не получали и чтобы не делали, провалы все равно будут продолжаться в их планах».

Еще одна заметная тема ботов, хотя и значительно менее популярная, чем две предыдущие, — различные комментарии о ценностях, идеологии и России в целом:

«Ну так все правильно, Россия будет продолжать наращивать сотрудничество со всеми дружественными странами», «в России уважают каждую национальность и каждую традицию, это наш дружный российский народ», «В этом точно никаких сомнений нет, Россия лучшая страна в мире», «О чем вообще можно говорить, если Боррель заявляет, что запрещая российские СМИ они сохраняют свободу слова?

Модерирование дискуссии, то есть полемика с носителями идеологически неправильного контента и атака на его авторов, — по сути, основная функция ботов. Они должны создать ощущение дискомфорта у идеологических противников и, наоборот, оказать поддержку тем, кто выражает правильную позицию. Поэтому в отдельную категорию выделяются ответы ботов другим комментаторам, включая оскорбления или поддержку их полемических усилий. В целом на такие комментарии приходится более 20% высказываний ботов (категории «выражение негативных эмоций» и «нейтральное доброжелательное общение»). При этом тональность комментариев «злых» кремлеботов более чем в три раза чаще носит негативный характер, чем позитивный (для определения «настроя» ботов мы использовали модель для оценки тональности RuBERT). Потому они и «злые».

«Свинка зря хрюкаешь, ПВО сбивает абсолютное большинство бпла», «я ору, ВСУ — жестокие убийцы, они идут против мирного народа, перечислить все их военные преступления невозможно, может ты что-то путаешь, но нашу армию встречают с флагами, криками и цветами! А этих тварей в шею гнать!», «ну да, чего я ждал от хохлика) вы на постоянке на личности переходите, потому что на большее не способны) слит», «ты точно не идиот? Кто ты такой, чтобы делить людей по национальности? Просто возмутительно!», «это ваше субъективное мнение, вы должны это понимать», «Очень круто, что можно пронаблюдать за реализацией масштабного проекта в эфире, спасибо за такую возможность», «вы правы, поэтому общество и наш народ должен сплотится и работать на благо нашей страны, особенно когда власти дают все возможности на это!»

Тональность «злых» кремлеботов, 2023, % от числа сообщений

Данные социологических опросов указывают, что во второй половине 2023 года и в особенности к его концу партия реальных сторонников войны в российском общественном мнении сокращалась, а «запрос на мир» нарастал (→ Re: Russia: Тупики войны). И поведение ботов в определенной мере отразило эту тенденцию. Осенью 2023 года доля сообщений ботов в «ВКонтакте» на темы войны в Украине начала снижаться, в ноябре–декабре она сократилась до 22%, в то время как в летние месяцы составляла около 32%. И наоборот, осенью произошла активизация геополитических рассуждений ботов («Украина и Запад») и с 15 до 20% выросла доля их высказываний на социальные темы. Таким образом, поведение ботов отразило некоторую приглушенность темы войны в период после мятежа Пригожина. Впрочем, снижалась и общая их активность.

Динамика основных тематических групп высказываний ботов, 2023, % от числа автоматически классифицированных сообщений

Ареал обитания: кремлеботы идут в народ

Как уже упоминалось, во «ВКонтакте» больше всего сообщений кремлеботы оставляют в пабликах государственных новостных медиа: на первых местах по числу комментариев оказываются РИА «Новости», «Новости RT на русском», РБК, «Газета.Ru», «Вести», IZ.RU и Readovka. Соответственно, и доля ботов в общем потоке комментариев здесь выше. Например, в более нейтральном анонимном агрегаторе новостей «№ — Новости дня» и в оппозиционном паблике «Лентач» доля комментариев провластных ботов оказывается значительно меньше, чем в пабликах ТАСС и «Ведомостей». Это подтверждает высказанное ранее исследователями наблюдение, что боты предпочитают отрабатывать заказ в комфортной среде, где доля лояльных официальной точке зрения заведомо выше (→ Re: Russia: Путинские фаны или кремлевские боты). Их задача — не переубедить убежденных несогласных, а мобилизовать «болото», поддерживая у него представление о настроениях «воображаемого большинства», к которому «болото» в результате склонно присоединяться.

Доля провластных ботов в общем числе комментариев, 2023

Бóльшую часть комментариев кремлеботы оставляют примерно в 45 популярных новостных пабликах. Однако со временем их вклад снижается — кремлеботы расширяют свое влияние за пределы традиционных мест обитания. Если в начале года доля сообщений в этих пабликах составляла около 95% комментариев ботов, то в течение года она плавно снижалась и к концу года была уже в районе 73%.

Расширение «зоны влияния» кремлеботов подтверждается тем, что количество групп, в которых они интенсивно публикуются, увеличивается: за год число групп, куда боты написали более 100 комментариев в неделю, выросло с 40 до 95. Учитывая, что при этом общее число комментариев ботов не увеличилось, это следует расценивать именно как расширение активности, а не как рост ее интенсивности. Расширение происходит преимущественно за счет расползания ботов по региональным пабликам, таким как «Подслушано Барнаул», «Регион-75 | Чита», «ЧП Новосибирск», что в целом соответствует стратегии главного кремлевского подрядчика в сфере сетевой пропаганды АНО «Диалог», которую кураторы ориентируют на работу с региональными повестками и сообществами (→ Григорий Асмолов: Пропаганда в сетевой среде).

Суммарное количество подписчиков в группах, в которых боты написали более 100 комментариев в неделю на конец 2023 года, составляет 62 млн — это расширение потенциальной аудитории почти в два раза по сравнению с началом января 2023-го, когда это число составляло 33 млн. Впрочем, разумеется, далеко не все пользователи читают подробно комментарии, аудитории разных пабликов могут сильно пересекаться, а в их показателях возможны значительные накрутки подписчиков.

Число групп, в которых кремлеботы оставляют больше 100 комментариев в неделю, 2023

Ботодемография: молодая женщина — милитарист

Как показывают наши статистические наблюдения, ботофермы осознанно подходят к выбору возраста и пола аккаунтов ботов. Указанный медианный возраст «злых» кремлеботов — 28 лет, средний — 30. И это заметно ниже, чем в среднем у пользователей «ВКонтакте». Для реальных пользователей эти величины составляют 39 лет и 42 года соответственно. Аккаунтов с указанным возрастом младше 18 лет среди кремлеботов практически нет. Чаще всего указывается возраст от 24 до 30 лет, также значительная часть аккаунтов имеют возраст от 31 до 38 лет. Аккаунтов с возрастом выше 38 лет значительно меньше.

Возрастная пирамида обычных пользователей и «злых» кремлеботов, %

Что касается пола, то большинство «злых» кремлеботов приписывает себе женский пол — таких аккаунтов оказалось 66%. В результате четверть всех аккаунтов ботов выдают себя за женщину в возрасте от 24 до 30 лет.

Парадокс здесь в том, что молодые контингенты (до 30 лет) гораздо в меньшей степени поддерживают войну, чем те, кому за 40 и особенно за 45. В гендерном разрезе войну гораздо меньше поддерживают женщины, чем мужчины. То есть встретить в России реальную молодую женщину с милитаристскими взглядами не так просто — в невиртуальном мире это самый антивоенный контингент. Однако боты в сети стремятся «исправить» этот провал, то есть мистифицировать представления о реальных предпочтениях пользователей.

Как видно из этого обзора, боты плотно вживлены в ткань социальной сети и составляют самостоятельную и заметную часть ее населения, которую обычные пользователи не в состоянии различить и которая существенно меняет сетевой «климат мнений» (еще один термин Элизабет Ноель-Нойман, автора концепции «спирали молчания»). Эффективность ботов увеличивают их сплоченность и агрессия, которая заставляет реальных пользователей отступать и уступать ботам еще больше сетевого пространства. По наблюдениям Григория Асмолова, резко возрастающая активность ботов могла играть важную роль в моменты «кризисной пропаганды», когда непредвиденные драматические события (мятеж Пригожина, теракт в «Крокус Сити») создавали риски «разрыва» предлагаемой пропагандой картины мира, а также в предотвращении консолидации недовольства в региональных сообществах в связи с теми или иными негативными поводами. Стратегии ботов в этих эпизодах заслуживают отдельного подробного анализа.