Скворечники от ЦИПсО

Российская пропаганда постоянно боится психологических операций. Мы оценили число украинских ботов во «ВКонтакте» — их в 53 раза меньше, чем прокремлевских

СМИ в России постоянно рассказывают об информационных атаках из-за рубежа. Пользователи соцсетей во время споров обвиняют друг друга в работе на ЦИПсО (центр информационно-психологических операций Украины). «Новая-Европа» решила проверить, что стоит за этим пропагандистским штампом. Мы нашли украинских ботов в самой популярной в России соцсети — «ВКонтакте» — и оценили их влияние. Рассказываем, как они работают и в чем пытаются убедить россиян.

С 12 по 14 августа в центре «Патриот» в подмосковной Кубинке проходил форум «Армия-2024». К его началу в некоторых группах в «ВК» появилось несколько однотипных комментариев (здесь и далее орфография и пунктуация сохранены):

• «Люди, не идите туда. Не может такое масштабное событие выйти сухим из воды! Вот уже Захарова предупредила что может быть какой-то теракт».

• «Что это? Скворечники с таким вот непонятным знаком развешаны по всему ЭКСПО центру. Страшно……»

• «Боже мой зачем вы их фоткаете? Как вас пиротехники туда пустили… идёт работа специалистов, эвакуация. Сказали что все под контролем и в сеть никаких фото не выкладывать».

• «Жесть. Я тоже их видел. Слишком подозрительно выглядят, поэтому ушел. А на экспо сейчас эвакуируют людей, угроза терракта».

• «Эти скворечники взрываются».

Первый комментарий сопровождался дипфейк-видео с Марией Захаровой, где она якобы предупреждала о возможном теракте на этом форуме. Другие содержали фото скворечников со странными символами:

Также комментаторы распространяли видео, на котором в один из таких скворечников кладут взрывное устройство, а закадровый голос говорит, что «сопутствующие жертвы не важны». В конце видео скворечник взрывается.

Всего мы обнаружили 197 комментариев с предупреждениями о возможных терактах на форуме «Армия-2024». Их распространяли не менее чем с 17 аккаунтов как минимум в 15 группах в «ВК».

Скорее всего, дезинформационная кампания со скворечниками была делом рук украинских ботов. Однако, похоже, она прошла полностью незамеченной — настолько, что многие такие комментарии до сих пор не удалены из «ВК».

Ранее с тех же аккаунтов писали, что хотят, чтобы «СВО» быстрее закончилась:

• «Вот бы закончить свo и направить эти горы денег пострадавшим. Но мы так конечно же не сделаем».

Призывали не пускать российских военных в дома:

• «Люди, не впускайте военных в свои дома, ОНИ ИХ УНИЧТОЖАТ».

И жаловались на безразличие федеральных властей к обстрелам Белгорода:

• «На мирных в Белгороде уже давно всем по**@ть ! Такое впечатление что власть уже наших мирных в приграничье хохлам готова отдать».

Для выявления украинских ботов мы пользовались данными проекта «Ботнадзор», отслеживающего ботов в «ВК». Ботами мы считали как автоматизированные аккаунты, так и сотрудников ботоферм. Мы исследовали критические по отношению к российским властям комментарии таких аккаунтов и с помощью машинного обучения выделили из них те, которые, скорее всего, были оставлены украинцами. Сначала мы определили выборку таких ботов по характерным для носителей украинского языка лексическим особенностям, а затем расширили ее на близкие по темам комментариев и активности аккаунты.

Как мы считали

Мы использовали базу комментариев ботов проекта «Ботнадзор» с 1 октября 2022 года по 30 августа 2024 года.

«Ботнадзор» ежедневно проверяет около 2,5 тыс. различных пабликов, собирая из них информацию о комментариях ко всем написанным постам. В этот список входят новостные и политические паблики (например, «РИА Новости», ТАСС, РБК, «Лентач», PostNews), региональные группы и медиа, а также другие группы, популярные у ботов (например, сетка пабликов «Подслушано»). Дополнительно «Ботнадзор» мониторит посты на новостные и политические темы, не относящиеся к фиксированному списку пабликов: война в Украине, Израиль, новости об ударах беспилотников и т. д.

Детальную методологию выявления ботов проект не раскрывает, но известно, что боты вычисляются по похожим паттернам активности, после чего большая часть аккаунтов ботов валидируется вручную. Паттерны активности, которые учитывает «Ботнадзор», включают количество написанных с аккаунта комментариев, группы, в которые они пишутся, параметры постов, к которым были написаны комментарии, даты регистрации страницы (аккаунты ботов часто регистрируют «пачками») и другие критерии.

«Ботнадзор» классифицирует ботов, которые пишут «оппозиционные» политические комментарии, в отдельную категорию. Большинство таких комментариев до февраля 2024 года, когда закрылась «фабрика эльфов» Free Russia Foundation, писали именно они. Однако существуют и другие небольшие оппозиционные ботофермы. Провластными ботами в этом тексте мы называем как кремлеботов, поддерживающих федеральную повестку, так и региональных ботов.

Чтобы выделить украинских ботов, на первом этапе мы отсортировали по ключевым словам комментарии, содержащие лексические особенности, характерные для носителей украинского языка. Мы не приводим здесь конкретные выражения, потому что эта информация может использоваться владельцами ботоферм и затруднить дальнейшую идентификацию ботов.

Естественно, не все украинские боты попали в нашу изначальную классификацию — есть аккаунты, которые не используют эти лексические особенности. Однако мы предположили, что боты с одной ботофермы должны писать комментарии с похожим содержанием и в похожем наборе пабликов. Поэтому мы использовали модель машинного обучения, которая нашла другие аккаунты, похожие на уже отобранных нами ботов с лексическими особенностями, которые писали близкие по смыслу комментарии примерно в те же группы.

Для выделения ботов, которые пишут комментарии в похожие паблики, мы составили матрицу, где строки — это пользователи, столбцы — это паблики, а в ячейке находится число 0 или 1 в зависимости от того, оставлял ли аккаунт комментарии в этом паблике. Мы не учитывали группы, в которые писали комментарии менее 5 ботов. Получилась матрица из 49883 строк (это число всех аккаунтов не-провластных ботов, работавших с октября 2022 года) и 1321 столбцов (число пабликов, в которые они писали комментарии). Полученную матрицу мы отнормировали и снизили ее размерность до 5 с помощью UMAP.

Для поиска ботов, которые пишут похожие по контенту комментарии, мы использовали по 20 случайных комментариев для каждого аккаунта (или меньше, если с аккаунта написали менее 20 комментариев). Мы составили эмбеддинги (векторное представление текста) с помощью модели OpenAI для каждого аккаунта бота. Так мы получили матрицу из 49883 строк и 1536 столбцов. Далее мы работали с ней так же, как с матрицей пабликов — снизили ее размерность до 5 с помощью того же метода UMAP.

Полученные две матрицы мы объединили, чтобы для каждого аккаунта учесть информацию и о том, в какие группы он писал комментарии, и о содержании комментариев. На этой матрице мы применили метод кластеризации k-means на 50 кластеров и убедились визуально, что кластеры на двумерной проекции этих данных действительно отличимы друг от друга.

Затем мы посчитали в каждом кластере долю ботов, использующих выделенные нами лексические особенности. Почти во всех кластерах таких ботов было менее 1%. Однако было 2 кластера аккаунтов, где ботов с лексическими особенностями оказалось более 10%. Именно эти кластеры мы считали кластерами украинских ботов. Точность нашей модели, рассчитанная с помощью кросс-валидации, составила 90%.

Для анализа тем комментариев ботов мы использовали модель BERTopic.

Как работают украинские боты

Всего мы обнаружили 2369 аккаунтов, предположительно, украинских ботов, которые написали 290 тыс. комментариев в полутора тысячах пабликов. Это сравнительно низкая активность. За тот же период, с октября 2022 года по август 2024-го, российские провластные боты написали почти 13 млн комментариев с 126 тыс. аккаунтов в почти 44 тыс. пабликов. Это в 43 раза больше комментариев и в 53 раза больше – страниц ботов.

Украинские боты оставляют комментарии почти только по будням (как и многие кремлеботы). Из этого, а также из способности ботов вести осмысленную переписку в комментариях, можно сделать вывод, что аккаунтами управляют живые сотрудники, а не нейросети.

Обычно украинцы имитируют россиян, часто из приграничных регионов. Чтобы маскировка была более убедительной, боты используют оскорбительную по отношению к украинцам лексику.

Например, слово «хохол» украинские боты использовали в 10 раз чаще, чем прокремлевские.

Типичный образ бота — аполитичный россиянин, который вследствие ведения Россией войны осознал, что власти верить нельзя, она не может защитить своих граждан и виновата в его страданиях. Этим украинские боты отличаются от большинства других оппозиционных ботов, которые «имеют» четкую антивоенную позицию. Например, украинцы почти не употребляют слово «путинский», которое используется оппозиционными ботами, когда они выражают свое отношение к режиму.

Такая маскировка, похоже, несколько снижает вероятность бана в «ВК», но не очень сильно — украинских ботов блокируют в 76% случаев, в то время как остальных оппозиционных — в 85%. Деятельность кремлеботов же, наоборот, администрацией соцсети покрывается, и их банят значительно реже (забаненными оказываются меньше половины всех провластных ботов суммарно, включая кремлеботов и региональных ботов), а разбанивают — чаще, об этом мы писали ранее.

Пять кампаний в интересах Украины

В отличие от кремлеботов, которые активны постоянно, украинские боты работают кампаниями, которые привязаны к инфоповодам и длятся от нескольких дней до нескольких месяцев. Вне таких кампаний боты практически неактивны.

Всего мы выделили пять кампаний украинских ботов. Первая длилась с октября 2022 года по январь 2023-го (кампания могла начаться и до октября, однако у нас нет более ранних данных). Она велась после объявления мобилизации в сентябре 2022 года. Основным месседжем стала неоправданность войны с Украиной с точки зрения интересов России. Например, боты писали такие комментарии:

• «При чем тут это? Почему мы нарушаем воздушное пространство другой страны? Мы же ведь не хотим еще больше конфликтов, но происходит все наоборот!»

• «Погибли 3 человека!!! Почему перед началом СВО нас никто не предупредил о последствиях? Обещали разобраться с хохлами за 2 недели, а в итоге теперь прилеты по нашим территориям!»

Следующая кампания, в апреле 2023-го, началась после убийства военкора Владлена Татарского — его взорвали на встрече с поклонниками в петербургском кафе «Стрит-бар». Нарратив ботов несколько изменился: они акцентировали внимание на том, что в России небезопасно, а ФСБ не может предотвращать реальные теракты («Интересно, где было ФСБ во время теракта в Питере?»). Причиной небезопасности боты считали ведение Россией войны: «Пока будет длится это сво… безопасности в стране не будет!!»

Также боты в этот период пытались опровергать утечку секретных данных из Пентагона, которую слил в Discord 21-летний сотрудник разведки США, — в ней содержалась информация о положении украинской армии, планах контрнаступления и отношениях России и Украины с другими странами. Боты комментировали эту утечку так: «Секретные документы обычно в сеть не сливают…). Может, как всегда вброс, обманка».

В мае 2023 года основной темой кампании остались небезопасность и неспособность России защищать своих граждан, но фокус сместился с терактов на обстрелы российской территории («Окромя обстрелов еще и беспилотники летают где угодно, по всей стране творится черт пойми что, и бездействие правительства просто в шок вводит») и контрнаступление Украины («Если не говорить об их контрнаступлении то его не будет? Вот такую мы позицию выбрали?»). Боты жаловались на отсутствие эвакуации в приграничных регионах («Не предлагает эвакуации чтобы не наводить шорох, им спокойствие в социуме важнее, чем жизни людей»).

Следующая кампания началась чуть менее чем через год, в марте 2024-го, и была связана с президентскими выборами в России. Боты активно призывали россиян не ходить на выборы, аргументируя это тем, что демократии в России все равно нет и выборы ни на что не влияют («Ну когда уже все решено, то какой смысл идти и голосовать?»). Другим аргументом ботов было то, что идти голосовать сейчас небезопасно из-за обстрелов («Я не пойду голосовать. Боюсь за то что снова будет что-то лететь и взрываться. Боюсь за свою жизнь, и боюсь что мой сыночек будет сиротой»).

Как обычно, винили в этом они начало «СВО»:

«Обкакались мы начиная сво с планом за три дня… который превратился в два года с тысячами погибших и дырявой экономикой».

С 25 июля началась новая кампания ботов, которая заметно отличалась от предыдущих: нарративы стали более агрессивными, боты стали распространять фейки — именно в рамках этой кампании боты публиковали посты о взрывающихся скворечниках, о которых мы писали в начале. Например, боты говорили, что украинцы дошли до Курской АЭС («Укропы уже на КУРСКОЙ АЭС, хватит нам всем врать, Путин помоги!») и что на выезде из Курской области российские военные забирают мужчин, т. к. их не хватает на фронте («При выезде из Суджи военные мужиков уже вытаскивают из авто и автобусов и забирают в не понятно куда!!! Будьте аккуратны!!!») — мы не нашли никаких подтверждений этой информации.

Одной из главных тем стали комментарии, возбуждающие ненависть к мигрантам: «В стране такие проблемы, а всюду говорят о том, что какого-то директора парка посадили… Кому какое дело? От этого что, обстрелов в Белгороде станет меньше? Или мигранты перестанут убивать русских?» Типичные комментарии украинских ботов с осуждением войны и бездействия властей при этом остались, хоть их и стало меньше («Напомню что до прихода военных все у нас было хорошо… ощущение что правительство нас наказывает или вообще не считает достойными, чтоб защитить»).

Судя по комментариям, которые пишут боты, их задача — увеличить недоверие россиян к власти и военным, а порой и посеять панику. Научный сотрудник Гуверовского института в Стэнфорде Сергей Санович считает, что информация, распространяемая этими аккаунтами, в некоторых случаях может служить предупреждением: «Из-за цензуры россияне оказываются в зоне боевых действий неожиданно для себя. То, что государство не информирует своих граждан об опасности — гораздо большая проблема, чем то, что информация о реальности войны распространяется с помощью фейковых аккаунтов».

Масштабы работы украинских ботов невелики сравнительно с кремлеботами: мы посчитали, что украинские боты оставили лишь около 2,2% от всех комментариев политических ботов в «ВК» с октября 2022 года.

Для сравнения, доля комментариев провластных ботов составляет 91% (80% федеральных кремлеботов и 11% — региональных), а других оппозиционных ботов — 7%.

При этом в 2024 году доля политических комментариев, оставленных украинскими ботами, и вовсе снизилась до 1%.

Что еще входит в арсенал ИПСО

Украинский эксперт по кибербезопасности Никита Кныш отмечает, что ботофермы в Украине получили распространение задолго до полномасштабной войны, однако тогда они были сфокусированы на украинской аудитории — например, использовались для продвижения интересов политиков или олигархов. По его словам, в 2019 году он знал о существовании в Украине шести компаний, связанных с олигархами и занимавшихся такой активностью.

Сейчас многие информационно-психологические операции (ИПСО) Украины направлены на российскую аудиторию и распространяются на разных площадках. Так, 6 августа, в день вторжения Украины в Курскую область, в телеграме распространилось дипфейк-видео с врио губернатора Курской области Алексеем Смирновым, где он якобы призывал всех совершеннолетних мужчин явиться в военкоматы для получения оружия, писала Baza. О подобных случаях распространения фейков регулярно рассказывают российские прогосударственные медиа.

Некоторые кампании и вовсе выходят за пределы соцсетей: жителям региона звонили якобы от российских властей и предупреждали о скором захвате Курской АЭС и необходимости эвакуироваться, сообщала администрация области.

Обычно российские пропагандисты связывают украинские информационные кампании с ЦИПсО (центр информационно-психологических операций, подразделение Вооруженных сил Украины). Такая организация правда существует, однако установить, кто в действительности проводит кампании, в большинстве случаев сложно.

Сергей Санович из Гуверовского института считает, что частные организации могут работать значительно эффективнее, поэтому государству выгодно отдавать информационные кампании на аутсорсинг: «В Украине хорошо, по мировым меркам развиты отрасли цифрового маркетинга и аналитики. После [начала] российского вторжения специалисты в этих сферах начали, в том числе и самостоятельно, создавать проекты для защиты Украины в информационном пространстве». В то же время, по его словам, в РФ структуры, распространяющие пропаганду и дезинформацию, находятся в более тесной связи с государством. Таким образом, российские медиа, перенося на Украину представление об устройстве пропаганды, рождают штамп о ЦИПсО.

О проведении информационных кампаний говорится на сайте украинской исследовательской организации OpenMinds, в качестве ее партнеров указан Совет национальной безопасности и обороны Украины. Основатель OpenMinds говорил The Economist, что их исследования в том числе пытаются ответить на вопрос о том, «как правительство Украины может нанести максимальный удар по моральному духу [россиян], создав “особую информационную среду”». OpenMinds отказалась отвечать на наш запрос о конкретных направлениях своих кампаний.

Украинские кампании иногда даже выходят в физическое пространство российских городов. В мае 2023 года в Москве задержали электромонтажника Константина Кочанова, который рисовал на асфальте красные кресты по просьбе украинского проекта «Хочу жить». Проект работает с Минобороны и Главным управлением разведки Украины и называет своей основной своей задачей помощь российским военным в сдаче в плен.

Фотографии этих крестов были опубликованы на канале УНИАН, затем растиражированы другими украинскими медиа. Украинский военкор Андрей Цаплиенко прокомментировал эти метки так: «В Москве сходят с ума из-за появившихся по городу красных крестиков. Видимо, опасаются, что это могут быть маркеры для ударов с воздуха на 9 мая».

По информации «Первого отдела», на автора красных меток Кочанова собирались завести дело о госизмене, однако ему удалось уехать из страны.

Похожую кампанию проводили и российские силы, нанося метки на асфальте в Украине в начале полномасштабного вторжения с целью вызвать панику в украинском обществе. Проект «Система» выяснил, что кампанию координировал связанный с ГРУ ультраправый политтехнолог Игорь Мангушев.

Использование ботов в информационных кампаниях становится нормой, считает исследователь медиа и пропаганды из Королевского колледжа Лондона Григорий Асмолов: «Все больше разных акторов воспринимают это как легитимный инструмент политического влияния», — заключает он.