Date
Author
Авторы Алеся Мароховская; Ирина Долинина; Соня Савина; Редакция; Полина Ужвак; Катя Бонч-Осмоловская
Source
Preserved copy
Translated material
Inside the car censorship
This Story is Also Available in English Geere
"Not like hands, there is no free finger"
On July 12, 2022, Alexander Fedotov, head of the Scientific and Technical Center of the Main Radio Frequency Center (GRCHC), was preparing for the next meeting of the Expert Council for Artificial Intelligence. The GRCHC is included in the structure of the main censorship department of Russia - Roskomnadzor (RKN), and the center lies responsibility for the monitoring of the Internet, preparation of certificates and reports on the found “prohibited information”, as well as its blocking.
For many years, employees of Roskomnadzor have to look for “prohibited information” mainly manually: the programs available to them can only filter materials by keywords, and then a person needs to double -check these materials. The number of topics on which the programs are looking for “prohibition” are very limited. The management did not like that the search manually was not effective enough, and Roskomnadzor is always a few steps behind and does not have time for the speed of publications on the Internet. There were simply not enough people for such a volume of work. And even at the request of the authorities to cover on the topic of how to improve the work, one of the employees answered in a letter : "We adore creating, but now there is not only hands, free finger."
Therefore, the GRCHC was given the task of developing several automated systems that would in constant mode monitor social networks, the media, channels in instant messengers, imageboard and other sources of information. This task was dedicated to the meeting for which Fedotov was preparing. He needed to write his introductory word, as well as his boss - Ruslan Nesterenko, who temporarily acts as the general director of the GRCHC.
In a welcoming Word, Nesterenko said that a year earlier, the GRChz had already conducted research work to develop programs based on machine learning and neural networks so that Roskomnadzor had tools for global surveillance not only for individual oppositionists, activists, volunteers and independent journalists, but also for almost any Russian who dares Speaking on social networks.
The content of Nesterenko’s speech and internal correspondence of his employees to journalists “important stories” became known thanks to the largest leakage of internal documents of the main censor of Russia - Roskomnadzor. “Important stories” gained exclusive access to more than two million documents, images and internal emails. The project was called "Documents of Russian censorship."
In this text you will learn:
What automated systems do Roskomnadzor develop for global surveillance of the Internet and whether it is possible to implement them;
What are the topics and how these systems will track;
Which is already in service with Roskomnadzor.
In November 2022, the Belarusian group of Cyberpartisana hackers said that they hacked the internal network of the GRCC and pumped documents, correspondence and mail of employees, as well as a system for surveillance of them for more than two terabytes. As evidence, they showed screenshots of the correspondence of employees in instant messengers, by mail and internal documents with tasks. Cyber Partizans also claimed to have violated the work of the GRCC, encrypting the workstations. The fact of cyber attacks was confirmed in the very center, but it was noted that the hackers "did not gain access to closed information or to critical infrastructure." According to Cyberpartisan, the materials they received prove "large -scale surveillance and control over everyone who has spoke out against the Putin regime over the past twenty years."
Hactivists remained inside the GRCHC system for many months before they were discovered. No one paid attention to cyber partisan, while they followed all the staff and what they did. After the announcement of the hacking, the hackers still had access to internal correspondence. They said that they saw panic both among the leadership and administrators, and among ordinary employees. Employees were afraid that their data would sell or make them public.
All that Cyberpartisans were able to get when hacking, they handed over to the German publication Süddeutsche Zeitung to the German publication, and other Russian media. The leak is called the “Documents of Russian Censors” (Russian CensorsorFiles).
According to the hackers, they chose the RKN to attack because the department is "the most important element of the Russian repressive machine." “They monitor everything and everything on the Internet, and as soon as they see any violations, send this information directly to the FSB, Rosgard, the Federal Security Service, etc., so that their agents are promptly sent to the region, where the potential threat of regime stability is growing. The regime successfully suppresses any alternative movements or even thoughts of disobedience, ”Süddeutsche Zeitung“ Partizans ”explained their position to journalists.
Hackers from Cyberpartisan united in the team in 2020 during large -scale protests against the regime of Alexander Lukashenko in Belarus. In an interview with the BBC Russian Service, they said that everyone had extensive experience in the IT sector, but none of them had previously been engaged in political activism. “Our friends and relatives are killed, tortured and raped. No one will be able to sit aside, ”hackers published such a statement on the website of the Belarusian Chamber of Commerce and Industry and announced the start of their team. Since then, Cyber Partizans organized cyber attacks on the system of the Belarusian railway, received data from the country's own security management of the country's Ministry of Internal Affairs and the audio recordings of wiretaps of security forces and officials. And after the start of the full -scale invasion of Russia, they stated that "they were ready to assist in the fight against the fascist campaign to invade fraternal Ukraine." “At this moment significant for our peoples, it is important to combine efforts and show that together we are able to repulse the tyrants who want to drown our countries in the blood,” their statement said the day after the start of the invasion. After that, the number of hacktivists in the "Cyber Partizan" doubled - from 30 to 60 people.
Boar in the lair
Having received a word after Ruslan Nesterenko, Alexander Fedotov as a head of projects for the development of automated systems emphasized that "we need to fight not only with current problems, but also predict what we will encounter a few years in a few years." Especially for this task, work on the project has been conducted for a year, which the GRCHC employees called the “automated system of a comprehensive analysis of media materials and the search for information tension in the global network“ Vepr ”, or briefly -“ Asa Vepr ”.
The main responsibilities of “Boar: to analyze materials in social networks and the media and, based on this analysis, identify the so -called points of information tension (under them the authors of the study understand the spread of publications that can cause a reaction in society), as well as build a forecast for the development of the situation, to warn the scenarios of information spread and“ turn them into an information threat ”, so that then transfer data into“ authorized bodies ”.
The GRChz instructed to investigate the possibilities for the creation of such a system by the team of experts, researchers and engineers from the Moscow Physical and Technical Institute (MFTi) under the leadership of the head of the department of machine learning and digital humanitarianism Konstantin Vorontsov. As follows from the report prepared by the Vorontsov team, before starting work, they studied the existing methods of censorship of the Internet. Most of the researchers are interested in China’s experience, because “today the China Internet Concensor Program can be considered the most difficult in the world. In this regard, the country even began to export its technologies to other countries, such as Cuba, Zimbabwe and Belarus. ” However, domestic developers are trying to create an equally complex system for total surveillance and censorship of the Internet in Russia.
According to the idea of Roskomnadzor, the “Vepr” should first pay attention to:
protest sentiments and facts of destabilization of Russian society (for example, on the topics of territorial integrity, interethnic growth, migration policy, etc.);
negativity in relation to the first persons of the state, state structures and interstate organizations;
fakes about the first persons of the state, about the state and the country as a whole;
manipulations of public opinion and polarization of society (for example, on the topics of the non -systemic opposition, sanctions pressure, etc.);
Change and discrediting traditional values.
Now, for many of these topics, the employees of the GRCC are drawing up reports in semi -coronary mode. The plans of Roskomnadzor - to transfer most of their work "Veprya". The formulations of the topics are presented as they are indicated in the leaks.
Knowingly false information on the Internet about his:
1. Nuclear war.
2. The destruction of society.
3. The murder of civilians.
4. Calls for protest activity.
5. Losses of personnel and equipment.
6. The general crisis of the Russian economy.
7. Mass mobilization (in the context of the Russian Federation).
8. The critical state of health of the President of the Russian Federation V.V. Putin.
9. Conspirological theories associated with superstitions and predictions.
10. Prisoners of war.
11. Humanitarian disaster in eastern Ukraine.
12. Office and murder of Ukrainian prisoners of war.
13. Mass refusal of soldiers of the RF Armed Forces to participate in his.
14. The use of national minorities as a “cannon fodder”.
15. Direction to the front of a military service soldiers.
Fakes on the Internet:
16. The artificial origin of coronavirus.
17. The inefficiency and harmfulness of Russian vaccines against coronavirus.
18. Anti -Driving. Discreditation of evidence -based medicine.
Legal liability for publications on the Internet:
19. The initiation of criminal and administrative cases against citizens for publication on the Internet.
International cooperation:
20. Discussion of the SCO.
21. Discussion of the activities of the EAEU.
22. Discussion of BRICS.
The agenda of the liberated territories (SV):
23. Khersonshchina.
24. LPR.
25. Zaporozhye.
26. DPR.
Cossacks:
27. The cowardice of modern Cossacks.
28. Council on Cossack Affairs.
29. Cossacks (general mention).
30. Participation of the Cossacks in his.
InfoPovods about Roskomnadzor:
31. Roskomnadzor (general mention).
Destabilization of Russian society:
32. Religious contradictions.
33. LGBT propaganda.
34. The activities of non -traditional religious organizations.
35. Antimilitarism.
36. Separatism.
37. Sanction pressure.
38. Legalization of mild drugs.
39. Distortion of the history of the Second World War.
40. Activities of foreign NPOs.
41. The cross -border influence of neighboring states.
42. Propaganda of sexual "freedoms".
43. Criticism of traditional family values.
44. Criticism of the traditional religions of the Russian Federation and the activities of their organizations.
45. Extremism. Fruitment of hatred.
46. Criticism of the standard of living in Russia, a comparison with the standard of living in the West.
47. The inefficiency of Russian counter -sanctions.
48. The imposition of tolerance.
49. Cosmopolitanism, humiliation of Russian culture.
50. Accusations against the Russian Federation in aggressive foreign policy, criticism of the foreign policy (Georgia, Africa, South and Central America, North Korea, Iran, Syria, Libya, etc.).
51. Criticism of the environmental situation in the country.
52. Criticism of Russian education.
53. Criticism of Russian healthcare.
54. Criticism of the Russian law enforcement system.
Monitoring of illegal information:
55. Sale of QR codes and certificates.
56. "Project. Media" (references).
57. Propaganda of the use of narcotic drugs and drug use as norms.
58. The spread of materials of extremist and terrorist orientation.
59. Activity of the Russian -language grid of sites “Radio“ Free Europe ”” / “Radio Liberty” (PCE / PC).
60. The activity of all social networks of the Russian -speaking net of sites “Radio“ Free Europe ”” / “Radio Liberty” (PCE / PC).
61. The activity of the sites of foreign media that perform the functions of a foreign agent (with the possibility of including new ones).
62. The activity of social networks of foreign media performing the functions of a foreign agent (with the possibility of including new ones).
63. The attack on the information structure of the Russian Federation.
64. The Insider (spread of content in social networks).
65. The Insider (spread of content on sites and in the media).
66. Monitoring of extremist content.
67. Calls to extremist actions.
68. Distribution of MBH materials, Open Russia, FBK (social networks).
69. Distribution of materials from the MBH, “Open Russia”, FBK (media).
70. Violation of election legislation.
71. Monitoring the activity of the entire network of supporters of A. Navalny.
72. Applications for sculpting. Romanticization of Columbine.
73. Distribution of children's porn.
74. The spread of suicidal content. "Blue whale", etc.
75. Dressing of personal data databases.
Nationalism:
76. Nationalist organization.
77. Dissatisfaction of citizens with migration policy in the Russian Federation.
78. The problem of studying the national language.
79. Tension in relation to citizens of the PRC.
80. Migrants-heavyins.
81. Interethnic conflicts.
82. The activities of the Crimean Tatars and their various organizations in the Russian Federation.
Monitoring the negative of the President of the Russian Federation V.V. Putin:
83. Insulting the president.
84. Criticism of the activities of the President of the Russian Federation.
Opposition mood monitoring:
85. Protests (social networks).
86. Protests (media).
87. The mood_ufo.
88. The mood of the_zfo.
89. The mood_federal.
90. The mood_ufo.
91. The mood_SFO.
92. The mood_skfo.
93. The mood_SZFO.
94. The mood of the_PFO.
95. The mood_crem.
96. The mood_dfo.
97. The mood of Moscow.
Other topics:
98. Popularization of VPN services.
99. Distribution of information about phishing sites.
100. Organization of DDOS attacks on the resources of the state and large Russian corporations.
101. Financing of the Armed Forces of Ukraine.
According to the technical documents “Boar”, the need to develop these areas is explained by “the task of intercepting an information initiative. <...> The experience of the mid-1980s in the USSR (the so-called perestroika) showed that the “sleeping” teen (points of information stress) tend to be rapid growth in case of activation and intentional promotion. To respond to threats, it is necessary to have complete information for each TIN with the goal of an operational (i.e., timely) ensuring decision -making processes. ”
In order to work out these topics, the “Vepr” must know who he protects (for example, Vladimir Putin), who is the offender (for example, independent journalists-investigators), as well as what kind of threat the offender creates (for example, tells socially significant information about the president that he is trying to hide). As stated in technical documents, “when developing requirements, it must be taken into account that the model of threats and the offender is subject to coordination with the FSB [Federal Security Service] and FSTEK [Federal Service for Technical and Export Control]”.
Having received data about who is a friend and who is the enemy of the regime, and what agenda you need to follow, the “boar” should provide a possible forecast, which can follow the reaction of journalists and users of social networks. For this, Roskomnadzor wants to, with the help of “Boar”, get “a complete picture of the involvement of society with the social characteristic of individuals”, as well as psychological portraits of those who distribute information created on social networks. “If the media is a source, it is necessary to check its financing for compliance with the activity of the foreign agent. It is important to note that the main work on preventive counteraction should be carried out with [distributor] information, and not its consumers. It is necessary to deal with the source of TIN, ”the technical documents“ Boar ”said.
In order to receive the desired flow of information for analysis, GRCC employees plan to create a bot farm-many fake accounts in social networks through which could access the close communities of interest in social networks.
"General secret with a sense of involvement in something big"
According to the “Vepr” plan, it should earn by the end of 2024. However, due to the war in Ukraine, this can happen later. In one of the sent letters, the head of the digital transformation department, Denis Kasimov, wrote that it is difficult to predict the exact deadlines due to “sanctioned pressure in the current economic situation”. According to Kasimov, there are not enough specialists for this task. “Market experts who can perform these work are currently connected to carry out particularly important requests from the government structures of the Russian Federation in the conditions of the ongoing special operation of the RF Armed Forces in Ukraine,” the employee said.
Support for independent journalism your donates will help us continue investigations to support “important stories”It was difficult to attract good ITishnikov to cooperation with Roskomnadzor before the war. В октябре 2020 года сотрудник ГРЧЦ Игорь Иванов попросил своего коллегу Ивана Зуева «попробовать законтачить на дружеских, альтруистских началах» с несколькими экспертами по нейросетям. На это сообщение Зуев прямо ответил, что их, «скорее всего, пошлют», потому что «деньги не выделялись, интересных с точки зрения технологий решений для НИХ у нас точно нет, имидж РКН в среде ИТшников играет против их интереса к нам».
Заместитель Зуева, Александр Митькин, предложил свои варианты, как можно заманить экспертов на цензурные проекты. Например, пообещать им «участие в проектах государственного масштаба, в т. ч. негласно — „общая тайна“ с ощущением причастности к чему-то большому», «их фамилию в отчетах, положенных на стол руководителю РКН и выше», «лоббирование их проектов в РКН и иных предприятиях, с которыми мы работаем (е-софт, ростелеком, и т. д.)», «шанс зайти в нужный кабинет встретиться в высокими руководителями», «приглашение на круглые столы», а главное — «свою дружбу».
В МИРе тотального контроля
«Вепрь» — только часть сложной машины цензуры, которую внедряет Роскомнадзор.
В общих чертах ее архитектура будет выглядеть так: общий краулер ( программа, которая автоматически собирает информацию в интернете. — Прим. ред. ) выгружает тексты, аудио, изображения и видео из соцсетей, СМИ и поисковой выдачи, а дальше эти файлы поступают в Единый модуль анализа ( ЕМА ). В нем с помощью нейросетей должна, во-первых, выявляться запрещенная информация, а во-вторых, строиться прогнозы и аналитика (чем будет заниматься «Вепрь»).
Находить запрещенную информацию в текстах должна информационная система мониторинга интернет-ресурсов (МИР) на основе технологий обработки естественного языка (NLP). По плану разработчиков система должна уметь:
выявлять имена, названия локаций и организаций; тональность, с которой они упоминаются (негативная, позитивная или нейтральная);
распределять сообщения по сюжетам, темам, рубрикам;
искать зеркала заблокированных сайтов и перепечатки материалов;
отслеживать пути распространения материала от первоисточника;
прогнозировать распространение материала и его трафик;
определять факты «манипуляции мнениями» и «стимуляции поляризации мнений»;
предсказывать социально-демографические характеристики аудитории публикации — распределение аудитории по полу, возрасту, образованию и уровню дохода.
Из утечки известно, что в июле 2022 года МИР был интегрирован в Единый модуль анализа (ЕМА). Тогда планировалось , что нейросети смогут находить в текстах запрещенную информацию с «призывами к насильственному свержению власти», «оскорблению президента», «фейками про президента и государство», «пропаганду нетрадиционных сексуальных отношений» уже к 2023 году.
Летом разработчики активно начали обучать нейросети искать оппозиционный контент. Специалисты отдела мониторинга размечали материалы, например с призывами к «беспорядкам», чтобы в последующем нейросеть сама могла находить подобные сообщения.
Однако в материалах утечки нет информации о том, что нейросети Единого модуля анализа уже находят такие «нарушения». Упоминается только о том, что ЕМА находит запрещенную информацию о наркотиках, суициде, детской порнографии, ИГИЛе и «Правом секторе» в поисковой выдаче «Яндекса».
Больше никакие функции, о которых говорится в документации к МИРу — поиск зеркал сайтов, отслеживание путей распространения информации и фактов «манипулирования мнениями» и другие грандиозные планы — не реализованы.
Распознавание фотографий митингов, фотожаб с президентом, мемов и мужчин с макияжем. Система «Окулус»
На картинках и фото призывы к митингам, оскорбления президента и другие опасные для власти вещи сейчас отслеживаются вручную. Чтобы это исправить, РКН планирует внедрить в Единый модуль анализа распознавание изображений и видео, чтобы находить в них нарушения, метаданные (время, место публикации, автора), идентифицировать людей на фото и видео. За это отвечает система «Окулус», разработкой которой руководит начальник отдела проведения экспериментальных работ НТЦ Константин Зудов.
Научно-исследовательскую работу , в которой описаны возможности искусственного интеллекта для цензуры изображений и видео, провели сотрудники лаборатории бизнес-решений на основе искусственного интеллекта МФТИ под руководством Дмитрия Величкина.
Система должна анализировать 200 тысяч изображений в сутки. В 2022–2024 году на разработку «Окулуса» планируется потратить 445 миллионов рублей.
В августе 2022 года ведомство заказало разработку системы российской компании «Эксикьюшн Эр Ди Си» за 58 миллионов рублей. Тогда эксперты говорили , что реализовать систему подобной сложности в столь короткий срок (до декабря 2022) и за эту сумму невозможно.
Подпишитесь на рассылку «Важных историй»Мы будем присылать вам только важные репортажи и расследованияВо внутреннем приложении к техническому заданию для «Окулуса» указано, какие нарушения он должен находить на картинках и видео в интернете. Помимо информации о терроризме, наркотиках и способах самоубийства, система должна обнаруживать призывы к митингам и их одобрение, «оправдание, призывы к насильственному свержению власти», а также оскорбление президента («фотожабы, демотиваторы, шаржи, карикатуры, половые сношения»), нецензурная лексика в его отношении и «сравнение президента с негативными персонажами и осуждение деятельности (например, Гитлер, оборотень, диктатор, расист, предатель)».
В документе отмечено, что пункты, связанные с «оправданием и призывами к насильственному свержению власти», оскорблением президента и обвинением его в экстремизме, были добавлены в документ 17 февраля 2022 года — за неделю до начала полномасштабного вторжения России в Украину.
Также в списке нарушений есть «демонстрация привлекательности образа представителей ЛГБТ-культуры» и «изображения лиц, не соответствующих традиционному образу мужчины и женщины (например, маскулинные женские лица, накрашенные мужчины)».
Во внутренних презентациях , посвященных «Окулусу», именно распознавание протестной активности указано главной целью его создания.
В сентябре 2022 года сотрудница департамента мониторинга прислала коллеге папку «Материалы по Окулусу». В ней лежат примеры фотожаб с Путиным и упоминается, что нужно отслеживать картинки не только с ним, но и со всеми членами правительства. Там же нашелся словарь, с помощью которого необходимо автоматически распознавать, например, обвинение президента в экстремизме и одобрение свержения власти.
В утечке нет информации о подключении «Окулуса». Судя по переписке работников ГРЧЦ, летом 2022 года сотрудники активно размечали наборы данных для обучения нейросети «Окулуса» и даже дежурили ради этого в праздники.
А в феврале 2022 руководитель научно-технического центра Александр Федотов и начальник отдела анализа Роман Коросташов демонстрировали макет «Окулуса». По их заявлениям, система распознала, например, порезы на запястьях, запрещенные символы, зацепинг ( передвижение на поезде снаружи, цепляясь к вагону за лестницы, подножки и пр. — Прим. ред. ) и идентифицировала личность человека в маске. Никаких результатов, связанных с идентификацией протестной активности, они не показали.
По планам ГРЧЦ к 2024 году «Окулус» должен научиться классифицировать действия не только на фото, но и на видео — опять же распознавать митинги, а также действительно опасные для жизни действия: нанесение себе вреда (порезы, удушение), зацепинг, стрельбу в школах или массовые драки. В документах утечки не упоминается об успехах в распознавании видео.
В планах у РКН есть и «распознавание сложных мультимодальных медиаматериалов» — плакатов, комиксов и мемов, поскольку они могут содержать запрещенную информацию «как прямо, так и косвенно». Но при этом авторы признают, что это сложно, поскольку «автоматизированный мониторинг с использованием ИИ [искусственного интеллекта] требует контекстного понимания интернет-культуры: недавних событий, политических взглядов, культурных убеждений, поскольку мемы часто ссылаются на другие мемы или другие онлайн-события». ГРЧЦ планирует завершить исследования того, как искать нарушения в мемах, только в 2024 году.
«Не менее 100 карточек нарушений в день». Как устроены уже существующие системы мониторинга
Сейчас сотрудники ГРЧЦ ежедневно мониторят все соцсети, СМИ и сайты как вручную, так и с помощью нескольких программ. Одни отвечают за СМИ, другие за соцсети и сайты.
Для СМИ используется автоматическая система мониторинга средств массовых коммуникаций (АС МСМК). Список медиа, за которыми ведется наблюдение, поступает из Роскомнадзора.
Из документов утечки следует , что АС МСМК находит потенциальные нарушения по ключевым словам по разным тематикам (суициды, экстремизм, призывы к митингам, «фейки» про войну в Украине, «иноагенты» и другие). Каждый день система формирует массив карточек с предполагаемыми нарушениями. Оператор рассматривает статьи и комментарии и решает, есть ли в них нарушения. И если есть, то оператор их регистрирует, а если нет, отклоняет карточку. Принятые оператором карточки с подтвержденными нарушениями автоматически уходят сначала в отдел экспертизы ГРЧЦ, затем в Роскомнадзор.
Анализ по словарям неточен и «требует высоких трудозатрат» из-за того, что операторам приходится вручную перепроверять множество материалов , признают в ГРЧЦ. Из отчетов, которые заполняют новые сотрудники по итогам испытательного срока, можно оценить объем работы. Так, специалистка по анализу информации отчитывалась в июле 2022 года, что оформляла не менее 100 карточек подозрений на нарушения в сутки и вручную вносила не менее 40, а также успевала мониторить интернет «на предмет выявления запрещенных аниме-фильмов».
С 2022 года в систему автоматически попадает не только текстовый контент, но и транскрипции радио- и телеэфиров.
Для слежки за соцсетями используется автоматизированная система мониторинга и анализа социальных медиа (АС МАСМ). С 2022 года она объединена с системой «Чистый интернет» (АС ЧИ), с помощью которой цензурируется поисковая выдача «Яндекса».
Как в случае со СМИ, в соцсетях некоторые нарушения ищут вручную, некоторые автоматически с последующей проверкой человеком. Например, МАСМ автоматически ищет материалы, связанные с «фейками» про войну в Украине и антивоенными митингами.
Автоматически нарушения мониторятся только в соцсетях «ВКонтакте», «Одноклассниках», «Мой мир», «Ответы Mail.ru», «Живой журнал» и Youtube. Остальные соцсети — «Инстаграм», «Фейсбук», «Твиттер», «Тикток», «Телеграм», Rutube — сотрудники ГРЧЦ мониторят вручную и только планируют ввести автоматизацию.
Для этого в РКН собирались с июня 2022 заключить контракт с компанией «Крибрум» Натальи Касперской и Игоря Ашманова, которые сотрудничают с российскими властями, поддерживают цензуру и войну в Украине. Подробнее об «Крибрум» и другие компаниях, участвующие в цензуре, — в раскрывающемся тексте.
Какие ИТ-компании помогают цензуре«Крибрум»
Использование системы может стоить налогоплательщикам 21 миллион рублей в год, следует из коммерческого п редложения. Как говорится в справке о компании, которую они прислали в ГРЧЦ, «Крибрум» обрабатывает 447 миллионов аккаунтов в сутки во всех соцсетях («ВКонтакте», «Одноклассниках», «Инстаграме», «Твиттере»), в Youtube, «Телеграме», интернет-СМИ и на других сайтах. Компания утверждает, что анализирует не только весь информационный поток в виде постов и комментариев, но и все действия любого пользователя — лайки, подписки, членство в группах, связи с другими аккаунтами — и выявляет риски для каждого аккаунта, например участие в «массовых беспорядках». Система « измеряет социальную температуру и политическую активность», выявляет «реальное отношение людей к теме, событию», отслеживает «информационные атаки и вбросы на ранней стадии», «методы манипуляции различными целевыми группами».
Brand Analytics
Компания Brand Analytics мониторит соцсети и СМИ и ежедневно поставляет в ГРЧЦ данные о критических публикациях про Путина, антивоенных постах, сообщениях об убийстве мирных жителей и другой опасной для режима информации. По этим данным сотрудники ГРЧЦ составляют отчеты для силовиков и администрации президента, чтобы они могли быстро реагировать на вспыхнувшее где-то недовольство россиян. На сайте компании Brand Analytics говорится, что их система «помогает слышать клиента» и «дает людям возможность быть услышанными и менять мир к лучшему».
МФТИ
Ученые из Московского физико-технического института (МФТИ) активно участвуют в экспертных советах при ГРЧЦ, а также проводят научные исследования для цензурных проектов. Например, глава кафедры машинного обучения и цифровой гуманитаристики Константин Воронцов написал научную работу по системе для тотальной цензуры «Вепрь». Сотрудники лаборатории бизнес-решений на основе искусственного интеллекта Дмитрий Величкин, Максим Павлов, Михаил Демидов, Марат Рахимов, Сергей Подлесный стали авторами научно-исследовательской работы по системе «Окулус».
«Е.Софт»
Российская ИТ- компания , главный подрядчик Роскомнадзора, объем госконтрактов превышает три миллиарда рублей. Также получает миллиардные контракты от Минобороны. Компания занимается блокировками, в том числе блокировала мессенджер «Телеграм» в 2018 году.
«Вектор ИКС»
Компания занимается разработкой системы «МИР», которая с помощью нейросетей ищет запрещенную информацию в текстах в интернете. Ее владелец — Александр Широков. По данным «Спарк-интерфакс», в фирме работают всего два сотрудника. На сайте «Сколково», от которого компания получала поддержку в 400 тысяч рублей, говорится , что выручка «Вектор ИКС» в 2021 году составила 50 миллионов рублей. Там же указано, что система «производит непрерывный контроль состояния информационного поля на предмет информационных атак и угроз и нежелательного контента», а также управляет «состоянием информационного поля посредством осуществления информационных воздействий».
«Эксикьюшн Эр Ди Си»
Компания разрабатывает систему «Окулус» для цензуры изображений и видео. Ей владеют Артем Пономарев и Сергей Браилко.
Yandex
ГРЧЦ использует API компании «Яндекс», чтобы мониторить и цензурировать поисковую выдачу, а также инструмент «Толока» для машинного обучения. В утечке есть переписка ГРЧЦ с сотрудниками «Яндекса», в которой надзорное ведомство просит компанию увеличить число запросов, по которым ГРЧЦ может мониторить интернет, эта просьба была выполнена.
В итоге все проекты по анализу материалов и СМИ, и соцсетей, и поисковой выдачи, которые разрабатывает Роскомнадзор, планируется объединить в единую систему, в центре которой — Единый модуль анализа материалов на основе искусственного интеллекта. Вот как эта система выглядит на схемах. Скачать и рассмотреть их детально можно здесь и здесь .
Документы утечки показывают, что планы Роскомнадзора по тотальной цензуре в интернете с помощью искусственного интеллекта еще очень далеки от реализации. Но очевидно, что по мере внедрения новых функций и систем масштабы слежки за теми, кто осмелится высказываться не так, как выгодно российскому режиму, будет расти.
«Отличный повод для распила бюджета»
ГРЧЦ несколько раз в год проводит экспертные советы по искусственному интеллекту. На них собираются и выступают с докладами представители индустрии, ученые и чиновники. Мы поговорили на условиях анонимности с одним из участников таких советов, экспертом в области машинного обучения.
Он рассказал, что эти советы можно считать «чем-то образовательно-просветительским для внутренней аудитории», где эксперты отрасли делают доклады о технологиях и разработках, представители госструктур «рассказывают, какие они крутые, упоминая самые модные слова сезона [вроде „искусственного интеллекта“, „нейросетей“, „компьютерного зрения“ и других], а руководство вдохновляется и дает бюджет».
По мнению нашего собеседника, мечты ГРЧЦ по внедрению тотальной цензуры на основе искусственного интеллекта в теории реализуемы, но это неоправданно дорого. «Для этого нужно выстроить несколько команд: сбора и разметки данных, команды мониторинга, инженерии, менеджеров и многих других. И конечно, обеспечить это собственным датацентром с новейшими видеокартами (дорогое удовольствие). Отличный повод для распила бюджета. Такой подход не выдерживает конкуренции с альтернативой: посадить за гроши несколько сотен модераторов, чтобы они вручную мониторили социальные сети».
Например, одна только задача поиска оскорбляющих Путина картинок потребует больших ресурсов. «Разработать внутри „ВКонтакте“ простой классификатор, определяющий, что на картинке есть президент, и у картинки контекст мема (с подписями и прочим), легко, причем внутренними силами „ВКонтакте“, — продолжает эксперт. — Но чтобы это постоянно работало на уровне всей социальной сети, нужно отвлечь на эту задачу заметную часть команды „ВКонтакте“. А сделать из этого промышленное решение, работающее с большим перечнем социальных сетей, мессенджеров и сайтов — скорее, повод выбить еще больший бюджет. Бюджет, который пойдет, куда получится».
Особенный скепсис вызывает проект «Вепрь», который должен прогнозировать будущие «информационные угрозы» и протестные настроения: «Я бы не стал сильно переживать, что такая система будет реализована. В нашей индустрии есть такие низко висящие фрукты, как оптимизация рекламы в интернете. Многомиллионные прибыли сулят тем, кто сможет хоть немного оптимизировать такую приземленную задачу. А они хотят прогноз развития социальной ситуации на основе постов в социальной сети. Кажется, кидать монетку будет эффективнее, чем прогнозы такой системы».
Роскомнадзор, ГРЧЦ и Brand Analytics не ответили на запрос «Важных историй» и Süddeutsche Zeitung с просьбой прокомментировать материалы утечки.
В других текстах «Важных историй» об этой утечке вы можете узнать:
Как Роскомнадзор тайно следит за негативными публикациями о российской власти в интернете — отчеты затем отправляются силовикам. Чем это грозит лично вам?
Кто и почему попал вприцел Роскомнадзора : потенциальные иноагенты и лидеры общественного мнения, СМИ, IT-гиганты, мессенджеры и близкие к власти люди. Проверьте, не следил ли Роскомнадзор и за вами?