ЦИСМ получит 1,6 млрд рублей, хотя не находит «школьных стрелков» в Сети

Созданная в 2019 году при Росмолодёжи организация «Центр изучения и сетевого мониторинга молодежной среды» разработает систему мониторинга распространения информации, которая может склонить или побудить детей совершить действия, представляющие угрозу их жизни или здоровью и жизни других, но её эффективность вызывает вопросы.

Структура «Росмолодежи» — автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды» (АНО «ЦИСМ»), созданная по поручению президента Владимира Путина, — получит 1,6 млрд рублей на создание системы по выявлению учащихся, склонных к социально опасному и деструктивному поведению.

Об этом сообщает РБК со ссылкой на проект федерального бюджета на 2022-2024 гг. Эту же информацию подтверждают «Ведомости».

Эти деньги выделят на разработку системы мониторинга распространения информации, которая может склонить или побудить детей совершить действия, представляющие угрозу их жизни или жизни и здоровью других. Алгоритм будет анализировать письменные работы учащихся и выявлять «склонности к социально опасному и деструктивному поведению».

Как именно будет работать система, пока неизвестно. Руководитель Liquid Studio Accenture в России Арсений Кондратьев предположил, что в основе системы может быть нейросеть, обученная на большом количестве образов текстов, написанных людьми с психическими или социальными отклонениями.

Детский психиатр Европейского медицинского центра Павел Зайцев рассказал, что не знает о существовании в России или за рубежом доказательного ПО по психологическому анализу письменных работ. Он считает, что анализ даст эффект, только если речь идёт о текстах на свободную, а не на заданную тему.

В пресс-службе Минпросвещения, ответственного за реализацию нацпроекта «Образование», вопросы о программном продукте переадресовали в Росмолодежь. В пресс-службе последней пока не предоставили комментариев. В пресс-службе Правительства не ответили на запрос «Ведомостей» о деталях создания ПО и планах по срокам его внедрения в российских учебных заведениях.

О ЦИСМ стало известно в 2019 году. Тогда Минобрнауки и Росмолодежь предлагали выделить ему более 600 млн руб. на три года на поиск угрожающей жизни и здоровью детей информации, распространяемой в интернете. АНО было учреждено по поручению президента России, его возглавил Денис Заварзин, бывший помощник главы Росмолодежи Александра Бугаева. Бугаев с весны 2021 года занимает пост первого заместителя министра просвещения.

Задача ЦИСМ — выявлять контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями, согласно официальному сайту АНО. В недавнем интервью Forbes Заварзин оценил число аккаунтов в соцсетях, которые «хотя бы один раз касались» деструктивного контента, в 61 млн, уточнив, что за одним человеком может стоять сразу несколько таких аккаунтов.

Работу системы ЦИСМ он описывает следующим образом: в базу нейросетевого комплекса попадают разные аккаунты с суицидальным, депрессивным и другим подобным контентом, в автоматическом режиме система наблюдает за активностью таких страниц. Если активность увеличивается, аккаунт попадает в «красную зону», и операторы более детально разбирают профили, анализируют их и передают информацию в профильные службы «для организации профилактической работы» с их владельцами, если речь идет о суицидальной активности, либо в правоохранительные органы, если центр обнаруживает признаки подготовки преступления.

Любопытно, что «пермский стрелок» Тимур Бекмансуров попадал в поле зрения организации, однако его аккаунт не находился на постоянном мониторинге и своего рода «красный флажок» у системы ЦИСМ на него не сработал, как и в отношении устроившего бойню в Казани Ильназа Галявиеа. Зато «после совершения преступления страница была оперативно заблокирована соцсетью».

«Если анализировать казанскую трагедию, — рассказал Заварзин, — то у него не было активности в социальных сетях с января 2019 года. И каких-то маркеров, по которым мы бы на него сориентировались, точно не было. Свою информацию он разместил не в соцсети, а в мессенджере. И на момент совершения преступления он был там единственным подписчиком».