Британские власти автоматизируют борьбу с онлайн-экстремизмом

Созданная в Великобритании автоматизированная система направлена на выявление террористического контента, однако она может быть использована и для создания механизмов масштабной цензуры.

Инновационная технология была разработана компанией ASI Data Science в сотрудничестве с британским Министерством внутренних дел. Она использует принципы машинного обучения для выявления экстремистского аудио- и видеоконтента. Создатели уверяют, что система обладает очень высокой точностью. Так из миллиона анализируемых ею случайно выбранных видеороликов только в пятидесяти случаях потребуется дополнительная экспертиза со стороны человека. В ходе тестовых испытаний система идентифицировала 94% пропагандистских материалов террористической группировки “Исламское государство” с 99,995% точностью. Министерство внутренних дел не стало разглашать подробности о методологии анализа контента, которая лежит в основе данной технологии, заявив только, что для обучения модели было использовано более тысячи видеоматериалов террористов.

Инструмент может быть встроен в любую онлайн-платформу, а также интегрирован в процессы загрузки контента. Таким образом, значительная часть нежелательных материалов может быть заблокирована еще до попадания в интернет. Власти надеются, что эта технология может стать частью системы премодерации незаконного контента. Именно к внедрению таких систем Еврокомиссия пытается принудить крупнейшие онлайн-платформы. Их критики вполне справедливо полагают, что они превратятся в эффективные механизмы цензуры. Пока неизвестно, будет ли этот инструмент использоваться для выявления других типов контента, например, материалов ультраправых организаций. Вполне возможно, что в скором будущем он будет применяться для борьбы с контентом, нарушающим авторские права, или проявлениями “языка вражды” (hate speech). Однако заявленная высокая точность идентификации незаконных материалов в этих случаях может и не быть достигнута, вследствие чего многие ни в чем не повинные пользователи могут пострадать.

Уже было объявлено, что технология будет предоставляться сторонним компаниям для борьбы с противоправным контентом. Особое внимание при этом будет уделено небольшим платформам (таким как Vimeo, Telegraph или pCloud), создатели которых не имеют достаточных ресурсов для разработки и интеграции подобных систем. В свете прошлых заявлений британских властей, весьма вероятно, что компании будут тем или иным образом принуждены к внедрению таких систем. Речь может идти, в том числе и об их законодательном регулировании.

“В течение последнего годы мы работаем в тесном контакте с интернет-компаниями, чтобы быть уверенными в том, что их платформы не будут использованы террористами и их сторонниками в противозаконных целях. Меня впечатлила работа, проделанная компаниями с момента создания Глобального интернет-форума по борьбе с терроризмом. Однако еще многое предстоит сделать, и я надеюсь, что новая технология, разработанная при участии Министерства внутренних дел, поможет достичь новых успехов. Террористы создают свои видео для подстрекательства к насилию, привлечения новых сторонников и распространения страха в наших обществах. Мы убеждены, что подобная автоматизированная технология может сильно расстроить планы террористов, а также защитить людей от влияния их бесчеловечных материалов. [Британское] правительство сейчас играет ведущую роль во всем мире в борьбе с гнусным террористическим контентом”.

Министр внутренних дел Великобритании Эмбер Радд

Министр сделала свое заявления в ходе двухдневного визита в Сан-Франциско, где она встретилась с Министром внутренней безопасности США Кирстен Нильсен. В ходе их встречи были подняты вопросы сотрудничества двух стран в борьбе с террористическим контентом в интернете. Также она провела очередной раунд переговоров с крупнейшими IT-компаниями Кремниевой долины в рамках Глобального интернет-форума по борьбе с терроризмом, обсудив их собственные успехи по внедрению автоматизированных систем фильтрации контента.

***Материал подготовил Максим Волков,

специально для РосКомСвободы***

Читайте также: