В Дании работает система беспрецедентной слежки за получатель_ницами пособий
Lighthouse Reports и WIRED провели совместное расследование датской системы слежки за получатель_ницами социальных пособий от государства. Расследователь_ницы выяснили, что с помощью машинного обучения в Дании собирают данные о гражданстве и «незарегистрированных» партнер_ках людей, что позволяет заподозрить их в мошенничестве с пособиями.
Аналитический отдел Датского управления государственных пособий с помощью искусственного интеллекта собирает информацию о налогах, домах, автомобилях, отношениях, работодатель_ницах, путешествиях и гражданстве людей и с помощью машинного обучения выявляет и предсказывает случаи обмана. Это одна из самых сложных и масштабных систем выявления мошенничества с пособиями в мире.
По подсчетам KMD — крупнейшей датской IT-компании, 5% всех социальных выплат были получены мошенническим путем.
Эта система создает алгоритмы, которые позволяют составить профиль получатель_ницы пособия. Для этого система использует любые данные о получатель_нице — вплоть до информации о том, кто спал с н_ей рядом ночью. После этого программа отмечает тех получатель_ниц пособий, которых она посчитала подозрительными.
Среди характеристик, которые учитывает система, есть характеристика гражданства, что приравнивается к расовому профилированию
.
Один из алгоритмов может выяснить, связан_а ли получатель_ница пособия со страной вне Евросоюза. Система отслеживает, эмигрировал ли человек или его родственни_цы из Дании, а также являлся ли он когда-либо граждан_кой другой страны.
Кроме того, аналитический отдел собирает данные о семейном положении получатель_ниц пособий, продолжительность их брака, а также то, с кем они живут и жили ли они или их дети за пределами Дании. Для государства важно, состоит ли получатель_ница пособия в «скрытых» отношениях, так как люди без партнер_ки получают больше пособий.
«Идеология, которая лежит в основе этих алгоритмических систем и пристального наблюдения и слежки за людьми, получающими пособие, — это глубокое подозрение в отношении бедных», — говорит Виктория Адельмант, директорка Digital Welfare and Human Rights Project.
В 2022 году аналитический отдел управления пособий отобрал для проверки почти 50 тысяч случаев. Мошенничество было зафиксировано в 4 тысячах случаев, что позволило вернуть в казну 23,1 миллиона евро. Годовой бюджет отдела — 3,1 миллиона евро.
Датские правозащитни_цы из Justitia назвали работу аналитического отдела «систематической слежкой», несоизмеримой с масштабами мошенничества. Они заявили, что цифровая слежка нарушает право на частную жизнь. Работу аналитического отдела раскритиковали и другие правозащитные организации.
Глава аналитического отдела Анника Якобсен считает, что такое использование персональных данных не противоречит европейскому законодательству, и что борьба с мошенничеством повышает доверие к социальному государству. Она считает, что машинная проверка более справедлива, чем случайный отбор.
«[Критики] говорят, что когда машина просматривает данные, она нарушает права граждан, [в то время как] я склонна думать, что случайная проверка граждан нарушает их права», — говорит Якобсен. — «Что на самом деле является нарушением прав гражданина? Это нарушение прав, если вы находитесь в желудке машины и бегаете там?»
Расследователь_ницы отмечают, что данными о масштабах мошенничества манипулируют консервативные силы. Правые политик_ессы считают, что Дания якобы каждый год теряет сотни миллионов евро из-за того, что недобросовестные люди все чаще получают поддержку от государства обманным путем.
Дания тратит на пособия 26% ВВП: это больше, чем Швеция или Великобритания. Берни Сандерс назвал датскую систему помощи уязвимым граждан_кам образцовой.
А что в остальной Европе?
По оценке KMD, во Франции мошенничество затронуло 0,39% от общего объема выплат, а в Нидерландах — 0,2%.
В Нидерландах внедрение подобной системы обернулось отставкой правительства. В 2021 году 20 тысяч семей были ошибочно обвинены в мошенничестве с пособиями. 70% родителей семей имени мигрантское прошлое в первом или во втором поколении. Их заставили вернуть тысячи евро в казну. Это произошло из-за того, что чиновни_цы интерпретировали мелкие ошибки в документах как обман. Amnesty International назвала ксенофобным использование маркера национальности как фактора риска мошенничества.
В Евросоюзе планируют принять закон об искусственном интеллекте, который запретит системам использовать «уязвимость любой группы». Предполагается, что к датской системе будут предъявляться более строгие требования, включая прозрачность и «высокий уровень точности».