Система распознавания лиц Amazon опознала подозреваемых в преступлениях в 28 конгрессменах США

Правоохранительные органы разных стран, включая США, все активнее внедряют системы распознавания лиц, позволяющие обнаруживать подозреваемых в совершении различных преступлений. Однако точность работы таких систем порой оставляет желать лучшего, что подтвердил эксперимент, проведенный активистами Американского Союза гражданских свобод (ACLU).

Как пишет The Verge, в ACLU протестировали систему распознавания лиц от компании Amazon, которой уже пользуются полицейские в некоторых штатах. В рамках тестирования в систему были загружены фотографии всех 535 конгрессменов, которые алгоритм сравнивал с публичной базой из 25 тысяч фотографий подозреваемых в преступлениях. Хотя снимков членов конгресса не было в этой базе, система выдала 28 ошибочных совпадений.

"Идентификация – точная или нет – может стоить людям свободы или даже жизни. Конгресс должен серьезно отнестись к этим угрозам, нажать на тормоза и ввести мораторий на использование правоохранительными органами систем распознавания лиц", – говорится в заявлении ACLU.

Результаты эксперимента прокомментировал представитель Amazon, который связал ложные совпадения с недостаточной калибровкой. По его словам, в ACLU использовали систему с выставленной по умолчанию вероятностью совпадения в 80%, тогда как компания рекомендует правоохранителям повышать этот параметр до 95%. При этом стоит отметить, что сама программа не выдает такой рекомендации в процессе настройки.

Проверка ACLU также показала, что система Amazon склонна к расовой дискриминации, подобно некоторым аналогичным алгоритмам. 11 из 28 ложных совпадений (около 39%) пришлись на чернокожих конгрессменов. При этом доля темнокожих членов в конгрессе составляет 20%.

Как отмечает The Verge, на практике совпадения, выявленные системами распознавания лиц, должны быть подтверждены правоохранителями, прежде чем в отношении того или иного человека будет принято решение об аресте. Но активисты отмечают, что даже проверка на основе ошибочного совпадения может привести к непредвиденным последствиям.