Мужчина арестован из-за ошибки системы распознавания лиц
Опубликованно 27.06.2020 01:00
В январе 2020 году полиция Детройта арестовала 42-летний мужчина по имени Роберт Уильямс по подозрению в краже часов стоимостью $4 тыс. Полицейских прибыли в Williams в дом, они забрали в наручниках, на глазах детей и забрали на допрос, где он предоставил доказательства его вины — система распознавания лиц, сопоставил записи с камер в ночь ограбления, и фотографию с водительских прав Уильямс.
Уильямс имел алиби, и он отрицал все обвинения. В полиции ему показали фотографии подозреваемого в краже, но на фото был не он. «Это был еще один большой человек с темной кожей», — говорит Уильямс.
Обвиняемый должен был пройти в участок 30 часов, после чего был выпущен под залог. Так как есть и другие доказательства виновности Роберта Уильямса не удалось обнаружить, полиция сняла с него обвинения. Как сообщает Wired, это первый в США случай, когда ошибка камеры распознавания лиц привело к аресту человека, то есть, случилось то, что критики применения этой технологии, сотрудники правоохранительных органов не раз предупреждали.
Системы распознавания лица не раз обвиняли в предубежденности против представителей черной расы — дело в том, что эти алгоритмы «тренируются» на фотографиях, особенно белых, и для которых недостаточно данных, чтобы с абсолютной уверенностью идентифицировать людей с другим цветом кожи. Дело Уильямса показывает, что может произойти, когда несовершенная технология, которая используется в реальных расследований, сотрудничая с халатностью сотрудников полиции.
Американский союз гражданских свобод (ACLU) подал иск против действий полиции Детройта. Вы говорите, что ряд фотографий с подозреваемых, который выпустил систему распознавания лиц, используемые в этом случае, по закону, не может быть основанием для ареста. Известно, что охранник магазина, в котором произошла кража, не присутствовал на месте преступления, но каким-то образом определили Роберт Уильямс.
Когда один из полицейских, который вел допрос подозреваемого в отрасли, признался, что «ваш компьютер, вы, вероятно, это неправильно».
Несмотря на то, что Уильямс был оправдан по всем пунктам обвинения, ACLU указывает на то, что регистрация на его арест, отпечатки пальцев и фото для отчета полиции остались в базе данных города.
Представитель полиции Детройта сказал, что в настоящее время система распознавания лиц применяется только сотрудники полиции в расследовании насильственных преступлений.
В июне 2020 года ряд крупных компаний, включая IBM, Microsoft и Amazon, объявил о приостановке сотрудничества с полицией в сфере технологий для распознавания лица.
«Введение годового моратория на использование полиции в технологии распознавания лица, Amazon... Мы утверждали, что правительство ввело более строгие правила, регулирующие этическое использование технологии распознавания лиц, и конгресс, похоже, готов принять вызов. Мы надеемся, что этот мораторий ежегодный конгресс даст достаточно времени для введения регулирования, и мы готовы предоставить свою помощь, если потребуется», - говорится в обращении Amazon.
«Мы считаем, что пришло время для национального диалога по существу, если технология распознавания лиц применяется от правоохранительных органов страны», — сказал управляющий директор IBM Арвинд Кришна.
Тем не менее, многие эксперты говорят, что мораторий на год не принесет положительных изменений, и некоторые компании просто не в ожидании, в то время как в США убывать протесты, связанные с произволом полиции в отношении чернокожего населения.
Как только ситуация стабилизируется, IT-гиганты могут снова начать работать с правоохранительными органами, не реклама это сотрудничество.
Тот же Роберт Уильямс, потерпевший из-за ошибки алгоритма, говорит, что в этом случае его семья скоро забудут.
«Мои дочери все еще помнят, как в наручниках и поместили в полицейскую машину. Но я думаю, что мой опыт должен быть использован на благо. Я хочу быть уверен, что мои дети не будут расти в мире, где водительское удостоверение или фотографию на Facebook могут быть использованы им во вред», — сказал Уильямс.
Категория: Технологии
