Поліція заарештувала невинну людину завдяки програмі розпізнавання осіб

Неправильний арешт

Вперше алгоритм ШІ розпізнавання осіб поліції привів до неправомірного арешту після невірної ідентифікації невинну людину як злочинця.

Роберт Джуліан-Борчак Вільямс був заарештований в січні після того, як поліція Детройта наказала йому здатися, повідомляє The New York Times. Коли Вільямс дістався до станції, його заарештували, тому що AI з розпізнавання осіб визначила, що саме він був помічений на кадрах спостереження за крадіжкою в магазині у 2018 році. Це було явне невідповідність — але Вільямсу все одно довелося провести 30 годин у в'язниці через надмірну залежність від некоректного ШІ.

Автоматичні помилки

Критики розпізнавання осіб давно стверджують, що воно недостатньо витончено, щоб надійно ідентифікувати підозрюваних, особливо з-за зернистого спостереження, повідомляє NYT. Розробники з розпізнавання осіб неодноразово застерігали від використання їх технологій в якості єдиної підстави для арешту, але, схоже, це було єдине доказ проти Вільямса.

Наприклад, програмне забезпечення поліції Детройта, використане для невірної ідентифікації Williams, відображає результати поряд з наступним попередженням, згідно NYT: «Цей документ не є позитивним ідентифікатором. Це тільки наслідок і не є імовірною причиною для арешту».

Неминуча кінцева точка

У той час як Вільямс був звільнений після внесення застави, а справу припинено, його арешт вказує на набагато більш серйозну проблему використання поліцією ненадійних алгоритмів.

«Я сильно підозрюю, що це не перший випадок, коли хтось неправильно ідентифікує людину, яка заарештує його за злочин, якого вони не скоювали", — сказала в інтерв'ю газеті «Нью-Йорк Таймс» адвокат Джорджтаунського університету Клер Гарві. «Це тільки перший раз, коли ми дізнаємося про це».

Джерела: The New York Times