Програмне забезпечення сканування облич в поліції Уельсу позначає не тих осіб
Розпізнавання обличчя: важлива міра безпеки або кошмар дістопіі?
Незалежно від того, як ви це бачите, факт полягає в тому, що у поліції є це під рукою. Алгоритми, засновані на ШІ, теоретично повинні бути здатні ідентифікувати людей, що представляють інтерес для натовпу з хірургічною точністю.
Але для поліції Південного Уельсу ці інструменти навряд чи надійні. Фактично, ШІ помилково визначив тисячі тисяч! - людей як минулих злочинців.
Візьміть епізод фінального матчу Ліги чемпіонів 2017 роки (це «футбол» або «футбол» в США). Поліція Південного Уельсу використовувала програму розпізнавання осіб ШІ, яка порівнювала фанатів і людей в натовпі з базою даних гуртків. Тільки в той день в алгоритмі було відзначено 2,297 осіб, яких у нього не було. За даними The Guardian, це становить 92 відсотки всіх людей, які були визначені злочинцями за програмою. Система дозволила поліції зробити один арешт в грі, людина, яка порушила його умовно-дострокове звільнення, і пропустив повернення до в'язниці.
Поліція відповіла так, як очікувалося, заявивши, що будь-яка розвивається технологія буде мати деякі злами для розробки. Вони визнають, що жодна система не є досконалою, і зазначив, що, оскільки вони почали використовувати технологію, вони заарештували в цілому 450 осіб. Вони також звинувачували помилкових спрацьовувань в низькоякісних копіях, поданих в систему, і про те, що це був їх перший удар по використанню програмного забезпечення для розпізнавання осіб на великому заході.
Але все це ставить питання про те, чому відділ подумав, що це гарна ідея спробувати це в першу чергу. Їх відповідь підказує, що, хоча вони засвоювали алгоритм розпізнавання зернистих, низькоякісних кухлів, ніхто не замислювався, може бути, ці жахливі фотографії поміщають тисячі людей в перехресті нашого нового алгоритму тільки тому, що вони виглядають смутно аналогічно. Поліція Південного Уельсу також заявила, що вони цінують недоторканність приватного життя - як будь-хто, хто використовує ІІ для розпізнавання і сканування осіб тисяч нічого не підозрюють людей, ясно це робить, і припускав, що його система буде використовуватися, якщо існує високий ризик для безпеки, а не випадково громадяни.
Розумно припустити, що поліція була зацікавлена тільки в тому, щоб вживати заходів проти розшукуваних злочинців, оскільки переповнена спортивна арена може стати потенційно руйнівною мішенню для терористичної атаки. Але навіть якщо б поліція не перехоплювала всіх систем, зазначених знаками, вона як і раніше була явно призначена для того, щоб розпізнавати кого-небудь з mugshot в файлі (і в файлі багато файлів). Це багато інформації для поліції, яку вони не планують заарештовувати.
Якщо система, подібна до цієї, успішно зупиняє бомбардувальник або стрілок від руйнівного хаосу і вимагає невинних жертв, тоді, відмінно. Але для Джонні Спортфана, який був заарештований за щось незначне років тому і просто хоче продовжити своє життя, системи безпеки, подібні цим, означають, що вони завжди будуть цікавою людиною.
