Суперечливий алгоритм Майкрософта визначає, кому можна завагітніти

Це кошмарна суміш надмірного впливу великих технологій та державного авторитаризму.

У 2018 році аргентинська провінція Сальта схвалила розробку алгоритму Microsoft, який нібито міг визначити, які з малозабезпечених «майбутніх підлітків» з найбільшою ймовірністю завагітніють, як показало шокуюче розслідування, проведене Wired.

Алгоритм, який Microsoft назвала «одним із новаторських випадків використання даних ШІ», використав демографічні дані, включаючи вік, етнічну приналежність, інвалідність, країну походження, а також наявність гарячої води у ванній кімнаті, визначити, хто з жінок та дівчат, живуть у маленькому аргентинському містечку, «призначений» для материнства.

Непрозора програма, яку вихваляв на національному телебаченні тодішній губернатор Хуан Мануель Уртубей, була запропонована провінції Microsoft у 2018 році, коли Конгрес Аргентини обговорював питання про декриміналізацію абортів, зазначає Wired.

Повідомлення журналу показали, що жінки та дівчата, яких алгоритм Microsoft ідентифікував як потенційних мам-підлітків, часто позбавлялися громадянських прав з різних причин: від бідного походження та сімей мігрантів до спадщини корінних народів.

Алгоритм, відомий як Технологічна платформа для соціального втручання, є примітним тим, що американська компанія, така як Microsoft, вирішила розгорнути таку програму в країні з довгою історією заходів спостереження та контролю населення.

Ця схильність виявляється у відсутності прозорості навколо програми. По-перше, уряд Аргентини ніколи офіційно не оцінював вплив алгоритму на дівчаток та жінок.

Гірше того, згідно з Wired, програма включала розгортання «територіальних агентів», які опитували тих, кого ШІ ідентифікував як зумовлених для вагітності, фотографували їх і навіть записували їхнє місцезнаходження за GPS.

Досі незрозуміло, що провінційні чи національні уряди зробили з даними і як і якщо вони пов'язані з дебатами про аборти.

У 2020 році Аргентина проголосувала за скасування кримінальної відповідальності за аборти, що стало історичним моментом для американської нації, але саме існування цієї програми має викликати занепокоєння.

Звіт має бути попередженням про потенційно небезпечне перетинання американських технологій штучного інтелекту та авторитаризму, а також пропонує таке необхідне нагадування про те, що на цей момент нам слід побоюватися не самих алгоритмів, а людей. за ними.

Джерела: Wired