ООН: Сірі й Алекса заохочують женоненависництво

Victor Tangermann

В новій доповіді ООН стверджується, що програмування голосових помічників, таких як Сірі й Алекса, підсилює гендерні упередження і спонукає користувачів до сексизму.

Вулиця з двостороннім рухом

Ми вже знали, що люди можуть створювати упереджені ШІ, але Організація Об'єднаних Націй говорить і про інше.

Мільйони людей спілкуються з голосовими помічниками ШІ, такими як Apple Siri й Amazon Alexa. Коли ці помічники кажуть у відповідь, вони роблять це жіночими голосами, і в новій доповіді ООН стверджується, що ці голоси та слова, які вони запрограмовані, щоб сказати, підсилюють гендерні упередження і спонукають користувачів бути сексист — але ще не пізно змінити Звичайно.

Гендерне насильство

Цей звіт є роботою Організації Об'єднаних Націй з питань освіти, науки й культури (ЮНЕСКО), а його назва — «Я б почервонів, якби міг» — є відповіддю, який Сірі був запрограмований у 2011 році, щоб дати, якщо користувач назвав її «сукою».

За даними ЮНЕСКО, це програмування служить прикладом проблем з сучасними помічниками зі штучного інтелекту.

«Покора Сірі перед обличчям гендерного насильства — і служіння, виявлену багатьма іншими цифровими помічниками, проектуються як молоді жінки — є яскравою ілюстрацією гендерних упереджень, закодованих в технологічні продукти», — пишуть автори доповіді.

Лише після того, як ЮНЕСКО поділилася проектом свого звіту з Apple у квітні 2019 року, компанія змінила відповідь Сірі на «Я не знаю, як на це відповісти».

Момент «Я теж»

Той факт, що Apple хотіла внести зміни, обнадіює, але це всього лише одна фраза, вимовлена одним помічником. Згідно з доповіддю ЮНЕСКО, щоб по-справжньому змінити ситуацію, технологічна галузь повинна буде провести набагато більш всеосяжні зміни.

Гарна відправна точка, на думку авторів, полягала б у тому, щоб технічні компанії наймали більше програмістів-жінок і припинили робити зі своїх помічників жінок за замовчуванням, замість цього вибираючи нейтральні в гендерному відношенні голосу.

«Це момент «Я теж» », — сказала CBS News Саніє Гюльсер Корат, директор Відділу гендерної рівності ЮНЕСКО. «Ми повинні переконатися, що ШІ, який ми виробляємо, і те, що ми використовуємо, звертає увагу на гендерну рівність».

Джерела: Новини CBS