Інструменти штучного інтелекту в найманні ігнорують кваліфікованих кандидатів
Погані технології
Компанії все частіше використовують інструменти штучного інтелекту для перевірки потенційних співробітників з метою оптимізації процесу та усунення будь-яких упередженостей. Але, як повідомляє Бі-Бі-Сі, ці інструменти можуть погіршити процес наймання, відсіюючи висококваліфікованих людей.
В одному випадку, який ілюструє проблему, претендент на роботу до репетиторської компанії Fullmind повторно подав резюме після того, як отримав відмову, але змінив дату свого народження, щоб мати молодший вигляд, повідомляє Бі-Бі-Сі. Ця невелика зміна спричинила співбесіду, оскільки програмне забезпечення штучного інтелекту, яке використовувала компанія, автоматично відхиляло кандидатів старшого віку.
У результаті компанії довелося врегульовувати справу з Комісією США за рівними можливостями при працевлаштуванні за звинуваченням у дискримінації за віком.
В іншому випадку, за даними Бі-Бі-Сі, інструмент штучного інтелекту дав погану оцінку візажисту на підставі мови її тіла, хоча вона була оцінена як висококваліфікована у своїй справі.
Такі види рекрутингових ресурсів, швидше за все, будуть множитися в міру того, як все більше компаній використовуватимуть ці інструменти в процесі наймання.
"Ми не побачили переконливих доказів того, що тут немає упередженості... або що інструмент відбирає найбільш кваліфікованих кандидатів", — розповіла Бі-Бі-Сі Хільке Шеллманн, професор журналістики Нью-Йоркського університету та автор книги "Алгоритм: як ШІ може загубити твою кар'єру і вкрасти твоє майбутнє».
Сьогоднішня антиутопія
Все це не є теоретичним. Бі-Бі-Сі процитувала дослідження IBM 2023 року, яке показало, що 42 відсотки компаній вже використовують ШІ для важливої роботи з персоналом та підбору персоналу.
Це схоже на антиутопічний кошмар для будь-кого, хто хоче отримати роботу.
Вам доведеться пройти через усі перешкоди, щоб переконатися, що ваше резюме досягає невідомих цілей, встановлених інструментом перевірки ШІ. І навіть якщо ви пройдете кілька етапів перевірки, що, якщо ви провалите тест на мову тіла, який може бути помилковим із самого початку?
Ці інструменти перевірки ШІ також навчені на попередніх даних, які вже можуть бути помилковими та упередженими, як видно з іншого реального випадку, освітленого Бі-Бі-Сі, коли ШІ навчався на резюме чоловіків, які вже працюють у компанії, виключивши кандидатів-жінок, які не грають у бейсбол чи баскетбол.
"Один упереджений менеджер з наймання може нашкодити безлічі людей за рік, і це недобре", — сказав телекомпанії Шеллман. «Але алгоритм, який може використовуватися у всіх заявках, що входять у великій компанії… може завдати шкоди сотням тисяч кандидатів».
Джерела: Бі-Бі-Сі
