Обіцянка нейтральності

Як експертка з гендерної рівності та соціальної інклюзії, я спочатку сприйняла використання ШІ в рекрутингу як давно очікуваного союзника — інструмент, який допоможе зменшити упередженість, обмежити фаворитизм і зробити процес найму справедливішим. На перший погляд, він обіцяв об’єктивність. Але чим глибше я занурювалася в тему, тим складнішою ставала картина.

Те, що здається нейтральним інструментом, часто віддзеркалює саме ті нерівності, які мав б виправляти. Замість усунення упереджень такі системи можуть тихо відтворювати їх.

Інструменти ШІ у рекрутингу обіцяють нейтральність. Насправді ж вони успадковують минуле.

Алгоритми відтворюють історичні нерівності

Інструменти ШІ навчаються на даних про найм, сформованих під впливом нерівного доступу та домінування окремих груп. Через це починають надавати перевагу «знайомим» профілям. Навіть дрібні сигнали можуть впливати на рішення: формулювання, вид діяльності чи пауза в резюме.

Amazon свого часу відмовилася від інструменту ШІ для найму, коли з’ясувалося, що він систематично занижує оцінки резюме жінок — саме так його «навчило» минуле.

Упередженість не потребує явних проявів. Гендер можна визначити через непрямі ознаки, як-от «жіночий шаховий клуб». Кар’єрні перерви — через декретну відпустку, відновлення після травми або вимушене переміщення (через війну чи кліматичні ризики) — можуть знижувати оцінки, адже алгоритми «винагороджують» безперервні кар’єрні траєкторії.

Сила імені

Ім’я може здаватися дрібницею, але воно системно впливає на результати найму. Метадослідження підтверджують: кандидатки та кандидати з локально звичними та більше поширеними іменами у певній країні отримують помітно більше відгуків, ніж люди з етнічно відмінними іменами, навіть за однакової кваліфікації.

Імена часто сигналізують про міграційне походження, етнічність або релігію, що безпосередньо впливає на соціальну інклюзію. Це підсилює бар’єри для представниць і представників мігрантських та меншин навіть у формально регульованих ринках праці. Без належних запобіжників ШІ ризикує закріпити ці шаблони ще більше — роблячи дискримінацію менш помітною, але не менш реальною.

Коли мова стає сигналом

Такі слова, як «підтримуюча» чи «командна робота», частіше з’являються в резюме жінок; «лідер» або «конкурентний» — у резюме чоловіків. Якщо алгоритм пов’язує лідерство лише з вузьким набором формулювань, він непомітно недооцінює не менш компетентних кандидаток і кандидатів, які формулюють інакше.

Ризики відеоспівбесід, оцінених ШІ

Ризики посилюються у відеоспівбесідах, які оцінює ШІ. Системи аналізують тон голосу, міміку, навіть «харизму». Але стилі спілкування відрізняються. Кандидатки і кандидати з нейрорізноманіттям або різних культур можуть бути неправильно інтерпретовані. Дослідження свідчать про низьку надійність таких оцінок і викликають занепокоєння щодо їхньої псевдонауковості.

Упередження за віком працює подібним чином. Дати завершення навчання чи візуальні ознаки можуть вказувати на вік і знижувати оцінки «працевлаштовуваності» старших кандидаток і кандидатів.

З часом такі системи самопідсилюються: упереджені рішення стають новими навчальними даними, а нетипові кар’єрні траєкторії просто відсіюються.

Як зменшити упередженість у рекрутингу

Жіночий енергетичний клуб в Україні в межах програми RECONOMY, що реалізується Helvetas за підтримки уряду Швеції, провели спеціалізований курс для HR-фахівчинь і фахівців з енергетичного та будівельного секторів щодо неупередженого рекрутингу. Один із модулів був присвячений алгоритмічному управлінню.

Якщо коротко підсумувати, то алгоритмічні інструменти можуть підвищувати ефективність і послідовність процесів, але водночас несуть значні ризики — упередженість, дискримінацію та втрату довіри, особливо коли навчаються на історично нерівних даних.

Саме тому важливі запобіжники:

• людський контроль
• аудит упередженості
• прозорий дизайн
• інклюзивні дані

Регулювання, зокрема Акт ЄС про ШІ, вже вимагає обов’язкового людського нагляду в системах, що впливають на рішення щодо працевлаштування.

Прості кроки, які мають значення

• Використовувати інклюзивну мову в описах вакансій та фемінітиви
• Урізноманітнювати склад інтерв’ю-панелей
• Анонімізувати резюме на початкових етапах
• Впроваджувати чіткі стандартизовані критерії оцінювання
• Регулярно перевіряти алгоритми на упередженість
• Розширювати канали пошуку кандидаток і кандидатів
• Цінувати нестандартні кар’єрні шляхи та неформальний досвід
• Навчати рекрутерів розпізнавати несвідомі упередження
• Використовувати структуровані співбесіди
• Аналізувати результати найму для різних груп
• Не залишати фінальні рішення виключно алгоритмам

Нова роль HR

У цьому контексті роль HR істотно змінюється. Спеціалісти HR стають носіями людяності в автоматизованих системах, балансуючи між:

• ефективністю та емпатією
• стандартизацією та індивідуальністю
• даними та етикою

На практиці це означає:

• тестування алгоритмів на справедливість і моніторинг їхнього впливу
• інтеграцію етичних принципів ШІ в HR-процеси
• роль «перекладачки» між людьми та машинами — щоб рішення можна було пояснити та оскаржити.

А як ви застосовуєте ШІ в роботі?