Inteligența artificială a Amazonului, concepută pentru a sorta CV-urile căutătorilor de locuri de muncă, a clasat bărbații mai mari decât femeile. În special, el a respins CV-urile cu cuvântul „feminin” și s-a oferit să angajeze candidați care foloseau verbe tipice masculine în discursul lor, chiar dacă aceste persoane nu aveau abilitățile necesare. Drept urmare, compania a trebuit să închidă proiectul.
Informații artificiale de HR
Experții Amazon în domeniul învățării automate au descoperit că inteligența artificială care procesează CV-ul candidaților pentru funcții la companie discriminează femeile care caută un loc de muncă, a raportat Reuters. Această caracteristică nu a fost încorporată în mod intenționat în sistem - a fost rezultatul învățării automate.
Un motor de sortare a CV-ului bazat pe inteligență artificială este în curs de dezvoltare la Amazon din 2014 de o echipă de 12 persoane din Edinburgh. Deja în 2015, compania a observat că noul sistem nu respectă principiul neutralității de gen atunci când evaluează candidații pentru posturi de dezvoltare software și alte posturi vacante tehnice.
Curând și-au dat seama de motivul: fapt este că sistemul a fost instruit pe CV-urile înscrise de companie în ultimii 10 ani. Majoritatea acestor CV-uri au fost deținute de bărbați, ceea ce reflectă pe larg starea de lucruri din industria IT. Drept urmare, inteligența artificială a Amazon a aflat că solicitanții de locuri de muncă bărbați sunt preferați decât femeile.
Respingere lingvistică
Video promotional:
Drept urmare, inteligența artificială a început să arunce CV-urile care conțin cuvântul „femeie” în astfel de expresii precum „căpitanul clubului de șah al femeilor”. Mecanismul a scăzut și gradele absolvenților a două colegii de femei, dar surse Reuters nu au specificat numele acestora. Atunci când evaluează CV-urile, inteligența artificială le-a oferit între una și cinci stele - foarte asemănătoare cu modul în care cumpărătorii evaluează produsele pe Amazon.
Sistemul a acordat atenție și altor cuvinte. Dezvoltatorii au creat 500 de modele de computer pentru diferite responsabilități de locuri de muncă și locații geografice. Fiecare model a fost instruit să recunoască aproximativ 50 de mii de cuvinte semnal care erau prezente în CV-ul solicitantului.
Este de remarcat faptul că mecanismul a ignorat cuvintele care denotă abilități care sunt adesea redactate în CV-urile profesioniștilor IT, cum ar fi capacitatea de a scrie diverse coduri etc. (executate) sau „capturate”, așa cum au fost văzute în mod regulat în CV-urile vechi despre care mașina a învățat. Cu această abordare, discriminarea de gen nu a fost singura problemă - mecanismul a recomandat adesea persoanelor care nu aveau abilitățile necesare pentru poziția respectivă.
Soarta ulterioară a proiectului
Amazon a ajustat sistemul astfel încât să nu mai răspundă la cuvintele de semnal. Cu toate acestea, aceasta nu a fost o garanție că mecanismul nu va găsi o altă modalitate de a identifica CV-urile deținute de femei. Până la începutul anului 2017, compania s-a deziluzionat de proiect și a desființat echipa. Surse Reuters spun că specialiștii în resurse umane au luat în considerare recomandările sistemului, dar nu s-au bazat niciodată doar pe acestea.
Una dintre surse spune că proiectul este închis. Un altul susține că o nouă echipă a fost formată la Edinburgh pentru a continua dezvoltarea mecanismului, dar de această dată cu accent pe echitate și incluziune. O altă sursă raportează că o versiune puternic modificată a motorului este utilizată acum pentru a efectua lucrări de rutină, cum ar fi eliminarea CV-urilor duplicate din baza de date.