A The Guardian beszámolója szerint az amerikai cégek egyre több döntést bíznak automatizált toborzórendszerekre, miközben a jelentkezők sokszor azt sem tudják, hogy egy algoritmus rangsorolta őket. Az Eightfold AI ellen indított per és egy friss Stanford-kutatás ugyanarra a kérdésre mutat rá: ki ellenőrizheti a gép döntését, ha a pályázó még azt sem látja, milyen adatokból született az eredmény?
Nem csak az számít, hogy hibázik-e
Erin Kistler közel húsz év tapasztalattal több ezer állásra jelentkezett, mégsem kapott egyetlen interjút sem. Most az Eightfold ellen indított csoportos keresetet Kaliforniában. A felperesek szerint a rendszer olyan jelentkezői profilt készít, amelyet a pályázó nem láthat, nem vitathat és nem javíthat ki. A cég vitatja a vádakat, és közölte, hogy megvédi magát a bíróságon.
A vita nem pusztán arról szól, hogy egy algoritmus néha rosszul választ. Ugyanaz a pontozási logika több vállalatnál is visszatérhet, így egy hibás mintázat miatt hátrébb sorolt jelölt újra és újra ugyanabba a láthatatlan falba ütközhet. A Guardian által idézett szakértők ezt algoritmikus feketelistázásként írják le.
A Stanford adatai számszerűsítik a kockázatot
A Stanford kutatói több mint négymillió, 2018 és 2022 között beadott jelentkezést vizsgáltak, közel kétezer pozícióhoz kapcsolódóan. A Pymetrics játékos értékelésén alapuló rendszer az ázsiai jelentkezők 15, a fekete jelentkezők 26 százalékát olyan állásoknál értékelte, ahol a csoport ajánlási aránya a vezető csoport 80 százaléka alatt maradt. A kutatók szerint azonos kiválasztási arány mellett körülbelül 40 ezerrel több ajánlás született volna.
A tíz állásra pályázók négy százalékát minden alkalommal „nem ajánlott” kategóriába sorolták. Ezt a kutatók rendszerszintű elutasításnak nevezték. Nem állítják, hogy minden esetben bizonyítható a diszkrimináció oka, de szerintük az azonos beszállítótól származó algoritmusok miatt a hibák összeadódhatnak.
A jog egyelőre a rendszer után kullog
New Yorkban 2023 óta éves torzításvizsgálat és előzetes tájékoztatás kell bizonyos automatizált kiválasztási rendszerek használatakor, Illinois és Colorado pedig szintén szigorított. A szabályok azonban nem fednek le minden olyan eszközt, amely csak „segíti” a döntést, miközben a háttérben mégis rangsorolhatja a pályázókat.
A tét ezért nem az, hogy használhatnak-e a cégek AI-t, hanem az, hogy a jelentkező tudja-e, mikor használják, milyen adatból dolgozik a rendszer, és van-e valódi emberi felülvizsgálat. Amíg ezekre nincs válasz, az automatizált hatékonyság könnyen átláthatatlan elutasítássá válhat.
