Þegar kemur að staðalmyndum kynjanna í starfi hefur gervigreind (AI) möguleika á að draga úr sögulegri hlutdrægni eða auka hana. Þegar um er að ræða Word2vec líkanið virðist gervigreind gera hvort tveggja.
Word2vec er almennt fáanlegt reiknirit líkan byggt á milljónir orða skrapað úr greinum Google frétta á netinu , sem tölvunarfræðingar nota almennt til að greina orðatengsl. Árið 2016, Vísindamenn Microsoft og Boston háskólans leiddi í ljós að líkanið tók upp staðalmyndir kynjanna sem voru til í fréttaheimildum á netinu – og ennfremur að þessi hlutdrægu orðasamtök tengdust yfirgnæfandi miklu starfi. Þegar þeir uppgötvuðu þetta vandamál gerðu rannsakendur hlutlausu orðafylgnina óvirka í tilteknu reikniritinu sínu og skrifuðu að með litlum hætti gæti hlutdræg orðainnfelling vonandi stuðlað að því að draga úr kynjahlutdrægni í samfélaginu.
Rannsókn þeirra vekur athygli á víðtækara máli varðandi gervigreind: Vegna þess að reiknirit líkja oft eftir þjálfunargagnasöfnunum sem þau eru byggð á, gætu hlutdræg inntaksgagnasöfn myndað gölluð úttak. Vegna þess að margir vinnuveitendur samtímans nota forspáralgrím til að skanna ferilskrár, beina markvissum auglýsingum, eða jafnvel taka andlits- eða raddgreiningarviðtöl, er mikilvægt að íhuga hvort vinsæl ráðningartæki gætu verið næm fyrir sömu menningarlegu hlutdrægni og rannsakendur uppgötvuðu í Word2vec.
Í þessari grein fjalla ég um hvernig ráðningar eru marglaga og ógegnsætt ferli og hvernig það verður erfiðara að meta ásetning vinnuveitanda eftir því sem ráðningarferli færast á netið. Vegna þess að ásetningur er mikilvægur þáttur í lögum um mismunun á vinnumarkaði, legg ég að lokum til fjórar leiðir til að taka hann með í umræðunni um algrím.
Ef hlutdrægni væri fyrir hendi í ráðningarhugbúnaði sem nú er í gangi, myndu lög gegn mismunun helst bjóða atvinnuleitendum upp á aðferð til að leita leiða til úrræða. Í reynd býður gervigreind hins vegar upp á einstaka áskoranir í túlkun samkvæmt gildandi jafnréttislögum, svo sem Civil Rights Act frá 1964 , hinn Lög um aldursmismunun í starfi frá 1967 , hinn Lög um fatlaða Bandaríkjamenn frá 1990 , og Lög um erfðaupplýsingar án mismununar frá 2008 .
Til dæmis, til þess að sækjast eftir kröfu um kynjamismunun samkvæmt VII. kafla laga um borgararéttindi, þyrftu hugsanlegir stefnendur að sýna fram á að vinnuveitandi í einkageiranum hefði annað hvort markvisst ætlað sér að mismuna, eða tekið þátt í aðgerðum - þar með talið óviljandi aðgerðum - sem hafði óhófleg áhrif á tiltekinn kynhóp. Þessir tveir aðferðir eru kallaðir ósamstæð meðferð eða vísvitandi mismunun og ólík áhrif, í sömu röð.
Í tveimur aðskildum greinum í AI og Bias röð Brookings, vísindamenn Manish Raghavan og Solon Barocas og Mark MacCarthy fjalla um hvernig reiknirit geta haft kerfisbundin misjöfn áhrif á verndaða flokka, sem og tæknileg og lagaleg atriði sem um ræðir. Þessi stefnuyfirlýsing fjallar um tengda greiningu á vísvitandi mismunun og býður upp á ramma, í samhengi við gervigreind og ráðningar, til að huga að hlutverki og skyldum vinnuveitenda við að stjórna sanngjörnu ráðningarferli.
Í hvaða greiningu sem er á fyrirætlunum vinnuveitanda er mikilvægt að spyrja hvers vegna vinnuveitendur gætu snúið sér að sjálfvirkum ráðningarkerfum í fyrsta lagi. Fyrir eitt mál, Fyrirtæki hafa séð mikið nýliðun undanfarin ár (vegna lítillar varðveislu, tíðrar ytri kynningar og auðveldrar rafrænnar notkunar) og tölvusíun er oft mælikvarði á hagkvæmni. Að auki gætu vinnuveitendur notað tölvustuddar ráðningar til að draga úr hlutdrægni manna, sérstaklega þar sem margvíslegar fræðilegar rannsóknir hafa bent til nokkurrar mannlegrar hlutdrægni í handvirkum ráðningum með tilliti til kyn , kapp , eða jafnvel að því er virðist tilviljanakenndir þættir eins og fæðingarmánuður .
[M]margar fræðilegar rannsóknir hafa bent til nokkurrar mannlegrar hlutdrægni í handvirkum ráðningum með tilliti til kyns, kynþáttar eða jafnvel tilviljunarkenndra þátta eins og fæðingarmánuðar.
Nútíma ráðningarferli samanstendur venjulega af mörgum lotum af skimun, sem margar hverjar eru sjálfvirkar. Atvinnuleitendur byrja oft á því að bera kennsl á laus störf í gegnum netið , meðal annars í gegnum leitarvélar og markauglýsingar. Á þessu upphafsstigi geta auglýsingavettvangar á netinu safnað gögnum um leitarferil notenda, notkunarmynstur og lýðfræði, og notað forspárgreiningar til að álykta um einstaklinga sem fyrirtæki gætu viljað ráða.
drottning Victoria valdaárum
Að því gefnu að umsækjandi greini væntanlegt starf og leggi fram ferilskrá, gæti ráðningarstjóri ekki skoðað allar útfylltar umsóknir. Það fer eftir viðskiptaþörfum og ráðningarmagni, vinnuveitendur geta notað hugbúnað til að endurskoða ferilskrá, eins og Mya , til að skanna ferilskrár sjálfkrafa að ákveðnum leitarorðum og raða umsækjendum út frá áætlaðri hæfi þeirra fyrir stöðuna.
Möguleikinn á sjálfvirkni heldur áfram á næsta stigi ráðningar. Eftir að ferilskrá frambjóðanda hefur verið valin til frekari skoðunar getur umsækjandinn farið í margar lotur af viðtölum og skimun fyrir val, ferli sem krefst ekki lengur mannlegrar íhlutunar. Fyrirtæki geta notað viðtalsgreiningarhugbúnað frá þriðja aðila, eins og HireVue og Spádómur , til að skora sjálfkrafa svipbrigði viðmælenda, val á orðaforða og tón. Jafnframt geta fyrirtæki notað reikniritmat, ss Pymetrics , til að spá fyrir um frammistöðu umsækjanda áður en þeir stíga inn á skrifstofuna.
[F]orkufyrirtæki geta notað reikniritmat … til að spá fyrir um frammistöðu umsækjanda áður en þeir stíga inn á skrifstofuna.
Það er ekki óalgengt að bæði vinnuveitendur og umsækjendur þekki ekki hvernig þessi reiknirit – og þá sérstaklega námslíkön án eftirlits – virka. Þó nokkur stór hugbúnaðarfyrirtæki, þ.á.m Google og Amazon , þróa innra reiknirit, meirihluti vinnuveitenda er líklegri til að treysta á þriðja aðila reiknirit ráðningartæki. Reiknirit þriðju aðila eru nánast almennt ógagnsæ vegna þátta eins og sérhugbúnaðar, einkaleyfisbundinnar tækni og/eða almenns flókins. Þeir sem ekki eru verktaki geta verið ómeðvitaðir um hvaða tilteknu þættir hvetja til reikniritröðunar, sem og hvaða þjálfunargögn og hlutdrægniaðferðir eru notaðar. Að auki skortir verktaki (í þessu tilfelli, flestir ráðningarstjórar) oft getu til að breyta reikniritum þriðja aðila sem þeir nota. Vegna þessarar mögulegu aftengingar er ásetning vinnuveitanda mikilvægt atriði þegar metið er hugsanlega mismunun í reiknirithugbúnaði.
Hefð hafa alríkisstofnanir bent á þrenns konar sönnunargögn að greina mismununarásetning: beinan, óbeinn og tölfræðilegan. Stefnendur geta notað einn flokk eða blöndu af þessum þremur til að halda fram viljandi mismunun – sem, í samhengi við reiknirit, myndi gefa til kynna að vinnuveitandinn hefði einhverja umboðsmann í hvers kyns hlutdrægum ráðningarniðurstöðum sem tengjast hönnun og framkvæmd reikniritsins.
Vegna þess að venjulega er erfitt að fá beinar vísbendingar um hvata, munu flestar tilraunir til að ákvarða mismununarásetning í algrímslegum hlutdrægni tilfellum líklega fela í sér nokkra óvissu og vegan staðreynda. Ráðningarreiknirit myndi almennt teljast mismuna ef, ef allir aðrir þættir eru jafnir, myndi ein vernduð breyta (hvort sem það er kynþáttur, kyn o.s.frv.) hafa áhrif á líkurnar á að einstaklingur fái atvinnutilboð. En í reynd á þessi skilgreining ekki auðveldlega við ásetningi. Áskorunin liggur ekki aðeins í uppgötvun, heldur í úrræðum - það er ekki aðeins nauðsynlegt að greina ástæðu vinnuveitanda frá reikniritum, heldur einnig að ákveða hvernig eigi að bregðast við því. Hins vegar, jafnvel með svo mörgum óvissuþáttum, vakna nokkrar viðeigandi spurningar þegar greint er frá og tekið á mismununarásetningi í samhengi við reiknirit.
Skýrsla Framleidd af Miðstöð tækninýsköpunar