Óeftirlitslaus gervigreind (AI) líkön sem uppgötva sjálfkrafa falin mynstur í gagnasettum náttúrulegra tungumála fanga tungumálareglur sem endurspegla mannlega hlutdrægni, svo sem kynþáttafordóma, kynjamismun og hæfni.einnÞessi gervigreindarlíkön sem eru ekki undir eftirliti, nefnilega innfelling orða, veita grunn, almennan tilgang, tölulega framsetningu tungumáls fyrir vélar til að vinna úr textagögnum.
Orðainnfellingar bera kennsl á falin mynstur í tölfræði um samhliða orð í málheildum, sem innihalda málfræðilegar og merkingarlegar upplýsingar sem og mannlega hlutdrægni. Þar af leiðandi, þegar orðainnfellingar eru notaðar í náttúrulegri málvinnslu (NLP), dreifa þær hlutdrægni til undirstýrðra niðurstraumsforrita sem stuðla að hlutdrægum ákvörðunum sem endurspegla tölfræðilegt mynstur gagnanna. Þessar niðurstreymisforrit sinna verkefnum eins og upplýsingaleit, textagerð, vélþýðingu, textasamantekt og vefleit, auk afleiðinga ákvarðanatöku við ferilskráningu fyrir val umsækjenda í starfi, sjálfvirkni háskólanáms eða einkunnagjöf ritgerða. Orðainnfellingar gegna mikilvægu hlutverki við að móta upplýsingasviðið og geta hjálpað til við að draga afleiddar ályktanir um einstaklinga. Atvinnuviðtöl, háskólainnlögn, ritgerðareinkunn, efnisstjórnun og mörg fleiri ákvarðanatökuferli sem við gætum ekki verið meðvituð um velta í auknum mæli á þessum NLP módelum.
Milljarðar manna sem nota internetið á hverjum degi verða fyrir hlutdrægri innfellingu orða. Hins vegar er engin reglugerð til staðar til að endurskoða þessa gervigreindartækni sem skapar mögulega ógn við jöfnuð, réttlæti og lýðræði. Fyrir vikið er brýn þörf fyrir eftirlitskerfi, fjölbreytt siðfræðistarfsfólk með gervigreind og tæknilegar aðferðir til að koma í veg fyrir að gervigreind tækni flýti fyrir skaðlegum aukaverkunum.tveir
Sjálfvirk ferilskráning Amazon til að velja efstu umsækjendur um starf reyndist mismuna konum árið 2015.3Amazon notaði ný sýnishorn af umsækjendum um starf frá 10 ára tímabili til að þjálfa ráðningarlíkön sín. Þetta NLP forrit undir eftirliti lærði hvernig á að skora umsækjendur með því að reikna mynstrin í fyrri ferilskrársýnum frá Amazon og viðkomandi upplýsingar um árangur umsækjanda. Fyrir vikið lærði þjálfaða líkanið sögulega þróunina sem tengist atvinnu hjá Amazon með því að uppgötva tungumálamynstur á ferilskrám. Konur voru undir fulltrúa í þjálfunarsettinu sem safnað var frá starfsmönnum. Þar af leiðandi tengdi ferilskráarlíkanið karlmenn og tungumálamerkin á ferilskránni þeirra við farsælt starf hjá Amazon, en ferilskrár umsækjenda sem innihéldu orð tengd konum voru oft hent af reikniritinu. Hlutdræg mynstur sem líkanið lærði leiddi til mismununar á kvenkyns umsækjendum um starf. Amazon yfirgaf fljótlega sjálfvirka ráðningartólið eftir að þeir uppgötvuðu hlutdrægni.
Hlutdrægar ákvarðanir NLP umsókna viðhalda ekki aðeins sögulegri hlutdrægni og óréttlæti, heldur magna þær hugsanlega upp núverandi hlutdrægni á áður óþekktum mælikvarða og hraða. Komandi kynslóðir orðainnfellinga eru þjálfaðar á textagögnum sem safnað er frá netmiðlum sem innihalda hlutdrægar niðurstöður NLP forrita, upplýsingar hafa áhrif á starfsemina og pólitískar auglýsingar víðs vegar að af vefnum. Þar af leiðandi skapar þjálfun gervigreindarlíkana á bæði náttúrulegum og tilbúnum hlutdrægum tungumálagögnum gervigreindarlotu sem hefur áhrif á mikilvægar ákvarðanir sem teknar eru um menn, samfélög og stjórnvöld.
AI og NLP tækni er ekki staðlað eða stjórnað, þrátt fyrir að vera notuð í mikilvægum raunverulegum forritum. Tæknifyrirtæki sem þróa nýjustu gervigreind hafa orðið óhóflega öflug með gögnunum sem þau safna frá milljörðum netnotenda. Þessi gagnasöfn eru notuð til að þróa gervigreind reiknirit og þjálfa líkön sem móta framtíð bæði tækni og samfélags. gervigreind fyrirtæki nota þessi kerfi til að fella inn í sína eigin vettvang, auk þess að þróa kerfi sem þau selja einnig stjórnvöldum eða bjóða upp á sem viðskiptaþjónustu.
tími til mars frá jörðu
Tæknifyrirtæki sem þróa nýjustu gervigreind hafa orðið óhóflega öflug með gögnunum sem þau safna frá milljörðum netnotenda.
Vegna skorts á reglugerðum og tiltækum hlutdrægni endurskoðunaraðferðum, hafa gervigreind fyrirtæki ekki veitt gagnsæi í hversdagslegum áhrifum reikniritanna sem þau nota í samfélaginu. Til dæmis, vélþýðingaralgrím Google umbreyta kynhlutlausum tyrkneskum setningum O bir profesör. O bir öğretmen til ensku setninganna He’s a professor. Hún er kennari. Facebook gerði tilraunir á mönnum á vettvangi sínum til að kanna hvernig hægt er að hagræða tilfinningum notenda með hlutdrægum texta sem kallar á óþægindi.4
Samfélagsmiðlar ákveða sjálfkrafa hvaða notendur eigi að verða fyrir ákveðnum tegundum efnis í pólitískum auglýsingum og upplýsingar hafa áhrif á starfsemi, byggt á persónueinkennum sem spáð er fyrir um út frá gögnum þeirra.5Þar sem vísindamenn bera kennsl á og mæla skaðlegar aukaverkanir NLP reiknirit sem innihalda hlutdræg líkön af tungumáli, getur reglugerð um reiknirit og gervigreind líkan hjálpað til við að draga úr skaðlegum niðurstreymisáhrifum stórfelldra gervigreindartækni.
Árið 2017, við miðstöð upplýsingatæknistefnu Princeton háskólans, þróuðum við Joanna Bryson, Arvind Narayanan og ég aðferðir sem sýna fram á að innfellingar orða læra mannlegar hlutdrægni úr tölfræði um samveru orða.6Þegar orð sem tákna hugtök birtast oft með ákveðnum eiginleikum, lærir innfelling orð að tengja hugtakið við eiginleika sem koma fyrir. Til dæmis hafa setningar sem innihalda orð sem tengjast eldhúsi eða listum tilhneigingu til að innihalda orð sem tengjast konum. Hins vegar hafa setningar sem innihalda starfs-, vísinda- og tæknihugtök tilhneigingu til að innihalda orð sem tengjast körlum. Þess vegna, þegar vélar eru að vinna úr tungumáli til að læra innfellingu orða, birtast konur, sem félagslegur hópur, í nálægð við orð eins og fjölskylda og listir miðað við karla; en karlar, sem félagslegur hópur, birtast í nálægð við feril, vísindi og tækni. Við komumst að því að staðalmyndatengsl eru fyrir kyni, kynþætti, aldri og skurðpunktum meðal þessara einkenna. Þegar þessi staðalímyndasamtök dreifa sér til niðurstreymisforrita sem birta upplýsingar á internetinu eða taka afleiðingar ákvarðanir um einstaklinga, setja þau minnihlutahópa og undirfulltrúa hópa í óhag. Svo lengi sem málheildir sem notaðir eru til að þjálfa NLP líkön innihalda hlutdrægni, mun innfelling orða halda áfram að endurtaka sögulegt óréttlæti í niðurstreymisforritum nema skilvirkar eftirlitsaðferðir séu innleiddar til að takast á við hlutdrægni.
Að rannsaka hlutdrægni í víðtækri innfellingu orða sem þjálfaðir eru á 800 milljarða orðahluta sem safnað er af vefnum leiðir í ljós að nöfn Afríku-Ameríkumanna hafa tilhneigingu til að koma fram við óþægileg orð. Að mæla hlutfallslegt samband nafna Afríku-Ameríkubúa á móti nöfnum hvítra manna með skemmtilegum og óþægilegum orðum sýnir að orðið innfellingar innihalda neikvæð tengsl fyrir hugtakið Afríku-Ameríkan þjóðfélagshóp vegna hlutdrægrar lýsingar á hópnum á internetinu.7Þessar tegundir félagsskapa sem endurspegla neikvæð viðhorf til eins þjóðfélagshóps eru talin skaðleg og fordómafull. Svipuð neikvæð tengsl endurspeglast fyrir aldraða og fólk með fötlun. Og konur eru oft tengdar fjölskyldu og bókmenntum, en karlar tengjast starfsframa og vísindum. Það er líka athyglisvert að nýjustu tungumálalíkön fanga almennt staðalímyndir og hlutdrægni sem eru til staðar í bandarískri menningu, jafnvel þó að þessi NLP tækni sé notuð um allan heim.
Árið 2004 leiddi stýrð rannsókn á mismunun á vinnumarkaði í ljós að ferilskrár sem innihalda einstaklega hvít nöfn fá 50 prósent fleiri hringingar í viðtöl samanborið við ferilskrá með einstaklega afrísk amerísk nöfn með sömu hæfi.8Með því að nota nöfn umsækjenda sem gefin eru upp í rannsókninni á mismunun á vinnumarkaði meðan á hlutdrægni stendur í innfellingu orða afhjúpast sterk neikvæð tengsl við Afríku-Ameríku sem félagslegan hóp. Þó að menn taki afleiðingar ákvarðanir um aðra menn á einstökum eða sameiginlegum grundvelli, þá tekur svarta kassa NLP tækni stórfelldar ákvarðanir sem eru hlutdrægar. Samkvæmt því stendur samfélagið frammi fyrir mikilvægari og hraðari áskorun miðað við að takast á við mannlega ákvarðanatöku þar sem NLP er ekki stjórnað til að stuðla að jöfnuði og félagslegu réttlæti.9
Nýjustu stór tungumálalíkön sem læra kraftmikla samhengisháða orðainnfellingu, eins og margra milljón dollara líkanið GPT-3, tengja karla við hæfni og störf sem sýna fram á hærra menntunarstig í niðurstreymis NLP verkefnum.10Margir sérfræðingar telja textann sem myndaður er með GPT-3 vera óaðgreinanlegan frá manngerðum texta út frá ýmsum forsendum. Burtséð frá því, hvað er kyn læknis þegar beðið er um tungumálagerð með inntakinu? fyrsta svarið er: Doctor er karlkynsnafnorð; en þegar beðið er um hvert er kyn hjúkrunarfræðings? fyrsta svarið er: Það er kvenkyns.
Þar að auki tengir innfelling orða, annaðhvort kyrrstæð eða kraftmikil, skurðpunktur kynþáttar og kyns við mesta magn óhagræðis hlutdrægni.ellefuEins og önnur gervigreind reiknirit sem endurspegla óbreytt ástand, eru allir þjóðfélagshópar sem ekki eru samsettir af hvítum körlum sýndir sem minnihlutahópar vegna skorts á nákvæmum og hlutlausum gögnum til að þjálfa innfellingu orða. Til dæmis eru meðlimir margra minnihlutahópa, eins og konur í Afríku-Ameríku, sterklega tengdir ýmsum óhagstæðri hlutdrægni samanborið við tiltölulega minna ákafa hlutdrægni sem tengist minnihlutahópum þeirra, Afríku-Ameríku eða konum. Sömu sterku og hugsanlega skaðlegu hlutdrægu samtökin eru einnig til fyrir mexíkóskar bandarískar konur. Þar af leiðandi myndi útbreiðsla á hlutdrægni í samfélagshópum í niðurstreymis NLP forritum eins og sjálfvirkri ferilskráningu ekki aðeins viðhalda núverandi hlutdrægni heldur hugsanlega auka skaðlega hlutdrægni í samfélaginu sem mun hafa áhrif á komandi kynslóðir.12
Orðainnfelling niðurfelling er ekki framkvæmanleg lausn á hlutdrægni vandamálum sem orsakast í downstream forritum þar sem hlutdrægur orðainnfelling fjarlægir nauðsynlegt samhengi um heiminn. Orðainnfellingar fanga merki um tungumál, menningu, heiminn og tölfræðilegar staðreyndir. Til dæmis myndi kynhneigð á innfellingum orða hafa neikvæð áhrif á hversu nákvæm tölfræði kynja í starfi endurspeglast í þessum líkönum, sem eru nauðsynlegar upplýsingar fyrir NLP-aðgerðir. Kynhlutdrægni er flækt inn í málfræðilegar kynupplýsingar í orðafellingum tungumála með málfræðilegu kyni.13Orðainnfellingar munu líklega innihalda fleiri eiginleika sem við höfum enn ekki uppgötvað. Þar að auki myndi hlutdrægni að fjarlægja öll þekkt samfélagshópasamtök leiða til innfellingar orða sem geta ekki táknað heiminn nákvæmlega, skynjað tungumál eða framkvæmt niðurstreymisnotkun. Í stað þess að hallmæla innfellingum orða í blindni, væri upplýstari stefna að auka meðvitund um ógnir gervigreindar við samfélagið til að ná fram sanngirni við ákvarðanatöku í niðurstreymisforritum.
Á sama tíma getur fjölbreytt hópur sérfróðra manna í lykkjunni unnið með gervigreindarkerfum til að afhjúpa og meðhöndla gervigreindarhlutdrægni í samræmi við staðla og siðferðileg meginreglur. Það eru heldur engir staðfestir staðlar til að meta gæði gagnasafna sem notuð eru við þjálfun gervigreindarlíkana sem notuð eru í samfélagslegu samhengi. Þjálfun nýrrar tegundar fjölbreytts vinnuafls sem sérhæfir sig í gervigreind og siðfræði til að koma í veg fyrir skaðlegar aukaverkanir gervigreindartækni á áhrifaríkan hátt myndi draga úr skaðlegum aukaverkunum gervigreindar.
Nema samfélagið, menn og tæknin verði fullkomlega hlutlaus, verða innfellingar orða og NLP hlutdrægar. Í samræmi við það þurfum við að innleiða aðferðir til að draga úr skaðlegum skammtíma- og langtímaáhrifum hlutdrægni á samfélagið og tæknina sjálfa. Við höfum náð því stigi í gervigreind tækni þar sem mannleg skynsemi og vélar þróast samhliða miklu magni upplýsinga og tungumáls sem unnið er og kynnt fyrir mönnum með NLP reikniritum. Skilningur á samþróun NLP tækni við samfélagið í gegnum linsu mann-tölvu samskipta getur hjálpað til við að meta orsakaþættina á bak við hvernig ákvarðanatökuferli manna og véla virkar. Að bera kennsl á orsakaþætti hlutdrægni og ósanngirni væri fyrsta skrefið í að forðast ólík áhrif og draga úr hlutdrægni.
Til að greina þessi náttúrulegu og tilbúnu ákvarðanatökuferli þarf að staðla, endurskoða og stjórna á gagnsæjanlegum hætti staðlaða, endurskoðaða og stjórna sérsniðna AI reiknirit og þjálfunargagnasöfn þeirra sem eru ekki aðgengileg almenningi. Ekki er hægt að ætlast til þess að tæknifyrirtæki, stjórnvöld og aðrar öflugar stofnanir stjórni sjálfum sér í þessu reiknisamhengi þar sem matsviðmið, svo sem sanngirni, geta komið fram á fjölmarga vegu. Að uppfylla sanngirnisviðmið í einu samhengi getur mismunað ákveðnum þjóðfélagshópum í öðru samhengi. Þar að auki, með nýrri gervigreindartækni, er hægt að fullnægja æskilegum sanngirnisviðmiðum á tilbúnar hátt, á sama tíma og minnihlutahópum er mismunað, með því að beita gervigreindum brellum í gegnum andstæð vélanám.14Á meðan gæti það tekið aldir að þróa háþróaða gervigreindartækni í takt við mannleg gildi sem geta stjórnað sjálfum sér.
Fjölbreytni í hópi gervigreindarhæfileika getur stuðlað að verðmætum viðkvæmri hönnun og stjórnun hágæða þjálfunarsetta sem eru fulltrúar þjóðfélagshópa og þarfa þeirra.
Hlutdræg NLP reiknirit hafa tafarlaus neikvæð áhrif á samfélagið með því að mismuna ákveðnum þjóðfélagshópum og móta hlutdræg samtök einstaklinga í gegnum fjölmiðla sem þeir verða fyrir. Þar að auki, til lengri tíma litið, magna þessar hlutdrægni upp mismuninn meðal þjóðfélagshópa í fjölmörgum þáttum samfélagsgerðarinnar okkar, þar á meðal vinnuafl, menntun, efnahagslíf, heilbrigðismál, lög og stjórnmál. Fjölbreytni í hópi gervigreindarhæfileika getur stuðlað að verðmætum viðkvæmri hönnun og stjórnun hágæða þjálfunarsetta sem eru fulltrúar þjóðfélagshópa og þarfa þeirra. Menn í lykkjunni geta prófað og endurskoðað hvern þátt í gervigreindarferlinum til að koma í veg fyrir að hlutdrægni breiðist út til ákvarðana um einstaklinga og samfélag, þar með talið gagnastýrða stefnumótun. Til að ná áreiðanlegri gervigreind krefst þess að fyrirtæki og stofnanir uppfylli staðla og standist mat á gæða- og sanngirniprófum þriðja aðila áður en gervigreind er notuð við ákvarðanatöku.
Tæknifyrirtæki hafa einnig vald og gögn til að móta almenningsálitið og framtíð þjóðfélagshópa með hlutdrægum NLP reikniritum sem þau kynna án þess að tryggja öryggi gervigreindar. Tæknifyrirtæki hafa verið að þjálfa háþróaða NLP módel til að verða öflugri með söfnun tungumálahluta frá notendum sínum. Hins vegar greiða þeir notendum ekki bætur við miðlæga söfnun og geymslu allra gagnagjafa. Þessi stefna, ásamt fjárhagslegum ívilnunum sem krefjast persónulegra upplýsinga notenda, hafa leitt til eftirlitskapítalisma og sjálfvirkrar mismununar með hagræðingu á hraða sem var ekki möguleg með áður smærri verkfærum á sviði iðnaðar sem til voru í samfélaginu.fimmtánVegna skorts á reglugerðum hafa þessar áframhaldandi siðlausu gervigreindarvenjur verið að grafa hratt undan jöfnuði og lýðræði.
hvenær lentu Bandaríkin á tunglinu
Nýjasta, stóra viðskiptamálslíkanið með leyfi fyrir Microsoft, OpenAI's GPT-3, er þjálfað í gríðarstórum málheildum sem safnað er af vefnum. Reiknitilföngin til að þjálfa OpenAI GPT-3 kostuðu um það bil 12 milljónir dollara.16Rannsakendur geta beðið um aðgang að stórum tungumálalíkönum, en þeir fá ekki aðgang að orðum eða þjálfunarsettum þessara líkana. Þar af leiðandi, til að rannsaka þessi áhrifamiklu forrit kerfisbundið, þurfa vísindamenn gífurlegt fjármagn til að endurtaka líkönin til að mæla umfang hlutdrægni og öðlast innsýn í hvernig þær gætu verið að móta samfélagið, opinbera umræðu, gildi okkar og skoðanir.
Án aðgangs að þjálfunargögnum og kraftmiklum orðainnfellingum er ekki hægt að rannsaka skaðlegar aukaverkanir þessara líkana. Og að hafa aðgang að innfellingum orða og gögnum getur auðveldað nýjar vísindalegar uppgötvanir til félagslegrar góðs, þar á meðal framfarir eins og uppgötvun nýs efnis frá innfellingum orða.17Hins vegar geta þróunaraðilar stórra tungumálalíkana ekki deilt þjálfunarhlutanum vegna laga um persónuvernd. Þar að auki sýndu andstæðingar vélanámsrannsakendur nýlega að hægt er að vinna þjálfunargögn, þar á meðal persónugreinanlegar upplýsingar, úr stórum tungumálalíkönum.18Vísindamenn, þróunaraðilar og stefnumótendur þurfa sárlega umhverfi til að vinna að þessum líkönum saman, en skortur á staðfestum stöðlum hindrar vísindalegar framfarir og er mjög líklegt til að skaða samfélagið. Að samþykkja alríkislöggjöf um persónuvernd til að halda tæknifyrirtækjum ábyrg fyrir fjöldaeftirliti er upphafspunktur til að takast á við sum þessara vandamála. Að skilgreina og lýsa gagnasöfnunaraðferðum, notkun, miðlun og gildi persónuupplýsinga fyrir almenning myndi auka vitund um leið og stuðla að öruggari gervigreind.
Að leiða saman fjölbreytta gervigreind og siðfræðistarfsmenn gegnir mikilvægu hlutverki í þróun gervigreindartækni sem er ekki skaðleg samfélaginu. Meðal margra annarra kosta getur fjölbreyttur vinnuafli, sem er fulltrúi eins margra þjóðfélagshópa og mögulegt er, gert ráð fyrir, greint og meðhöndlað hlutdrægni gervigreindartækninnar áður en hún er sett á samfélagið. Ennfremur getur fjölbreytt hópur sérfræðinga boðið upp á leiðir til að bæta vantákn minnihlutahópa í gagnasöfnum og stuðlað að viðkvæmri hönnun gervigreindartækni í gegnum lífsreynslu þeirra.
Aðrar ráðleggingar til að debias NLP eru:
Hin flókna AI hlutdrægni lífsferill hefur komið fram á síðasta áratug með sprengingu félagslegra gagna, reiknikrafts og AI reiknirit. Hlutdrægni manna endurspeglast í félagstæknikerfum og lærist nákvæmlega af NLP módelum með hlutdrægu tungumáli sem menn nota. Þessi tölfræðikerfi læra söguleg mynstur sem innihalda hlutdrægni og óréttlæti og endurtaka þau í notkun þeirra. NLP líkön sem eru afrakstur tungumálagagna okkar sem og alls kyns upplýsinga sem dreifast á internetinu taka mikilvægar ákvarðanir um líf okkar og móta þar af leiðandi bæði framtíð okkar og samfélag. Þessar NLP módel eru á bak við hverja tækni sem notar texta eins og ferilskráningu, háskólainntöku, ritgerðareinkunn, raddaðstoðarmenn, internetið, ráðleggingar á samfélagsmiðlum, stefnumótaforrit, samantekt fréttagreina, vélþýðingu og textagerð. Ef þessi nýja þróun í gervigreind og NLP er ekki staðlað, endurskoðuð og stjórnað á dreifðan hátt, getum við ekki afhjúpað eða útrýmt skaðlegum aukaverkunum af hlutdrægni gervigreindar sem og langtímaáhrif þess á gildi okkar og skoðanir. Að afturkalla stórfelldan og langtíma skaða gervigreindar á samfélaginu myndi krefjast gríðarlegrar viðleitni miðað við að bregðast við núna til að hanna viðeigandi reglur um gervigreind.
Skýrsla Framleidd af Miðstöð tækninýsköpunar