Klepetalni roboti z umetno inteligenco na razgovoru z vami za službo

V začetku junija je Amanda Claypool iskala službo v restavraciji s hitro prehrano v mestu Asheville v Severni Karolini. Vendar je naletela na nepričakovano in nadležno oviro – okvarjene klepetalne robote (chatbote) zaposlovalcev.

Nekaj primerov: McDonald’sov klepetalni iskalec kadrov Olivia je Claypool potrdil za osebni razgovor, vendar mu nato zaradi tehničnih težav sestanka ni uspelo uvrstiti v koledar. Klepetalnik podjetja Wendy’s ji je uredil osebni razgovor, vendar za delo, ki ni bilo primerno zanjo. Nato jo je klepetalni robot podjetja Hardees poslal na razgovor z vodjo poslovalnice, ki je bil na dopustu.

“Pojavila sem se v Hardeesu in bili so presenečeni. Ekipa, ki je upravljala restavracijo, ni vedela, kaj naj naredi z mano ali kako naj mi pomaga,” je za Forbes povedala Claypool, ki se je nazadnje zaposlila drugod. “Zdelo se je, da je stvar bolj zapletena, kot bi morala biti,” je dejala.

Podjetji McDonald’s in Hardees se na prošnjo za komentar nista odzvali. Tiskovni predstavnik podjetja Wendy’s pa je za Forbes povedal, da klepetalnik omogoča učinkovitost pri zaposlovanju, in dodal, da je inovativnost v njihovem DNK.

Kadrovske klepetalne robote, s kakršnimi se je srečala Claypool, vse pogosteje uporabljajo v panogah, kot so zdravstvo, trgovina na drobno in restavracije, da bi že vnaprej izločili nekvalificirane kandidate in načrtovali razgovore s tistimi, ki so primerni za delovno mesto.

Niso zelo napredni, postavljajo osnovna vprašanja

McDonald’s, Wendy’s, CVS Health in Lowes uporabljajo Olivio, klepetalnega robota, ki ga je razvilo 1,5 milijarde dolarjev vredno zagonsko podjetje Paradox iz Arizone. Druga podjetja, kot je L’Oreal, se zanašajo na klepetalnega robota Mya, ki ga je v San Franciscu razvilo istoimensko zagonsko podjetje. Podjetje Paradox se ni odzvalo na prošnjo za komentar izkušenj Amande Claypool s klepetalniki.

Večina klepetalnih robotov za zaposlovanje ni tako napredna ali zapletena kot sodobni pogovorni klepetalni roboti, kot je ChatGPT. Uporabljajo se predvsem za preverjanje kandidatov za delovna mesta, za katera se prijavlja veliko ljudi, na primer za blagajnika, skladiščnika in pomočnika pri delu s strankami.

So zelo osnovni in postavljajo precej preprosta vprašanja: “Ali znate uporabljati viličar?”, “Ali lahko delate ob koncih tedna?”

A kot je ugotovila Amanda Claypool, so ti roboti lahko precej nerodni in ni vedno človeka, na katerega bi se lahko obrnili, ko gre kaj narobe. Jasno določeni odgovori, ki jih zahtevajo številni roboti, lahko pomenijo samodejno zavrnitev nekaterih kvalificiranih kandidatov, ki na vprašanja morda ne bodo odgovorili tako, kot bi želel veliki jezikovni model.

Kje so največje težave

Strokovnjaki menijo, da bi to lahko bila težava za invalide, osebe, ki ne znajo tekoče angleško, in starejše kandidate za zaposlitev. Aaron Konopasky, višji pravni svetovalec pri ameriški Komisiji za enake možnosti pri zaposlovanju (EEOC), se boji, da klepetalni roboti, kot sta Olivia in Mya, invalidom ali osebam z zdravstvenimi težavami ne bodo zagotovili alternativnih možnosti, ko gre za razpoložljivost ali delovne vloge.

“Če se pogovarjate s človekom, je to samoumevna priložnost za pogovor o razumnih prilagoditvah,” je poudaril za Forbes. “Če je klepetalni robot preveč tog in če oseba zaprosi za kakšno izjemo, ji klepetalni robot tega morda ne bo omogočil, čeprav je do tega upravičena.”

Gre nekako tako, kot vam Netflix priporoča filme na podlagi tistih, ki so vam bili všeč.

Jeremy Schiff, RecruitBot

Druga težava je diskriminacija. Predsodki v podatkih, ki se uporabljajo za usposabljanje umetne inteligence, lahko v orodja, ki se jih uporablja, vnesejo pristranskost in diskriminacijo.

“Če se klepetalni robot osredotoča na stvari, kot so čas, ki ga potrebujete za odgovor, ali če uporabljate pravilno slovnico in zapletene stavke, vas začne skrbeti, da se bo pojavila pristranskost,” je dejala Pauline Kim, profesorica delovnega prava na Univerzi v Washingtonu, ki se v svojih raziskavah osredotoča na uporabo umetne inteligence v orodjih za zaposlovanje. Vendar je takšno pristranskost težko odkriti, če podjetja niso pregledna v odgovorih, zakaj je bil potencialni kandidat zavrnjen.

Zakonodajne zahteve

Nedavno so oblasti sprejele zakonodajo za spremljanje in urejanje uporabe avtomatizacije pri orodjih za zaposlovanje. V začetku julija je mesto New York sprejelo nov zakon, ki od delodajalcev, ki uporabljajo avtomatizirana orodja, kot so pregledovalniki življenjepisov in razgovori za službo s klepetalnimi roboti, zahteva, da svoja orodja preverijo glede spolne in rasne pristranskosti.

V Illinoisu so leta 2020 sprejeli zakon, ki od delodajalcev, ki uporabljajo umetno inteligenco za analizo video razgovorov, zahteva, da o tem obvestijo kandidate in pridobijo njihovo soglasje.

Pomoč kadrovikom ali njihovo izrinjanje?

Za podjetja, ki želijo zmanjšati stroške zaposlovanja, se zdijo pregledovalniki z umetno inteligenco očitna možnost. “Kadrovski oddelki so pogosto med prvimi, kjer podjetja zmanjšajo število zaposlenih,” je povedal Matthew Scherer, višji politični svetovalec za pravice delavcev in tehnologijo pri Centru za demokracijo in tehnologijo.

“Kadrovska služba je vedno bila strošek podjetja, nikoli ni ustvarjala prihodkov,” je pojasnil. “Klepetalni roboti so zelo logičen prvi korak za razbremenitev kadrovikov.”

Kadrovski oddelki so pogosto med prvimi, kjer podjetja zmanjšajo število zaposlenih.

Matthew Scherer, Center za demokracijo in tehnologijo

To je del utemeljitve ponudbe podjetja Sense HQ, ki podjetjem, kot so Sears, Dell in Sony, zagotavlja klepetalne robote z umetno inteligenco, ki komunicirajo prek besedilnih sporočil in pomagajo njihovim kadrovikom prebijati se med prijavami na tisoče kandidatov.

Podjetje trdi, da je njihov program uporabilo že približno 10 milijonov kandidatov za zaposlitev, soustanovitelj Alex Rosen pa je za Forbes povedal, da takšne številke pomenijo, da je tako nabor primernih kandidatov veliko večji.

“Klepetalnega robota smo ustvarili predvsem zato, da bi pomagali kadrovikom pri pogovoru s širšim krogom kandidatov, kot bi to lahko storili sami,” je dejal in dodal obvezno opozorilo, “menimo, da umetna inteligenca ne bi smela sama sprejemati odločitev o zaposlitvi. Tu postane nevarno. Mislimo, da se to še ne dogaja.”

Podjetje RecruitBot uporablja umetno inteligenco pri zaposlovanju, tako da s strojnim učenjem preseje podatkovno zbirko 600 milijonov kandidatov za zaposlitev, ki izhaja iz javno dostopnih podatkov in portalov s ponudbo delovnih mest.

Tako želi pomagati podjetjem najti kandidate za zaposlitev, ki so podobni njihovim trenutnim zaposlenim. “Nekako tako, kot vam Netflix priporoča filme na podlagi tistih filmov, ki so vam bili všeč,” je za Forbes povedal izvršni direktor in ustanovitelj Jeremy Schiff.

Številni primeri pristranskosti

Vendar je tudi tu pristranskost očitna skrb. Zaposlovanje več med seboj podobnih ljudi ima svoje pasti. Leta 2018 je Amazon odstranil svoj sistem za sledenje življenjepisom, ki je temeljil na strojnem učenju in je diskriminiral ženske, ker so bili učni podatki sistema večinoma sestavljeni iz življenjepisov moških.

Urmila Janardan, politična analitičarka pri neprofitni organizaciji Upturn, ki raziskuje, kako tehnologije vplivajo na priložnosti za ljudi, je opozorila, da so se nekatera podjetja odločila tudi za osebnostne teste, da bi lažje izbrala med kandidati, pri čemer vprašanja za preverjanje morda sploh niso povezana z delom.

“Lahko se celo zgodi, da ne pridete v poštev za delovno mesto zaradi vprašanj o hvaležnosti in osebnosti.”

Lahko se celo zgodi, da ne pridete v poštev za delovno mesto zaradi vprašanj o hvaležnosti in osebnosti.

Urmila Janardan, Upturn

Za Ricka Gneda, občasnega slikarja in pisatelja, je bil osebnostni test del razgovora s klepetalnim robotom, ki ga je opravil, ko se je potegoval za delo v avstralskem supermarketu Woolworths.

Šlo je za zlaganje blaga na police in plačilo po urni postavki. Klepetalni robot, ki ga je izdelalo podjetje Sapia AI (prej znano kot PredictiveHire), ga je prosil, naj na pet vprašanj odgovori s 50 do 150 besedami, nato pa je analiziral njegove odgovore in poiskal lastnosti in veščine, ki ustrezajo željam zaposlovalca.

Robot je ugotovil, da se Gned “dobro spopada s spremembami in da je bolj osredotočen na celotno sliko, zaradi česar se ne ozira na podrobnosti”, in ga uvrstil v naslednji krog razgovora. “Čeprav Sapia AI od kandidatov ne zahteva, da na vprašanja odgovarjajo v časovnem roku, sistem meri strukturo stavkov, berljivost in zapletenost besed, uporabljenih v besedilnih odgovorih,” je v elektronskem sporočilu povedala izvršna direktorica in soustanoviteljica podjetja Sapia AI Barb Hyman.

Sistem Sapia AI meri strukturo stavkov, berljivost in zapletenost besed, uporabljenih v besedilnih odgovorih.

Gned je za Forbes povedal, da se mu je vse skupaj zdelo nečloveško in skrb vzbujajoče. “Ko gre za demografijo, sem pripadnik družbe, na katerega to ne vpliva, vendar me skrbi za ljudi, ki so pripadniki manjšin in ki pretežno nastopajo na trgu dela z manjšimim dohodki.”

Za enega od kandidatov za zaposlitev, ki je želel ostati anonimen, da bi lahko govoril povsem svobodno, je imelo klepetanje z botom vsaj eno pozitivno plat. Poslal je že stotine prošenj za zaposlitev in pogosto ne dobi odgovora, klepetalni robot pa mu je vsaj zagotovil, da je njegovo prošnjo prejel. “V veliko ozirih je bila to moralna spodbuda,” je dejal. “A če bi si moral pošiljati SMS-sporočila s klepetalnim robotom vsakič, ko bi kandidiral za delovno mesto, bi bilo to precej nadležno.”

Avtor članka je Rashi Shrivastava.