讓AI找人才 首要克服道德爭議

台灣數位匯流網 |林語柔

台灣數位匯流網記者林語柔/編輯報導

AI(Artificial Intelligence)面試官要來了?人工智慧科技發展快速,柏克萊(The University of California, Berkeley)大學推出「Predictim」AI程式,用AI替孩子的監護人篩選出適合的人來當保母。Amazon(亞馬遜)公司也曾運用AI替他們審查應試人員資料,以過去十年來的履歷資料作為依據,讓AI對應試資料做出判斷。

柏克萊大學的創業團隊已推出「Predictim」程式,一種幫助人們篩選保母的AI人工智慧服務。「Predictim」會檢視保母應徵人選的社群網站,例如Facebook、Twitter和Instagram等網路帳號內容,做成一份調查報告,估測該人選是否曾有騷擾、欺凌別人,或是有濫用藥物的可能性。

「Predictim」的保母篩選系統,基於保母應該具備良好的品性以及人格特質,進而有了搜索應試保母人選的社群網站的相關功能。目標是替需要找保母的人,找到最值得信任的人選。

根據《The Washington Post》報導,「Predictim」是由研究人員Sal Parsa和 Joel Simonoff所提出,未來不只希望能運用在保母人選的篩選,更希望能把這項服務延伸到任何其他雇用需求上,例如家教、護理師等更多領域,以此也希望能加強雇主對應試者的信任感。

《The Spokesman-Review》進一步報導此系統的操作實例,一位29歲的母親Jessie Battaglia,花24.99美元用「Predictim」篩選了一歲兒子的保母人選。「Predictim」會標出幾項人格項目,來估測保母人選,並以風險評估的方式,表示是否建議選擇該人選。

舉例來說,Jessie Battaglia所挑選的保母人選,在「欺凌、騷擾、態度不好和不尊重人」的項目得到5分之2的高風險指數。但此種風險評估數字型的計分,無法讓Jessie Battaglia進一步查詢「Predictim」給這位保母人選這個分數的原因,這使Battaglia相當懊惱。

用AI幫助面試資料審核的技術,人工智慧領域專家們更擔心的是,這類型的AI演算法很可能會帶來各種歧視問題,《Reuters》報導就指出,亞馬遜曾經使用的人工智慧演算法,針對女性的應試資料帶有歧視,只要偵測到「女性」相關詞語,便會在AI調查結果報告中對應試者扣分。

原因這套AI篩選系統,是將過去十年來的履歷資料作為依據做判斷,亞馬遜大部分錄取的都是男性,導致系統認定男性應徵者更符合公司需求,一旦履歷表中出現「女性」(woman)二字,甚至應徵資料中的學歷為「女子大學」,系統都會進行扣分,最後亞馬遜已暫停使用此AI系統為公司篩選應試者資料。

是否未來會出現AI面試官替人選用人才?目前相關AI系統最大的問題似乎是歧視的問題,由於AI會透過字詞來做出相關判定,這就像是為每個人貼上標籤,外界擔心會因此造成AI判定結果不夠人性化,進而被認為是在歧視某些人,另外,例如「Predictim」會針對應試者的社群帳號去搜索相關資料,也可能會涉及相關隱私的問題。

想用AI替人類分擔工作,但是若應用在人類身上,根據相關數據就對人做出判定,難免會有道德爭議。不過隨著AI發展越來越進步,未來的AI應用還是令人期待。

 

訊息來源:The Washington Post、The Spokesman-Review、Reuters

圖片來源:PEXELS

更多台灣數位匯流網報導
2019原住民語言國際年 靠AI拯救消失的語言
Google Duplex 讓AI幫忙訂餐廳!

【讀者投書】

台灣數位匯流網歡迎各界踴躍發聲,來稿請寄至tdcpress.com@gmail.com,並請附上姓名、聯絡方式、職業與簡介。本網有權決定是否刊登及刪修之權利,本網不支付稿酬,且文責自負。

【請標明原文出處與原始連結方可轉載】

你可能還想看