【科技.未來】用人工智能請人 是消除還是延續偏見?

撰文:
最後更新日期:

人力資源(HR)部門在公司需要裁員時毫不手軟,但這部門似乎開始面臨被大幅取替的危機。

在美國財經新聞媒體CNBC上月初舉辦的人力資源峰會上,IBM行政總裁Ginni Rometty聲稱,其人工智能(AI)系統Watson可預測員工將離職,準確率高達95%。

事實上,幾乎每間《財富》世界100強公司都已設有數據分析團隊;一些公司已把AI或自動機器應用至招聘和在職培訓上,可提高招聘效率及改進完善HR部門功能。

雖然這些公司聲稱,交由AI或機器招聘面試可避免先入為主,但用了AI就沒有偏見嗎?

分析求職者性格 用人工智能請人更好?

HireVue的AI從視像面試分析應徵者的「微表情」,再評分排名。(HireVue官網)

人臉辨識技術中存在的偏見至今仍未解決。亞馬遜提供給警方執法的人臉辨識系統Rekognition,去年就被發現錯誤把28名美國國會議員列為通緝犯,而且誤認的人有四成都是有色人種,比國會中有色人種佔兩成的比例為高。 美國康奈爾大學社會學及法律教授Ifeoma Ajunwa因此質疑HireVue的「微表情」是否可靠:「重點是根本沒有清楚、既定的規律表示某份工作到底需要什麼面部表情。應徵者可能因為與該工作無關的表情而被淘汰。」

瑞典招聘平台TNG聲稱,使用其面試機械人TENGAI可消除人類偏見。(TNG提供照片)

歸根結柢,機器和演算法也是人類所寫。非牟利組織Upturn去年底發表報告,分析多種招聘演算法的成效和社會影響,作者之一Aaron Rieke指出:「招聘過程長年受人類偏見左右,任何聲稱單靠機器學習演算法就能解決的做法都是不真實的,人臉辨識技術一般對女性和有色人種較不準確。即使假設VCV等公司真的能評估『情緒』或『行為』,仍不知道將如何協助招聘者評定應徵者。若『適當』的禮儀是從公司現有、同類的員工而釐定,有所差異的應徵者就可能被扣分。」

職業顧問公司ReadySet行政總裁Y-Vonne Hutchinson說:「我們試着不視AI為萬能藥。AI是人製作出來的工具,可能會擴大了製作者的偏見和盲點。」要令這工具有效,「使用這些程式的招聘者必須受訓,找出自己和他人的盲點。」欠缺這種多樣性訓練,人類招聘者只會把既有偏見強加到招聘渠道的不同環節。

Deepfake假得迫真 深度造假模糊真相 什麼才可信?
人工智能促進生產 垂直農場的新型農夫

HR如何使用AI及自動機器

招聘平台Textio分別協助僱主和應徵者撰寫招聘廣告和求職電郵,以減少偏見。其行政總裁Kieran Snyder指出,以公司自身收到的履歷資料建立的招聘工具,與外部科技公司用以篩選數以百萬計求職者所用的不同:「你需看數千間公司的數據點。若你只看自己公司的,AI不單止幫不到你,還會讓你不斷重複既有問題。」

這正是亞馬遜的失敗例子。路透社去年10月報道,有五名消息人士透露,亞馬遜自2014年起開發AI演算法作為招聘工具,評估應徵者履歷並給予1至5星評分,希望最終能自動搜尋優秀人才。翌年,亞馬遜發現系統有性別偏見,那是因為亞馬遜以過去十年該公司收到的履歷來訓練演算法找出合適的應徵者,而這些履歷幾乎都是男性的。結果亞馬遜的演算法被「教導」成男性優先,若履歷中帶有「女性」字眼,例如「女子象棋隊長」,就會扣分,有消息指兩名從女子大學畢業的應徵者因此被扣分。系統也偏愛那些使用較多出現於男性履歷的動詞的應徵者,例如「執行」、「捕捉」。亞馬遜最終在2017年初停止使用這系統。

人工智能結合生前數據 人類可得「永生」?
人臉辨識成多國執法新潮 環形監獄時代來臨?

亞馬遜曾開發AI招聘工具,但最終因有偏見而棄用。(美聯社)

即使這套工具沒真正用作招聘,行業分析師Josh Bersin仍警告:「這是完美的反例子,是AI用作招聘的最大風險,會延續我們所有既有偏見。」 Ajunwa則補充:「自動招聘系統的影響,將比一個有偏見的人類經理大得多。」

卡耐基梅隆大學計算機科學家Nihar Shah認為,這些系統要廣泛應用甚至取代人類,仍須努力:「要確保演算法公平、能夠解讀和解釋,仍然有很遠的路要走。」雖然去年初Gartner的調查發現,43%受訪的合作公司有使用演算法協助招聘,但諮詢公司Gartner人力資源實務副總裁Brian Kropp透露,幾乎所有公司都把演算法產生的「分數」作為參考,最終仍要人類來決定要僱用誰。

演算法畢竟由人所寫,若人類本身沒有消除偏見,所寫的招聘演算法也很可能只會延續原有偏見。(IBM Watson Analytics圖片)

Kropp表示,有些公司正初步進行為期三至六個月的實驗,讓演算法為大量或低層職位如售貨員和客戶服務等作最終聘用決定,但暫時發現,「演算法似乎與人類經理的決定差不多,沒有特別好。」德勤(Deloitte)人力資源實務主管Michael Gretczko更為看淡:「當去到最終決定要不要僱用誰時,需要點直覺。」而這正是人類強項,「現時是,不久將來也是。」

因此Rieke說:「我們需要更多資訊,了解這些系統如何設計和測試。一日未能實現,我都會保持懷疑。炒作遠遠走在事實之前。」

相關文章:
從招聘到挽留員工 人工智能如何改革人事部?
分析求職者性格 用人工智能請人更好?

上文節錄自第162期《香港01》周報(2019年5月14日)《人才招聘悄悄演變 AI做HR好過人類?》。

更多周報文章︰【01周報專頁】
《香港01》周報,各大書報攤、OK便利店及Vango便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。

【科技.未來】更多人工智能相關文章:
機器也有創意? 人工智能成藝術家新寵
藝術家以人工智能創作 是工具還是合作夥伴?
診症能力媲美人類 人工智能將成未來醫生?
要取代人類醫生 人工智能還欠甚麼?



X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。