【科技.未來】人臉辨識欠指引 或加劇有色人種針對

撰文:
最後更新日期:

近日有公司免費提供美、加中小學(K-12)人臉辨識系統,聲稱可加強校園安全。惟效用成疑之外,還可能導致其他惡果。

過往從事串流業務的RealNetworks(例如港人較熟的RealPlayer),其開發的人臉辨識工具SAFR上周起,可供美國及加拿大的學校——由幼稚園到高中(K-12)免費下載,校方可自行升級校園保安鏡頭。惟效用成疑、反對者擔心侵犯私隱之外, 以現時技術,在美國還可能加劇現存對有色人種偏見,更重要的是對於種種問題仍未有使用共識。(前文:《【科技.未來】人臉辨識引入校園 以安全為名的監控》

準確度成疑 加劇種族不公

紐約公民自由聯盟(NYCLU)、法律辯護基金會等維權組織還擔心人臉辨識或會帶來惡果,成為另一種針對有色人種學生的手段。美國公民自由聯盟曾去信亞馬遜寫道:「人臉辨識技術有偏見,錯誤辨認非裔美國人,而且所依賴的資料庫,是由司法制度中充滿歧視的記錄建立而成。」

事實上,近年有好些研究指出,現時的人臉辨識工具辨識黑人女性的準確度奇低,例如麻省理工一項研究發現,IBM的軟件辨認黑人女性的成功率只有65%。雖然SAFR在一項測試的準確率達到99.8%,但格拉沙也坦承,他的公司並未測試過SAFR對於有色人種的準確度是否與白人一樣,不過他強調識別系統刻意設計為,只會推算人的年齡和性別,而不會推算人種,以避免種族歧視指控。

美國麻省理工Media Lab電腦科學家Joy Buolamwini的團隊,曾分析三間大型科技公司的人臉辨識技術,在辨識黑人女性上明顯較差。(MIT Gender Shades 網頁截圖)

美國政府責任署(GAO)4月發表調查,發現在類似的違規情況下,黑人學生比白人更容易受罰,受罰程度也較重。「這將會加劇現存的種族矛盾,不論是監控還是懲罰。」古錫擔心說。

人臉辨識初創公司FaceFirst行政總裁查普(Peter Trepp)補充,人臉辨識技術用於青少年或兒童仍存在困難,因為他們的面容易隨成長過程變化,而且系統也無法辨識對象長大成人才漸有的面容特徵。因此,人臉辨識或有可能誤把好學生當罪犯。

因此,不是每個人臉辨識業者都對學校有興趣。人臉辨識公司Kairos的客戶包括第一資本(Capital One)、宜家家居(IKEA)及百事公司(Pepsi Co.),Kairos行政總裁碧堅(Brian Brackeen)認為,若在校園使用辨識系統,對公司來說「太危險」。

2015年一名網頁開發者發現,他一位女性朋友的肖像被Google辨認為大猩猩(Gorillas)。雖然Google曾為此公開致歉並承諾改進,但據《連線》雜誌(Wired)本年1月的追查報導,Google Photos只是因嚥廢食地不讓其演算法辨認整個大猩猩類別,未有真正解決問題:

欠使用指引 有待政府介入

業界多以商業秘密為理由,拒絕透露如何設計和檢測監控系統,一些家長提出擔心也未獲回應。修茲(Jim Shultz)有一名15歲女兒在紐約讀書,校方正大灑金錢安裝人臉辨識監察系統。他對《華盛頓郵報》(Washington Post)說:「所有這些問題都沒有得到回答:在什麼情況下孩子的臉會被系統記錄?是否需要先得到家長同意?誰可以作人臉辨識搜尋?這好比有人送了一架全新的靚車給他們,卻懶得揭開引擎蓋看看。」

RealNetworks只會在批核過程中查核申請機構是否「真學校」,然後由學校自行安裝使用。對於學校如何使用SAFR、數據儲存多久、是否需要徵求參與者同意等,並無任何指引。現時美國也沒有聯邦法律規管人臉辨識技術,只有伊利諾伊州(Illinois)和德克薩斯州(Texas)立法規定業界必須在收集「人臉圖像」(faceprints)等生物特徵資訊前,需先徵求對方同意。

微軟主席Brad Smith近日撰文呼籲政府規管人臉辨識使用。(資料圖片;視覺中國)

鑑於人臉辨識仍有眾多問題尚待解決,微軟主席史密夫兩周前在微軟官方博客撰文,一方面坦承科技業界對人臉辨識的想法仍有改善空間,另一方面主動要求政府規管這門技術。他認為人臉辨識就如汽車、食品及藥物等,立例規管才能給予大眾信心:「如果只有幾間科技公司自律,問題仍會存在……一個對具有潛在好處的產品積極規管的世界,更勝於一個毫無法律監管的世界。」他提議美國國會任命委員會研究人臉辨識,並提供監管建議。事實上,聯邦貿易委員會(FTC)早於2012年發表過研究報告和建議,惟國會一直未有跟進立法。

RealNetworks的格拉沙歡迎政府介入,解決倫理問題:「這不只是科幻小說,而是逐漸成為重要的討論問題。關心這些議題的人需要參與,不只是因為擔心而參與,應嘗試提出解決方法。若提供人臉辨識系統的人視私隱如無物,情況將會很壞。」

上文節錄自第121期《香港01》周報(2018年7月23日)《人臉辨識趨普及 安全與私隱角力》。

更多周報文章︰【01周報專頁】
《香港01》周報,各大書報攤及便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。



X
X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。