【科技.未來】人臉辨識成多國執法新潮 環形監獄時代來臨?

撰文:
最後更新日期:

「歌神」張學友去年化身「逃犯剋星」,其演唱會至今已助內地警方緝拿了60名罪犯。背後「功臣」——人臉辨識(facial recognition)技術近年備受多國警方及科技巨擘追捧,英國倫敦在剛過去的聖誕節也開始測試。

不過,這項技術也潛藏危機,不但辨識往績差,微軟及多個人權組織還提醒,目前幾乎沒有法例可以監管。這套引發侵犯私隱爭議的技術令人聯想到十八世紀哲學家邊沁(Jeremy Bentham)設計、具全景式監視功能的「環形監獄」。

各地政府都樂於使用人臉辨識,中國可能是最積極的。除了以此技術在深圳阻止行人亂過馬路、在天壇防止遊人拿取過多廁紙外,北京更將之應用至公屋,當地政府在47個公共屋苑安裝人臉辨識系統,收集了約10萬名租客容貌,以防止違規轉租等行為。違規者五年內不得再申請公屋,並會在國民信用系統留下記錄;當局預計在今年6月底前把相關系統擴展至市內所有公屋。

北京更將之應用至公屋,當地政府在47個公共屋苑安裝人臉辨識系統,收集了約10萬名租客容貌,以防止違規轉租等行為。圖為北京太平橋西里小區引入人臉辨識門禁系統。(視覺中國)

成警方執法新寵

人臉辨識在執法上似乎展現了一定潛力。去年4月,印度新德里警方就以人臉辨識技術,在四日內尋回近3,000名失蹤兒童;同年6月,美國馬里蘭州《首都報》(Capital Gazette)報社槍擊案的疑犯Jarrod Ramos不配合搜查,警方無法收集其指紋,唯有將其容貌與該州影像資料系統(MIRS)內過千萬張照片及FBI的2,500萬張嫌犯大頭照(mugshot)對比,最終才確認其身份。

各地執法機關正密切試驗這項「執法新寵」。上月底,英國倫敦警察(Met Police)在市內Soho、Piccadilly Circus、Leicester Square等地展開為期兩天的人臉辨識系統測試。該系統會掃描途人樣貌,與警方通緝資料庫比照,若發現脗合者便會通知警方,檢驗對比結果後再派員上前確認身份。掃描器置於當眼處,並有穿着制服的警員在旁,每天運作約八小時。倫敦警方聲稱,途人有權要求不被掃描,所有錄像會在試驗完成後立即銷毀,脗合的樣貌也只會保存30天。英國警方未來將於運動比賽、音樂節、交通樞紐等場所作更多試驗。

美國佛羅里達州奧蘭多市和俄勒岡州華盛頓縣警方正使用亞馬遜(Amazon)所開發的系統測試人臉辨識技術。美國特勤局(United States Secret Service,簡稱USSS)自去年11月中也開始於白宮外圍辨識可疑人物樣貌,測試期將持續至本年8月底。

私人公司也開始參與配合這項執法科技。例如澳洲航空(Quantas)就在去年7月宣布讓乘客使用此技術登機;達美航空(Delta Airlines)也在上月初宣布在亞特蘭大機場推行類似計劃;悉尼機場行政總裁Geoff Culbert曾說,在未來,「你的臉就是護照」;美國票務公司Ticketmaster投資初創公司Blink Identity,研究以人臉辨識加快觀眾入場及杜絕黃牛。這項技術甚至被美國當紅歌手Taylor Swift用來對付跟蹤狂。去年5月她在洛杉磯玫瑰碗(Rose Bowl)運動場舉辦演唱會的時候,在場外暗地裏安裝了人臉辨識系統,藉以比對積犯資料庫,以監察跟蹤狂出沒。 

警方如何使用實時人臉辨識系統

充斥誤判與偏見

然而,在成功緝捕的案例背後,人臉辨識或有更多誤判的情況。英國倫敦、李斯特郡(Leicestershire)和南威爾斯(South Wales)的警方正在測試日本NEC開發的人臉辨識系統。南威爾斯副警察總長Richard Lewis說,運動比賽或音樂會等大型活動一般需要動員30至40名警員在現場監察,看有沒有觀察名單上的人物出現,經費削減令該局開始試用配備人臉辨識系統的貨車。過去一年,貨車已出動20次,拘捕了27人。

不過,南威爾斯警方公布的數據顯示,從2017年卡迪夫城舉行的歐聯決賽算起,該辨識系統發出了2,470次比照脗合警告,當中有2,297次(93%)是錯誤的。卡迪夫大學(Cardiff University)去年11月發表的報告進一步揭示,該系統基本上由兩個部分組成:其中,「定位」(locate)根據觀察名單所需,以鏡頭實時捕捉容貌,其成功率和失敗率分別為26%和50%;「辨認」(identify)將所得的定格影像與警方資料庫比對,成功率為22%,失敗率則為9%。研究人員解釋,定位系統面對大量人群時會「定格、延遲、失靈」,當衣飾(如眼鏡)遮蔽部分臉部或行人慢跑時,準確率會下降;鏡頭在光線不足的情況下,也會無法有效運作。

在卡迪夫城舉行的2017年歐聯決賽中,威爾斯警方首次使用人臉辨識系統,惟準確率奇低。(視覺中國)

英國諾桑比亞大學(Northumbria University)鑑證科學教授Martin Evison補充,警方使用人臉辨識搜尋時需要小心調校:「若要緝拿罪犯,你需要把搜尋門檻降到足夠低,才不會有漏網之魚,但這無可避免會造成大量誤判。」卡迪夫大學犯罪與保安研究院總監Martin Innes則指出,應在「技術的優點和監控對公共空間的危害」之間取得平衡:「可能大眾會認為這種技術適用於某些情況,例如兒童性侵、暴力犯罪,但對於某些情況,例如消除反社會行為,則不太妥當。」

南威爾斯警方和NEC系統的失誤並非孤例,這種紕漏同樣出現在廣泛應用人臉辨識技術的中國。去年11月,格力電器董事長董明珠的樣貌和部分身份證號碼出現在寧波一條馬路的電子屏幕上,惟「亂過馬路」的其實是一輛印有她肖像廣告的巴士。

大陸正使用人臉辨識系統,防止途人亂過馬路。惟準確度成疑,去年末曾誤判巴士車身廣告上的格力電器董事長董明珠「亂過馬路」。(視覺中國)

「陷害忠良」之餘,有些系統甚至還充滿偏見。美國公民自由聯盟(ACLU)去年測試了亞馬遜的人臉辨識系統Rekognition,對比全數535名國會議員與25,000張嫌疑犯大頭照。嫌疑犯中沒有國會議員,但Rekognition卻有28個錯誤結果,而且,錯誤結果中有39%為有色人種,但現實中有色人種只佔國會議員20%。ACLU認為這不合比例的錯誤結果反映系統充滿種族歧視。

人臉辨識基於人工智能(AI)深度學習(deep learning)的應用,因此一些公司認為,假以時日,偏見將會隨「學習」而消失。NEC美國聯邦業務營運副主席Benji Hutchinson堅稱其公司已不斷花錢改進演算法:「數學沒有偏見,沒有種族歧視。有些公司的算法不好,又沒有投入研發,自然在某些種族的錯誤率較高,這只是算法的問題。」人臉辨識公司Kairos行政總裁Brian Brackeen亦有相同看法。

但ACLU自由技術計劃總監Kade Crockford不完全同意上述說法:「技術上的偏見不是唯一問題,警方用作對比資料庫的嫌疑犯大頭照亦存在偏見。一直以來,警方在執法上都戴着有色眼鏡,差不多所有輕微的罪行,例如駕駛執照過期、小額偷竊、擅闖土地、行為不檢等,有色人種的被捕人數都不合比例。尤其是吸食大麻,今時今日,紐約相關罪行的被捕人士有90%是有色人種——不是因為白人不會公開吸食,而是白人幾乎不會被捕。這就是偏見,把這種資料庫當作中性的科技來使用,只會令這種偏見被寫入法例。」

美國剖分州警署正試用Amazon的人臉辨識系統Rekognition。惟ACLU指其系統充滿種族偏見。(AWS News Blog圖片)

冒犯私隱惹眾怒

英國資訊專員Elizabeth Denham曾在博客撰文評論警方引入人臉辨識系統協助執法,她肯定人臉辨識對公共安全「有明顯好處」,但卻說它「極具侵入性」,並代表了「重要轉變的一步,守法人民的日常生活將受監控」。

Taylor Swift的演唱會正是一例。理論上,演唱會屬於私人活動,主辦方沒有義務向觀眾說明他們將被監控,直到場地高層上月接受美國《滾石》(Rolling Stone)雜誌訪問爆料,公眾才得悉事件。民權組織電子前哨基金會(Electronic Frontier Foundation)律師Jennifer Lynch擔心:「如果沒有人提起,我們如何得知?」她憂慮Taylor Swift會像美國大型零售商Target和萬豪酒店(Marriot)般洩露數據,繼而引發集體訴訟。

這種不透明或會帶來更嚴重的後果。美國數學家Cathy O’Neil曾出版《大數據的傲慢與偏見——一個「圈內數學家」對演算法霸權的警告與揭發》(Weapons of Math Destruction :How Big Data Increases Inequality and Threatens Democracy)一書,講述大數據如何威脅民主。她認為只有當大家都同意警方的監察名單時,人臉辨識才能合乎法理地應用於執法之上:「在社會裏要拘捕什麼人,終究是政治決定。」

英國綠黨議員Jenny Jones曾被警方列入監察名單,她質疑警方使用人臉辨識過程是否透明。(視覺中國)

英國綠黨議員Jenny Jones對此或深有同感。2014年,她發現自己在公開批評警方後被列入「本土極端份子」的監察名單中。她認為監察名單不透明,正就警方使用人臉辨識尋求司法覆核:「我極度憂慮倫敦警方使用人臉辨識系統影響我履行民主職責。警方使用這種技術並無法理基礎,而且侵害人權和公民自由。這是我要求倫敦警方立即停用的原因。」

不少人權組織反對英國警方的測試。Big Brothers Watch(BBW)在聲明中說:「在公眾地方監控無辜平民,違反私隱、言論自由和集會自由等基本人權。」BBW總監Silkie Carlo更批評人臉辨識「把社會大眾變成會行走的身份證」。該組織正發起眾籌,希望以法律行動要求倫敦警方停止使用人臉辨識系統。另一人權組織Liberty則正協助卡迪夫市民Ed Bridges,就南威爾斯警方使用人臉辨識提出司法覆核。Ed Bridges懷疑自己在一場和平的反武器示威中,被警方的人臉辨識貨車拍下了容貌,而貨車的存在令他不安。

以上所反映出更問重的問題是,現時就如何使用人臉辨識,幾乎沒有法例監管。請詳見另文《人臉辨識無法可依 是時候監管了?

上文節錄自第145期《香港01》周報(2019年1月7日)《人臉辨識無法可依 環形監獄時代來臨?》。

延伸閱讀:
人臉辨識引入校園 以安全為名的監控
人臉辨識欠指引 或加劇有色人種針對

瀏覽更多周報文章︰【01周報專頁
《香港01》周報於各大書報攤、OK便利店及Vango便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。



X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。