【科技.未來】人臉辨識無法可依 是時候監管了?

撰文:
最後更新日期:

中、英、美警方正密切試用人臉辨識系統執法,惟現時準確率低,對有色人種有偏見,而且執行過程不透明,或侵犯市民私隱。

更令人憂慮的是,面對上述種種問題,現時幾乎沒有法例監管人臉辨識使用。

ACLU自由技術計劃總監Kade Crockford看不到現時的制度可如何保障大眾。她以警方竊聽與人臉辨識作比較:「若警方沒有先向法院申請手令,電訊公司不可透露任何資訊。這建立了一重保障,而且實際用作竊聽的設備是屬於第三者,即電訊公司,而非執法部門。但人臉辨識無法依樣畫葫蘆,執法者想要的和亞馬遜正在推動的,都是在警方內部安裝設備。我們現時沒有任何公民社會或政府架構可確保執法者不會濫用技術。」

美國喬治城大學法律中心(Georgetown University Law Center)私隱及科技中心成員Clare Garvie指出了人臉辨識無可避免被濫用的癥結所在:

在某種意義上,你可以說不存在人臉辨識被濫用的問題,因為根本沒有法例監管警察如何使用。」

ACLU曾去信正測試Rekognition系統的奧蘭多市警方,詢問系統使用是否有正式指引,獲得的回覆是:「由於這是先導計劃,沒有訂立任何相關政策。」 Lynch形容這是「法律追不上科技的典型例子」。英國同樣沒有針對人臉辨識的法例,資訊專員辦公室(ICO)副專員Steve Wood坦承,現時唯一涵蓋警方如何使用外部影像的法律,是歐盟的《一般資料保護規定》(GDPR)。

去年微軟、亞馬遜、Google的員工先後反對公司向政府出售人工智能服務。有業者因而轉趨保守,而微軟主席Brad Smith則在上月主動要求立例監管人臉辨識。(視覺中國)

上月初,由微軟、Google等員工組成的紐約大學AI Now研究院發表報告,呼籲政府規管人工智能,當中便包括人臉辨識。同日,微軟主席Brad Smith在公司網誌撰文,就人臉辨識的透明度、私隱和監控等問題的基本立法方向提出建議,並鼓勵政府盡快行動:「應在2019年開始訂立法例規管這種技術。人臉辨識才剛冒起,除非我們行動,否則五年後或會驚覺人臉辨識的發展已加劇了社會問題,屆時的挑戰將更大。我們必須確保2024年不是《1984》。」

Garvie的上司Alavro Bedoya認為,人臉辨識應該受到監管:「不少科技的私隱都受到監管,信用卡、健康記錄、觀看電視習慣、租碟記錄都受保護。事先取得人們同意是簡單且十分合理的事。」但業者之一的Hutchinson就希望不要過度立法限制:「人臉辨識的好處都被質疑的聲音掩蓋了。這是相當成功的科技:制止過恐怖襲擊,成功在街上拘捕罪犯,讓我們在機場可快捷地通行,也減少排隊和等候時間,令我們的生活變得更好。」

有論者指應視乎情況禁用人臉辨識,例如若用於警員配備的鏡頭,他們或沒有足夠時間確認辨識結果,影響行動公允。(視覺中國)

Garvie則提出,有些情況完全不適合使用實時人臉辨識,例如警察穿戴的攝錄機。雖然這些鏡頭是重要的搜查工具,也可作為警員行為的備份,但Garvie警告應用人臉辨識的後果可以很嚴重:「現存的人臉辨識系統大多數都另有真人把關,有足夠時間驗證。(人臉辨識)用在穿戴鏡頭,它就變成了最後判官。配對脗合的警號傳到耳機或移動裝置,那名佩槍警員只有一瞬間決定那人會否威脅公眾安全。」Bedoya補充:「(人臉辨識)不應用於兒童或18歲以下人士身上。一些敏感地方如醫院、診所或學校,即使他們同意也不應該使用。情況一如沒人想設監視鏡頭於浴室之內。」

基於技術和私隱爭議,過去一年,微軟、亞馬遜、Google的員工先後反對公司向政府出售人工智能服務。欠缺規管下,ACLU科技及公民自由總監Nicole Ozer認為,只能悲觀地寄望亞馬遜之類的公司和警方自律,有限度地使用人臉辨識:「立法很緩慢,但隨着這項危險的科技逐漸來臨,有很多事情需要改變。」Google近日決定不會向雲端客戶提供人臉辨識服務;電槍和隨身攝錄機生產商Axon則表示,不會在警員佩戴的攝錄機上加入人臉辨識功能。惟亞馬遜行政總裁貝佐斯(Jeff Bezos)在去年10月仍表示,將「繼續支持」美國國防部,其公司至今仍然未提供人工智能使用指引。

Hartzog認為人臉獨特於其他身分辨認特徵,因此主張完全禁用人臉辨識。(視覺中國)

當監控成為常態

相較於支持部分禁止人臉辨識的聲音,美國東北大學(Northeastern University)法律與電腦科學教授Woodrow Hartzog與羅徹斯特理工學院(Rochester Institute of Technology)哲學教授Evan Selinger主張全面禁止使用人臉辨識技術。Hartzog指,幾乎所有科技都可透過監管來判斷特定禁止使用的情況,從而避免傷害並保護某些特定的價值和權利,因而毋須完全禁止,但人臉辨識必須被區別看待。他稱人臉辨識為「人類發明過最獨特而危險的機制」,是「政府和私人公司監控獲利的最後拼圖」,危險與效益比率極不平衡,值得考慮全面禁止。

Hartzog解釋,人臉辨識與定位、社交媒體、搜尋歷史等各種數據,甚至其他生物辨識(biometrics)如指紋、DNA樣本、瞳孔掃描等,有五點不同之處。

首先,人臉難以改變或隱藏,不像硬碟、電郵、短訊等可以加密,可被鏡頭在遠距離輕易拍攝後傳送至雲端。其次,現時已有不少包含姓名和樣貌的資料庫,例如車牌、嫌疑犯照、社交媒體個人資訊等,加入人臉圖像後將可輕易濫用這些資料。

而且,有別於過往監控系統不斷需要新穎而昂貴的硬件或數據,人臉辨識數據來源廣泛,閉路電視和穿戴攝錄機都是現成硬件。再者,人臉辨識或會成為全面監控的引爆點(tipping point)。紐約州州長Andrew Cuomo曾說,加入人臉辨識後,掃描車牌將會「提升到全新的層次」。

Hartzog認為人臉辨識最大的危機將在於它變成常態,屆時再也回不去了。(視覺中國)

最後,人臉是身份辨識的重要一環,連接我們線上線下生活,串聯所有實名、匿名或偽匿名活動。「我們很容易以為人臉私隱不重要,因為我們每天都在公開露面。畢竟在流行穿着罩袍(burka)以外的地區,遮臉只會惹人懷疑。」

Hartzog認為,「取得知情同意」的法律框架漏洞處處,無甚監管作用。伊利諾州的生物特徵辨識資訊法案號稱全美國最嚴,公司採集生物特徵前必須先徵得客戶知情同意,消費者若有感權利受侵害即可提出訴訟。當地一群Google相片用戶就因為未經同意下,被Google擅自從其上載的照片中收集和儲存容貌特徵,在2016年入稟索償;Facebook和Snapchat也在該州涉及同類訴訟。惟Google一案在上月底卻被法院以原告沒有受到「明顯損害」為由駁回。判決或多或少呼應了Hartzog的說法。

Selinger進一步指出,大眾一旦習慣使用這項技術,認為沒有人臉辨識技術將無法過活 —— 一如現時人臉辨識技術在消費界別所推動的「讓它看起來平常,且毋須擔心」,就會如Hartzog預期般:「人們將不知道,在不受自動系統監控和存檔的情況下,身處公眾地方是什麼感受。在這種世界,對人臉辨識技術的批評將被削弱、滅聲或不再存在。」

上文節錄自第145期《香港01》周報(2019年1月7日)《人臉辨識無法可依 環形監獄時代來臨?》。

相關文章:
人臉辨識成多國執法新潮 環形監獄時代來臨?

延伸閱讀:

人臉辨識引入校園 以安全為名的監控
人臉辨識欠指引 或加劇有色人種針對

瀏覽更多周報文章︰【01周報專頁
《香港01》周報於各大書報攤、OK便利店及Vango便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。



X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。