【科技.未來】學者力撐禁用 人臉辨識「對社會有毒」

撰文:
最後更新日期:

事實上,即使爭取時間改善人臉辨識技術,讓監管法規趕上,也無法解決這項技術的內在缺陷。

去年,美國東北大學(Northeastern University)法律與電腦科學教授Woodrow Hartzog與羅徹斯特理工學院(Rochester Institute of Technology)哲學教授Evan Selinger合作撰文主張完全禁用人臉辨識:「人臉辨識的存在本身已損害公民自由,因為人們若懷疑自己被監控,行徑就會完全不同。」他們擔心人臉辨識將對言論、集會、宗教等自由帶來寒蟬效應。2015年,馬里蘭州巴爾的摩市非裔青年格雷(Freddie Gray)被警方拘捕後猝死。在同年舉行抗議警方濫用暴力的集會中,警方就使用了人臉辨識技術辨認及拘捕抗議者。

Hartzog和Selinger還指出,人臉的獨特之處在於我們無法改變(除非整容),是我們身份的重心,它與指紋或瞳孔掃描不同,很容易便可從遠距離採集到樣本。兩人認為,若不能趕及在人臉辨識廣泛使用前禁止,「人們將無法知道在沒有自動系統監控、存檔、利用的情況下,身處公眾地方會是一種怎樣的感受。」

有學者認為,人臉與其他生物特徵不同,需要特別對待;而人臉辨識的存在本身,就已是社會禍害。(Getty Images)

「人工智能的鈽」

難怪微軟蒙特利爾實驗室(Microsoft Research Montreal)的數碼媒體學者Luke Stark在今年4月撰文稱人臉辨識為「人工智能的鈽(Plutonium of AI)」,主張完全禁止這技術。鈈是一種有毒金屬,用來製作原子彈。Stark認為人臉辨識就如鈈一樣,本身「結構上就有毒」:「不論製造者有何意圖,單是設計和製造出辨識人臉的方法,就已毒化社會。它需要嚴格受控,幾乎所有實際應用都應該禁止。」

Stark還解釋,以數值把人臉特徵分類和系統化,這件事本身就是危險的,因為這讓政府和公司把人分成不同種族:「這個生物政治管理的過程,就是建立於以數值作為理由來解釋某群體是次等的……然後以『數字的魅力』聲稱這種次等是『自然』事實。」

有學者認為,人臉辨識以數值把人臉特徵系統化,很可能導致種族之間劃分了階級。(資料圖片)

因此,即使Stark承認人臉辨識可有特定用途,例如作為視障人士的輔助工具,但他主張我們必須先設想從一開始就把這科技完全禁止,然後再修改規則允許例外用途,而非立例允許使用這科技,而後再作規管:「為了避免它帶來的社會毒素和種族歧視,人臉辨識技術需要被理解它們到底是什麼:(它們是)需要特別小心處理的核子級威脅。」

最有偏見是人類

加州大學哈斯汀法學院(UC Hastings)助理教授Veena Dubal在《衛報》撰文主張,只着眼於技術準確率來爭論過於狹隘:「即使未來的演算法不存在歧視,人臉辨識軟件也難以撇除國家監控在實行和影響上的偏見。事實上,大眾強調可以改善演算法不準確的問題,是無視推動三藩市禁令的歷史和政治脈絡。」

Dobal提醒,人臉辨識立法爭辯,在技術以外,不應忘記在三藩市政府過度監控的歷史。圖為帶領Cointelpro的已故FBI局長胡佛。(Getty Images)

Dubal指出,三藩市的禁令不是只受「反烏托邦」的憂慮所推動,也因為長久以來過度廣泛的監控,以及邊緣社群在經濟和政治上的影響。Cagle曾對他說:「這歷史性條例的誕生並非偶然,它背後的推動力是26個組織的團結,這些灣區組織代表了城中那些最受地方政府監察所傷害的人群:有色人種、穆斯林、新移民、LGBTQ群體、無家者。」

Dubal說,這段過度監控的歷史至少可追溯至已故FBI局長胡佛(J. Edgar Hoover)在上世紀五十至七十年代的「反間諜計劃」(Cointelpro)。當時,有83%的本地情報收集都在三藩市灣區發生,主要從地方警察取得。計劃解散後,在八十年代及九十年代初,即使無證據顯示有犯罪行為,三藩市警方仍繼續根據政治活動收集個人及組織的情報。

有官員認為,人臉辨識對市民生活入侵無可避免,這根本上的性質足以禁用這科技。(Getty Images)

「隨着有關人臉辨識及『公共安全』的爭論愈趨熾熱,政策制訂者不應只關注技術本身,也應該想想那些引以為恥的監控歷史。即使人臉辨識真的能做到100%中立、沒有歧視傾向,但充滿明顯和隱含偏見的人類將會主觀決定如何使用收集到的數據。而人類也會受到不對等、不公正的影響。」 Dubal寫道。

所以, 推動三藩市人臉辨識禁令的監督委員Aaron Peskin對《衛報》說,三藩市的禁令是既要處理科技不準確帶來的憂患,也要阻止恐怖的監控文化:「我們都支持社區有良好治安,但我們不想活在警察國家。說到底,那不只是關於一個有缺陷的科技,而是監控侵擾公眾生活。」

上文節錄自第166期《香港01》周報(2019年6月10日)《三藩市帶頭立法禁用 人臉辨識技術再惹爭議》。

相關文章:

三藩市帶頭立法禁用 多地密切跟進監管人臉辨識
質疑警方執法受阻 多個組織反對禁用人臉辨識

更多周報文章︰【01周報專頁】
《香港01》周報,各大書報攤、OK便利店及Vango便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。

其他【科技.未來】有關人臉辨識文章:

人臉辨識成多國執法新潮 環形監獄時代來臨?
人臉辨識無法可依 是時候監管了?

人臉辨識引入校園 以安全為名的監控
人臉辨識欠指引 或加劇有色人種針對



X
X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。