【科技.未來】人臉辨識引入校園 以安全為名的監控

撰文:
最後更新日期:

繼上月科技巨頭亞馬遜(Amazon)因把人臉辨識(facial recognition)系統Rekognition售予警方,引起員工激烈反對,兩周前微軟(Microsoft)主席史密夫(Bradford L. Smith)也公開呼籲,政府需要規管人臉辨識系統。

學校成為這場安全與私隱角力的最新戰場,近日有業者宣布,將免費提供人臉辨識系統予美國及加拿大的學校,以保障校園安全,但為此犧牲私隱又是否值得?

杭州第十一中學學生通過人臉辨識系統進入校園(視覺中國)

學校近來成為人臉辨識的熱門場所。中國杭州第十一中學設有人臉辨識系統,除了點名、買飯之外,校方美其名可提升「教學管理」,系統辨識學生課堂上的表情、坐姿,甚至是否打瞌睡。實際上,此舉也成為學生另一壓力來源。

大陸杭州第十一中學人臉辨識系統,試驗出入、買飯、借書等:

而在美國,人臉辨識則以安全為由逐步進入校園,阿肯色州(Arkansas)和聖路易市(St. Louis)部分學校已安裝此系統。過往從事串流業務的RealNetworks(例如港人較熟的RealPlayer),其開發的人臉辨識工具SAFR上周起,可供美國及加拿大的學校——由幼稚園到高中(K-12)免費下載,校方可自行升級校園保安鏡頭。家長、教師、訪客需要先在系統登記,進入校門的閘前對鏡頭微笑,讓系統確認是真人而非照片。若有登記記錄,校門會自動打開,否則,要致電校內接待員登記。

RealNetworks創辦人格拉沙(Rob Glaser)三名子女所就讀、位於美國西雅圖的小學University Child Development School (UCDS)率先試驗了這套系統;將來在中學應用時,則可能會登記學生樣貌。

RealNetworks研發的SAFR人臉辨識系統,將供美、加K-12學校免費下載。(RealNetworks SAFR官方影片截圖)

槍擊案餘悸 安全壓過私隱?

隨着科技競爭,人臉辨識技術愈來愈普及。人工智能影片系統商BriefCam行政總裁馬斯(Trevor Matz)表示,近年各界對監控技術的興趣起了「地震級」的變化,公司展示人臉辨識監控技術後,不用怎樣推銷,已經吸引不少客戶,學校亦是其客戶之一。美國麻省春田(Springfield)就有60間公立學校將安裝1,000枚鏡頭,並選用BriefCam的人臉辨識系統。

不過,由英國哲學家邊沁(Jeremy Bentham)提出的「全景監獄」(Panopticon)監視方式正在學校變奏,並可能過度侵犯私隱。紐約Depew校區負責人利比(Jeffrey Rabey)假設,若某學生犯了校規,學校可以全日跟蹤他與誰來往頻密。美國民權組織法律辯護基金會(NAACP LDF)成員古錫(John Cusick)形容這是「朋友關係罪名化」,影響青年社交生活。BriefCam的馬斯則表示:「我沒有聽人提起過(私隱疑慮),安全和保安都壓過這些疑慮。」

槍擊案後,美國柏克蘭Marjory Stoneman Douglas高中要求學生用透明書包上學。(視覺中學)

RealNetworks創辦人格拉沙對科技媒體《Geekwire》說,SAFR在小學的試驗非常成功:「原因之一是社區很喜歡這套系統,其次是試驗開始兩、三個月後,發生了帕克蘭(Parkland)槍擊慘劇。一直長期存在的校園安全問題,成為了當時最重要的議題。」

事實上,紐約洛克波特(Lockport)校區不久前宣布,區內十間學校將於9月起使用人工智能辨識系統AEGIS,除人臉外,最大賣點是能辨識校園槍擊案十大最常使用的槍枝。作為維權組織美國公民自由聯盟(ACLU)的活躍成員,格拉沙表示,意識到侵犯私隱的疑慮:「我同意(人臉辨識)有可能在校內過度監控,但我認為在一個不斷發生校園慘劇的國家,能夠讓校園更安全的科技是好的。」他也澄清,SAFR的數據只儲存於校內伺服器而非雲端,在現時技術下也無法與其他學校分享數據。

以安全為名,人臉辨識會否讓學校淪為環形監獄,學生一舉一動皆受監視?圖為古巴已廢棄的環形設計監獄Presidio Modelo。(Wikimedia Commons圖片)

未對症下藥 恐淪救命稻草

即使校內眾人願意放棄私隱,但人臉辨識系統是否真的可以保障校園安全?RealNetworks在網頁寫道:「學校能更專注及更好地分析潛在危險,例如被趕出校的學生及在校園內外構成威脅的人。」 UCDS校長則補充,「人臉辨識系統可加快家長和職員進出校園的流程,並釋放人手,以花更多時間照顧學生的需要。」

不過,過往不少槍擊案的槍手絕大多數都是校內學生,人臉辨識系統如何有效阻止慘劇重演仍存疑問。有些業者聲稱,校方可以追蹤可疑人物,例如通緝犯、常生事的家長或被校方開除的學生(例如帕克蘭槍擊案兇手克魯茲返回母校行兇)。但布南中心的自由與國家安全計劃(Brennan Center's Liberty and National Security Program)高級顧問莉雲遜禾文(Rachel Levinson-Waldman)反駁:「我們或輕易認為科技可解決問題,可以找出危險的人,並加以阻止。但我認為(人臉辨識)這技術,很大程度上只在抓救命稻草。」

美國校園槍擊案接二連三,引發國內多處學生示威遊行,要求加強槍枝管制。圖為Yorktown高中學生在華盛頓白官前集會。(視覺中國)

以色列人工智能公司AnyVision聲稱,其監察系統能比對學生的面容、身形、衣着外貌等歷史記錄,異常檢測(anomaly detection)功能更可識別學生是否穿着或攜帶可疑物品。AnyVision行政總裁艾殊坦(Eylon Etshtein)認為,學校需要此系統:「若有一天,某學生全黑衣服打扮、揹個大袋上學,你很可能想知道他打算做什麼、袋裏有什麼。」美國哥倫比亞特區大學(University of the District of Columbia)法律教授費格遜(Andrew Ferguson)則反指:「青少年本來就是『異常』,他們染髮或看起來悶悶不樂,是否忽然間變得可疑?」

一些心水清的家長和私隱專家也深明此道,擔心學校只是匆忙地引入效用成疑卻侵犯私隱的工具。費格遜批評,這些人臉辨識監察公司在兜售「安全劇院」(security theater)式的實驗性質系統,即只是表面上令人覺得校園變安全。「這些公司利用了家長的恐懼,然後向他們售賣效用甚低的監控技術。當我們無法給予教師理想的薪酬時,我找不到任何理由,要校區為這些『安全劇院』付款。 」

在學校使用人臉辨識,除了對校園安全效用成疑、侵犯私隱之外,以現時技術,在美國還可能加劇現存對有色人種偏見,更重要的是對於種種問題仍未有使用共識。請詳見另文:《【科技.未來】人臉辨識欠指引 或針對有色人種學生》。

上文節錄自第121期《香港01》周報(2018年7月23日)《人臉辨識趨普及 安全與私隱角力》。

更多周報文章︰【01周報專頁】
《香港01》周報,各大書報攤及便利店有售。你亦可按此訂閱周報,閱讀更多深度報道。



X
X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。