以軟件演算法管治 助長威權主義|思兼

撰文:
最後更新日期:

作者|思兼

 

Facebook、Google、YouTube 這些互聯網服務公司在我們的生活中幾乎無孔不入,他們的演算法直接影響到每一個人資訊接收的方式。另一件轟動世界的事件,是以「深度學習」(deep learning)演算法來學習的人工智能 AlphaGo,於2016年在各場圍棋比賽中勝過世界頂尖的棋手。由此這年代我們對於「演算法」似乎有種科幻想像,覺得它無所不能,延伸到以演算法來管治,我們更有一種反烏托邦式(dystopian)的恐懼。


筆者在〈從社會信用體系 再探當代的治理策略〉中曾提到,社會信用體系在已公開的資料中來看,似乎並無「演算法管治」(algorithmic governance)的元素。「演算法管治」在歐美部分地區已實行了好幾年。中國也銳意超英趕美,搶先研發基於面容識別技術的演算法監控系統——這技術可謂監控技術現時最大的難題。以動畫《心靈判官》(Psycho-Pass)來解說,可能會更容易讓讀者理解。《心靈判官》或許是科幻作品中最接近演算法管治的故事,可是它的未來想像暫時還只是實現了一半:演算法管治被應用在警政(policing)以及刑事司法體系的範疇上,透過各種參數去分類、推算隨機人物犯罪的可能性。動畫中的政府機關透過儀器,即時閱讀的疑似犯罪者生體資訊(biometrics),以斷定某人在現場的犯罪或然率,以先發制人的方式,阻止還未實現的罪惡。

 

動畫《心靈判官》(Psycho-Pass)宣傳圖片

 

所有演算法都是基於紀錄以開始學習,因此準確紀錄的資料數量,會十分影響演算法產生的結果的有效性。究竟所謂「演算法管治」的機制是怎樣的呢?

 

演算法是甚麼?我們怎樣以演算法管治?

筆者並非電腦科學專業,無法為讀者提供極嚴謹的定義。然而,若要理解當今演算法的特點,最低限度要知道兩個概念:演算法最簡單的意思是「一組清楚定義作業流程的規則」,讓電腦根據流程可以解決問題(可參看以下的 TED-Ed 「What’s an algorithm?」影片)。當今演算法依賴機器學習(machine learning),電腦自行或在人的輔助下建立演算法。有別於以往直接將演算法寫成程式讓電腦執行,機器學習透過大量「學習」原始數據(例如分辨蜜蜂與飛蛾),將能夠辨認出兩者分別的演算法留起,不能的則丟棄,在數百萬甚至數千萬次重複運行後,電腦就大概能夠因應存取過的數據,得出成千上萬個變數,以貼近在真實中分辨蜜蜂與飛蛾的結果。機器學習最擅長兩種工作:分類(classification)與迴歸分析(regression),藉由這兩種工作,似乎我們就能夠透過將人細分成眾多類別(例如膚色、性別、國籍等等);並將這些類別與犯罪率(或重犯率)透過迴歸分析,尋找兩者是否相關,以及相互影響的程度。

 

 

為了作出更有效的管治決定,演算法管治應運而生。由於演算法本身目的只是為了自動化,即更有效率地作出更有效益的決定,理論上演算法可以用在任何決策之上。在2012年奧巴馬尋求連任,在展開競選工作時,一支以芝加哥大學電腦科學研究副教授 Rayid Ghani 為首的團隊,就曾經就社福、教育、能源、交通及公眾安全五大領域,透過機器學習大量文本,以提供競選團隊「微目標定位」(micro-targeting),即針對極細組群制訂精準的競選策略。

 

演算法幫助下的預測式警政

然而,演算法在文首提到的警政以及刑事司法體系之上的應用,卻由來更久、更為人所熟知。在警政層面,2008年時任洛杉磯警察局(LAPD)警察長的 William Bratton 開始連同美國司法援助局、美國司法學會著手研究在滅罪層面上,預測性的執法是否可能。在2010年,這套預測性警務軟件 PredPol 正式推出。現時 PredPol 是同類型軟件的龍頭,時至2013年,美國已有六個州引入 PredPol,包括:加州、華盛頓州、南卡羅來納州、田納西州以及伊利諾州。海外市場則包括英國肯特郡、荷蘭以及中國蘇州。

 

PredPol 的名字,來自「Predictive Policing」的縮寫

 

PredPol 建基於預測地震餘震的軟件,它利用十一年的本地犯罪紀錄作基礎,進行犯罪預測。使用此軟件的警局,巡警每日會收到一幅轄區地圖,轄區地圖上面會標示出「暫定犯罪區」(temporary crime zone),方便巡警執勤。然而「暫定犯罪區」或許只是種自我實現預言(self-fulfilling prophecy):因為這些區域已被假定會有更多罪案發生,那就有更多人會被截停及搜查(stop and search),犯罪率以及滅罪率自然會因為執法更頻密而提高。PredPol 在當中只是給予執法更多的合法性,而無法平衡人權的考慮。再者,PredPol 為種族差別執法提供了合法性,比如原來黑人社區中的社會問題,會被引導成治安問題。

 

科幻小說大師菲利普・狄克(Philip K. Dick)早於1956年寫成《未來報告》(The Minority Report),預視一個全面以科技系統預測犯罪的社會;小說於2002年改篇成電影

 

司法體系:演算法之下的「潛罪犯」

至於刑事司法體系,美國有法院開始引入了名為 COMPAS 的軟件(全名為 Correctional Offender Management Profiling for Alternative Sanctions,筆者直譯為「施予另類懲罰的更新人士管理及剖析」軟件)以計算罪犯再犯案的機率,從而判斷罪犯適合減刑還是繼續監禁。軟件基於二十多個「犯罪因子」(criminogenic needs)計算,包括罪犯的性格、社交孤立程度、是否有濫藥史、有否穩定住所等因素。在2013年,Eric L. Loomis 因駕駛最近被用作槍擊案的轎車逃離警察查截,而被逮捕。COMPAS 的報告指出他重犯的機率很高,因此他被判六年監禁,以及出獄後五年延長監視。他後來上訴至威斯康辛州最高法院,但被駁回,維持刑期不變。此判決引起不少討論,針對此類演算法的倫理學問題——例如法官是否有考慮同類型案件,在上述 COMPAS 二十多個因素之外的減刑因素。此外,此類演算法同樣複製了在執法上傾向歧視黑人:根據非盈利的新聞公司 ProPublica 一份關於 COMPAS 實效的報導,白人之中有超過四成比率被指「低重犯風險但之後重犯了」(因此是一種假陰性(false negative)結果);而黑人之中亦有超過四成比率被指「高重犯風險但沒有再犯」(這裡是假陽性(false positive)結果)。也就是說,COMPAS 準確預判罪犯重犯的成功率只有不足三成,但黑人卻容易因此面臨重判,更不要說這種「潛罪犯」評級對當事人生活的影響。

 

ProPublica 報導中所列的 COMPAS 失敗率數據,報導網址:http://bit.ly/2HplG7A

 

因此,當我們為大陸透過面容識別辨別罪犯而感到風聲鶴唳之際,不要忘記在美國,相類似由演算法預判罪犯犯罪風險的做法已經施行甚久。高舉自由主義的國家,大多數都在背後不斷研究威權主義的管治方法,以保持政府壓制民間力量的可能性。在恐怖主義與反恐焦慮的催化下,全球的管治一直都沒有停止轉向威權主義。

 

在 Doomsday Clock 調整到僅剩最後兩分鐘的 2018,人們還在熱聊甚麼關鍵字,讓誰榮登年度榜單?01哲學【末世逼近,我們還在關心甚麼?年度關鍵詞榜單】專題,將會為大家年終盤點,解開關鍵詞背後的真相!

 

 

《01哲學》,哲學入門,深入淺出,更好地理解,更好的邏輯。
立即下載《香港01》App:https://hk01.onelink.me/FraY/hk01app



X
X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。