聯合國探討監管「殺手機械人」 AI專家籲各國簽約禁用

撰文:高源樺
出版:更新:

聯合國當地時間周一(27日)針對致命自主武器系統「殺手機械人」(Killer Robot)召開新一輪會議。70多個國家的專家齊聚瑞士日內瓦,重點討論對「殺手機械人」的監管問題。有專家於會上警告稱,若不盡快採取行動,將悔之莫及。

科技發展日新月異,各國對是否禁用殺手機械人仍未達成共識。為此,聯合國9月27日於日內瓦召開為期一周的會議。有專家呼籲,各國應盡速簽訂禁用殺手機械人的條約。(視覺中國)

聯合國官員表示:「從理論上講,完全自主的電腦控制武器尚未存在。」這場關於是否禁用殺手機械人的辯論仍處於初級階段,專家們有時也會糾結其定義問題。美國認為,現在給致命自主武器系統下定義還為時過早,更不用說要對它進行監管。

國際特赦組織(Amnesty International)人工智能及人權顧問拉希姆(Rasha Abdul Rahim)發表聲明稱:「殺手機械人不再是科幻小說的內容。」

從AI無人機到能自行選擇目標的自動槍械,武器技術的進步速度遠遠超過現有國際法律。我們呼籲各國採取具體措施,阻止這些危險武器擴散。否則,再晚就來不及了。
拉希姆

英國廣播公司(BBC)8月21日引述「阻止殺手機械人運動」(The Campaign to Stop Killer Robots)報告稱,全面自主的武器違反「馬騰斯條款」(Martens Clause),這是國際人道法律被廣為接受的條款。

英國謝菲爾德大學(University of Sheffield)人工智能與機械人學教授夏基(Noel Sharkey)表示:「把生死決定權交給沒有同情心和理解力的冰冷機械,讓我不寒而慄。這不符合馬騰斯條款。」

 

「馬騰斯條款」是什麼?

要求以人道原則評判新出現的技術。在無其他條約規定的情況下則由公共良知決定,令武裝衝突行為不僅受條約和習慣法約束,而且還要受該條款涉國際法原則約束。

 

全球70多個國家的專家8月27日到日內瓦參加聯合國第六次殺手機械人會議,討論完全自主武器帶來挑戰。雖然會議並無達成特定目標,但是討論按照2018年一個主要的裁軍協議模式進行。(視覺中國)

完全自主未來可期 殺手機械人威脅增

雖然完全自主的武器系統如今還未成為現實,但一些高級軍隊將領表示自行選擇目標進行打擊的武器,只需幾年時間就會被廣泛使用。

根據國際數據公司(IDC)資料顯示,全球機械人研究經費2016年為915億美元,預計2020年將增至1880億美元,屆時全面自主武器將成為現實。

英國《衛報》報道稱,包括法國、以色列、俄羅斯、英國在內的12個國家部署或研發至少381種不完全自主的武器及軍用機械人系統。例如,兩韓非軍事區的哨兵機械人和以色列研製的「鐵穹」(Iron Dome)導彈防禦系統。

聯合國2017年舉辦史上首次殺手機械人會談,與會成員承諾繼續推動會談。雖然各國仍未就如何因應這類武器達成共識,但呼籲簽訂殺手機械人全面禁令的國家數量已有增加,其中包括奧地利、比利時、中國等26個國家。

(霍士新聞/中央社/英國廣播公司)