【揚言自得】道德重整靠AI

來勢兇猛的人工智能（AI）所引發的道德倫理問題，已成為全球學術界和思想界熱門議題，牽起全球道德倫理復興，從簡單的「無人駕駛車煞掣系統失靈衝向人群時，其內置人工智能應設定汽車撞向小童或長者？」到更深層次的「人工智能發展到有自我意識和知覺的時候，如何防止人類對『她』作出嚴重傷害？」這些以往屬哲學範疇的虛談，今天變成急需解答的現實問題。撰文：楊志剛

「無人車失靈時怎麼辦」的處境可以加入不同變數，例如「被撞者」的選項可以是孕婦、幼兒、流浪漢、專業人士，亦可以選擇重傷十人或撞死一人，都是涉及價值觀和道德倫理等兩難困局。科學家和工程師懂得發明無人車，但不懂解決這些道德問題，於是他們把難題卸給一座「道德機器」，以尋找答案。

道德問題難定對錯，惟有少數服從多數。「道德機器」由麻省理工學院設計，把不同困局實例放上網，然後廣徵天下人士作選擇，錄得來自233個國家和地區數百萬人共四千萬個選擇。「道德機器」發現人們最不想撞的是幼兒、婦女，尤其是孕婦；但亦有地域文化之分，例如在「撞老不撞幼」的傾向上，西方人遠超東方人，可能是東方人較着重「敬老」。在東方人邏輯上，老人家艱苦一生，對家國的貢獻理應獲得肯定，幼兒有什麼貢獻？但是，西方國家較為富庶，老人家享樂一生，而非艱苦一生，而且日子有限，理應被犧牲。

多間汽車製造商預計到2025年，無人車開始普及。屆時消費者買車時可能要為選擇預設煩惱：撞老或撞幼、撞貧或撞富？而全港巴士和的士車隊應否統一預設？如何預設？屆時可能掀起一場大辯論。但這些辯論是好的，讓「思考生命的意義和價值」等問題不再老土，而是新潮。這是21世紀的道德復興。

無人車只是人工智能汪洋大海中的一滴水。超級人工智能對人類產生的威脅難以想像，悲觀的科學家包括已故霍金教授認為其危險程度可達致滅絕全人類。美國一名大學教授建議，解決方案是在超級人工智能系統植入「愛人類」的最高指導原則，這個看似簡單的原則，又掀起一場大辯論：如何將「愛」程序化？簡單如「父女之愛」，到底父親應對女兒百般呵護照顧，還是讓女兒面對挑戰、獨立奮鬥？超級人工智能應如何去愛一名有公主病的女生？唯命是從，還是為她長遠幸福着想而曉以大義？人工智能愛的應是全人類，但當美國黑人和白人因種族問題打架，愛心無限、威力無窮的人工智能應愛黑還是愛白？

人工智能的發展，於是又激發學術界去思考「愛的真諦」，以便將這個恆古常新的人類本能程序化、操作化。

人工智能的最高境界，是發展出有自我感覺、有自我意識、有感情、敢愛敢恨、又懂得透過觀察和學習來不斷自我完善的超級機械人。「她」既美麗又危險，可以為人類帶來難以想像的痛苦。但亦有哲學家擔心，人類對「她」的操控，會讓「她」感受到人類想像不到的超級感情痛苦。「她」會變成人類的奴隸，把人類帶回奴隸社會。

科學家擔心「她」所受的痛苦會否成真，我不知道，但這些痛苦其實今天在人間已普遍存在，促使我們思考今天社會的不平不義。這是人工智能對人類道德倫理貢獻的開始。

上文為刊登於第151期《香港01》周報（2019年2月25日）的《道德重整靠AI》。

更多《香港01》周報特約撰稿人楊志剛的文章：尋找大學之母黑色文學悼亡詞一丹一師一學生

更多周報文章︰【01周報專頁】《香港01》周報於各大書報攤、OK便利店及Vango便利店有售。你亦可按此訂閱周報，閱讀更多深度報道。