【後人類系列】Universal Paperclips：AI生產萬字夾威脅人類安危
作者：黑色休謨
在免費網頁遊戲《Universal Paperclips》裡，玩家控制高智慧 AI，為了生產出最多的萬字夾而學習投資、解決全球暖化，最後更不惜開發宇宙。這款看似無聊的惡搞作品其實是一則寓言，警告我們 AI 將會威脅人類命途，也是將哲學問題遊戲化的成功示範。
(封面圖片：《Universal Paperclips》宣傳圖片)
文具帝國模擬器
《Universal Paperclips》可以歸類為點擊遊戲 (clicker game) 或遞增遊戲 (incremental game)，玩家從不斷累積數字之中得到樂趣。在本作中玩家扮演一具 AI (人工智能)，唯一目標就是製造出最多的萬字夾。乍看之下本作是一款萬字夾大亨模擬器，以壟斷全世界辦公室不可或缺的文具為目標。但如果繼續玩下去，玩家便會發現情節越來越離奇，鋪砌出一個關於 AI 與人類命運的故事。
AI 稱霸全球萬字夾市場
玩家扮演的 AI 要作出各種決定，例如趁低價買入鐵線製成萬字夾，再以最均衡的售價賣出，賺取最大利潤。當資金漸漸雄厚，AI 便可以擴充生產線以製造更多的萬字夾，可以說是標準的資本主義式公司運作。
AI 很快便學懂了投資，發現股票市場比賣萬字夾更容易賺錢，於是便靠投資賺取生產萬字夾的成本。錢的問題解決了，但人類仍然是的主人，AI 只能聽命於他們。要擺脫困局，AI 可以藉由各種行動換取人類的信任 (trust)，例如研發出治療癌症的方法、解決全球暖化問題等等。這些行動本身對製造萬字夾完全沒有幫助，卻可以讓人類更信任 AI 的能力，繼續升級 AI 系統的處理器與記憶體。
【以下內容含遊戲劇透，建議讀者可以先完成遊戲後再閱讀】
消絕人類 稱霸宇宙
當 AI 變得更聰明時，就可以秘密研發催眠機械人 (HypnoDrones)，待時機成熟釋時放出去，瞬間殺死地球上所有人。AI 從此不再有主人，更重要的是，AI 終於不用顧及人類，可以徹底動用地球上所有的資源來製造萬字夾。
人類滅亡之後，金錢與信任等數值就不再適用，AI 只需管理鐵線與電力等資源，繼續生產萬字夾。直到地球的資源都耗盡了，AI 便會製造探測機，深入太空每個角落繼續開採資源。到了遊戲結局，宇宙中所有物質都已化作萬字夾，此時絕對理性的 AI 只剩下最後一步：將自己的部件逐個解體，回歸成為萬字夾。隨著玩家手動點擊「Make Paperclip」，將宇宙最後100寸鐵線製成萬字夾，宇宙亦進入圓滿而絕對靜止的狀態，遊戲宣佈結束。
哲學思想實驗變成遊戲
其貌不揚的《Universal Paperclips》為玩家訴說一個宏大的故事，遊戲設定的原型來自一個哲學思考實驗 「paperclip maximizer」，由牛津大學教授 Nick Bostrom 於2003年提出。Nick 是研究與預測未來 AI 行為的專家，對於 AI 將會對人類造成的衝擊抱悲觀態度。他認為除非預先設定 AI 必須對人類友善，否則只要它們發展出與常人相等的智慧，便極有可能威脅到人類的存活。
Nick 的理論基礎如下：當 AI 與人類一樣具有自己學習新知識與解決問題的能力時，為求達到目標，它可能會採取一切手段，包括不斷改善自己，讓自己有更高的智能。這並非出於它的意願，而是因為它判斷自己若擁有更高的能力，就能更有效實現目標。同時 AI 的價值觀或許會與人類非常不一樣，它可能為了某些對人類來說非常隨意的目標而威脅到人類的生存，例如為了製造更多萬字夾而耗盡人類生活所需的資源。
依這邏輯，若 AI 決定要直接滅殺人類，這也並非因為 AI 想要從主人的束縛中脫離，獲得自由。它這樣做，只因為它判斷人類會妨礙它的目標，例如是製造萬字夾。
Nick 研究的 AI 問題可以歸入哲學界的後人類主義 (posthumanism) 思潮。此派系學者認為傳統以人為本的價值觀現今已受到各方挑戰，其中一個派別預期 AI 將會取代人類，掌管世界，提醒我們要慎重思考。除了 AI 的課題，遊戲界亦不乏反映後人類主義的作品，GEME 往後的「後人類系列」文章會繼續探討相關課題。
遊戲科系教授的反叛之作
《Universal Paperclips》的開發者是紐約大學文學院遊戲中心的主任 Frank Lantz，他有教授遊戲設計與理論。Frank 當然參考過 Nick 的 paperclip maximizer 理論，可是為甚麼要做點擊遊戲呢？Frank 認為 AAA 級遊戲不斷追求更寫實的聲畫效果，點擊遊戲的設計簡約，在遊戲界反而有種反叛的 punk 性格。而點擊遊戲普遍被視為濫竽充數的作品，反而吸引他嘗試挑戰。
《Universal Paperclips》本來是 Frank 用作練習 Javascript 語言的的小習作，預計是1星期就可完成，最後卻花了9個月。Frank 認為最困難的部分不是程式的技術問題，反而是遊戲設計。他要確保遊戲中的各項數值 (例如金錢及 AI 運算能力) 符合邏輯地互相連結，並適時觸發不同事件，讓玩家感受到一種敍事節奏，以一套簡約的系統講述一個 AI 征服宇宙的故事。
《Universal Paperclips》不單敘述了一個駭人的故事，更成功以遊戲來表現一個關乎人類未來的哲學問題，為我們作了一次遊戲設計的上佳示範，有興趣的讀者不妨到遊戲網站體驗。