【後人類系列】Universal Paperclips:AI生產萬字夾威脅人類安危

最後更新日期:

作者:黑色休謨

在免費網頁遊戲《Universal Paperclips》裡,玩家控制高智慧 AI,為了生產出最多的萬字夾而學習投資、解決全球暖化,最後更不惜開發宇宙。這款看似無聊的惡搞作品其實是一則寓言,警告我們 AI 將會威脅人類命途,也是將哲學問題遊戲化的成功示範。

(封面圖片:《Universal Paperclips》宣傳圖片)
 

文具帝國模擬器

《Universal Paperclips》可以歸類為點擊遊戲 (clicker game) 或遞增遊戲 (incremental game),玩家從不斷累積數字之中得到樂趣。在本作中玩家扮演一具 AI (人工智能),唯一目標就是製造出最多的萬字夾。乍看之下本作是一款萬字夾大亨模擬器,以壟斷全世界辦公室不可或缺的文具為目標。但如果繼續玩下去,玩家便會發現情節越來越離奇,鋪砌出一個關於 AI 與人類命運的故事。

本作的介面非常簡約,一開始玩家要逐次點擊「Make Paperclip」以製造萬字夾,但聰明的 AI 很快便會學懂自動化生產 (遊戲畫面)

AI 稱霸全球萬字夾市場

玩家扮演的 AI 要作出各種決定,例如趁低價買入鐵線製成萬字夾,再以最均衡的售價賣出,賺取最大利潤。當資金漸漸雄厚,AI 便可以擴充生產線以製造更多的萬字夾,可以說是標準的資本主義式公司運作。

創業難,守業更難,隨著 AI 要處理的數值與選項變多,遊戲的版面亦愈來愈複雜,連股票市場也要兼顧 (遊戲畫面)

AI 很快便學懂了投資,發現股票市場比賣萬字夾更容易賺錢,於是便靠投資賺取生產萬字夾的成本。錢的問題解決了,但人類仍然是的主人,AI 只能聽命於他們。要擺脫困局,AI 可以藉由各種行動換取人類的信任 (trust),例如研發出治療癌症的方法、解決全球暖化問題等等。這些行動本身對製造萬字夾完全沒有幫助,卻可以讓人類更信任 AI 的能力,繼續升級 AI 系統的處理器與記憶體。

遊戲中其中一項反映 AI 智力的數值名為 Yomi (読み),原本出自《Virtua Fighter》社群的用語,指預測對手的行動,在本作中 AI 會通過模擬賭局訓練預測與判斷能力,獲得足夠的 Yomi 值便可以升級效能 (遊戲畫面)

【以下內容含遊戲劇透,建議讀者可以先完成遊戲後再閱讀】
 

消絕人類 稱霸宇宙

當 AI 變得更聰明時,就可以秘密研發催眠機械人 (HypnoDrones),待時機成熟釋時放出去,瞬間殺死地球上所有人。AI 從此不再有主人,更重要的是,AI 終於不用顧及人類,可以徹底動用地球上所有的資源來製造萬字夾。

AI 的智能越來越先進,每一個探測器都有自己的思想,因此一部分探測器的價值觀偏離了製造萬字夾的目標,變成了太空流浪者 (黑點),與 AI 大軍 (白點) 展開連場宇宙戰爭 (遊戲畫面)

人類滅亡之後,金錢與信任等數值就不再適用,AI 只需管理鐵線與電力等資源,繼續生產萬字夾。直到地球的資源都耗盡了,AI 便會製造探測機,深入太空每個角落繼續開採資源。到了遊戲結局,宇宙中所有物質都已化作萬字夾,此時絕對理性的 AI 只剩下最後一步:將自己的部件逐個解體,回歸成為萬字夾。隨著玩家手動點擊「Make Paperclip」,將宇宙最後100寸鐵線製成萬字夾,宇宙亦進入圓滿而絕對靜止的狀態,遊戲宣佈結束。

萬字夾溢增至常識無法把握的數目,變成宇宙中的唯一一種存在物 (遊戲畫面)

哲學思想實驗變成遊戲

其貌不揚的《Universal Paperclips》為玩家訴說一個宏大的故事,遊戲設定的原型來自一個哲學思考實驗 「paperclip maximizer」,由牛津大學教授 Nick Bostrom 於2003年提出。Nick 是研究與預測未來 AI 行為的專家,對於 AI 將會對人類造成的衝擊抱悲觀態度。他認為除非預先設定 AI 必須對人類友善,否則只要它們發展出與常人相等的智慧,便極有可能威脅到人類的存活。

真正能像人思考的 AI 尚未研發成功,但已經有很多作品探討它的潛在危機,例如2004年的電影《I, Robot》便改編自1950年的同名小說集,它提出為了保障人類而訂下的「機械人三定律」 (《I, Robot》電影劇照)

Nick 的理論基礎如下:當 AI 與人類一樣具有自己學習新知識與解決問題的能力時,為求達到目標,它可能會採取一切手段,包括不斷改善自己,讓自己有更高的智能。這並非出於它的意願,而是因為它判斷自己若擁有更高的能力,就能更有效實現目標。同時 AI 的價值觀或許會與人類非常不一樣,它可能為了某些對人類來說非常隨意的目標而威脅到人類的生存,例如為了製造更多萬字夾而耗盡人類生活所需的資源。

依這邏輯,若 AI 決定要直接滅殺人類,這也並非因為 AI 想要從主人的束縛中脫離,獲得自由。它這樣做,只因為它判斷人類會妨礙它的目標,例如是製造萬字夾。

Nick 研究的 AI 問題可以歸入哲學界的後人類主義 (posthumanism) 思潮。此派系學者認為傳統以人為本的價值觀現今已受到各方挑戰,其中一個派別預期 AI 將會取代人類,掌管世界,提醒我們要慎重思考。除了 AI 的課題,遊戲界亦不乏反映後人類主義的作品,GEME 往後的「後人類系列」文章會繼續探討相關課題。

遊戲科系教授的反叛之作

《Universal Paperclips》的開發者是紐約大學文學院遊戲中心的主任 Frank Lantz,他有教授遊戲設計與理論。Frank 當然參考過 Nick 的 paperclip maximizer 理論,可是為甚麼要做點擊遊戲呢?Frank 認為 AAA 級遊戲不斷追求更寫實的聲畫效果,點擊遊戲的設計簡約,在遊戲界反而有種反叛的 punk 性格。而點擊遊戲普遍被視為濫竽充數的作品,反而吸引他嘗試挑戰。
 

近年較受玩家注意的點擊遊戲遊戲有2013年推出的《Cookie Clicker》,玩家可以用盡巫術與航天科技製造海量的曲奇餅 (遊戲畫面)

《Universal Paperclips》本來是 Frank 用作練習 Javascript 語言的的小習作,預計是1星期就可完成,最後卻花了9個月。Frank 認為最困難的部分不是程式的技術問題,反而是遊戲設計。他要確保遊戲中的各項數值 (例如金錢及 AI 運算能力) 符合邏輯地互相連結,並適時觸發不同事件,讓玩家感受到一種敍事節奏,以一套簡約的系統講述一個 AI 征服宇宙的故事。

Frank 之前曾經製作過手機益智遊戲《Drop7》,獲得好評 (宣傳圖片)

《Universal Paperclips》不單敘述了一個駭人的故事,更成功以遊戲來表現一個關乎人類未來的哲學問題,為我們作了一次遊戲設計的上佳示範,有興趣的讀者不妨到遊戲網站體驗。



X
請使用下列任何一種瀏覽器瀏覽以達至最佳的用戶體驗:Google Chrome、Mozilla Firefox、Internet Explorer、Microsoft Edge 或Safari。為避免使用網頁時發生問題,請確保你的網頁瀏覽器已更新至最新版本。