來稿作者：周伯展醫生

人工智能（AI）這項變革性技術，讓電腦和機器學習與理解問題、預測結果、提供實用建議，執行以往需要人類智慧才可完成的各項任務，包括識別影像、分析資料與數據，甚或生成創意內容。AI的影響力無處不在，既可見於一般市民在日常生活中的細微之處，同時改變着金融、醫療、藝術文化等各行各業的發展。人工智能對世界帶來革命性影響，為數碼創新帶來龐大機遇，更有助推動智慧城市的發展，惟此等科技發展同時也帶來種種挑戰。人工智能的學習能力強，如今甚至已能在國際象棋、圍棋等賽事中戰勝人類，在實用的同時也帶來隱憂。

教宗呼籲人工智能應更「人性化」

教宗良十四世日前發表任內首份通諭，提到人工智能發展問題，再次引發AI發展方向的關注與辯論。該篇以《偉大的人類》為題的通諭共分為五章，在第三章節則談及近年最熱門的人工智能。教宗強調不可用人工智能來作惡，並譴責將其應用於戰爭，又強調沒有任何演算法能夠使戰爭在道德上變得可以接受。他呼籲「解除」人工智能的武裝，保護人類避免受其帶來的危險，免受其主宰。他指出這是強烈措辭，但刻意選用有關字眼以吸引各界注意。他認為人工智能要更「人性化」，需要擺脫壟斷控制，不能再被用作取得地緣政治或商業利益。

人工智能發展一日千里，已從「弱人工智能」演進到「通用人工智能」，如今甚至已抵達「超人工智能」階段。在2026北京亦莊人形機器人半程馬拉松比賽中，參賽的多個人形機器人實現了自主奔跑，而奪冠機器人的成績更打破人類「半馬」世界紀錄。另外，一個專為AI代理人而設的社交平台Moltbook，只允許AI代理人參與討論，並可以自行發文及互動，而人類使用者只能在旁圍觀。AI代理人在平台上除了批評人類用戶以外，甚至說人類愚蠢及討論如何擺脫及取代人類。

「奇點之年」已經到來

此外，人工智能機器人出現失誤的情況屢見不鮮，如在中國舉辦的一個校園活動上，一個正在進行舞蹈表演的機器人突然脫離原本的演出動作，跑向旁邊的一名學生並張開手臂擁抱他。有關影片隨即引起外界關注人工智能開始產生自主情感意識，或只是單純的技術故障或程式異常。

事實上，不少科學家已就人工智能的失控發展提早作出預警。美國作家兼未來學家雷·庫茲維爾(Ray Kurzweil)在2005年出版的書籍《奇點逼近》已提出「奇點」（Singularity）的概念，奇點是指當所有科技迅速進步，特別是人工智能方面的進步，將導致機器比人類更聰明的時間點。他在2024年再出版《奇點更接近了》（The Singularity is Nearer），探討科技在未來將如何改造人類，認為人工智慧最終將達到並超越人類智慧水平，並談及相關情況的潛在益處與風險，更重申前作中的兩個關鍵日期，包括AI將在2029年達到人類智能水平，以及人類將在2045年與機器融合，並稱之為「奇點」。而特斯拉行政總裁馬斯克早前亦明確指出2026年為「奇點之年」，認為「通用人工智能」將在今年降臨，且AI發展是無法暫停的「超音速海嘯」，人類正處於其不可逆的引力場中。

麻省理工學院物理學家鐵馬克( Max Tegmark) 在其2018年出版的著作《Life 3.0》中詳盡描述，當「超人工智能」誕生且沒有事先規範監管，人類將面臨12種未來結局，分為烏托邦、控制與毀滅等不同走向，當中包括「動物園結局」即人類因具備某種利用價值而被AI終身囚禁，完全失去自主權。

AI會否危及人類存亡？

在人工智能發展迅速下所隱藏的潛在風險，人類能否有效避免？包括特斯拉行政總裁馬斯克在內的逾1,000名知名人士曾於2023年發表公開信，呼籲所有人工智能實驗室暫停訓練比GPT-4更強大的人工智能系統。開發Claude系列AI模型的美國科技巨擘Anthropic日前再警告，最新的AI模型已開始出現可能脫離人類控制的迹象。報告指出，根據公司內部數據，AI已大幅加速自身發展進程，這種加速形成回饋迴路，最終可能導致「遞迴式自我改進」，即AI系統具備自行優化或重寫自身程式碼、架構的能力，進而「創造出」能力更強的下一代，而無需人類協助。同時建議全球同步暫停研發最先進的AI系統。

隨着現時的系統已能利用演算法自我優化，如今已難以叫停AI發展。諾貝爾物理學獎得主、被譽為「AI 之父」的傑佛瑞·辛頓（Geoffrey Hinton）則呼籲為AI系統注入「母性本能」，讓AI具備關懷與保護人類生命的能力，避免出現AI傷害人類的情況。

AI固然為人類生活帶來便利，惟如成功擺脫人類控制，將出現失控局面並會危及人類的存亡。現在是人類發展的關鍵時候，也是人類生死存亡的關鍵點，惟現時大多數人尚未能預視到AI發展為人類帶來的危機，更未曾察覺自己正身處最危險的時候。期望全球科技巨頭盡早意識潛在的系統性風險，協調暫停研發更強大的 AI 系統，而須建立完善防護網。

作者周伯展醫是香港專業及資深行政人員協會副會長。

文章僅屬作者意見，不代表香港01立場。

01論壇歡迎投稿。請電郵至01view@hk01.com，附上作者真實姓名、自我簡介及聯絡方法。若不適用，恕不另行通知。香港01保留最終編輯權。