AI換臉是善或惡？有人藉此詐騙　有家屬「複活」已逝親人陪伴餘生

我是一条製片人雅蘭，最近我關注到一條新聞，著名音樂人包小柏的女兒離世後，他選擇用AI技術「復活」女兒。讓她重新出現在電腦上、手機裏，能唱歌跳舞，也能用生動的聲音和父母對話。網友表示，「技術也能療癒人心」。

2022年起，從事人工智能行業的90後張澤偉，就已經開始為普通人定製「AI數字人」，因需求火爆，他在一年內完成653個訂單，平均一單幾千到1萬元不等，有年輕人希望擁有偶像的數字分身，也有母親找他「復活」癌症去世的孩子，張澤偉覺得，AI數字人的核心，是解決「陪伴問題」。

與此同時，對技術倫理的擔憂也接踵而至，換臉技術是否會被人利用？數字永生是否會破壞人的身份認同？帶着這些問題，我們拜訪了他的工作室。（點擊放大瀏覽）▼▼▼

編輯：張雅蘭（一条）　責編：倪楚嬌（一条）

2022年，張澤偉的一位朋友找到他，希望他能用AI技術幫忙讓去世的母親「復活」。簡單來說，就是收集對方生前的照片、音頻等資料，完美複製一個人的外貌、聲音、動作和表情，1:1精準克隆出一個數字人。在世的人可以和他在線對話、聊天，以緩解思念和悲傷的情緒。

早在幾年前，就有一位韓國的母親利用人工智能重建了自己女兒的影像，只要戴上VR眼鏡，她就能身臨其境地看到自己的女兒。張澤偉也看到了其中的可能性，「對中國人來說，生死是大事」，他決定幫助更多普通人完成類似的心願，他稱這是「AI情感療癒」。

目前張澤偉製作的AI數字人，大致有兩種類型。一種是智能驅動的形式，也就是收集人的形象、聲音等數據，製作出虛擬的數字人形象，可以與之對話。另一種是人為驅動的，也就是給真人換上逝者的形象和聲音，在線上實時互動。因為更加逼真，目前大部分人都選擇這種真人扮演的形式。在為普通人服務的一年多里，張澤偉業見到了各種各樣的人和需求。曾有一位父親，因為獨子意外去世，他走遍全國，組建團隊自學技術，苦心孤詣要製作出兒子的數字形象。也有些人意外失去親人，為了瞞住家裏的老人，選擇用AI換臉的方式，編造善意的謊言。

但其中仍存在不少倫理風險，近兩年，AI詐騙猖獗，國內還沒有相關法律和行業規定，如何判斷對方的真實目的？張澤偉目前只能依據自己的價值判斷和邏輯，他選擇相信普通人的故事，也相信，有時候技術能救命。張澤偉的理想就是為每一個普通人都打造一個數字人，「從2023年開始，幾乎每個人都可以實現數字永生了，我覺得不管是大人物小人物，都應該為這個世界留下點什麼，不是說只有偉人才應該被人記住。」

同場加映：日式美葬送行者　為亡者製造「畢業」紀念冊　安慰至親作美好告別（點擊放大瀏覽）▼▼▼

以下是我和張澤偉的對話：

01　從15歲到60歲都有需求

雅蘭：目前製作AI數字人，主要使用的技術是什麼？有哪些步驟？

張澤偉：目前會用到語言處理技術、聲音克隆技術、深度學習技術等等。我們首先要採集你的數據，比如照片、視頻，語音，製作人臉的模型，然後再輸入一些這個人的個人數據，基本訊息。輸入的有效數據越多，也就越逼真。其實就是建立一個「智能體」，在大語言模型的基礎上建立個人的小模型，得到一個AI數字人的形象，可以進行互動。

因為技術條件限制，在真實情感需求的場景下，如果純粹用智能驅動去做數字人，是沒辦法像真人一樣，實現更靈活和有温度的互動。所以我們大部分的訂單還是使用了AI換臉的方式。比如提取了人的面貌、語音後，製作人臉模型，然後再調取虛擬攝像頭，打視頻的時候，我們就能換上逝者的臉和聲音，和對方實時互動。其實AI換臉不新鮮，但是以前只能換成靜態的，現在可以換成動態的形式，無論你做什麼表情，動作，都會比較逼真。

雅蘭：目前你接到的訂單，用戶畫像大概是什麼樣？

張澤偉：在找我們的人裏，從15歲到60歲的人都有。大部分人都是想要復刻自己去世親人的形象。還有一些年輕人，他們希望用這個技術復刻自己偶像的形象。希望能和他們實時交流，甚至早上叫他們起牀。當然，這個會有一些侵權風險，我們現在是不做的。還有一個父親，他因為特殊的情況，沒法和孩子見面，孩子的母親擔心這樣會影響孩子的成長和心理健康，就請求我們換上那位父親的臉和聲音，每周和孩子打打視頻，給孩子講講睡前故事。他們出發點都非常單純，無非是希望用技術解決陪伴的問題。

雅蘭：單純的商品買賣無法挑選顧客，但您其實在提供一種服務，這些找到您的人，您如何做篩選呢？

張澤偉：首先我們會進行一個簡單的溝通，就是看對方有沒有足夠的素材，能不能達到製作的標準，其次就是要搞清楚對方到底為什麼要製作AI數字人，搞清楚目的，主要還是聽對方講述的故事。因為現在也沒有行業標準，沒有相關的法律法規。所以我們只能在不違反道德和法律的情況下，考慮為對方提供服務。我們也會和對方簽訂一份協議，就是對方絕對不能做違法的事情，否則我們就會立刻報警。

雅蘭：如果只從對方的故事判斷，這個範圍會非常大，你們怎麼會知道對方是否會做違法的事情？

張澤偉：這個沒辦法百分百去防範，只能盡力去約束。就像你是賣菜刀的，你也沒辦法知道對方買了菜刀會去做什麼，這是一個道理。我們會判斷對方做這件事是不是「利他」的，雖然免不了對方有可能編造故事，但我也會盡量多和對方溝通，判斷對方的真實目的。最主要還是看對方適不適合。比如之前有一個母親找到我，她說自己的孩子因為絕症走了，她因為這個事想不開，嘗試自殺了很多次。後來我們打電話，她真的哭得撕心裂肺，那是裝不出來的。

後來我們想，她已經因為這個事輕生，如果真的看到自己女兒的形象跟她打招呼、說話，她可能真的會受不了。我們也諮詢了一個專業的心理諮詢師，判斷這個事不能幫她做。因為她內心很脆弱。此外，還有一個人患有面癱，她想要做主播，覺得自己的形象不太好，很自卑，想要用AI換臉進行直播。我們覺得面癱是一種外形的缺點，不應該逃避。假如你有真才實學，誰在乎你的外表呢。

雅蘭：樣貌可以一模一樣，聲音可以很逼真，但是感情要如何去復刻呢？

張澤偉：其實每個人都知道這是假的。有時候也很有意思，我們換了逝者的臉打視頻電話過去，客戶也不需要我們說話，就是讓他看看就好了。有時候為了撫慰一些老人，家屬也會跟我說一些逝者的基本訊息，但不需要了解太多，因為年紀比較大的人，關注的點無非就是你身體怎麼樣，忙不忙，噓寒問暖而已，基本上每個人都能回答的。

同場加映：看護分享病人臨終前的5大遺憾：沒勇氣過想要的人生、 太努力工作（點擊放大瀏覽）▼▼▼

02　如果數字人擁有意識　哪一個才是真實的你？

雅蘭：您所做的這件事依然充滿倫理爭議，您覺得最大的爭議點在什麼地方？

張澤偉：有很多國外的媒體採訪過我，他們主要覺得用技術療癒在世的人，這是一個謊言，但是在我們中國人看來，有時候善意的謊言也是一件好事。有時候，這件事甚至能救一個人的命。

雅蘭：以前我們看科幻電影，經常有對人工智能的恐懼，怕人工智能會取代人類，擁有意識，你覺得這件事還遙遠嗎？

張澤偉：其實這件事已經不遙遠，我個人覺得快則3年，慢則5年。而且一旦機器擁有情緒，它和人的區別也有不大了。

雅蘭：之前看《黑鏡》那個劇，有一集裏講到，有一天人類能夠提取自己的意識副本了，並且可以把意識放進一個智能盒子裏，做我們的管家，但是那個意識擁有主體的一切經驗、意識、情感，他覺得非常痛苦，但我們覺得那只是一個代碼，這會不會造成我們對AI數字人的剝削？

張澤偉：人工智能擁有意識，我覺得這個在未來大概率會發生的。尤其是能夠打通腦機接口的情況下。我覺得這是一個人機交互的協議，涉及到未來人和機器究竟要如何共存的問題。很多人覺得機器不可能超越人的地位，不能威脅到人類的地位，畢竟機器是人創造的。我覺得這也是一種傲慢的態度，認為人應該凌駕於技術之上，其實我覺得人挺渺小的。人和技術應該是一種平等的關係，人類並不是創造了這些東西，包括火、電，人類只是發現了這些東西，做了一些改造而已。那你憑什麼凌駕於萬物之上呢？

雅蘭：我們經常從在世者的角度思考這個問題，假如從逝者的角度，我們再開個腦洞，我們提取了逝者的意識副本，創造出一個AI數字人，他沒有身體，但是有逝者的記憶和情緒，怎麼辦？他會願意「復活」嗎？

張澤偉：那就給他裝個身體。

雅蘭：他真的會快樂嗎？

同場加映：長期感受不到快樂？醫生解答關於抑鬱症的10個Q&A：甚麼是憂鬱？（點擊放大瀏覽）▼▼▼

張澤偉：其實從我的角度來講，永生並不是一件值得快樂的事情。就目前的技術發展水平而言，我只是覺得，AI數字復活的意義在於陪伴，緩解生者的壓力和痛苦，一定程度上實現療癒的作用。至於未來的事，我們沒法做預判，沒法想那麼多。現在的技術還在發展，至少目前不該畫地為牢，設置太多條條框框。

雅蘭：在影視創作，文學表達力，悲痛一直人類做創造和表達重要來源，人有些想法、感受，都是從悲痛是失去的感覺中來的。喪失感，也是人類情緒中很複雜生動的一部分，假如這些情緒能夠立刻被AI數字人撫慰，會不會某種程度上也削弱了人的想象力和創造力？

張澤偉：我覺得不會，你要看這件事發生在哪一代人身上。以後出生的人，他們可能一出生，就已經習慣了人工智能的教育方式，會把它當成自己的助手，很多通用的知識，可能就不用學習了，那就可以把更多時間放在其他事情上。你說關於美學的教育，以後的孩子難道不用背古詩了嗎？肯定還是需要的。依然會有很多機器沒法解決的問題。他們會在技術發展的基礎之上去培養自己的浪漫和美感。

雅蘭：假如有一天每個人的數字分身都有了本體的意識、情感和經驗，到底哪一個才算是真正的你呢？

張澤偉：我覺得都算。因為虛擬世界並不是絕對意義上的虛擬，它只是相對於我們存在的現實生活而言。那誰又知道我們現在不是生活在虛擬世界裏呢？所以我覺得不用分得那麼清楚，人和人工智能不是「誰替代誰」的關係，而是「共同存在」的關係。

如果我們創造出能力不低於人類的智能體，你不能消滅它，就只能選擇和它共存。

【本文獲「一条」授權刊出，歡迎關注：https://www.facebook.com/yitiaotv】