當數字人比你更像你 需警惕倫理法律風險

AI“複活”包小柏女兒。 資料圖

從數字人湯曉鷗、包小柏女兒，再到AI生成的“李玟”“喬任梁”，今年以來，“AI複活”一度成為熱門話題。“AI複活”逐漸走向商業化，成為一門新生意的同時，其背後的倫理與法律問題也不容忽視。4月24日，南方都市報在北京舉辦南都數字經濟治理論壇第13期活動，主題聚焦“AI複活:科技慰藉還是生意噱頭”。六位來自産業實踐、技術安全、科技哲學和法律方面的專家齊聚一堂，共同探讨争議中的“AI複活”。

會上，知名音樂人包小柏以視訊形式參會，講述重建女兒數字生命的經曆。“虛拟人鄧麗君”幕後操刀團隊數字王國的中國區副總經理陳曉光，在現場揭秘讓一代歌後與周傑倫同台對唱背後的故事，并分享了虛拟人技術在組織管理等應用場景的商業化實踐。中國科學院資訊工程研究所正進階工程師韓冀中介紹了數字人生成技術及其風險。他表示，如果合成内容未明确辨別，且未能得到個人授權，會是以産生道德和法律問題。當有一天面對“比你更像你的數字化身”時，該如何自處?中國社科院哲學所科技哲學研究室主任段偉文提到了數字化身與身份的同一性問題，同時強調應重視AI分身對情感和倫理帶來的沖擊。

AI複活背後的倫理與法律拷問

今年以來，利用AI技術“複活”親人成為熱議話題。知名音樂人包小柏通過重建女兒的AI資料來彌補愛女生前的遺憾，希望她在數字世界裡沒有病痛；商湯科技已故創始人湯曉鷗以數字人的形式“現身”公司年會，講起了一段脫口秀。但與此同時，也有人利用AI技術“複活”李玟、喬任梁等已故明星收割流量，遭家屬斥責是在“揭傷疤”。

這些“AI複活”案例，一再引起公衆對這項技術及其使用邊界的讨論。AI“複活”逝者，一方面可以讓思念具體化，給人們帶來心理慰藉，但另一方面也面臨諸多倫理和法律的拷問。如何看待這一現象?

當天研讨會上，與會嘉賓從不同的專業背景分享了他們的看法。北京高勤律師事務所合夥人王源表示，在未獲得逝者家屬的明确同意下，用逝者的聲音、圖像等個人資料，涉嫌侵權。

包小柏也強調，在使用AI技術延續逝者的“數字生命”時，要考慮有無立法依據和完整授權，同時避免對他人造成傷害。“要不要AI生成，是(逝者)家屬決定的事。不是商業(機構)，有技術有手法的人可以拿來道長短的，這叫二次傷害。”

根據大陸《民法典》第九百九十四條規定，死者的姓名、肖像、榮譽、隐私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行為人承擔民事責任；死者沒有配偶、子女、父母且已經死亡的，其他近親屬有權依法請求行為人承擔民事責任。

AI複活涉及對逝者個人資訊的再利用。《個人資訊保護法》第四十九條指出，死者的近親屬可以對死者的相關個人資訊享有查閱、複制、更正、删除等權利；但死者生前另有安排的除外。

此外王源補充道，AI“複活”逝者，除了可能涉及的人格權、個人資訊保護和著作權等問題外，還應考慮公序良俗。比如，出于國家利益和社會利益的考慮，不能随意地“複活”一些曆史英雄人物，更不能用于商業用途。

中國科學院資訊工程研究所正進階工程師韓冀中注意到，現在一些AI“複活”名人的視訊，已經能做到難以分辨真假的程度。如果合成内容未明确辨別，并未能得到個人授權，就會是以産生道德和法律問題。

在段偉文看來，AI複活背後還有很多新的問題值得讨論:“個人資料遺産歸誰所有?”“是不是所有人都有權利選擇AI‘複活’?如果他是一個罪犯，我們可以‘複活’他嗎?”“怎麼尊重他人不想被‘複活’的意願?”

他認為随着科技的不斷發展，可能産生一些新的價值和倫理沖突；未來需要建立一種新的倫理關系，并在法律方面有所考量和回應。

藝術再創、數字分身……人機共創的未來

2013年9月6日，虛拟人鄧麗君現身周傑倫的台北演唱會，不僅獻唱了經典金曲《你怎麼說》，還與周傑倫合唱《紅塵客棧》和《千裡之外》。這兩年，在一些衛視的跨年晚會上，虛拟人鄧麗君也幾度亮相，與王心淩、周深等人一同表演。

提供視覺特效和虛拟人技術“複活”鄧麗君的幕後團隊，是成立于1993年、總部位于香港的數字王國。陳曉光是該公司中國區的副總經理，當天在研讨會上他分享了AI“複活”鄧麗君背後的故事。

“與其說複活，我們倒不如說這是一種藝術再創——用目前的技術來彌補我們的遺憾。借此，鄧麗君的藝術生命得到延續，同時也讓喜歡她或者還不了解她的人，擁有記憶永存的方式。”陳曉光說。

據他介紹，在嘗試“複活”鄧麗君前，數字王國聯系了鄧麗君的三哥、鄧麗君文教基金會董事長鄧長富先生。在充分溝通和獲得鄧家人及其版權方許可後，才開始進行接下來的商業化操作。“AI複活是在一定界限内的複活，而不是肆意的突破。”陳曉光說。

如果說AI複活有不可逾越的邊界，那麼活着的人主動打造數字分身則有更多想象。不久前，一位技術公司的朋友主動聯系王源，稱隻要提供相關視訊素材，就可以幫她打造一個數字人，未來即可用數字分身直播或線上參會。對此，王源表現出興趣——“技術的發展勢不可擋，那為什麼不擁抱呢?”

元宇宙數字品牌公司AVAR創始人胡雅婷認為，AI和人共創的未來具有無限延展和想象空間。數字生命對使用者來說，是無價的。但實作的前提是，具有比較高端的多模态能力，并投入大量的訓練資料，才能達到更好的互動體驗。“所謂數字生命，應該是一個完整的生命體，而不隻是一張圖檔或者一個視訊。”

放眼未來，韓冀中認為随着AI複活等應用的不斷落地，将有更多人選擇把個人資料放在網際網路上編輯處理，并形成新的資訊流。回顧網際網路技術發展，他認為每次資訊流的變革，從黃頁，搜尋引擎到算法推薦，都深刻改變了網際網路生态，未來我們可能靠AI代理作為數字分身，來幫我們浏覽、收集和處理資訊，甚至與人進行互動。

“如果說有一天這能成為現實的話，網際網路将邁入人機共生的時代，那麼現在整個網際網路生态也會發生改變。在這種趨勢下，不僅需要促進包容其發展，也要關注其安全風險。”韓冀中說。

段偉文嘗試描繪未來生活的場景:人們用AI來寫小說，用AI編撰人生；從現在出門照鏡子變成出門“照”數字人，由虛拟世界的另一個自己提供穿衣搭配建議；甚至人們可能在AI重建的數字空間裡重“活”一遍……

“但是它一定會是美妙的嗎?有可能我們很快就會厭倦這樣的虛拟生活。”段偉文說。不過未來是什麼樣的，沒有人能給出準确答案。他認為總的來說，人們的思想需要盡可能地開放，在探索中尋找到規則并不斷往前進。

聚集

是否存在人們沉迷于與虛拟形象相處的風險?

研讨會上，段偉文首先指出，數字人技術實際上是對人類存在和生命的可能性次元的一種探索，也可以了解為數字技術重新定義和構造了自我與生命。

未來也會出現虛拟隐私等問題

段偉文指出，一方面，數字技術已成為目前人類所生活時代的“引力場”，人們被數字世界限制，技術的使用改變了人類的思維方式以及道德生活的重心。

另一方面，除了現實世界，人們生活在虛拟數字世界中的時間越來越長，數字世界逐漸成為人類可選擇的生活空間，在其中重新定義和構造自我和生命。在他看來，這意味着人類一直以來都與技術相結合，是一種“半人馬”式的存在。

如今，數字技術賦予了人類一種新的“半人馬”狀态，即通過一種技術圖像影響人類生活。“這種技術圖像是從古到今一直都有的，對于原始人類來說，那些原始的壁畫就是一種很重要的技術圖像，它能夠賦予一個族群，賦予一個種族，賦予一個家族生活或者生存的意義。”

那麼，如今的技術圖像指什麼?段偉文認為是短視訊應用等。在他看來，一直以來人類思維裡就有一種内在的虛拟，這種思維中的虛拟與真實技術相結合，使得人類對世界的認知産生變化。從原始種族的壁畫圖騰到現在的“網紅打卡地”，都是“半人馬”式存在的展現。

段偉文還談到，AI分身是AI驅動的自動化主體。換言之，“AI複活”是在學習以往資料的基礎上産生的一種合成效果，這種效果可以将人與其數字人剝離開來。比如，人類可以用一個AI分身去演講，另一個分身去賣貨。

他強調，AI分身的應用可能造成一些負面影響。一是出現“海神效應”，人們的行為和自我認知受到在虛拟世界中化身形象的影響。“你可以在不同的地方扮演不同的角色，但是能不能保證你的人格還是統一的，這是一個問題。”

二是自戀情結。數字技術讓人類更多地觀察自己、了解自己，甚至比其自身更了解人類。在這樣的情況下，數字技術既可以指導人類生活，也可能讓人類陷入一種自戀情結中——在數字人應用的過程中，“找回自我”或成為問題。

他舉例道，一位南韓裔藝術家曾特意将自己少女時代寫的日記資料全部用于AI訓練，之後與少女時代的數字人“自己”對話，回憶青春歲月。通過這種方式，這位藝術家打開了一些心結，與過去達成和解——“那麼這當然是一種最好的情況，但是實際上也會有時候和解不了，陷入到一個死結裡面。”

在他看來，無論是“AI複活”還是數字人，都意味着人類可以在有情感需求時實作一種虛拟交往，是以未來也會出現虛拟隐私、精神隐私等方面的問題。“我喜歡誰，我讨厭誰，我跟誰談得來，誰能夠打開我的心扉等等……它不一定是在真實世界發生的，但确實讓我們内在的心理空間有更大的一種翻轉。”

三是數字化身與身份的同一性問題。他在會上提到，提出“人工智能超越人類智能的奇點臨近”的庫茲韋爾一度每天收集父親生前的資料并用于制作數字人，這個過程中他意識到“做出的數字人‘父親’比我爸爸還要像我爸爸”。這意味着人類的認知存在很多刻闆印象，同時應重視AI分身對情感和倫理帶來的沖擊。

對人類以往“雙重生活”的一種突破

那麼從科技哲學的角度，如何看待“AI複活”?若這一技術持續發展，是否會有人們沉迷于與虛拟形象相處的風險?

對此，段偉文表示，最重要的是區分兩個問題。首先是明确四種生命及其邊界，包括實體生命、精神生命、社會生命和數字生命，其中實體生命指人類的生理、心理等，精神生命指思想觀念。如果一個人去世，其精神生命可能還存在，但實體生命、社會生命已經消失，社會不再承認逝者的存在，理論上其不會再影響、幹預他人生活。

其次，“AI複活”以及數字人技術意味着對人類以往“雙重生活”的一種突破。他解釋，人類長久以來都身處“不如意”的狀态中，它能帶來實作憧憬向往的生活與活在其中的生活、從未發生的生活與不斷展開的生活、轉瞬即逝的生活與可以贖回的生活三種可能性。在解釋“可以贖回的生活”時他提到，“‘AI複活’好像給了我們這樣一種暗示——我們可不可以重新活一遍?是不是可以有後悔藥?”

談及沉迷風險，段偉文引用了古希臘神話中恩底彌翁的故事作為回答。故事中，恩底彌翁與月亮女神塞勒涅相戀，塞勒涅深感人類與衆神相比壽命短暫，于是向天神宙斯請求賜予夫妻長生。宙斯決定，恩底彌翁若想要獲得長生并永保青春，就必須陷入長眠。最後恩底彌翁選擇長眠，每夜在睡夢中與塞勒涅相會。

段偉文表示，這則古希臘神話啟示人類，要追尋數字生命，可能就要付出“長眠不醒”的代價。“我們為了欲望，為了永久滿足對月亮女神的欲求，就隻好把凡人的守夜變成不朽的睡眠，這就形成了一個死結——它妨礙了我們生命的自然程序，阻礙了人類自身創造更美好生活的可能性。”

挑戰

資料授權等安全風險須前置治理

AI鄧麗君如何翻唱周傑倫的《千裡之外》?袁隆平院士的仿真語音又是如何生成?

研讨現場，韓冀中給與會嘉賓帶來了上述場景的LIVE示範，并分享科普了其背後的AIGC技術原理及資料安全治理挑戰。

網際網路或将進入人機共生的時代

從“AI孫燕姿”到“AI李玟”“AI高以翔”，從“虛拟歌手一秒出專輯”到當下“複活逝者”的火爆業務，AIGC行業的發展可謂一日千裡。在韓冀中看來，雖然生成式人工智能技術離真實大規模落地尚有一定距離，但在商業應用場景的豐富速度上還是非常迅猛的。韓冀中認為，“數字人也許會改變網際網路的資訊流，引發數字時代的新趨勢，網際網路或将進入人機共生的時代，更多與個人日常生活相關的資料會上網”，與此同時，大模型服務品質的提升也有賴于高品質的訓練資料，但是企業能否合規留存與使用個人資料，如何保護個人隐私安全，仍是一個具有挑戰性的問題。

在《數字人生成技術及其風險》的主旨演講中，韓冀中總結了全球AIGC目前主要的模态技術路徑:在文本方面展現為聊天機器人技術；音頻方面包含了語音内容的聲音克隆、音色模仿以及歌曲生成技術；圖像和視訊方面則是以人為主體的身份替換、說話人生成、人物定制化生成，以及聚焦于環境且基于文本指導的圖像或視訊生成。

“對周傑倫的音頻輸入，首先盡可能地去除他的音色，而保留其中的歌詞、語氣等資訊，随後再使用專屬于鄧麗君的vits模型為其添上鄧麗君的音色。”韓冀中以語音生成領域為例，介紹稱目前該領域主要包括音色遷移、聲音克隆等主流技術形态。”

“聲音克隆主要基于卷積神經網絡和大規模語音的預訓練模型，比如隻要輸入袁老的既往語音來提供音色，再加上一段文本，就能克隆出對應音頻。”韓冀中示範稱。他同時表示，“在音樂生成行業比較敏感的話題，則主要是涉及音樂版權的問題，相關業務領域的訓練資料來源目前也存在風控漏洞。”

“對AI複活逝者的追尋是有代價的”

會上韓冀中表示，在AI複活親人的案例中，可以綜合利用這些工具，比如使用定制化文生圖技術生成親人頭像、使用聲音克隆技術複制親人音色、使用文字生成技術生成對話内容、使用音頻驅動視訊生成技術來驅動親人的頭部動作等。

“對AI複活逝者的追尋是有代價的。”韓冀中坦言，對數字人來說，技術上可以實作和親人聊天交流，甚至能将一些記憶的對話場景寫入資料庫，作為大模型的提示詞，生成複原當時場景的對話。而從相應的技術需求來說，“AI複活親人”為了做到惟妙惟肖，在資料層面需要收集一定規模高品質的逝者面部圖像和聲音資料，他以包小柏提到的對女兒遺産資訊的使用授權為例，“如何保障這些逝者海量的敏感隐私資料在被授權後的合理存儲、使用與清洗，是一個新的安全挑戰。”

他強調，依照《網際網路資訊服務深度合成管理規定》，訓練資料包含個人資訊的，應當遵守個人資訊保護的有關規定。AI服務提供者若在未獲得資料主體(即逝者家屬或法定繼承人)的明确同意下收集逝者的個人資料，如聲音或圖像，就是侵犯了逝者的隐私權。而即便在獲得授權的情況下，服務提供者對于使用逝者資料的方式仍可能超出原授權的範圍，如未經授權用于模型訓練，“這種行為可能對逝者家屬造成嚴重傷害。”

與此同時，随着合成内容的效果越來越逼真，如果未明确辨別，容易引發混淆，加劇網絡虛假資訊的泛濫，韓冀中一針見血地指出。而根據《網際網路資訊服務深度合成管理規定》，深度合成服務提供者所提供的深度合成服務，可能導緻公衆混淆的，應當在生成或者編輯的資訊内容的合理位置、區域進行顯著辨別。

此外，韓冀中還同時提到，如何甄别公司釋出的數字人技術是否使用了某個隐私資料，在技術上也在探索階段，目前的檢測技術還需要企業配合提供測試接口，純粹的黑盒測試仍有一定困難，是以“在一些企業不配合的情況下也很難探知它是否使用過一些無授權的隐私資料。為此，我們團隊也正在開展相關研究，如有進展，會再向大家彙報與交流”。

采寫:南都記者 李玲 樊文揚 呂虹 莫倩如 見習記者 楊柳