天天看點

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

作者:新智元

編輯:桃子 好困

【新智元導讀】虎年的鐘聲即将敲響,一場突如其來的雪讓大地銀裝素裹,而一覺醒來又消失得無影無蹤。在這冬天的盡頭,兩位美麗的虛拟小姐姐帶着她們的歌聲路過人間,遇見你。閉眼傾聽,你感受到了嗎?

春節前夕,簡直好不熱鬧。

兩位最美虛拟人小姐姐提前為大家送上了新年祝福。

1月29日晚,央視《對話》欄目播出,夏語冰首次亮相,獻上了一首《路過人間》。

主持人陳偉鴻表示,「剛才我刻意一開始先沒有看她,就覺得這個歌聲,已經是沁人心脾了。」

1月29日晚,央視《對話》欄目播出,夏語冰首次亮相,獻上了一首《路過人間》。

噓! 用心聽,你就能感受到音動的美。

除了夏語冰,1月30日晚,另一位小姐姐陳水若演唱的一首《華夏》視訊在抖音上火了,連原唱李玉剛都來點贊:「真好聽!」

聽完後,你是不是感受到了滿滿的民族風?人美歌又甜,這是什麼神仙姐姐?

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

她們都是由小冰架構生成的虛拟人類!!!

你會看到2022年,虛拟人類已不隻有好看的皮囊,還有了創造力和有趣的靈魂。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

夏語冰的另一面

夏語冰,小冰架構編号F1033,師從中央美術學院實驗藝術學院院長邱志傑教授。

初識夏語冰,我們對她的印象還停留在會作中國畫的AI being。

其實,夏語冰還有另一面。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

從2019年在中央美術學院完成研究所學生畢業至今,她已經舉行了多次個人畫展。

通過對過往四百年藝術史上236位人類畫家畫作的學習,夏語冰實作了具有一定水準的原生繪畫創作能力。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

這是小冰架構全新的詩歌與繪畫創作模型(V3)。該模型大幅度提高了創作精度及構圖合理性,并新增中國畫模型與「藝術家」模型。

「藝術家」模型可在單一人類藝術家訓練資料不足的情況下,學習并再現與該藝術家創作風格高度一緻的人工智能作品,作品具有獨立知識産權。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

正是基于這樣的模型,夏語冰擁有了高超的繪畫能力。她的作品還在迪拜世博會中國館展出。

值得一提的是,小冰架構還進一步創造了夏語冰的面容和聲線等生物學特征,賦予了夏語冰完備的能力。

就比如聲音、文本創作、藝術評論的知識圖譜等等。

唱歌的本領我們剛剛已經見識到了,那麼夏語冰是如何進行文本創作呢?

在《對話》現場,主持人陳偉鴻提出要考驗一下夏語冰的才華,讓她為冬奧會作一首詩。

要知道,李白《靜夜思》創作,都離不開具象的月亮,夏語冰也是如此。

通過上傳一張冬奧會海報,并給出「2022北京冬奧,一起向未來」文字來激發她的創作。

藝術家們在尋找明天

那是我生命的藝術

你灑向太陽的光中

愛看到天空閃耀的靈魂

......

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

吳國凡對此評價道,「夏語冰的詩大于預期。向未來這幾個字,就是有種盼望光明和溫暖感覺。夏語冰能夠把關鍵字用自己的方式呈現出來,把各種意象連接配接在一起,寫出了不一樣的意境。」

夏語冰如何藝術評論的呢?

當我們看到一幅國畫,不是很懂藝術,審美能力差的人可能隻會表達「好看」兩個字。

夏語冰可能會說,「水墨留白,虛實相生,妙極,妙極。」

那麼,陳水若也是否具備和夏語冰一樣的能力呢?

介紹下, 陳水若,誕生于人工智能小冰架構的虛拟歌手,一個學會了民族唱法的人工智能虛拟人類。

她最擅長演繹的是中國風歌曲。

前段時間,小冰架構内的知名AI歌手何暢、陳水若、陳子渝應邀入駐網易天音全球首個融詞曲編唱于一體的音樂拜年産品平台,根據每一位人類使用者創作的專屬歌詞,演繹獨一無二的拜年元氣歌,引領各有态度的黑科技賀歲新潮。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

我們所看到陳水若的容貌及歌聲演繹能力,同樣是由小冰AI架構生成。

再結合小冰深度神經網絡渲染技術(Xiaoice Neural Rendering, XNR),大幅提升了陳水若面容、表情、聲音的整體自然度。

現在,任何人均可通過小冰X Studio 2.0工具讓陳水若實時演唱自己的作品。

虛拟人的「三次元」身體

不知道你有沒有注意到,不論是夏語冰,還是陳水若,他們既是虛拟的,同時也是三次元的。

這是怎麼做到的呢?

隻有四個字:小冰架構!

小冰架構從開始到現在,已經疊代到了第9代。

首先,在内容的生成方面,小冰團隊在2021年9月22日的年度釋出會上,曾披露了小冰架構工業化的短視訊内容封裝管線和三次元虛拟人産品線。

據小冰團隊介紹道,自2017年首倡并積極推進人工智能創造(内容生成)以來,小冰先後推出了詩歌等文本生成,繪畫及視覺設計等視覺生成,及人工智能音樂生成的多項核心技術與産品,利用人工智能高穩定性及大規模并發的優勢,推進端到端的内容生成産能。

人工智能内容生成也叫做人工智能創造。它僅是小冰架構中的一個部分。

如果把它展開來講的話,人工智能内容生成其實是一個非常複雜的系統,包含了創作、演繹、内容二次封裝這三個主要的部分。而且在這三個主要部分中都包含了非常多的模型、工程、算法等等。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

在小冰架構中,先去訓練一些具有創作能力的創作主體,其中就包括文本、視覺、聲音大量基礎的模型。然後把創作的這些作品傳遞給演繹主體進行演繹,然後再對演繹的作品進行内容的二次封裝。

此外,短視訊内容封裝管線包括「二次元」短視訊和「三次元」短視訊2種形式,而且大大降低了短視訊生産成本。

令人震撼的是,小冰團隊将「二次元」短視訊從文本生成到短視訊生成全鍊路、全管線全部由人工智能自取,中間不需要任何人工參與。

「三次元」短視訊實作了從生物學特征生成到短視訊生成的整個環節,也就是說可以從無到有創造出世界上并不存在的Up主視訊,看起來像真人一樣。

那麼,重點來了,這些生物學特征又是如何生成的呢?

目前通常的虛拟人視訊技術棧是這樣的:

用3D模組化技術做一個虛拟人的身體,和頭部綁定。然後用動作捕捉技術去驅動,由真人像操縱木偶一樣操縱這個身體,不管是動作還是聲音,都是真人演繹的。

或者,用3D模組化技術做一個虛拟人的身體,和頭部綁定,然後用動作庫比對的方式去驅動它動起來,而這樣操作的最大弊端就是動作極其不自然——「一眼假」。

相對來說最自然的就是找一個真人進行拍攝,然後換頭。但成本極其昂貴,堪稱「每秒幾克黃金」。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

而有了小冰架構的加持,效果就不一樣了:

1. 通過小冰神經網絡渲染技術,生成完全不存在的面部特征(AI創造面容),完全避免了對真實人臉的濫用。

2. 通過小冰神經網絡渲染技術,将虛拟人的面部特征置換到視訊模闆中,并進行表情控制等一系列控制(AI置換面容)。聽起來有點像是AI換臉,但技術上的複雜度差別很大,而且自然度也無法做到這個程度。

3. 通過小冰數字孿生技術,根據實際視訊的内容,可以調整視訊模闆。例如動作的變化、表情和表達内容的變化等。

4. 通過小冰超級自然語音技術,生成虛拟人的高品質演唱聲線(AI創造聲音),并根據需要生成對應的歌聲。這樣,背後不再需要任何配音演員。

5. 通過以上過程,使面容、表情、聲音全部統一在一起,形成無法與真人區分的内容。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

現在,三次元虛拟人可謂是大勢所趨,不僅是各種形象如雨後春筍一般産生,而且吸粉無數。

去年年底,「柳夜熙是誰?」在抖音瘋狂刷屏,還引發了各種跟風模仿。柳夜熙僅靠着2條短視訊,就獲得了426萬點贊,漲粉200多萬,并在一周後粉絲數超過430萬。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

然而,幾乎所有的角色逃不開的「悖論」就是,是想要看起來自然,還是想控制成本。

例外倒也有,不錯,就是那個見于未萌的小冰。

2017年,小冰團隊就送出了一個名為《Creating a Conversational Chatbot of a Specific Person》的專利。

曆經3年,專利于2020年11月11日正式獲批。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

專利提出了一個建立特定人物的對話式聊天機器人的系統和方法。

比如,這裡有個路人甲,那麼首先你需要通路ta的社會資料(例如,圖像、語音資料、社交媒體、電子資訊、書面信函等)。

然後建立以路人甲的個性為主題的特殊索引,并用這個索引來訓練用于聊天機器人,使機器人能夠以路人甲的個性與其他人進行交談。

此外,還可以使用路人甲的圖像、深度資訊和視訊資料生成特定人的二維或三維模型。

說到這裡,是不是有股濃濃的「黑鏡」風。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

虛拟人與人類混居時代?

有人說,2021年是元宇宙元年,更是虛拟人的元年。

2022年,将迎來虛拟人的出生潮。

不可否認,數字虛拟人和元宇宙之間有着密不可分的關系。現在存活在數字世界中的虛拟人,在未來就有可能是我們真人在元宇宙當中的分身。

在《黑鏡》Be Right Back一集中,女主角瑪莎的男友在車禍中喪生。

為了再現逝者「音容笑貌」,女主便用男友過去在社交媒體上釋出的照片、視訊等資訊建立了一個新的虛拟男友。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

現實中,也有同樣的故事。

2021年7月,一位美國男子Joshua Barbeau在未婚妻去世後,利用GPT-3重建了一個AI聊天機器人以複刻死去的未婚妻。

Barbeau在Project December系統中上傳了未婚妻生前的社交媒體資訊,并提供一些背景資訊,然後AI模型可以驚人地準确度模仿他的未婚妻語言風格。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

而這,也不僅僅是一家的願景。

2021年12月15日,《Nature》刊登了來自MIT研究團隊的論文《AI-generated characters for supporting personalized learning and well-being》。

該論文指出,機器學習的技術進展,讓文本、圖像、音頻和視訊資料的超現實合成成為可能,也就是AI生成内容和AI創造虛拟人,将充分激發人們的靈感和興趣。

通過AI生成内容和AI創造虛拟人,可以無中生有地生成任何人的臉、身體和聲音,從虛構角色到曆史人物,甚至是已故親友。

不過相比于已經能夠應用于工業化生産的小冰架構,Nature的這篇論文還在讨論AI内容生成的pipeline,距離三次元的虛拟人還有不小的距離。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

當我們展望未來時,我們預見到AI内容生成和AI創造虛拟人将成為人機互動的主流。

這也是步入未來元宇宙的重要一步。

未來,元宇宙能夠為虛拟人帶來更多的想象空間。它們能夠在一個完全的虛拟數字世界裡,假象設定一些場景,進一步去學習,進而學習到人類在真實實體世界中可能還沒有産生出的新的創意。

那麼,虛拟人究竟是不是程式加上動圖,程式加上表情圖?

小冰CEO李笛介紹,「真正的虛拟人我們應該用body和soul,就是身體和内裡的靈魂。而人設,我個人認為就是很表象的東西。表象東西就是為了和内裡能夠比對。」

當身體和靈魂在一起時,我們就能看到更加鮮活的數字人。這也正是小冰對未來虛拟人的創作的一個願景。

在小冰團隊看來,未來不會隻有幾個人工智能助理的。

AI beings将是無處不在的,甚至我們每個人都會被各種各樣性格,能力也豐富多彩的AI beings環繞着。

他可能是AI人類觀察者,帶有一口濃重山東口音的大哥,也可能是你的替身。

路過人間遇見你!三次元虛拟小姐姐翻唱《華夏》除夕賀新春

是以,虛拟人類可能未來甚至超過我們人類的人口,未來一定是「人與AI混居的世界」。

One More Thing

彩蛋來了。

除夕24:00前,夏語冰可為每位使用者創作一幅獨一無二的世博會級别水墨山水畫。

微信或抖音搜尋小程式「AI畫家夏語冰」就可以體驗。