劃重點：
- 1AIGC的發展跟最早期的深度神經網絡相比，并沒有從範式上産生一個根本性的變化。我們不能從ChatGPT對話生成效果好、表現的很智能，就得出它真的是産生了通用智能的結論，因為它并不能真正知道它自己在說什麼，隻是給人們一種它已經了解其所生成内容的感覺而已，這跟人類智能還是有一定距離。
- 2中國在AIGC發展中确實是還需要再努力。絕大多數工作都是美國的少數研究機構完成的，它們引領了整個AI技術的發展。是以我們也要努力，也要争取在AI發展史上能夠有更多的貢獻。
- 3ChatGPT很火熱，但是人們也發現它會帶來很多的負面問題。最典型的就是它産生虛假資訊、錯誤資訊，它會産生一堆看似正确但又是錯的内容。但是如果對這些挑戰過于關注，就會對技術的發展多多少少産生限制。
- 4AIGC，以及未來人工智能技術，一定會給我們現有的生産工具跟生産力帶來一個根本性變革。這些變革一定會引起生産關系的變化，這可能會對人類未來以及社會産生比較大的影響。
2022年，從引爆AI作畫領域的DALL-E 2、Stable Diffusion等AI模型，到以ChatGPT為代表的接近人類水準的對話機器人，AIGC不斷刷爆網絡，其強大的内容生成能力給人們帶來了巨大的震撼。
當AIGC成為社會各界關注的熱點時，人們不禁發問，AI會成為新的造物者嗎？AIGC為什麼突然爆發，是否标志着AI正迎來下一個時代，又會如何走向？兼具大模型和多模态模型的AIGC模型是否會成為新的技術平台？AIGC技術和應用将給經濟社會帶來哪些影響，不同主體應如何看待與應對？
研讨嘉賓：
姚 新 南方科技大學計算機科學與工程系講席教授、系主任
段偉文 中國社會科學院哲學所科技哲學研究室主任
王蘊韬 中國資訊通信研究院雲計算與大資料研究所副總工程師
吳保元 香港中文大學（深圳）資料科學學院副教授
殷 俊 騰訊遊戲CROS研發效能部數字内容技術中心總監
史樹明 騰訊AI Lab自然語言進行中心總監、文湧産品負責人
主持人：
楊 健 騰訊集團副總裁、騰訊研究院總顧問
AIGC的蓄力與爆發
楊健（主持人）：如何看待AIGC在2022年下半年這一時間節點突然爆發？AIGC是否代表着AI技術的下一個時代？
姚新：AIGC的爆發實際上是一個綜合性的成功。AI雖然在内容生成方面有很長的曆史，但過去因為資料、算力和算法技術等限制，一直沒有發展到現在這個程度。現在大家對AIGC産生濃厚興趣的一個重要因素是它超出了人們的預想，是以大家就覺得這東西特别有意思。但是仍需思考AIGC在技術上究竟有什麼樣的突破。
第一，在技術上，達到超出人們預想的效果相對比較容易。比如在圖像、對話，甚至在音樂方面，它可以生成具有某個作曲家風格，但又是不完全一樣的曲子。但是很多人認為AIGC可能是一個通向AGI的有效路徑，其實是值得慎重思考的。因為現在AIGC生成内容是靠着大量的資料和算力堆出來的。而人在生成内容的時候，有時候是通過一個抽象的過程，比如我看了很多圖像，腦子裡面是有個抽象過程，然後從抽象過程再回到圖像的空間，最後來創造生成一個圖像。我還不是太清楚現在AIGC有沒有這種抽象的層次在裡面。你看了100萬幅貓和狗的圖像，機器是不會自己生成一個概念，如4條腿、有毛等。
第二，未來AIGC進一步發展，涉及到科學技術領域，或者真正關系到國計民生的應用領域，可能會有額外的挑戰。因為AIGC生成内容難以保證保證它生成的内容滿足一定限制條件。打一個比喻，我們現在可以把很多分子送到AI系統裡面，它或許給你生成新的分子。從生成分子到生成藥物是可以想象的，但是真正到最後落地，它的距離會在什麼地方？真正要達到所謂的AGI的距離在什麼地方？這是需要我們思考和探索的。
殷俊：首先，我跟姚老師的觀點非常一緻，無論從廣義的基于人工智能做内容生成這件事情，還是比較狹義的做深層次大模型，其實都是厚積薄發，已經有了比較長的研究曆史。AIGC到今天爆發是多方面的，一方面的确積累了非常大量的資料集，而且是公開高品質資料集；一方面是一些理論上的突破，比如以擴散（Diffusion）模型為代表；還有就是新的計算硬體，從2020年開始以GBT3為代表，模型堆得足夠大，效果也足夠好，以前可能并沒有這麼強的計算裝置來支援這種規模的模型訓練，即使到現在這個模型訓練成本還是非常高的。幾方面因素疊加，導緻大家覺得以前可能比如說生成圖檔或者是生成文本是一個不太現實的一個東西，現在好像離我們很近了，我覺得今年AIGC爆發是這麼一個狀态。
目前AIGC的發展跟最早期的深度神經網絡相比，并沒有從範式上産生一個根本性的變化。我們不能從ChatGPT對話生成效果好、表現的很智能，就得出它真的是産生了通用智能的結論，因為它并不能真正知道它自己在說什麼，隻是給人們一種它已經了解其所生成内容的感覺而已，這跟人類智能還是有一定距離。
我認為AI的下一個時代，需要往幾個重要的方向發展。一方面是它可以自主學習，它本身的一些推理邏輯要跟我們人一樣要可解釋或者可了解，真的能夠做到跨領域等。另一方面就是從産業落地的角度來看，比如用人工智能的方法去輔助做遊戲裡面的内容生成，但是現在無論是AIGC生成圖檔、文本生成3D模型、去生成遊戲裡面的角色動畫，或者是我們用ChatGPT來做遊戲劇本或NPC對話等，其實離現在遊戲的專業規範性還是有一定的距離的。
楊健（主持人）：謝謝兩位老師的觀點，總的來講就是現在AIGC爆發可能還是在量變到質變的邊緣，很難說它真正的完成了質變。它還在過去的範式基礎之上，隻是因為其他的技術條件進步了。但是AIGC到底是不是符合人類智能或者說是将來通用人工智能的真正的内在規律，現在還無法确定，可能還要根據後續的發展才能更好地判斷。
楊健（主持人）：AIGC的技術現狀和産業實踐如何，有哪些代表性的應用和方向？
王蘊韬：首先從目前AIGC産業界的實踐來看，AIGC的技術分類按照處理的模态來看，大概可以分成是文本類、音頻類、圖像視訊類和虛拟空間類等：（1）文本類，主要包括文章生成、文本風格轉換、問答對話等生成或者編輯文本内容的AIGC技術，典型應用包括寫稿機器人、聊天機器人等；（2）音頻類，包括了文本轉音頻、語音轉換，語音屬性編輯等生成或者編輯語音内容的，以及音樂合成、場景聲編輯等生成或者編輯的非語音内容的，典型應用就是智能配音主播、虛拟歌手演唱、自動配樂、歌曲生成等；（3）圖像視訊，包括了人臉生成、人臉替換、人物屬性編輯、人臉操控、姿态操控等生成或者編輯圖像、視訊内容，圖像生成、圖像增強、圖像修複等技術都是相關聯的，典型應用包括美顔換臉、捏臉、複刻或者是修改圖像風格，AI繪畫等；（4）虛拟空間類。主要包括了三維重建、數字仿真等生成或者是編輯數字人物、虛拟場景相關的，典型應用包括元宇宙、數字孿生、遊戲引擎、3D模組化、VR等。
從AIGC應用來看，目前在提供更加豐富多元、動态、可互動的内容有很大優勢，在傳媒、電商、影視、娛樂等數字教育程度比較高、内容需求豐富的行業，已經取得了一些比較重大的創新發展。比較具有代表性的包括AIGC+傳媒，主要是在人機協同生産來推動媒體融合，這其中寫稿機器人生成一篇深度報告的時間，已經由最初的30秒縮短到了兩秒以内；還有AIGC+電商，比較核心的是生成商品3D模型，把它用于商品展示和虛拟試用，提升線上購物體驗。還有虛拟數字人打造虛拟主播，賦能直播帶貨；另外一塊就是AIGC+影視，主要是來拓展影視創作空間，提升作品品質。目前已經有産品在為劇本創作提供新的思路，比如小說選劇本的智能寫作服務，其中包括《你好，李煥英》、《流浪地球》等。還有AIGC賦能影視剪輯、後期制作的更新服務，包括《厲害了我的國》、《馬路天使》等多部影視劇都用到了基于AI的圖像處理服務；AIGC+娛樂，主要是趣味性圖像、音視訊生成等。那麼同時目前的話也是有這種開發這種C端應用的這種數字化身來布局相關元宇宙的相關的應用案例，這塊可能大家還是見得比較多的。此外，AIGC在醫療、工業領域也有一些實踐，但可能還僅僅是用在虛拟互動方面，對于深入行業、覆寫行業業務邏輯方面，還在探索中。
史樹明：從整體技術進展來看，AIGC确實進展非常大。5年前，AIGC領域也隻有文本生成語音（TTS）被認為是可用的。3年前，如果說AI根據文本來生成圖檔，生成的圖檔品質過關、相關度也比較高，人們是難以想象的。但是現在這些都已經變成現實了。此外，以前文本生成大多是基于模闆，這種模式的通用性就非常差，隻适用于非常狹窄的領域。現在随着大模型的出現，以及語言模型本身也在進步，是以AIGC讓人印象深刻。不管是Stable Diffusion，還是ChatGPT，讓人很驚歎于它們強大的文本了解和内容生成能力。
當然中國在AIGC發展中确實是還需要再努力。絕大多數工作都是美國的少數研究機構完成的，它們引領了整個AI技術的發展。是以我們也要努力，也要争取在AI發展史上能夠有更多的貢獻。
商業化應用方面，目前主要能看到的一個顯著方向是輔助人來，如AI輔助創作，AIGC充當輔助的角色。AIGC如果自己獨立生成很多圖檔不一定有意義。但當人有需要的時候，AIGC可以根據一些Prompt，也就是輸入一些提示詞及其組合，經過不停的測試、互動之後，最終能夠産生精美的圖檔，并應用在具體的工作或者生活中。AIGC确實能夠輔助大多數很不擅長畫圖的人去創作。文本生成也是一樣，比如在AIGC的輔助之下，我們進行文本續寫、文本改寫的效率會更高，它也能夠啟發我們的思路。是以客觀上AIGC提升了我們這種勞動生産效率，工作效率。從商業化應用來看，最直接的就是AI輔助創作，其他方面還需要進一步挖掘。當然，有人問ChatGPT是不是能夠取代搜尋引擎，但是現在看來可能性還不大，它隻是可能完成搜尋引擎中的一部分功能，但還不能取代。
總結一下，第一，技術進展非常快，超出預期；第二，商業化有很多的想象空間，但是目前我們似乎還沒有挖掘到最關鍵的東西。
楊健（主持人）：雖然AIGC還在探索階段，但是我覺得已經很讓人心馳神往了。以前學設計、美術的都是要從素描開始學起，現在這些技法随着AI技術輔助好像變得越來越沒有用武之地了，是以可能更需要人在創意方面的一些突破，這也是涉及到技術裡面的術和道的關系問題。
AIGC價值引領
楊健（主持人）：我們回歸到價值層面上來看，AIGC為什麼會這麼重要？它到底有什麼樣的價值和意義？它能夠在哪些領域引發變革，除了物質層面，從精神層面價值層面能夠帶來一些什麼樣的更多的沖擊和變化？
段偉文：我主要從4個方面來談：
第一，AIGC帶來一種全新的内容創作，但是其實它還應該是一種全新的認知方式。現在讓AIGC生成内容時，個人的Idea變得更重要了。
第二，AIGC是一種全新的學習和研究工具，因為它賦予了每個個體更高層次的創作能力。比方說最近有争議的是，很多大學生的論文已經可以用AIGC寫出來了，大家認為這個是作弊。其實我們仔細去看現在大多數的大學生論文，它确實也就是這抄一段那兒抄一段，隻不過他會抄的比較好，他歸納的比較合理。但實際上如果運用AIGC這樣一個技術，它就能夠讓你比較輕松的完成文獻搜集和處理的工作，提升學習效率。在研究工作中，AIGC的應用或許能夠正常化的，成為人機認知的協同過程中的有利工具。
第三，會涉及到元宇宙，也就是可能世界的創造。AI繪畫實際上是把各種可能性都結合在一塊，類似于克裡普克的可能世界理論。那麼在以往的時候，個人大腦調用這些可能的資料資源的能力是非常有限的。而有了AIGC以後，它就可以完全是按照你的想象來進行組合，成為一種可能世界的制造機器。是以這樣來看，元宇宙的視野就更開闊了，而是我們完全可以把人類所有的精神财富、思想創造，還有文化遺産等，經過組合方式，再加上人的靈感選擇去進行創造。
第四，AIGC有一些有意思的應用，一個是可以用來防止孤獨症。現在有很多人社交恐懼，是以他可以搞一個自己的數字人，然後自己跟自己聊天。還有一個藝術家用她小時候的日記去訓練AI，最後實作了與小時候的自己對話，她就能夠了解她在青少年時期擔心憂慮什麼，達到心理治療的作用。是以，我覺得AIGC還有在精神的自我認知、自我療愈發揮作用，甚至最後AIGC它會成為我們的好伴侶、好陪伴，能夠讓我們通過AI來自助來獲得新生，來産生更大的精神力量。
殷俊：我認為AIGC對于整個包括元宇宙的虛拟内容生産來說，它可以把内容生産的門檻給降得很低。比如AI生成的太空歌劇院主題的畫作拿了第一名。人們擁有AIGC之後看到一個新的可能性，是不是以後就變成了大衆創作，隻需要有一個好的Idea就可以去創作了。比如用ChatGPT把一整套劇本按照我的思路演繹出來。回到元宇宙這個話題，以往生産工具跟生産方式可能不能滿足元宇宙的海量内容的生産需求。但是現在AIGC讓大家覺得它可能是下一代生産工具。
楊健（主持人）：剛才段老師、殷老師更多的是從人類怎樣去來提升自己、突破自己，利用新技術來實作這個目标的過程。但是不免的可能也會有另外的一面，它有可能對我們既有的生存方式、生活方式、以及生産方式有比較大的沖擊，我們怎麼樣來消化這些可能的變化和沖突呢？
王蘊韬：我們接觸産業界比較多一些，我第一次看到AIGC的時候，腦海中想到的第一個詞是“超算”。AIGC很有可能會對我們目前已有的計算體系，包括計算系統，會提出新的挑戰。其實我們真正在用一套計算系統，去把異構的AI系統做一個很好地并行部署時，會發現有很多的計算裝置、資料儲備、軟硬體協同的不足之處。對于這些不足之處，可能都是需要我們去迎接的這麼一個挑戰。
另外從應用來看，AIGC對傳統行業的最大挑戰，是内容科技的挑戰。其實就是整個内容的創造已經從平台的中心化創造，越來越走向分散式的使用者創造，那麼AI技術在這個過程中也是越來越起到了一種颠覆性的作用。無論是内容生成，還是内容傳播、内容稽核？AI的颠覆性作用是越來越強。
這裡其實一個最核心的就是元宇宙，它一定是充滿了各種内容的試驗場。元宇宙與傳統遊戲不同的是，元宇宙似乎沒有一個大家需要實作或完成的目标，這就意味着元宇宙來說這個遊戲一定要不停的持續下去。那麼如何才能在元宇宙場景下打造一個無限持續的遊戲規則呢？AIGC就會有一個非常重要的作用，輔助人類在未來元宇宙的内容體系設計時，實作無限的滾動下去。
建立可信AIGC
楊健（主持人）：AIGC現在有哪些潛在挑戰？這些挑戰分為兩個層面，一個是技術和産業層面的難點有哪些，另一個是它可能會帶來哪些法律和倫理和社會方面的問題，我們應該怎麼樣去應對？
吳保元：首先，最近ChatGPT很火熱，但是人們也發現它會帶來很多的負面問題。最典型的就是它産生虛假資訊、錯誤資訊，它會産生一堆看似正确但又是錯的内容。但是如果對這些挑戰過于關注，就會對技術的發展多多少少産生限制。比如學術界在研究Deepfake的時候，做生成攻擊的需要做倫理影響和技術潛在風險的聲明，而做防禦檢測則不需要，導緻大家更傾向于做防禦檢測方面的研究。但是攻擊技術往往會啟發防禦技術。其次，在數字經濟中，AIGC可以作為資料産生的工具，可以保護隐私、大幅度降低資料采集的成本、創造新的資料。總結來看，AIGC帶來的社會問題以及它本身面臨挑戰，還有它需要更多的應用場景去驅動其正面發展。
段偉文：AIGC的法律、倫理和社會問題在很多讨論裡面已經有了，比如在藝術創作裡，已經有藝術家提出來版權問題。過去在搜尋引擎、平台經濟時期，我們實際上是在把世界變成資料，即世界資料化，相應的隐私、倫理法律問題也在不斷深化和治理中。那麼，進入到AIGC技術階段後，就是在世界資料化的基礎上進行生成，也就是二階的世界資料化時代。那麼，它的法律和倫理問題，應該是跟以前存在不一樣的地方，是以我們需要有一些新的社會契約和共識，也就是哪些行為我們是可以接受的，哪些行為是不可以接受的。
AIGC生成内容如果從知識生産的一般意義上來講，它生成的内容是在世界資料化之上，生産的新内容。這就好比歐幾裡得發明了歐式幾何，歐式幾何是原來世界上沒有的，世界上原來隻有測量，它是在測量基礎上發展而來。那麼現在AIGC也是這樣的，它是一種新的認知或知識生産的新形态。是以在這種新形态下，我覺得在法律倫理治理方面，要給予AIGC一個創新的保護空間。為什麼要講創新的保護空間，它不僅僅是保護你的經濟利益，而是隻有技術為社會所接受，而且技術從一開始就重視倫理法律問題，才能夠行穩緻遠。是以監管者、管理者和法律倫理的學者，以及産業界應該是協同的，一起來建構一個可預期的治理模式，通過法律和倫理上的探索，能夠讓AIGC有更好的發展。舉個例子，現在經常說資料毒性，它其實就是現實生活中的毒性。這有兩面，第一面是通過AIGC能夠暴露出來資料毒性，社會中的一些偏見歧視等，反過來可以淨化我們的社會生活。但是這種淨化不可能是絕對的淨化，因為絕對淨化其實又違背了我們現代人生活的一些最基本的初衷。因為關于什麼東西是幹淨的或不幹淨的，沒有一個絕對的标準。最後還是有一個大家要共同接受的過程。是以在這種情況下，我們要認識到事物的複雜性，隻有認識到這樣一個複雜性，才能夠開拓前進。在開拓過程中，我們就能夠知道哪些東西是可以接受的，哪些東西是現在還不能接受的。
在我看來，法律、倫理和社會問題要納入到AIGC帶來新的認知範式背景下，新的認知方式對整個社會的法律倫理等方面的動态沖擊，以及我們如何動态的應對。
楊健（主持人）：很多時候技術問題确實是一個度的把握問題。AIGC作為新技術，要在法律倫理上給予一定的限制，但是又不能抑制它的發展。那麼，未來怎麼樣能夠安全、可信、負責任地發展應用AIGC就變得非常的重要，我們在這些方面應該具備什麼條件才能夠把它做好？
姚新：我覺得從内容生成來說，安全、可信和負責任發展的确稍微落後了一點。第一個問題是，現在大部分資料來源于網際網路，網際網路中有不小比例的資料是錯誤或者是不準确的，但這些資料用于訓練AI大模型，然後用AI大模型生成新的資料，最後這些生成的資料也會被新一代的AI大模型用來訓練。是以可以想象，就像做計算的時候誤差會疊加，有一些錯誤在大模型中會被固化，一旦固化了以後就比較難解決。
第二個問題是，AIGC如果真正有一些工業應用，或者應用跟人相關的比較密切，安全性和可信性問題應該在哪一個階段考慮？不可能是在AI生成以後，再去找辦法來判斷它是否安全、可行。肯定是在整個模型的建立和訓練過程中都要考慮。
第三個問題是，比如有一些學生寫畢業論文也是這裡抄一下，那邊抄一點，沒準他最後寫的還不如ChatGPT，那麼為啥不讓他用這個工具？這裡有一個比較深層次的問題。教育應該教學生什麼？應該怎麼教學生？這是挺重要的問題。因為依賴某一個AI大模型去生成知識，會不會損失産生知識的多樣性，假如失去了産生知識的多樣性，會對我這個社會有什麼影響？這都是AIGC發展之初應該考慮的，否則就有可能走推薦系統老路，好像咱們的世界視野被一個個推薦系統封閉了，将來會不會被一個大模型給封閉住。
楊健（主持人）：謝謝姚老師。姚老師提的三個問題都是非常重要的。首先是資料源頭污染的問題，這個問題進入到整個内容基因裡是非常可怕的；第二是對技術的幹預到底是在什麼樣的階段，要以一個什麼樣的度來把握；第三是AI大模型會不會從人類助手變成人類的一個桎梏，成為限制人類的牢籠。
吳保元：我從自身研究的可信AI領域來探讨一下。可信AI的定義已經很明确了，魯棒性、公平性、隐私和可解釋性等。然而這些僅限于此前判别式、決策式AI，AIGC的相關研究還比較少。第一，如同姚老師所言，AIGC的安全問題更可能是在源頭上制造的，危害可能更大。是以針對AIGC的可信問題，除了以前的老問題，還應該關注新的挑戰，比如版權問題、責任追溯問題等。是以，需要先把它的問題定義清楚，後面技術解決方案可以進一步探讨。
第二，AIGC有個特點是它的危害性好像不那麼直接，即AIGC的衍生問題，作為技術人員而言，他可能想不到那麼清楚，是以AIGC治理需要更多的交叉學科更早的參與進來，共同把問題定義清楚，從源頭上去管控它，這樣有助于AIGC健康發展。
AIGC 未來可期
楊健（主持人）：對AIGC和人工智能領域的未來發展有何期待和展望？它對人類社會的未來影響可能會是怎樣的？
殷俊：整個AIGC，以及未來人工智能技術，一定會給我們現有的生産工具跟生産力帶來一個根本性變革。這些變革一定會引起生産關系的變化，這可能會對人類未來以及社會産生比較大的影響。
王蘊韬：AIGC可能對于未來數字原生世界而言是一個重大的機遇，同時也是一個全新挑戰。相對于實體世界的數字化轉型來說，未來數字原生世界很有可能就是元宇宙世界，人類可以憑空創造出很多新應用、新業态、新商業模式，而AIGC是不可缺少的一環。
那麼它也存在着很多挑戰，包括對傳統經濟理論的挑戰，也就是AIGC可能改變未來人類生産生活的成本結構，未來智慧能力的成本會下降很多，也就是對智慧使用的邊際收益會增長很多，是以人類會面臨一個更加複雜、更加多元的新世界。
姚新：第一，應該擁抱AIGC技術，這是毫無疑問的。第二，在擁抱AIGC的過程中一定要明确它潛在的挑戰，當然也不是一定要解決這些挑戰才可以推廣AIGC應用。
史樹明：第一，我相信AIGC和整個人工智能技術還會持續高速發展；第二，我很期待這種發展會有利于提升整個人類的生活品質，讓我們的生活更加舒适便捷。
段偉文：AIGC主要是帶來了一種内容生産自動化，那麼這種自動化實際上會徹底改變人和機器的認知協同過程。它真正的挑戰是，AIGC作為一個内容生産或者知識生産的引擎，我們有沒有在内容本身上做好準備，包括法律和倫理規則等。
吳保元：AIGC對于人工智能而言，應該是又一波熱潮。這裡也有一個潛在影響，就是目前人工智能教學和教材需要大幅度的更新修改。以往我們的教學重點是在判别式網絡，但現在可能需要增加生成式AI方面的内容。
楊健（主持人）：感謝各位嘉賓的精彩分享！可以說我們正是在經曆着這麼一場AIGC引領的生成大浪潮，它不隻是科技行業的進展，也是整個社會都要面對的一個趨勢，我們要用更加開放的心态去認知它，用樂觀而且謹慎的态度去接受它，可能這樣才能夠看清，并且受益于這個浪潮。
2023年1月9日，騰訊研究院舉辦《AIGC：AI新浪潮之下的趨勢與展望》專題論壇，具體讨論了“AIGC”這一前沿科技趨勢的技術現狀和産業實踐，發展機遇與未來挑戰等問題。我們将會議實錄刊發在這裡，供各領域思想者參考。