最近，以ChatGPT為代表的人工智能技術風靡全球，它不僅能流暢地與使用者對話，還能寫詩、寫文章、編碼。今年全國兩會上，ChatGPT同樣引起了委員和代表們的關注與讨論。ChatGPT是人類的助手還是對手？如何注意科技倫理、趨利避害？
新京報記者邀請全國政協委員、中科院自動化所研究員趙曉光，清華大學計算機系教授、清華大學人工智能研究院視覺智能研究中心主任鄧志東，國家新一代人工智能治理專業委員會委員、中科院自動化所研究員、人工智能倫理與治理研究中心主任曾毅，做客《兩會三人談》欄目進行解讀。
新京報《兩會三人談》欄目邀請全國政協委員、人工智能專家，共同聊聊以ChatGPT為代表的人工智能技術。制圖/許骁
關注1：ChatGPT意味着人工智能技術發展到了什麼程度？
ChatGPT近期引發了公衆的廣泛關注，有人覺得它具有颠覆性，也有人覺得它被“神話”了，這個語言大模型的出現意味着人工智能技術發展到哪一步了？
“這幾天，全國政協科技界别很多委員特别關注ChatGPT的技術，尤其是這項技術在大陸的發展和未來會給我們帶來哪些啟示。”趙曉光說，從技術角度來看，ChatGPT是一個自然語言處理模型，讓計算機能跟人聊天。大陸有很多研究機構也做了相關的技術，并一直在應用，比如大家熟悉的銀行自動語音服務等。ChatGPT之是以受到廣泛關注，是由于微軟把ChatGPT的技術嵌入到搜尋引擎“必應”中，受到巨大的使用者人群歡迎并願意為其付費。ChatGPT帶來了在商業上應用的巨大前景。
全國政協委員、中科院自動化所研究員趙曉光。受訪者供圖
“大陸此前沒有大力發展通用大模型的研究，是因為目前還沒找到很适合的應用場景。人工智能技術本身就要跟場景密切結合，這項技術給我們帶來的啟發就是未來如何跟場景更好地落地結合，如何培養更大的市場、挖掘更多的需求，通過滿足使用者的需求産生新應用，帶來更多效益。”
她認為，ChatGPT的出現和應用并不代表着通用人工智能時代的到來。“一些新聞報道稱它會了解人類的語言，我認為了解應該打個引号。要模仿人類的了解恐怕還要走很多的路。”
鄧志東認為，ChatGPT作為大型生成式語言模型，是NLP（自然語言處理）領域中某種意義上的通用人工智能，而且是颠覆性的。2012年以來，以深度學習為代表的人工智能在全球範圍内得到迅猛發展，但都屬于弱人工智能，對于人類而言是賦能的工具。ChatGPT則不同，它利用單一模型就能完成NLP領域中的多個任務，比如對話、翻譯、生成、搜尋、程式設計與調試等，這就有了文本語言領域中通用人工智能的主要特點。同時，它在完成多個任務時還接近人類的水準，與以前根據特征進行比對或搜尋的方法完全不同。
他說，随着ChatGPT的版本不斷更新，全球上億使用者與其高頻度互動，且其具有持續的學習能力，它的NLP多任務完成能力還将提升，可能會在較短時間内達到專家的水準，将非常具有颠覆性，給人類帶來巨大進步。
在曾毅看來，ChatGPT是一個人工智能領域現有工程技術的組合創新，在使用者體驗上有顯著提升，但并非科學的突破。它使用自然語言處理領域的幾項關鍵技術，都是幾年前學術界已驗證有效、相對比較成熟的技術。但ChatGPT有數億使用者的回報，其輸出不是提供最優化的結果，而是最接近人類需求、合乎人類期望的結果。
ChatGPT不能真正像人類一樣了解和應用語言，離1956年達特茅斯會議上提出的“人工智能”實作智能的各個方面達到人類水準的暢想還有很大距離。
新京報“知道視訊”出品
關注2：未來哪些職業可能會被人工智能取代？
一些網友在和ChatGPT聊天之後，擔心自己的工作未來會被取代。那麼，ChatGPT是人類的助手還是對手？未來哪些職業可能會被取代？
趙曉光稱，人工智能确實取代了一些工作，是人類不願意從事的艱苦、枯燥、繁重、有危險的工作。比如速記員的工作，現在很多可以通過自然語言識别将語言轉變成文字，但計算機完成的工作依然需要人類校正，因為會存在一些錯誤。她以法律系統舉例，ChatGPT可以審閱訴狀，進行簡單分類，做一些需要具備文化功底的簡單的體力勞動，但不能替代法官做更多判斷。是以目前來說，ChatGPT更多是提供了“友善”。
鄧志東認為，ChatGPT不僅有文本了解能力，也有文本生成能力。“它的了解能力已經達到了相當高的水準，比如一些彎彎繞繞的表述，它都能了解，且給出合乎常識或價值觀的回答。随着以ChatGPT為代表的生成式人工智能在短期之内大規模商業化落地，以及對各行各業全面滲透，在大幅度提高生産力和生産效率的同時，也将對就業市場帶來影響，文案、新聞、翻譯、會計、律師、教師、程式員、藝術創作等職業中的中低端崗位會受到沖擊，尤其是不需要深入思考，僅完成簡單重複性文字整理的崗位。
清華大學計算機系教授、清華大學人工智能研究院視覺智能研究中心主任鄧志東。受訪者供圖
曾毅稱，科學技術的發明創造以及在社會上的應用，最初的目的就是部分替代人類勞動。資訊技術與人工智能發明的初衷，不是讓絕大多數人失業。但确實需要思考的是，人類在所從事的職業中發揮的不可替代作用是什麼。
他以記者舉例，記者要追求真相，但目前人工智能對于“真相”的了解還存在很大困難的。相比人工智能寫的稿件，媒體從業人員的作品中更能呈現人類對于世界的真正了解，也有背後的故事。
長期來看，必然會有一部分工作會被暫時替代，此時需要人類重新思考工作的意義。比如做社會服務、養老助殘等需要以情感出發去關懷他人的工作，很難被機器替代。如果你哭了，機器人也可以安慰你，但這是基于資料的情感分析，而不是對情感的真正了解。即使機器有能力去替代人類時，人類也未必相信機器。“這樣的工作使得人類反思，人之是以為人，與其他沒有情感的物體之間的差異，讓人類回歸本該回到的地方。對于人類反思的能力，機器人和人工智能暫時難以達到同樣的高度。”
總體上，曾毅持樂觀态度，認為真正需要和值得人投入精力的工作不會被替代，但他仍認為，人類應該為可能出現的部分領域的勞動替代做好準備。
新京報“知道視訊”出品
關注3：ChatGPT會對教育産生什麼影響？
近期出現了學生利用ChatGPT做作業、寫論文、考試作弊的情況，教育界人士擔心這将使孩子們喪失思考能力。ChatGPT對教育會産生什麼影響？
趙曉光認為，人類在學習的過程當中，學習前人的經驗非常重要，這就需要閱讀大量的文獻，并将其中的中心思想提煉出來，即文獻綜述。ChatGPT可以做這件事，并生成一篇新的文章。“但它做得再好，也隻是把已有的思想拼接起來，目前不會産生新的思想。總體上講，我堅信人類能夠把控自己發明創造出來的人工智能技術。”
她說，研究所學生寫論文之前閱讀大量的文獻，花了很多時間，ChatGPT這樣的工具能有效節約時間和體力，讓學生把精力更專注地放在科研創新和寫自己論文的思考上。但它确實帶來了巨大的挑戰，讓人類的智能向更高層級發展，而不是局限于從事簡單枯燥的工作賺錢。
鄧志東稱，去年11月30日OpenAI公司釋出ChatGPT，目前還稱不上1.0版本，但三個多月來已經帶給我們很多改變，對教育的影響也将逐漸顯現出來。一方面會帶來挑戰與沖擊，另一方面，也會讓人類重新思考教育的本質，找到路徑去思考真正有用的知識，學習真正對經濟社會發展和人類文明進步有價值的内容，而不是把大量時間花在死記硬背上。
曾毅認為，ChatGPT的輸出跨越了學的階段，直接給出結果。短期内，一些人通過偷懶會嘗到甜頭，但很快将被負面作用影響。統計生成模型主要關注輸出結果的統計顯著性，過度依賴于類ChatGPT技術與服務會使人失去自我的視角，難以彰顯人的個性化、差異性。
知識擷取最重要的部分就是了解的過程，而不是結果。長遠來看，人類會明白利用輔助工具和讓工具幫自己做決策是兩回事。“比如小朋友背别人寫的詩很快會忘記，但自己寫的詩很難忘記，且自己會很珍視并由衷地快樂。”他認為，願意用ChatGPT寫綜述的同學，失去的是學習的機會，以及獲得研究靈感的快樂與洞見。
國家新一代人工智能治理專業委員會委員、中科院自動化所研究員、人工智能倫理與治理研究中心主任曾毅。受訪者供圖
關注4：中國何時有自己的ChatGPT？
今年2月，北京市經信局表示，北京将支援頭部企業打造對标ChatGPT的大模型。現在很多人關心，中國何時才能有自己的ChatGPT？目前的差距在哪裡？這次ChatGPT受到關注，對大陸智能大模型發展是否是一個機遇？大陸要如何推進智能大模型的研發？
趙曉光稱，大陸很多研究機構在研究大模型方面做了很多工作，并取得了非常好的成績。北京市的政策将支援人工智能技術更好地落地應用，使其和應用場景結合。北京人工智能企業衆多，技術人才聚集，在發展技術和挖掘市場需求上有很大優勢。目前，企業要進行數字化、智能化轉型，ChatGPT帶來的啟示就是去思考需求、市場和使用者在哪裡，把這些變成技術進步的動力。
“我們很早就呼籲，高度重視發展中國的人工智能多模态大模型。”鄧志東稱，ChatGPT的出現，也讓全社會期待并支援中國發展自己的生成式人工智能大模型，這确實是一個機遇。以往中國也有對話機器人，但使用者體驗并不理想。百度宣布3月16日圍繞“文心一言”召開釋出會，這個生成式對話産品被外界譽為“中國版ChatGPT”。是以說不是“有沒有”的問題，而是中國的ChatGPT可以多大程度上接近人類水準。
他說，類似的大模型都需要基于人類回報的強化學習、全球資料和人工智能算力的支撐。ChatGPT有上億使用者級别的人類調教，後期很難有産品能達到類似規模，是以短期内打造完全對标ChatGPT的大模型，仍然存在挑戰。
曾毅說，目前很多人工智能頭部企業宣布投入類ChatGPT技術和平台研究，同一個研究機構甚至誕生不止一個大語言模型。作為語言服務的工具，語言大模型可以賦能千行百業，每個國家都需要有自己的基礎大模型。但需要注意的是，如果中國誕生太多版本的基礎大模型，而各個企業沒有将重點放在發展垂直領域應用的話，不必要的能耗會非常大。
根據研究，2020年，全球資訊與通信技術的碳排放隻占在整個碳排放總量的2%，但在十年之内會上升到15%。大模型每一次訓練的碳排放将近150人一年内生活的碳排放量。他認為，有共性技術的國家級基礎大模型沒有必要重複建設，應該有體系化地組織。在資料和知識引擎部分，産業和學術界應該最大可能共享。但在大模型創新算法、垂直領域微調算法方面，應該各自發揮優勢。
他也認為，目前其他國家在人工智能領域取得突破進展後，大陸人工智能産業才會迅速跟進，卻沒有原始創新能力，并複制學術與産業組合創新模式，而是當别人的“放大器”。科學突破途徑不唯一，未來中國要想赢得機會需要前瞻布局、換道超車，使下一次的突破有機會從中國誕生。
新京報“知道視訊”出品
關注5：如何注意科技倫理、趨利避害？
科技部部長王志剛日前在“部長通道”上表示，對人工智能的研究與運用，需要注意科技倫理、趨利避害。哪些科技倫理問題已經顯現并值得我們關注？如何防範？
曾毅說，ChatGPT沒有帶來新的倫理挑戰，但它在很多領域無限放大了大家認為可能還需很長時間才會到來的倫理挑戰。比如統計生成模型需要發現大規模語料的統計顯著性，但全球200多個國家和地區文化具有多樣性，是不可以被統計的顯著性吞噬的。這就是科技倫理中非常重要的一個次元。
另外，ChatGPT的責任和問責也值得關注，它對于所有的輸出無法擔責，權利和義務是相伴相生的，是以何談版權問題。目前，人類構造看似智能的資訊處理工具，人仍然是責任主體。同時，人工智能生成技術也需要關注使用者知情同意的問題，研發方和服務方不能混淆它和人之間的邊界，需要明确告訴使用者是人工智能在服務，所帶來的後果是人工智能沒有辦法承擔的。
“我不同意讓人工智能無處不在，它有适用領域，很多領域無需人工智能賦能。是以我們參與撰寫的聯合國教科文組織《全球人工智能倫理建議書》，其中明确指出人工智能的适度使用。”曾毅說。
鄧志東認為，ChatGPT利用了全球約三分之二的海量文本資料，其中涉及資料安全、知識産權、隐私保護等問題。這些資料有可能還會存在種族和性别歧視、認知偏見、道德、倫理與價值導向等問題，甚至有違法資料，是以必須設立安全門。要通過全球合作的方式，提前采取有效的預防措施，制定相關國際倫理規範，而不是等問題發生了再去應對。目前，ChatGPT對人類還無法形成真正的威脅，在發展之初要以開放的心态看待新生事物，緊抓機遇，發展中國人工智能産業，賦能經濟和社會的發展。
作為全國政協委員，趙曉光表示，自己是科技界的委員，也進行了機器人和人工智能的研究，未來将在這一領域提出意見和建議，希望人工智能在大陸數字經濟的發展中和資料融通進行中發揮作用，為實體經濟發展賦能，帶來新的經濟增長點和新的業态。“未來五年，我将着重關注人工智能技術的落地應用、新技術領域的創新，并在這些方面做更多調查研究工作。”
新京報記者 張璐 郭薇 王方傑
編輯 劉夢婕 校對 李立軍