随着年初ChatGPT上線火爆出圈，公衆對于人工智能的關注達到空前的高度。新技術浪潮給社會各界帶來沖擊的同時也引發了諸多争議和讨論：第四次技術革命是否會真正颠覆日常生活，人類是否有一天将被AI取代，人工智能技術在各領域的推廣和應用帶來的風險要如何應對？
7月7日，世界人工智能大會在上海舉行，由南方都市報聯合清華大學人工智能國際治理研究院主辦，中國科協-複旦大學科技倫理與人類未來研究院和上海智能實驗室協辦的“人工智能創新與治理”分論壇上，多位專家學者就上述議題進行讨論。
與會者普遍認為，與此前的人工智能技術相比，新興的生成式人工智能技術将颠覆人類與世界的關系，AI技術将成為未來各國競争的核心關鍵技術。政府部門、業界不僅應思考AI未來可能的發展路徑，更要警惕可能帶來的諸如資料安全、僞造人臉的身份識别風險以及系列技術犯罪。
世界人工智能大會“人工智能創新與治理”分論壇現場。
生成式AI正在改變什麼
上億人可能正在使用AI技術
因人工智能技術的飛躍式發展，以ChatGPT為代表的生成式AI技術正引發大量的讨論，生成式人工智能是指基于算法、模型、規則生成文本、圖檔、聲音、視訊、代碼等内容的技術，提供生成式人工智能産品或服務。如今這一項技術正在逐漸深入日常生活，在學習和工作場景中，越來越多人開始使用生成式人工智能技術來生産文字、圖檔、視訊等内容。
此項新技術與此前的人工智能技術有何不同，将給人類世界帶來哪些改變？論壇現場，複旦大學哲學學院教授、中國科協-複旦大學科技倫理與人類未來研究院院長王國豫認為，此輪人工智能技術有三個特點，即可泛化性、可及性與颠覆性。由于大模型的參數量極大，學習能力更強，适用性也更為廣泛，而ChatGPT的出現及大量使用，意味着公衆相較以往能更便利地使用AI技術，它具有颠覆性，不僅突破以往的技術架構，也将改變我們的生活和存在方式，改變人類和世界的關系。
複旦大學哲學學院教授、中國科協-複旦大學科技倫理與人類未來研究院院長王國豫。
同濟大學法學院助理教授朱悅認為，與以往相比，此輪人工智能浪潮覆寫和影響的人群更為廣泛，“過去的人機互動被人關注，但可能全世界隻有幾千人在使用新技術，但在今天，可能有數千萬甚至上億人在使用新的人工智能技術。”
同濟大學法學院助理教授朱悅。
毋庸置疑，新技術的興起也正在引發行業變革，雲計算公司紛紛跟進、開發、銷售基于大模型的産品，電子商務公司希望借生成式人工智能改變經營模式，産業正因新技術的發展而湧現更為強勁的動力。曠視聯合創始人、CTO唐文斌提及，随着大語言模型的不斷演變，資料量不斷累積，目前各類垂直領域仍在使用的适合特定産業和内容的人工智能技術模型未來可能發展為真正具備感覺、推理、決策等能力的類似人腦的統一大模型，這将對産業帶來巨大的發展可能性。
曠視聯合創始人、CTO唐文斌。
中科深智CEO成維忠認為，過去半年，人工智能行業正迎來空前的蓬勃發展，但行業也不可避免地面臨一些懸而未決的難題：未來人工智能技術的發展之路要如何向前，是探索單純的大語言模型還是要以多模态為重點值得思考，尤其是有觀點提出以大語言模型為主體的基礎大模型可能最終并不能形成像人類一樣思考、學習和執行多種任務的通用人工智能後，這些難題還需業界重新凝聚共識共同探索解決之道。
中科深智CEO成維忠。
AI會取代人類嗎？
專家：暫時難以替代，呼籲擁抱變化
在生成式AI出現之後，AI會否替代人類一度成為輿論熱議的話題，在現場不止一位專家提及，AI技術目前仍未達到能取代人類的能力，“它的邏輯判斷能力、情感分析能力，暫時還不太可能取代人類。”公安部第三研究所網絡安全法律研究中心主任黃道麗說。
公安部第三研究所網絡安全法律研究中心主任黃道麗。
成維忠則提及掌上電腦創始人傑夫·霍金斯曾提出的一個觀點：人的智能分為舊腦和新腦智能，人類的愛和恨都由舊腦智能決定，而現存的人工智能技術均是基于新腦智能在運作，“從這一觀點出發，AI不會取代人類，也不會出現攻擊人類的問題，因為它沒有愛，也沒有恨。AI技術帶來的機遇遠遠大于挑戰，個人要積極擁抱變化。”
王國豫分析稱，一些專業的需要創造性思維的崗位不會被AI取代，但一些技術含量不高的崗位可能有被AI取代的風險。“未來更重要的是教育系統如何培養更具有創新能力的人才，教會我們如何通過提升數字素養，更好地适應AI時代的需要。”
唐文斌也認為，人類應該在現階段思考如何更好的利用AI技術武裝自己，産生更強的生産力，而不是一味抗拒新技術的來臨。
“AI不僅是一種技術工具，我們或許可以将它作為一種探索遊戲，希望AI能讓大家無聊的無意義的生活變得有趣，而讓有趣有意義的事變得簡單。” 朱悅說。
AI技術也可被“賦能”犯罪技術
未來AI會失控嗎？
随着AI新浪潮的興起，它所引發的技術犯罪、倫理難題始終是公衆熱議的話題，如何防範新技術帶來的風險？
黃道麗認為，以GhatGPT所代表的LLM技術已成為各國新賽道。各國政府均在積極鼓勵人工智能産業的發展，同時也普遍意識到需要進行監管防範其可能引發的風險，“今年以來，全球人工智能立法程序明顯提速，可以說，各國監管治理都在追趕人工智能的演化速度”。除了業界普遍提及的AI所引發的隐私風險、倫理風險、社會風險等問題，公安機關最關注的是犯罪利用風險，即AI技術也可被“賦能”犯罪技術，形成新的網絡安全威脅甚至可能成為“犯罪基礎設施”。
她舉例，今年，山東青島出現一起電信詐騙真實案例，騙子通過木馬軟體監聽受害者的生活，收集受害者親人的聲音，利用AI變聲軟體進行僞裝虛報病情，并劫持手機通信，使受害者打給親人的電話轉接到騙子那裡，“由于人工智能模仿的對象是受害者熟悉且信任的人，會在某種程度上降低他們的警覺性。”
黃道麗稱，生成式人工智能技術可能改變以人為主導的社會，“早幾年我們分析弱人工智能階段的法律風險和犯罪事件，尚可以追溯或歸責于人（生産者等），法律問題或犯罪打擊的解決都取決于我們最終能否識别此人與彼人。但現在我會開始擔心未來找不到某項行為、活動背後的那個人（主體），AI技術與人或他人的主體性混合在一起逐漸變得模糊，而依靠現有的規則想要去有效治理，無疑更困難。”
成維忠認為，AI技術是中性的，在AGI（ Artificial General Intelligence，即“通用人工智能”，是指一種能夠像人類一樣思考、學習和執行多種任務的人工智能系統）時代來臨以前，真正應該警惕的是人類利用技術作惡。“比如僞造内容，僞造人臉，政府部門和行業要從現在開始探讨如何防範風險，而不能等問題嚴重了再想辦法解決。”
朱悅則提及一個關鍵問題，目前人工智能治理中AI自主承擔的比例越來越高，“我們都說要對AI進行治理，但治理過程中一些企業可能會利用生成式AI做大量的知識積累，發揮它的教育訓練功能，讓它參與倫理決策，甚至還有一些更激進的企業，希望能直接訓練出一個能做出倫理決策的模型，無論是學術研究、業界教育訓練，還是合規評審，我們可以想一想，AI在其中所占據的比例是不是越來越高？很多人都認為，一旦 AI比人類聰明就将失控，現在的AI治理，它自己參與了很多，某種意義上其實也失控了。”
采寫：南都記者 蔣小天 發自上海