世界人工智能大會“人工智能創新與治理”分論壇現場。
随着年初ChatGPT上線火爆出圈，公衆對于人工智能的關注達到空前高度。新技術浪潮給社會各界帶來沖擊的同時也引發了諸多争議和讨論:第四次技術革命是否會真正颠覆日常生活，人類是否有一天将被AI取代，人工智能技術在各領域的推廣和應用帶來的風險要如何應對?
7月7日，世界人工智能大會在上海舉行，由南方都市報聯合清華大學人工智能國際治理研究院主辦，中國科協-複旦大學科技倫理與人類未來研究院和上海智能實驗室協辦的“人工智能創新與治理”分論壇上，多位專家學者就上述議題進行讨論。
與會者普遍認為，與此前的人工智能技術相比，新興的生成式人工智能技術将颠覆人類與世界的關系，AI技術将成為各國競争的核心關鍵技術。政府部門、業界不僅應思考AI未來可能的發展路徑，更要警惕可能帶來的諸如資料安全、僞造人臉的身份識别風險以及系列技術犯罪。
應用 具備可泛化性、可及性與颠覆性 上億人可能正在使用AI新技術
因人工智能技術的飛躍式發展，以ChatGPT為代表的生成式AI技術正引發大量的讨論，生成式人工智能是指基于算法、模型、規則生成文本、圖檔、聲音、視訊、代碼等内容的技術，提供生成式人工智能産品或服務。如今這一項技術正在逐漸深入日常生活，在學習和工作場景中，越來越多人開始使用生成式人工智能技術來生産文字、圖檔、視訊等内容。
此項新技術與此前的人工智能技術有何不同，将給人類世界帶來哪些改變?論壇現場，複旦大學哲學學院教授、中國科協-複旦大學科技倫理與人類未來研究院院長王國豫認為，此輪人工智能技術有三個特點，即可泛化性、可及性與颠覆性。由于大模型的參數量極大，學習能力更強，适用性也更為廣泛，而ChatGPT的出現及大量使用，意味着公衆相較以往能更便利地使用AI技術，它具有颠覆性，不僅突破以往的技術架構，也将改變我們的生活和存在方式，改變人類和世界的關系。
同濟大學法學院助理教授朱悅認為，與以往相比，此輪人工智能浪潮覆寫和影響的人群更為廣泛，“過去的人機互動被人關注，可能全世界隻有幾千人在使用新技術，但在今天，可能有數千萬甚至上億人在使用新的人工智能技術。”
毋庸置疑，新技術的興起也正在引發行業變革，雲計算公司紛紛跟進、開發、銷售基于大模型的産品，電子商務公司希望借生成式人工智能改變經營模式，産業正因新技術的發展而湧現更為強勁的動力。曠視聯合創始人、CTO唐文斌提及，随着大語言模型的不斷演變，資料量不斷累積，目前各類垂直領域仍在使用的适合特定産業和内容的人工智能技術模型未來可能發展為真正具備感覺、推理、決策等能力的類似人腦的統一大模型，這将對産業帶來巨大的發展可能性。
中科深智CEO成維忠認為，過去半年，人工智能行業正迎來空前的蓬勃發展，但行業也不可避免地面臨一些懸而未決的難題:未來人工智能技術的發展之路要如何向前，是探索單純的大語言模型還是要以多模态為重點值得思考，尤其是有觀點提出以大語言模型為主體的基礎大模型可能最終并不能形成像人類一樣思考、學習和執行多種任務的通用人工智能後，這些難題還需業界重新凝聚共識共同探索解決之道。
熱議 AI會取代人類嗎? 專家:暫時還不太可能
在生成式AI出現之後，AI會否替代人類一度成為輿論熱議的話題，在現場不止一位專家提及，AI技術目前仍未達到能取代人類的能力，“它的邏輯判斷能力、情感分析能力，暫時還不太可能取代人類。”公安部第三研究所網絡安全法律研究中心主任黃道麗說。
成維忠則提及掌上電腦創始人傑夫·霍金斯曾提出的一個觀點:人的智能分為舊腦和新腦智能，人類的愛和恨都由舊腦智能決定，而現存的人工智能技術均是基于新腦智能在運作，“從這一觀點出發，AI不會取代人類，也不會出現攻擊人類的問題，因為它沒有愛，也沒有恨。AI技術帶來的機遇遠遠大于挑戰，個人要積極擁抱變化。”
王國豫分析稱，一些專業的需要創造性思維的崗位不會被AI取代，但一些技術含量不高的崗位可能有被AI取代的風險。“未來更重要的是教育系統如何培養更具有創新能力的人才，教會我們如何通過提升數字素養，更好地适應AI時代的需要。”
唐文斌也認為，人類應該在現階段思考如何更好地利用AI技術武裝自己，産生更強的生産力，而不是一味抗拒新技術的來臨。
“AI不僅是一種技術工具，我們或許可以将它作為一種探索遊戲，希望AI能讓生活變得有趣，而讓有趣有意義的事變得簡單。”朱悅說。
警惕 AI技術也可被“賦能”犯罪技術 形成新的網絡安全威脅
随着AI新浪潮的興起，它所引發的技術犯罪、倫理難題始終是公衆熱議的話題，如何防範新技術帶來的風險?
黃道麗認為，以GhatGPT所代表的LLM技術已成為各國新賽道。各國政府均在積極鼓勵人工智能産業的發展，同時也普遍意識到需要進行監管防範其可能引發的風險，“今年以來，全球人工智能立法程序明顯提速，可以說，各國監管治理都在追趕人工智能的演化速度”。除了業界普遍提及的AI所引發的隐私風險、倫理風險、社會風險等問題，公安機關最關注的是犯罪利用風險，即AI技術也可被“賦能”犯罪技術，形成新的網絡安全威脅甚至可能成為“犯罪基礎設施”。
她舉例，今年，山東青島出現一起電信詐騙真實案例，騙子通過木馬軟體監聽受害者的生活，收集受害者親人的聲音，利用AI變聲軟體進行僞裝虛報病情，并劫持手機通信，使受害者打給親人的電話轉接到騙子那裡，“由于人工智能模仿的對象是受害者熟悉且信任的人，會在某種程度上降低他們的警覺性。”
黃道麗稱，生成式人工智能技術可能改變以人為主導的社會，“早幾年我們分析弱人工智能階段的法律風險和犯罪事件，尚可以追溯或歸責于人(生産者等)，法律問題或犯罪打擊的解決都取決于我們最終能否識别此人與彼人。但現在我會開始擔心未來找不到某項行為、活動背後的那個人(主體)，AI技術與人或他人的主體性混合在一起逐漸變得模糊，而依靠現有的規則想要去有效治理，無疑更困難。”
成維忠認為，AI技術是中性的，在AGI(Artificial General Intelligence，即“通用人工智能”，是指一種能夠像人類一樣思考、學習和執行多種任務的人工智能系統)時代來臨以前，真正應該警惕的是人類利用技術作惡。“比如僞造内容，僞造人臉，政府部門和行業要從現在開始探讨如何防範風險，而不能等問題嚴重了再想辦法解決。”
朱悅則提及一個關鍵問題，目前人工智能治理中AI自主承擔的比例越來越高，“我們都說要對AI進行治理，但治理過程中一些企業可能會利用生成式AI做大量的知識積累，發揮它的教育訓練功能，讓它參與倫理決策，甚至還有一些更激進的企業，希望直接訓練出一個能做出倫理決策的模型，無論是學術研究、業界教育訓練，還是合規評審，我們可以想一想，AI在其中所占據的比例是不是越來越高?很多人都認為，一旦AI比人類聰明就将失控，現在的AI治理，它自己參與了很多，某種意義上其實也失控了。”
專家觀點
最高法原副院長江必新:
法治隻有高度智慧化才能有效駕馭人工智能
在助推人工智能創新和發展時，應如何進行治理?中國法學會副會長，最高法原黨組副書記、副院長江必新認為，應當建立高度智慧型的法治，法治隻有高度智慧化和智能化，才能真正有效地駕馭人工智能。智慧法治可以為人工智能“益智”，也可以為人工智能“賦能”，應當以法治破除資料壁壘和鴻溝，以法治來破除人工智能的創新和發展的體制機制和政策障礙。
人工智能具有二重性
目前，人工智能正成為推動人類進入數智時代的決定性力量，引領新一輪科技革命和産業變革，江必新以《以智慧法治開啟人工智能創新與治理的新時代》為題作主旨發言。
如何了解人工智能給人類社會帶來的影響?江必新認為，人工智能不是一個行業，不是一個單一的産品，也不僅在某個領域發揮作用。它是在衆多行業，為人類生存和發展賦能的一個“賦能者”，它不僅改變着人類的思想、知識、感覺和現實，也改變着人類的命運、本質和身份。
“人工智能不僅創造着一個全新的時代，而且創造着人類一種全新的文明。”江必新稱，人工智能同任何其他的技術和工具一樣，都具有二重性，用得好可以為人類謀福祉，用得不好也可能給人類帶來負面的影響。是以，在助推人工智能創新和發展的時候，一定要高度重視治理問題，也就是說治理一定要與創新同在。
江必新認為，人工智能治理需要建立高度智慧型的法治，還需要建立創新友好型的治理。“任何治理不是把它‘治死’，是要把它‘治活’，治得健康，治得有活力，這才是治理的最根本的目的。”法治隻有高度智慧化和智能化，才能真正有效駕馭人工智能，隻有高品質的智慧治理，才能為中國的發展赢得勝算和機遇。
以法治破除資料壁壘和鴻溝
江必新認為，智能法治、智慧法治可以為人工智能“益智”，人工智能沒有法治的保障，其“智”便難于展現。
“應以法治保護人工智能的知識産權，包括資料、算法，以及人工智能創作物，以調動科創人員的積極性。”江必新稱，還要以法治破除資料壁壘和鴻溝，所有的人工智能都建立在資料基礎上，沒有資料便沒有智能，資料越充分智能越高。是以隻有用法治來破除資料的壁壘和鴻溝，必要地保障資料的充分流動，在合理範圍内流動和利用，才有可能“益智”。
江必新還提到，應以智慧法治為人工智能“賦能”。如以法治確定人工智能的安全、可信賴，增強公衆對人工智能的信賴和信心，為人工智能發展創造良好的生态環境；以法治為人工智能裝好安全閥和制動器，使人工智能得以行穩緻遠；以法治來維護好市場經濟的秩序和良好的競争環境，使人工智能能夠較好地、更快地、有效地落地落實；以法治來實作跨部門的協調和資源的整合；以法治來破除人工智能創新和發展的體制機制和政策的障礙。
此外，江必新還建議，以智慧法治為人工智能“立德”，即讓人工智能具有良好的技術品行，實作人工智能的“德才兼備”。要確定人工智能始終成為服務人類、解放人類、發展人類的工具，而不能使人工智能成為反人類、異化人類、奴役人類的工具。在為人工智能留有巨大的創新發展空間的前提下，為人工智能設定道德高線、善行标線、倫理底線和法律紅線。
把風險控制在可接受的範圍内
江必新認為，創新友好型治理需要具備合目的性、必要性、有效性和可接受性。首先要植入人類共有的價值觀，如“安全、公平、福利、透明、平等”等，還要植入中華民族特有的價值觀，如“仁義禮智信”。同時，創新友好型的治理還意味着要避免過高的政策标準來限制、阻礙其發展，也就是說任何法律制度都必須建立在有明确的問題意識以及有效的應對方案的基礎上，同時必須建立在科學的風險評估基礎上，把風險控制在可接受的範圍之内。
在治理的有效性方面，江必新認為，如要實作治理目标，應進行類型化分類治理，對高風險、中風險、低風險分類施策，“一刀切”和“一鍋煮”很難實作有效治理。此外，治理應具備靈活性和機動性，還應當有公衆參與，抓住重點，同時利用技術監管，技術的問題最終隻能靠技術來解決，人工智能的監管問題最終要靠人工智能本身來解決。
江必新還提到，要通過個案來逐漸建構規則，在條件不成熟時，逐漸形成規則體系也是可行之道。
創新友好型治理如何實作?江必新提到了十點建議:第一，要實作立規和立德相結合；第二，賦權和課責相結合，如何确權是一個複雜的工程，一定要明确權益，同時要明确責任，将權利義務結合起來；第三，法治與技治結合；第四，“他治”與“自治”相結合，比如通過行業确定标準、确定倫理指南等；第五，統一治理和類型化治理相結合；第六，對制造者治理和對使用者治理相結合；第七，全周期治理與審慎治理相結合；第八，系統治理與重點治理相結合；第九，剛性治理與柔性治理相結合；第十，回應性治理與靈活性治理相結合。
●應以法治保護人工智能的知識産權，包括資料、算法，以及人工智能創作物，以調動科創人員的積極性。
●以智慧法治為人工智能“立德”，即讓人工智能具有良好的技術品行，實作人工智能的“德才兼備”。
——中國法學會副會長，最高法原黨組副書記、副院長江必新
出品:南都數字經濟治理研究中心
統籌:程姝雯 李玲
采寫:劉嫚 蔣小天 楊博雯 黃莉玲 馬甯甯 于典 趙霖萱 黃慧詩 樊文揚 胡耕碩 趙唯佳 實習生 唐小狄