7位專家就如何推動大模型“可用”及“可信”進行圓桌研讨。
邬賀铨(中國工程院院士)
陳俊龍(歐洲科學院院士、琶洲實驗室副主任、華南理工大學計算機科學與工程學院院長)
王維強(螞蟻集團安全實驗室首席科學家、可信AI負責人)
李超(騰訊雲天禦首席科學家)
2023年，AIGC席卷全球，如何推動人工智能安全發展備受關注。
12月19日，以“勢起AI 智啟新界”為主題的“大模型創新應用與安全治理大會”在廣州舉行，該活動由南方報業傳媒集團指導，南方都市報、南都大資料研究院聯合琶洲實驗室、光明實驗室主辦，旨在發揮智媒傳播、研究、連接配接和共建的特長，攜手各界助力廣東加快建設通用人工智能産業創新引領地，協同探索人工智能監管模式創新。廣東省委網信辦相關上司出席本次大會。
會上，中國工程院院士邬賀铨，歐洲科學院院士、琶洲實驗室副主任陳俊龍等專家大咖，以及來自多家高校、科研機構、行業企業的代表齊聚，圍繞人工智能大模型技術、治理和應用等話題展開分享和研讨。
南都大資料研究院在活動上啟動“躍遷計劃”，并發起共建“AI治理與創新智聯體”。南方都市報社黨委書記、總裁戎明昌與相關機關機構代表共同見證“AI治理與創新智聯體”成立。
邬賀铨、陳俊龍等院士大咖共話大模型
探讨如何形成安全、可靠、可控的AI技術
在主題分享環節，院士專家、行業技術專家圍繞“AI賦能數字經濟”“新型資料隐私”“大模型安全”“大模型建構金融風控”等話題發表深入見解。
中國工程院院士邬賀铨以“上雲落地大模型 數字經濟譜新篇”為主題作分享，他指出，大模型落地催生新一輪技術創新與産業變革，加速賦能數字化轉型，激活資料要素提質數字經濟，善于應用資料的企業成為經濟增長的主要引擎。而且，随着将具有百億參數大模型的推理能力嵌入手機，同聲傳譯、智能識圖等智能助手服務正在豐富我們的數智化生活。
他強調，大模型上雲落地，能夠加速形成新質生産力，推動數字經濟的提質換擋。廣東是制造業大省，希望廣東的基礎大模型能夠跟行業更好地結合。
歐洲科學院院士、琶洲實驗室副主任、華南理工大學計算機科學與工程學院院長陳俊龍帶來主題演講“資料智能與新型資料隐私的探讨”，在其看來，如果資料量夠大，算力夠強，未來所有公共資料很可能被置于大型的通用模型中，這個大模型有可能非常聰明，接近通用人工智能大模型。他強調，資料共享必須考慮隐私和安全的問題，目前除同态加密、差分隐私、聯邦學習、安全多方計算四種隐私保護機器學習方法外，寬度學習在國内外的應用也非常廣泛。
以“大模型安全的緊迫性和實踐分享”為題，螞蟻集團安全實驗室首席科學家、可信AI負責人王維強認為，大模型時代亟須安全、可靠、可控的AI技術，核心是如何解決超大規模資料中的生成式學習範式下的安全可靠可控。而保障大模型安全性的幾個關鍵環節主要有三個，一是從訓練資料源頭消毒；二是做護欄加強防止推理過程黑盒的不可控問題；三是面對外部誘導的對抗攻擊。
騰訊雲天禦首席科學家李超則聚焦金融行業的“命門”——風控環節解讀了大模型的應用場景。他指出，在客戶營運精細化、黑産欺詐愈加複雜等背景下，金融風控的應對政策已經由傳統相對靜态的政策對抗，逐漸更新為更加靈活的“模型對抗”。在他看來，基于風控大模型的自動化模組化技術，可以幫助金融機構靈活疊代既有豐富風控知識沉澱、又适配具體業務場景的風控模型，實作風險的動态治理。
10家機關機構共建“AI治理與創新智聯體”
南都“粵來粵AI”大型研究報道将同步開啟
為了進一步助力廣東加快建設通用人工智能産業創新引領地，協同探索人工智能監管模式創新。此次大會上，由南方都市報、南都大資料研究院發起，首批10家平台、機構共建“AI治理與創新智聯體”，政産學研媒，共築人工智能發展生态，探索人工智能治理良策。
首批“AI治理與創新智聯體”成員機關分别是南方都市報、南都大資料研究院、琶洲實驗室、光明實驗室、廣州人工智能公共算力中心、中山大學人工智能學院、暨南大學人工智能産業學院、廣東财經大學網絡傳播學院、深圳大學創新發展法治研究院、香港科技大學(廣州)人工智能前沿交叉科學重點實驗室、泰和泰深圳數字經濟法律研究院。10家平台、機構的代表以及相關上司共同參與和見證了共建儀式舉行。
據悉，南都“粵來粵AI”大型研究報道也将同步開啟，将從産業基礎、算力能力、應用場景、人才儲備、安全治理等角度展開調研、觀察、評測和研讨，呈現創新成果、分享經驗需求，建構交流網絡，充分積極傳播。
南都大資料研究院啟動“躍遷計劃”
重點在四大領域開拓進取
據悉，此次大會是2023年南方都市報智庫産品釋出周的首場活動。以“深融合，新聯結，高智量”為主題，本屆智庫周于12月19日-23日，陸續在廣州、深圳、北京、上海4地舉辦7場線下活動。
2018年春，南都提出“做中國一流智庫媒體”的目标願景，“南都大資料研究院”應運而生。它也是南都打造智庫媒體新産品、新服務、新價值的主力平台和重要引擎，不斷協同共治，賦能創新。在大模型創新應用與安全治理大會上，南都大資料研究院啟動了“躍遷計劃”，南方都市報社黨委委員、副主編、南都大資料研究院執行院長王衛國介紹，南都大資料研究院将進一步聚焦“數字經濟與資料治理”，并重點在四大領域開拓進取，分别是:促進“數字素養與文明提升”，發揮智媒引導功能；參與“資料要素流通與轉化”，發揮智媒服務功能；維護“網絡内容與資料安全”，發揮智媒治理功能；推動“人工智能可信與普惠”，發揮智媒融創功能。
“南都在打造智庫媒體上面，走在了全國同行前列”，對于南都智媒轉型，邬賀铨院士認為，南都聚焦數字經濟和資料治理的發展，彰顯時代特點，發出時代強音，特别是當下人工智能技術蓬勃發展，南都緊緊抓住時代機遇，在宣傳人工智能應用、鼓勵AI技術創新等方面做出了貢獻，做出了智媒擔當。陳俊龍院長則評價，“南都通過多元智媒服務，深度融入人工智能發展版圖，我非常期待。AI安全治理，需要有媒體的力量!”
釋出《發展負責任的金融AIGC聯合倡議》
涵蓋三大價值觀、八項基本原則
生成式人工智能的出現，成為金融數字化轉型的強力“催化劑”。會上，南方都市報、南都大資料研究院聯合近20家高校、科研機構、行業企業發起《發展負責任的金融AIGC聯合倡議》，該倡議書涵蓋三大價值觀、八項基本原則，旨在推動金融機構、科技公司等各方主體更負責任并合乎道德地應用生成式人工智能，擦亮金融為民底色。
此次活動還釋出了“年度前沿人工智能應用案例”“年度數智金融先鋒案例”，螞蟻集團、度小滿、奇富科技、馬上消費、樂信、新浪數科、融360七家企業的案例脫穎而出。
大咖聲音
邬賀铨(中國工程院院士):大模型落地落到終端，可以帶動網際網路平台及相關服務還有數字内容和媒體的發展，會讓新經濟形态更多充實到新質生産力，推動數字經濟的提質換擋。
陳俊龍(歐洲科學院院士、琶洲實驗室副主任、華南理工大學計算機科學與工程學院院長):廣東提出加快建設通用人工智能産業創新引領地，我們要駕馭AI大模型賦能千行百業，助力數智經濟高品質發展。
王維強(螞蟻集團安全實驗室首席科學家、可信AI負責人):新AI時代，資訊真實性和新型風險亟待解決，也迎來了新的平台責任。大模型時代亟須安全、可靠、可控的AI技術，核心是如何解決超大規模資料中的生成式學習範式下的安全可靠可控。
李超(騰訊雲天禦首席科學家):落地實效是大模型價值的重要評估次元，金融業就是天然的大模型效能檢驗場，資料驅動決策、模型應用已經深入前中背景。如今，在金融零售信貸業務的核心風控環節，領先的金融機構已經開始利用大模型技術自動化疊代風控模型，實作更加精細化的風險量化識别與決策。
圓桌研讨
應對AI大模型發展挑戰 專家研讨共建安全治理新生态
以ChatGPT為起點，熱烈的“百模大戰”正在進行。AI大模型目前面臨哪些挑戰?如何發展負責任的AI大模型?AI大模型産業發展還有哪些創新突破空間?大會上，學界專家和業界代表共聚一堂，圍繞“共探‘AI向善’:如何推動大模型‘可用’及‘可信’”進行研讨。
AI大模型發展面臨三方面挑戰
AI大模型的發展引發了新一輪科技變革，同時也面臨着不少挑戰。
中山大學-善思開悟AI創新賦能聯合實驗室執行主任韋立堅認為，目前大陸AI大模型發展面臨着自主研發能力不足、訓練資料原料不足、算力短缺等3個方面的挑戰，其提出4個建議:一是加強基礎研究與産學研合作；二是企業間聯合研發，打通語料資料；三是實作算力統管、納管，統一排程，智算和超算融合，彌補大模型算力不足；四是加強國産通用GPU研發，應對國家層面的技術安全和經濟安全所面臨的挑戰。
圓桌主持人、泰和泰(深圳)律師事務所進階合夥人易懷炯則從法律風險的角度出發，指出在AI大模型疊代過程中，對資料的搜集、使用、算法訓練等手段本身存在風險，比如說可能會違反資料安全規定。此外，AI大模型作為一個工具，可能會被惡意用作犯罪工具，存在目的行為的風險。
在深圳大學法學院教授、深圳大學創新發展法治研究院院長葉衛平看來，人工智能技術發展本身及其商業化應用是難以預知的，但在技術發展過程中，我們在不斷了解它、接受它、掌握它，同時法律也在同步跟進人工智能安全隐私保護等方面的問題。總體而言，安全保障機制和法律機制可以良性互動，同步前進，AI大模型因而也有望安全可控。
産學研需要更深層次結合和支援
AI大模型已經引領千行百業數智化創新。如何更好将高校、實驗室等機構的AI大模型創新研究，及時轉化應用成果，賦能産業發展?
光明實驗室研究員、生成式大模型團隊負責人姜文浩認為，産學研需要更深層次的結合。“很多時候研究員對于企業方面需求的了解并不是那麼細緻，甚至不太了解新的需求，是以需要有一個更深度的互相了解、溝通，才能有效促進産學研的交流。”此外，AI大模型的研究及業務應用，代價比較大，更需要政策、稅收、人才等方面的扶持。
中山大學人工智能學院副教授、碩士生導師劉威則指出，高校應該更多和本地企業、科研機建構立更加密切的合作關系，如通過定期研讨會、工作坊等共享科研成果，分享市場需求，加快科研成果的轉化。例如，針對廣東的特色産業，在先進制造業、金融業、新能源等領域可共同做定制化的科研項目。
共同解決大模型應用安全
來自企業的代表則從業界實踐方面，分享在各自的垂直領域中保障AI大模型安全可信的難點和經驗。
馬上消費人工智能研究院算法總監肖冰介紹，相比一般的大模型安全性要求，金融行業有特定的要求和合規場景，一是通用的大模型隐私要求，二是金融行業合規場景，如客群年齡限制、貸款利率紅線等。此外，在企業線上應用中，大模型本身的推理問題也比較難解決。對此，馬上消費主要從資料、模型、方案三個層面，保證大模型的安全可用。此外，馬上消費還通過和政府、學界力量合作，檢測各種漏洞，增強大模型的安全性。
金山辦公安全中心負責人劉振全則表示，WPS在大模型上主要遇到資料安全、大模型的不穩定性和不可解釋性兩大問題。針對資料安全，WPS主要在組織管理、技術、制度等三個方面采取措施，對整個資料生命周期進行監控和管控。對于模型的不穩定性和不可解釋性，WPS打造了一套AI網關，引入内容稽核機制以管理模型，同時打造一個細分到産品領域的提示詞平台，基于不同模型的特點，靈活調試提示詞、參數，保證模型輸出的結果符合使用者預期，且符合道德标準和法律法規。
在確定人工智能蓬勃發展的同時，不失倫理底線，不破法律邊界，踐行責任擔當，共建AI安全治理新生态已成共識。易懷炯認為，南都攜手實驗室、高校、研究機構等發起成立“AI治理與創新智聯體”，與行業企業聯合釋出《負責任人工智能大模型金融應用倡議》，都是非常好的實踐，充分展現南都的智媒擔當。他總結稱，“我們要變被動為主動，主動作為，主動共治，共享發展。”
A08-09
監制:戎明昌 劉江濤
策劃:王衛國 鄒瑩
統籌:淩慧珊 關健明
采寫:南都記者 張雨亭 熊潤淼 袁炯賢 謝小清 唐靜怡 羅韻 李雨佳
設計:尹潔琳 原毅
出品:南都大資料研究院