聚焦數字文明發展，建構安全可信的人工智能

當今世界，數字技術正全面融入人類社會的各領域和全過程，人工智能已然成為人類文明進步的一個重要标志。與此同時，數字技術如果失去了規範和限制，就可能成為“潘多拉魔盒”，給現實社會帶來一定的威脅。6月26日，世界網際網路大會數字文明尼山對話主論壇在山東濟甯曲阜舉行，大會期間，中外嘉賓圍繞“建構安全可信的人工智能”議題建言獻策。

人工智能将重塑數字世界

“人工智能的機遇是巨大的。但随着全球對人工智能的加速應用，政府群組織有必要考慮如何最好地利用這項技術造福人類和地球。”全球移動通信系統協會（GSMA）首席執行官洪曜莊表示，全球範圍内，人工智能正逐漸嶄露頭角，成為一股強大的力量，有潛力改變企業和社會。

阿拉伯資訊通信技術組織秘書長穆罕默德·本·阿莫表示，人工智能有着革命性的潛力，可以影響甚至改變生活的方方面面，推動創新，使生活更加便捷。例如，通過自動化提高效率、提供準确資訊以支援明智決策、改善客戶服務和客戶體驗等。

談及人工智能的飛速發展，百度創始人、董事長兼首席執行官李彥宏也深有感觸，他表示，過去一年，人工智能在技術、産品、應用等各個層面，都以“周”為疊代速度向前突進。大模型将滲透到越來越多的領域，以大模型為關鍵驅動的數字經濟與實體經濟的深度融合，将做強做優做大實體經濟，創造可觀的增量價值，帶來經濟社會發展和産業的深刻變革。

“這次GPT大模型的誕生代表着通用人工智能、強人工智能的到來，是真正的智能湧現。”360集團創始人周鴻祎認為，人工智能大模型用一套模型、一套算法解決了所有自然語言處理的問題，已經從感覺進化到了認知，能夠了解文字、語言，作出分析、規劃，傳統算法将被代替。未來在自動駕駛、機器人控制等很多重要領域，大語言模型都會大顯身手。

阿裡巴巴集團董事會主席兼首席執行官、阿裡雲智能集團董事長兼首席執行官張勇表示，最近一段時間，全球科技企業的通用大模型百舸争流，推動人工智能邁向了全新的發展階段。他認為，大模型正在加速推動智能化時代的到來，實體經濟是智能化的主戰場。

“我們正在見證人工智能的加速發展。”人工智能促進協會原主席、康奈爾大學教授巴特·塞爾曼表示，GPT-4實作了通用人工智能的第一種形式，引入了一種新的實體，将不可避免地改變許多現有的社會結構和機制，人類需要重新思考人工智能将帶來的影響。

人工智能帶來的治理挑戰不容忽視

“我們迫切需要以高度的責任感來開發和應用人工智能，確定它對整個社會産生積極的影響。”穆罕默德·本·阿莫表示，在享受人工智能帶來的好處的同時，必須認清其會帶來諸多社會和倫理方面的挑戰，這些需要從一開始就加以解決。

人工智能大模型為人類社會發展帶來普遍發展機遇的同時，也會帶來許多方面的治理挑戰，這些挑戰不容忽視。李彥宏認為，新技術的應用往往要先于規範，隻有建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德，才能營造良好的創新生态。着眼未來，在重視防範風險的同時，也應同步建立容錯、糾錯機制，努力實作規範與發展的動态平衡。

在周鴻祎看來，公有大模型存在缺乏行業深度、容易造成企業内部資料洩露、無法保障内容真正可信、無法使企業實作成本可控等諸多不足。他認為，大模型在企業級場景的應用要堅持“輔助模式”。而GPT大模型想要實作“安全可控”，關鍵在于企業能否真正把控它，要讓人的意志在整個決策回路中起到關鍵作用。

目前，人工智能全球競賽已經進入白熱化。就此情景，張勇表示，大家都希望在其中有所作為，但相關領域的技術倫理問題仍需要厘清，在踩下油門的同時，帶好安全的刹車也很重要。“人工智能技術的演進必須符合社會規範，為人類帶來更多美好。我們在追求技術先進性的同時，必須堅守社會責任感。”

“建構安全可信的人工智能”逐漸成為行業共識

歐洲标準化委員會和歐洲電工技術标準化委員會網絡安全和資料保護聯合技術委員會主席沃爾特·福美表示，人工智能标準化要想取得成功，需要各國之間有一個共通的人工智能詞彙定義，這将推進對安全可信人工智能的共同了解。

企業級場景需要打造的是“安全可信、可控易用”的專有大模型。那麼如何打造這樣的專有大模型？周鴻祎表示，需要堅持幾個原則：安全原則，企業級應用必須是安全的大模型；可信原則，以解決大模型的準确性、實時性短闆；可控原則，應把大模型定位于輔助工具，確定人在回路上；易用原則，解決易用性問題需要“有靈魂的數字助理”；普惠原則，讓大模型成為每個人都能使用的生産力工具。

創新中有很多不确定性，有些可以預判在前，防患于未然；有的問題在發展中出現，需要邊發展邊解決，用發展去解決。張勇表示，“建構安全可信的人工智能”已逐漸成為行業共識，相關法律法規逐漸完善，為技術和産業的可持續發展培育了良好的土壤和環境。

人工智能将引領新的一輪技術創新的浪潮，5G移動通信、工業網際網路、大資料、人工智能等數字科技改變了人們生産和生活的方式。中國聯合網絡通信集團有限公司董事長劉烈宏表示，讓所有人能夠共享數字文明發展的紅利和成果，是全社會共同努力的目标。

穆罕默德·本·阿莫認為，人工智能的未來是充滿希望的，應圍繞隐私、透明度、責任與問責、穩健性和彈性五個方面，建構安全可信的人工智能。除此之外，還應建立道德架構，并通過以人為本的設計優先考慮人類福祉，為推動建構安全可信的人工智能持續發展作出貢獻。（光明網記者 李飛 雷渺鑫）

來源： 光明網