生成式人工智能最近迎來“火箭式”發展，它也順理成章成為本次世界人工智能大會繞不開的最熱話題。香港科技大學首席副校長郭毅可現場開玩笑說，整個大會似乎都變成了“世界ChatGPT會議”。生成式人工智能在大幅解放生産力的同時，安全、合法、道德、倫理等問題如何規範？
7月7日，2023世界人工智能大會智能社會論壇在楊浦濱江舉行。論壇以“智能社會與數字治理生态”為主題，與會中外專家學者對這些問題進行深入探讨，并釋出了《人工智能大模型倫理規範操作指引》《生成式人工智能風險評估架構（1.0）》等一批專題研究成果。
平衡AI發展和安全
人工智能技術的益處不必贅述，與會專家基本都認可：它可以加速科學技術創新進步、刺激生産力和經濟增長……但專家們也都認為，AI技術的風險不容忽視。
聯合國教科文組織社會科學及人文科學部門助理總幹事加布裡埃拉·拉莫斯在視訊緻辭中提到，AI技術會複制放大歧視，進而加深社會不平等；對環境的影響也不容忽視，大模型産生的二氧化碳排放量相當于125次往返北京紐約的航班；大型語言模型還會産生大量錯誤和虛假資訊。
關鍵在于平衡發展和安全。清華大學智能社會治理研究院院長蘇竣從AI與環保角度切入舉例：“目前數字化與綠色化發展之間還存在夾角，如果處理得當，智能技術将在推動能源生産消費革命方面發揮巨大作用，大幅降低能源消耗和碳排放，有助于盡快實作‘雙碳’目标。反之，處理不當則可能帶來更多能源消耗和社會福利的損失，使社會陷入生态危機。”
“為了有效平衡發展和安全，探索人工智能的治理架構，已經成為國際社會的共識。”市教育委員會副主任葉霖霖介紹，歐盟的人工智能立法工作已經取得了長足進展，中國國家網信辦也起草了生成式人工智能服務管理辦法的征求意見稿。
本次釋出的《人工智能大模型倫理規範操作指引》（下簡稱“操作指引”）正是旨在應對人工智能大模型的風險，推動倫理規範落地實施。研究團隊相關負責人、同濟大學人文學院特聘教授杜嚴勇表示，大多數人工智能倫理原則和指南内容是趨同和重疊的，說明對于核心的人工智能倫理原則，基本已經取得了高度共識。但這些倫理原則如何落地實施，卻始終沒有較有力的措施，這也是嘗試探讨人工智能大模型倫理規範操作指引的根本原因，“我們盡可能指向人工智能大模型技術特征以及可能的應用場景，提高操作指引的針對性。”
“人類”必須在決策環中
據介紹，操作指引把重點放在了人工智能的研發環節。研究團隊認為，科研人員在人工智能倫理方面承擔着最為重要的道德責任。值得注意的是，操作指引着重強調了“人類”的監督、控制和責任。
“我們認為可以在一定程度上使人工智能大模型的決策和人類利益和價值觀保持一緻，這也是實作人工智能大模型安全性最為重要的方面。”杜嚴勇說，“無論人工智能大模型的倫理再強大，畢竟還是擁有工具屬性。是以，我們一定要保證，在重大決策方面，‘人類’必須在決策環中。人工智能大模型必須處于人類監督和控制之下。”
為此，操作指引提出，要通過完善責任内容配置設定，形成責任閉環，進而盡可能規避所謂的責任鴻溝和有組織的不負責任的現象。
郭毅可也認為，人工智能風險管理中最重要的問題是，當AI通過不可思議的技術手段“複刻”了人類的表現，可能擾亂人類的認知，讓人類誤以為聊天機器人是“以人類的方式思考”，繼而引發一系列後果。
而實際上，人工智能隻是表現得像人，“思考”過程更像個“黑箱”。郭毅可講述了電影《她》的故事：男主角和妻子離婚後非常沮喪，開始和一個類似ChatGPT的計算機聊天。計算機模拟的女聲非常好聽，又表現得溫柔而幽默。男主角一發不可收拾地愛上了AI，最後卻發現，AI對每個人都會例行公事地溫柔幽默。如果說AI的“她”能算愛上了男主角，那“她”也同時愛上了好多好多人。這種認知的差異最終摧毀了男主角的心理。
“這部電影對今天的情況作出了精準的預言。”郭毅可說，“我們治理AI，首先要讓人懂機器，讓機器懂人，讓機器和人同理共情，這樣的治理才會有堅實的科學基礎。”
要管，更要敢試敢闖
不過，杜嚴勇等專家也都強調，對AI的治理（或管理）并非要阻礙或禁止AI技術發展，“這是誰也做不到的。”
北京大學人工智能研究院研究員沈體雁說，AI治理主要就是三個問題，把AI創好、把AI用好、把AI管好，“後兩方面，中國有絕對的優勢。但在原始創新方面，我們還是有一些短闆。”他建議，應該給AI研發者一點空間，對他們有更多的包容，“盡量少管他們，随便他們折騰。折騰出成果，再想辦法管理。”
“我們不能采取鴕鳥政策，更不能采取封堵政策，不要擔心技術不可控，就選擇不使用或者少使用。”蘇竣說，“科學技術的大門已經打開了，應該勇敢站到舞台上去，采取積極治理措施去擁抱新技術，全面加強基于ChatGPT架構的應用。”
他提到，楊浦區是全國首批十個國家智能社會治理實驗綜合基地之一，更應該先行先試、不斷探索，不斷進入無人區，不斷進入以前從沒有過的新的AI技術的應用場景，推動更多技術應用，讓新技術更好服務高品質發展。市委網信辦資訊化協調處處長單濱也認為，楊浦承擔着為上海乃至全國智能治理抓試點、闖新路、出經驗的使命。
記者從楊浦區獲悉，楊浦正緊密結合城市更新、數字化轉型實際推進場景建設與實驗研究，初步形成了應用主體“出題”，研究主體和技術主體“答題”的社會實驗模式。今年以來，根據中央網信辦有關要求，楊浦聚焦Chatgpt等生成式人工智能大模型技術帶來的機遇與挑戰，聯合哔哩哔哩等企業開展社會實驗研究。除了當天會上釋出的《生成式人工智能風險評估架構（1.0）》初步研究成果，楊浦還揭牌了“人工智能合規服務中心”。中心将充分發揮同濟大學的智力與技術資源優勢與楊浦區的實踐優勢，為企業的人工智能新技術新應用提供合規指引和咨詢服務。
楊浦區常務副區長尼冰表示，楊浦将深入分析區域經濟、社會生活領域中的熱點、痛點，不斷提出問題、開展實踐，建設一批企業和群衆真正感到管用、好用、愛用的場景。打造出一批“人無我有，人有我優”的示範性項目，率先形成若幹優勢明顯的展示視窗，并将研究成果及時轉化為政策、标準、規範、舉措，把更多文章轉化為檔案，為智能社會的治理提供更多上海示範、全國模闆。
欄目主編：唐烨 題圖來源：朱瓅 設計
來源：作者：胡幸陽