深研原因力理論 理性應對人工智能帶來的刑事風險

來源：檢察日報

　　目前，ChatGPT等生成式人工智能的誕生和繁榮為人類生産和生活提供極大便利的同時，亦帶來衆多新生危險源，有可能導緻技術風險的擴散。新技術會引發哪些法律風險，又該如何應對？在“面向未來的刑法學：理論發展與方法創新”國際學術研讨會上，本報記者就此采訪了西南政法大學法學院教授、重慶市新型犯罪研究中心執行主任陳偉。

　　記者：何為生成式人工智能？

　　陳偉：生成式人工智能是技術衍生下的新型人工智能形式，國家網際網路資訊辦公室《生成式人工智能服務管理辦法（征求意見稿）》第2條将生成式人工智能界定為：“基于算法、模型、規則生成文本、圖檔、聲音、視訊、代碼等内容的技術。”ChatGPT就是典型的生成式人工智能形式。一般認為，生成式人工智能擅長生成新的、原創性的内容，而不再是簡單地對已有資料的分析和模仿。

　　記者：ChatGPT等生成式人工智能相較于傳統人工智能有哪些特性？

　　陳偉：就現階段的生成式人工智能而言，其主要具有三方面較為顯著的特性。一是極強的類人屬性。以ChatGPT為代表的生成式人工智能可以輸出極為類似于人類主體的内容與行為，對于一般人而言，這種人工智能生産的内容甚至很難分辨。二是進階的算法黑箱。算法黑箱通常指算法僅被開發者、生産者一方掌握，而對使用者、社會公衆不公開、不透明。而ChatGPT等生成式人工智能的出現或将導緻算法黑箱的“更新”。一般而言，人類主體僅能在前後兩端對基于深度學習技術并使用了大規模神經網絡模型的生成式人工智能主體施加影響，而對于其内部的具體運作邏輯無法完全掌握。換句話說，開發者能夠判斷生成式人工智能可能基于某個預訓練資料而産出相應的内容，但無法确定其産出該内容的具體邏輯。此時，算法過程變成了“僅人工智能本身了解”的黑箱，可以把它稱為進階的算法黑箱。三是相對獨立的行為。第三個特性實際上與第二個特性存在一定的聯系，由于ChatGPT等生成式人工智能在其運作的整個過程，包括資料挖掘、預訓練、優化訓練等過程中具有相當的獨立性，開發主體無法對其一舉一動進行完全掌握，而隻能施加影響。是以，個人認為，ChatGPT等生成式人工智能已經不再是牽線木偶，其可以實施相對獨立的行為。

　　記者：科技的進步是一把雙刃劍。生成式人工智能可能引發哪些刑事風險？

　　陳偉：有關生成式人工智能可能引發法律風險的問題在各國學界已有系統論述，主要集中于知識産權領域，但對于刑事風險鮮有論及，或雖論及但僅停留在倫理道德層面。事實上，生成式人工智能背後同樣具有潛在的刑事風險，将來甚至可能對刑法體系造成沖擊。單就現階段來看，生成式人工智能的刑事風險可以細分為内源性刑事風險與外源性刑事風險兩個層面。

　　内源性刑事風險即是生成式人工智能由内而外引發的風險，換言之，就是生成式人工智能自身所誘發的風險。這種風險主要源自資料挖掘程序，由于該程序具有極高的自動化屬性，在對網際網路資料合法性尤其是合刑法性判斷錯誤的情況下，生成式人工智能完全可能基于不符合刑法規定的資料進行訓練，進而向使用者輸出違反刑法規定的内容。此外，生成式人工智能自動爬取的資料亦可能未經相關知識産權主體的充分授權，進而在知識産權層面觸刑。

　　外源性刑事風險，顧名思義，是指生成式人工智能基于外界影響而誘發的刑事風險。由于生成式人工智能會受到來自開發者與使用者兩端輸入資料的影響，若相關主體向生成式人工智能輸入違反刑法規定的資料或者内容，便可能是以誘發外源性刑事風險。

　　記者：如何應對生成式人工智能可能引發的法律風險，尤其是刑事風險？

　　陳偉：首先是要對法律風險的整體狀況進行充分評估，判斷其是否對現行的法律體系造成沖擊。就現階段來看，其他部門法應當出台一系列細化規定，為生成式人工智能技術發展保駕護航。而刑法領域則應當平衡技術發展和社會風險之間的關系，奠定作為基礎的刑法觀念。具體而言，對于生成式人工智能技術的迅速發展可能産生的刑事風險的預防與規制，應采取一種“适應性刑法觀”。在目前階段，生成式人工智能技術尚不能對刑事法律體系造成嚴重沖擊，無須通過立法層面的積極立法加以應對，更應當在堅守刑法本位觀的立場上，靜觀其變，通過刑法理論層面的積極革新妥善應對生成式人工智能技術迅速發展所引發的刑事風險。

　　記者：對于生成式人工智能可能引發的法律風險，法學界尤其是刑法學界，未來應加強哪些方面的理論研究，進而為司法實踐提供理論支撐？

　　陳偉：面對生成式人工智能可能引發的刑事風險，刑法學界應當在秉持科學合理刑法觀念的基礎上，實作刑法理論與刑法基本教義的與時俱進，進而妥善應對生成式人工智能可能引發的刑事風險。個人認為，原因力理論能夠為正确、全面了解生成式人工智能提供理論依據。

　　原因力理論常見于民法領域，常被用于解決多人侵權中各行為人的責任劃分問題。在刑法領域中，雖然我們經常提及原因力，但實際上對原因力理論的研究還不夠系統深入。随着ChatGPT等生成式人工智能的誕生及發展，我們逐漸意識到人類與人工智能之間的關系由控制轉化為影響，在此基礎上，傳統刑法因果關系理論不能為生成式人工智能開發者、生成式人工智能、生成式人工智能使用者三者之間的因果關系進行正确解釋，理應用更為恰當的原因力理論進行了解。當然，礙于視野的局限性，傳統的原因力理論存在一定的缺陷，故應當對傳統的原因力理論進行創新。例如，将接受原因力的主體适當擴充至生成式人工智能等一系列非人主體。又如，将行為間關系納入原因力範疇，進而對開發者、使用者行為對生成式人工智能行為的影響進行充分研究。在此基礎上，還應當對原因力的程度及種類進行詳盡劃分，為解決生成式人工智能的刑事規制問題奠定理論基礎。