前不久，内蒙古標頭警方就曾通報，有騙子利用AI換臉和拟聲技術佯裝熟人實施詐騙，福州市某公司法人代表郭先生10分鐘内就被騙走430萬元。另一起發生在安徽安慶經濟開發區的案件中，詐騙分子僅使用一段9秒鐘的AI換臉視訊，就從受害人處騙走了245萬元。這兩起典型案例引發了廣泛關注和讨論。
當下，随着人工智能技術（AI）的迅猛發展，AI換臉詐騙等新型犯罪也呈現上升趨勢。通過深度學習和生成式模型，詐騙方能夠以數字化手段融合他人的面孔和聲音，制造出逼真的合成圖像。深度僞造的換臉視訊和聲音片段常常令受害者放松警惕，導緻上當受騙，蒙受經濟損失。
好消息是，針對AI數字技術犯罪，國家層面相關立法研究工作正在持續積極推進。
今年接連釋出相關管理辦法
今年以來，有關深度合成、自動生成等AI技術應用的管理辦法頻頻釋出。
1月，中國國家網際網路資訊辦公室、工業和資訊化部、公安部聯合出台《網際網路資訊服務深度合成管理規定》，細化了深度合成技術支援者、服務提供者、服務使用者以及應用程式分發平台的主體責任。
4月，中國國家網際網路資訊辦公室就《生成式人工智能服務管理辦法(征求意見稿)》向社會公開征求意見。該辦法建立了AI服務的規範管理架構，要求提供生成式人工智能産品或服務的企業或個人進行實名認證、資訊公示、申報安全評估、履行算法備案和變更、登出備案手續等。上述規定和辦法的逐漸落實應能在一定程度上遏制非法個體或組織實施AI詐騙的行為。
6月25日，全國人大常委會法制工作委員會舉行記者會，針對有關利用“AI換臉”技術進行視訊合成，進而實施詐騙的問題，發言人臧鐵偉指出：“萬變不離其宗，通過‘AI換臉’進行視訊合成、實施詐騙的行為，是利用新技術進行的詐騙，與傳統詐騙行為在本質上沒有差別。”
應當看到，國家層面制定的反電信網絡詐騙法、刑法等法律為打擊治理各類電信網絡詐騙活動提供了較為充分地支撐，AI換臉、AI拟聲、AI釣魚郵件等詐騙行為并沒有逃出既有法律的打擊範圍。
立法之外，協同治理不可或缺
目前，随着深度學習等AI技術的成熟，AI詐騙呈現手段愈發多樣、門檻大幅降低、辨識難度加大等特點，并且犯罪成本也很低。在網絡上，一些高逼真的換臉付費軟體售價僅在幾百元至幾千元之間，大量被洩露的個人資訊和資料也能以較低價格擷取。這可能會導緻大量侵權内容生成，進而對公民肖像權、名譽權和隐私權構成巨大威脅，僅靠立法規制并不能徹底解決，還需要相應行政治理措施的協同。
首先是要大力加強監管機構的能力建設。利用機器學習和資料挖掘、區塊鍊等技術加強對AI應用的監管與審查，及時發現和應對新型犯罪手法。
其次是加強技術研究和創新。開發先進的防禦工具和技術來檢測、識别和防範利用AI等高科技進行的詐騙犯罪。例如，開發強大的身份驗證技術、欺詐檢測算法和反欺詐系統等。
同時，還需要大力加強跨部門、跨行業乃至跨國的協同合作，共建網絡安全生态系統。建立公安、工信、網信、市場監管部門等政府部門會同電信企業、通訊軟體提供商、銀行等企業的聯合工作機制，提供技術解決方案，推動行業标準和最佳實踐，共同監測和維護網絡安全。
普通人可以做什麼
更為關鍵的是，每個居民都是個人資訊安全的第一責任人，需加強保護意識，防止資訊洩露，尤其是不能輕易提供人臉、指紋等個人生物資訊給他人。以下一些建議，或可幫助個人辨識AI換臉詐騙情況。
不尋常的請求或交流：如果你收到了一條突然出現的請求或消息，其中包含進行不尋常行為的要求，例如轉賬款項、提供個人資訊等，需要保持警惕，不輕易回應。
異常的語言和行為：盡管AI換臉技術可以逼真地模仿原始人物的語言和行為，但仍可能存在一些異常之處。例如不連貫的語句、奇怪的文法錯誤、與平時不符的态度和行為等。如果你感覺對方的語言和行為稍有“不同尋常”，就要立刻警覺。
細緻觀察面部特征和動作：使用AI換臉技術模仿原始人物的面部特征和動作，目前還不能在細節上做到百分百完美比對，是以需要留意細節上的異常，例如眼睛的移動不協調、面部表情不自然、唇形不比對等。如果觀察到類似情形，就要懷疑其真實性。
認真核實身份和資訊：在收到涉及重要決策或敏感資訊的請求時，一定要堅持在第一時間核實對方的身份和資訊，例如直接與其進行電話或面對面溝通，而不僅僅依賴于線上交流。
留意平台的警示：部分社交媒體和線上平台已經采取了一些措施來辨別或警告AI換臉生成的内容。如果您在社交媒體或線上平台上看到有關特定賬戶或内容的緊急提示，須保持警醒。
與此同時，日常生活中要時刻注意不洩露個人資訊。比如，前段時間上海街頭有許多小販手持印有二維碼的紙牌與路人搭讪，說隻要掃一掃就可以免費贈送大鵝公仔。看似輕無足輕重的請求和萌萌的大鵝，很容易讓人喪失警惕。然而，隻要輕輕一掃，竊取個人資訊、植入惡意軟體和病毒，非法通路手機相冊、麥克風等風險就可能接踵而至。
是以，每個人随時都要保持警惕和謹慎，不要随意相信和執行不尋常的請求。如果懷疑自己遇到了AI換臉詐騙，最佳做法是暫停與對方交流，核實其資訊和身份，咨詢專業人士，并及時向執法機構報告。
治理和防範“AI換臉”等新型詐騙犯罪，仍然需通過立法、治理和公共教育等各方多管齊下地努力，并合理引導科技向善，才能應對潛在威脅，維護社會安全與穩定。
--------
城市因集聚而誕生。
一座城市的公共政策、人居環境、習俗風氣塑造了市民生活的底色。
澎湃城市觀察，聚焦公共政策，回應大衆關切，探讨城市議題。