如果真的有好友，跟你打視訊電話借錢，你會借嗎？
近日，福州市某科技公司法人代表郭先生就接到了這樣的微信視訊電話。考慮到關系較好，又是真人視訊通話，郭先生毫不猶豫，十分鐘不到，就向對方賬戶打了430萬元。然而，沒過多久，郭先生就意識到他遭遇了一場騙局。
這就是最近不斷興風作浪的AI詐騙。
今年是AI人工智能技術爆發的大年，AI産品已應用于多個領域。但令人頗感意外的是，AI技術竟成了詐騙分子的利器，被騙子玩出各種花樣，防不勝防。
那麼，如何打好與AI詐騙的攻防戰？如何用AI技術反AI詐騙？
9分鐘給騙子打款430萬元
據標頭市警察局官微“平安標頭”公布，4月20日11時40分左右，福州市某科技公司法人代表郭先生，接到了好友的視訊電話。兩人短暫聊天後，好友告訴郭先生，自己的朋友在外地投标，需要430萬元保證金，且需要公對公賬戶過賬，是以想要借用郭先生公司的賬戶走一下賬。
基于視訊聊天見過“真人”的前提下，郭先生沒有多想，于11時49分先後分兩筆，将430萬元打給對方。
錢款轉賬後，郭先生給好友發了一條微信，稱事情已經辦妥。沒想到，好友竟然回過來一個問号。
郭先生見此，趕緊撥打好友電話，對方卻說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。
據“平安標頭”釋出，郭先生稱，“當時打了視訊，在視訊中也确認了面孔和聲音，是以才放松了戒備”。
郭先生趕緊報警，并通過警方查詢得知涉案的銀行卡為標頭市蒙商銀行對公賬戶，随後立即向標頭警方請求協助緊急止付。
無獨有偶。
今年4月，安徽安慶經開區發生一起“冒充好友”詐騙案，騙子利用智能AI換臉佯裝“好友”，與受害人何先生進行了9秒鐘的視訊通話，便以開會為由挂斷電話。
随後，騙子在QQ上告訴何先生，急需資金周轉。何先生打了視訊電話确認，又基于可信任的“好友”關系，立刻将245萬元打到對方指定的賬号上，不過，事後撥打電話才得知被騙。
随着人工智能技術的發展，AI應用逐漸落地。但出人意料的是，利用AI技術的詐騙分子竟然成為首批吃螃蟹的人，而且，從目前的案例看，AI換臉詐騙成功率十分高，令人防不勝防。
5月24日，中國網際網路協會釋出公告稱，伴随着深度合成技術的開放開源，深度合成産品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視訊進行詐騙、诽謗的違法行為屢見不鮮。
AI騙術有哪些花樣？
第五空間資訊技術研究院院長談劍鋒告訴中國新聞周刊，從技術原理上看，AI換臉及拟聲技術本質上是對人臉、聲音等生物特征資訊二次加工利用，一般可從已知的資料中提取關鍵特征，通過深度學習算法進行模拟運算，最終生成逼真的圖像和語音，這也是近年來人工智能技術的重要成果。
而這樣的前沿技術，卻被詐騙分子應用于多個場景。
綜合已發生的詐騙案件來看，目前AI詐騙主要有變聲、換臉、自動應答等幾類手段。
比如AI聲音詐騙中，詐騙分子通過撥打騷擾電話等，錄音提取詐騙對象及其重要關系人的聲音特征，并進行合成，進而用僞造的聲音實施詐騙。
AI換臉詐騙中，詐騙分子利用AI技術，通過合成視訊或照片來“以假亂真”，詐騙對象幾乎無法辨識。
談劍鋒表示，當今AI換臉技術花樣百出，隻靠一張正面照片就能“腦補”出講話、運動等連續動作，也能實時捕捉真人動作“替換”臉部特征。前者可利用最少的輸入資訊實作一些規定動作，而後一種技術能在視訊交流中保持場景不變，隻是将面部特征替換成另一個人臉圖像中的面部特征，面部表情相對較為自然，也更具有欺騙性。
奇安信安全專家裴智勇說，僅僅通過換臉，詐騙分子就能演繹出換臉欺詐、換臉敲詐等多種騙術，比如将一個人的臉換到一段不雅照片或視訊上，之後威脅對方。
“尤其可怕的是在AI技術加持下，詐騙分子可以更加智能地選擇詐騙對象，進而精準詐騙”，談劍鋒認為，他們可以充分利用已洩露的個人資訊，精準鎖定詐騙對象，長時間謀劃布局，并在“恰當”的時間節點上使用“合适”的方法實施欺詐。這實際上是詐騙術的更新換代，不僅帶來操作手段的精細化，而且詐騙思路也有不同程度的深化，更難對付。
如何反AI技術詐騙
不過，AI詐騙并非毫無破綻。
談劍鋒表示，詐騙分子使用的AI換臉工具衆多，背後技術複雜度、所擷取人臉品質和數量、算法和模型選擇等存在差異，缺陷也不盡相同。但正所謂李鬼不是李逵，通過特定動作及耐心觀察，識别破綻仍然有規律可循。
以AI換臉為例，這一技術仍然有一些缺陷。
一般來說，由于臉部特征資料精确采集并不容易，多數使用正面證件照片進行模拟替換，有些假臉眨眼的頻次明顯少于正常人，甚至不會眨眼，同樣張嘴也是如此，動作可能也非常生硬，紋理也不自如，是以可以通過觀察眨眼、張嘴、轉頭等動作來大緻判斷真僞。
另外，由于AI換臉技術需要一定的算力，是以增加場景的複雜性或者突然增加不規則物體，例如要求在臉部晃動手指或者某個不常見物體，假臉就可能出現跳動或變形，進而讓換臉術失效。
“必須提高技術門檻，更好地防止AI詐騙”，裴智勇告訴中國新聞周刊，在AI詐騙的背景下，各類人臉識别系統、人臉資料存儲系統，都有可能成為攻擊者批量盜取人臉資料的目标。
是以，各種基于人臉識别技術的驗證系統必須不斷提升自身安全水準，還應研發多種能夠與人臉識别技術互相配合、更加安全的輔助驗證技術，如大資料分析技術、使用者行為特征分析技術等，目的是在不增加使用者負擔的情況下，提升攻擊者的攻擊門檻。
談劍鋒表示，相關各方需要強化技術治理，提供這類AI僞造技術的廠商應當做好生成内容的醒目标注，并合理限制應用場景。在應用時，尤其是提供實時通訊的各類平台，可用AI技術來對抗AI的濫用，進而加強對AI欺詐的識别，并進行有效提示。
與此同時，裴智勇認為，在社交網絡流行的情況下，人臉等個人資訊很容易擴散，這就使我們不得不面對一個現實：“眼見也未必為實”，個人需要切實提高安全防範意識。
對于網際網路使用者而言，一是要保護好個人資訊；二是涉及錢款時，要提高安全意識，多重驗證身份；三是遇到可疑或危急情況，立即撥打96110報警電話。
形成強大高壓震懾态勢
“人工智能教父”傑弗裡·辛頓今年初警告，人工智能可以輔助人類做一些繁複和創意性工作，但也很可能有不法之徒用它來做違法之事，畢竟虛假圖像、視訊的破壞力遠大于單純的文字。
談劍鋒認為，由于人臉等屬于唯一性、不可再生性的生物特征資訊，AI換臉詐騙不僅讓個體遭受較大的損失，而且能極大程度混淆身份資訊，甚至可能令社會信用體系走向崩潰。
“新技術是一把雙刃劍，在造福人類的時候，也易被非法利用，必須加強監管，”北京索朗律師事務所韓利律師向中國新聞周刊表示。
在他看來，監管需多管齊下。首先在完善相關法律法規的基礎上，加強執法力度，加大對AI換臉、變聲服務企業的監管力度，網際網路平台或收集個人資訊企業要承擔應有的義務，如有随意洩露使用者資訊等行為應加大懲處力度。與此同時，要利用新技術提升技術監管能力，采取風險标注、攔截提示、搜尋屏蔽等措施，從源頭上予以阻斷。此外，要加大宣傳力度，提升大家的防範意識。
針對技術監管，裴智勇強調有三方面要格外重視：一是在安全要求較高的系統中，應當限制人臉、語音等不安全的驗證方式的使用；二是對于掌握大量人臉資訊、語音資料的機構，包括政府和企業，應當要求其不斷提升網絡安全建設水準，避免資訊被竊取和洩露；三是研究基于人工智能的視訊鑒僞技術，在必要時刻使機構和公衆有能力借助工具進行鑒僞。
今年4月11日，國家網信辦起草《生成式人工智能服務管理辦法》（征求意見稿），提出AI内容必須真實準确，禁止非法擷取、披露、利用個人資訊和隐私、商業秘密。
談劍鋒表示，總體看來，目前大陸對保護資料及個人資訊等較為重視，也密切關注新技術在資訊服務中的應用，下一步，相關監管、立法、執行應該要不斷跟進完善，進一步明确人臉識别等AI技術應用的邊界，提高對人臉資訊等個人資訊的保護力度。
為此，他建議，對資料買賣的“黑灰産”做到露頭就打；設立“資料銀行”這類新型資料基礎設施來統一保護生物特征等資料。
從執行層面看，在本次郭先生被騙案件中，福州、標頭兩地聯手行動，在多部門的配合下，成功緊急止付涉嫌詐騙資金330多萬元。
對此，韓利表示，聯合執法是遏制與防範AI詐騙的重要探索，通過警方、網信、金融、學校等部門廣泛參與，在打擊詐騙與宣傳引導上不斷發力，形成強大高壓震懾态勢，逐漸遏制AI技術詐騙犯罪行為。
（來源：中國新聞周刊）