天天看點

警惕AI造黃謠 淺析大資料掃黃應用中的SNA算法原理

作者:人人都是産品經理
随着AI技術的深度發展,“AI換臉”“AI脫衣”工具變得常見。一些不法分子将歪主意打到了造“黃謠”,甚至威脅、詐騙上。4月19日,北京市海澱區人民法院審理了一起使用“AI去衣”軟體制作淫穢物品案。被告人将他人提供的承載人臉資訊的不特定多數女性圖檔,通過深度僞造技術、AI軟體制作成裸體圖檔販賣牟利,同時出售“AI去衣”軟體及使用教程牟利。(引5月13日《南方都市報》)
警惕AI造黃謠 淺析大資料掃黃應用中的SNA算法原理

當今社會網絡造謠事件頻發,我們在警惕AI造謠的同時,也要對大資料掃黃引起更多的關注。本文就來淺析一下在警務情報分析系統中常見的SNA算法原理是怎樣的。

一、什麼是SNA算法

簡單來說,SNA算法稱為社交網絡算法。社會網絡分析(social network analysis,SNA)是複雜系統的一個分支,可用于建構多智能體系系統。

首先,在研究社會網絡分析如何協助多智能體系系統模組化的同時,需要解決兩種執行個體之間的異同。是以在建構SNA體系之前需要建構一個多智能體系系統的原型,通過在智能體執行個體之間建立的社會網絡基礎之上,形成的智能叢集來解決任務。

我們再來看下MAS的定義,多智能體系(Multi-Agent Systems,MAS)的定義是:代表社會結構(如組織和聯盟)的模型,以便客觀地分析開放系統的關聯行為。通過不同類型的關系(如對目标的依賴、對資源的沖突、相似的信念等)互相關聯的個體組成了組織和聯盟。

弄清了SNA和MAS兩者定義之後,我們可以發現多智能體系統(MAS)和複雜系統理論之間存在密切關系,并且可以在社交網絡分析的背景下進行表示。在情報分析系統原理中将MAS和SNA技術相結合,使智能體社會能夠在決策過程中利用SNA名額,考慮智能體在網絡中的位置、價值和重要性等屬性。

二、SNA的作用

社交網絡分析(SNA)是一種源自社會學、社會心理學和人類學等領域的科學研究領域。這個領域研究社會行為者之間的關系連結(也稱為關系紐帶)。

在SNA中,角色可以是個人或公司,可以作為個體單元進行分析,也可以作為集體社會機關進行分析。

SNA與其他研究的根本差別在于它不關注行為者的屬性(特征),而是關注它們之間的聯系。行為者之間的關系由關系紐帶或連接配接建立。

最常見的連接配接類型有:個體評估(例如友誼或情感交換);物質資源的交易和轉移(兩家公司之間的購買和銷售交易);非物質資源的轉移(電子消息的交換);當行為參與者與事件同時發生具有地域、行為等關聯或隸屬關系時,那麼交易網絡就形成了。例如:網絡關聯叢集關系(QQ、微網誌、微信使用者之間的社交網絡聯系);正式節點之間的聯系(公司中的上下級權威循環);生物關系(父子關系)等等。

SNA是一種通過分析行為者之間的位置和結構(即它們的關系)來增強知識共享的方法。

那麼您可能會提出疑問

  • 本文主要讨論了多智能體團隊組成的基于SNA的推理方法,那麼在這個方法中,SNA如何被應用于多智能體系統的決策過程中?
  • 本文中提到了多智能體系統和社交網絡的緊密聯系,那麼在這個內建過程中,如何利用SNA名額來評估智能體在網絡中的地位和重要性?

那麼我們下面就通過一個列舉的例子來談談社交關系網絡的實際效用。

三、SNA的應用領域案例

在情報分析系統領域中,我們熟知的IBM I2就是一款常用的警務情報分析系統。IBM I2的底層邏輯中就運用了SNA的模型應用。

我們淺看一例:

警惕AI造黃謠 淺析大資料掃黃應用中的SNA算法原理

圖檔摘自-360doc【知識】IBM i2可視化分析産品概述(網圖侵删)

在本案例中,通過IBM i2的網絡節點分析,由中心節點引出關聯節點的關系叢集推算。該原型使用SNA原理展示了團隊動态形成的模型,團隊中的節點是在基于其本地社會網絡的決定後自發且分散地形成的。該叢集的參與者擁有一個社會網絡。

對于一個節點來說,要成為團隊的一員,它必須至少與團隊中的一名成員擁有社交連接配接(即網絡中的邊)。是以,在此叢集中,多節點包含N個子節點,A={a1,a2,…,aN},其中每個子節點都可以被視為社會網絡中的一個節點。網絡被模組化為一個鄰接矩陣E,其中每個鄰接矩陣元素eij=1,如果存在,則連接配接兩個代理人ai和aj的邊,否則eij=0。簡單來說就是0出度邊界。即邊界中的最後一個節點。那麼該叢集的標明範圍就确定了。

四、結語

筆者大學畢業後兩年在國家級法治期刊從事新媒體記者工作,後又投入IT領域從事風控領域中的情報分析系統産品設計工作多年。

筆者想說:在如今AI大流行的時代,我們務必從風控角度意識到這樣一個觀點。

科技越發達,網絡造謠、别有用心的人網絡違法的可能性就越高。

但還是一句老話:天網恢恢疏而不漏。

時代的進步同樣也是網絡法治的進步。會有更多的高科技系統來杜絕、偵查、抓捕那些利用AI、利用網絡造謠、詐騙、違法行為的人。千萬不要抱有僥幸心理。尊重科技遵守優良品德做個良好公民。

本文由 @kingwu 原創釋出于人人都是産品經理。未經作者許可,禁止轉載

題圖來自Unsplash,基于CC0協定

該文觀點僅代表作者本人,人人都是産品經理平台僅提供資訊存儲空間服務

繼續閱讀