天天看點

《網絡空間欺騙:構築欺騙防禦的科學基石》一2.4.1 偏見的角色

本文講的是<b>網絡空間欺騙:構築欺騙防禦的科學基石一2.4.1 偏見的角色</b>,在認知心理學中,偏見的意思是:

一種基于個人和常常不合理的觀點來判斷他人或解釋某種情況的傾向[41]。

偏見是任何基于欺騙的機制成功的基礎。欺騙的目标是需要提供一個合理的“謊言”,進而能夠成功地欺騙和/或迷惑對方。如果目标察覺到這種謊言是不可信的,則會更傾向于拒絕它,而不是相信它,或至少提高攻擊者對目前被欺騙可能性的懷疑。一個成功的欺騙應該利用攻擊者的偏見,并為他們提供一個或多個可能的替代真相的資訊。

《網絡空間欺騙:構築欺騙防禦的科學基石》一2.4.1 偏見的角色

Thompson等人讨論了4個任何分析師都需要知道的偏見:個人的偏見、文化偏見、組織偏見和認知偏見[42]。從圖2.2可以看出,欺騙性的安全工具利用的偏見越具體,那麼該工具應用的廣泛性也就越低。例如,若利用一些具體到某個攻擊者的個人偏見的安全工具,則很難推廣到其他攻擊系統的攻擊者上。然而,偏見的選擇越具體,越能夠提高欺騙性元件的有效性。導緻這種情況發生的部分原因是認知的偏見是衆所周知的;與此同時,惡意敵手可能通過增加一個額外的顯示推理層來刻意保護自己,盡量減少(偏見)對他們偵察操作的影響。在下面的章節中,我們分别讨論這些不同類的偏見。

正如Jervis在文獻[43]中所讨論的,個人偏見源于個人親身經曆或特質。這些偏見對設計欺騙成分/操作很有幫助;然而,它們①由于要求擁有潛在攻擊者的詳細知識而更難獲得,②在對抗具體的攻擊者變得更有效的同時,也使得欺騙成分不适用于更廣範圍的攻擊。戰争裡的傳統欺騙行動已經使用過個人偏見,如在第二次世界大戰中利用希特勒政府的傲慢行動作為“豎忍行為”誘騙計劃的一部分[41]。

Hofstede把文化偏見稱為“心靈的軟體”[44]。它們代表了人類對屬于這些文化的思維、感覺和行動的精神及認知的思維方式。在Guss和Dorne進行的一項研究中,他們發現文化影響了測試者的認知、戰略發展和決策的選擇,而盡管提供給所有的測試者相同的資料[45]。Hofstede讨論了文化的6個主要次元,他在網站(geerte-hofstede.com)上對這些文化的不同次元配置設定了量化的值。此外,他将與測量值有關的不同行為都結合起來。這些次元介紹如下。

PDI是對期望和接收程度的衡量,即“權利被不平等地配置設定”。Hofstede發現PDI高的文化,往往有忠誠的意識、表現得有實力而且以集體利益優先。欺騙設計者通過關注攻擊者展現自我的自豪感來利用這種特征,進而可以知道這個攻擊者來自一個PDI高的文化。

集體主義的社會價值觀是 “犧牲個人利益而促進集體的進步”。Hofstede發現,大多數文化是集體主義,即擁有較低的IVC指數。

男性文化是“情感的性别角色明顯不同”的一種文化。例如,一個來自男性文化的攻擊者更容易對由女性寫的或發給女性的資訊警告産生懷疑。在這種情況下,可以利用這種偏見來影響攻擊者的行為。

它是對未知或意外的文化響應的測量。高UAI意味着這種文化對不确定性有着相對結構化的響應,這使得攻擊者的欺騙和混淆變得更加容易。

STO文化通常追求即時利益。例如,防禦者可能犧牲次重要資訊來欺騙攻擊者,使他們相信那是重要的資訊,以保護重要資訊為首要目标。

此次元的文化特征是人們如何選擇休閑與幸福活動的标準。

Wirtz 和Godson引用下面的一段話總結了在進行欺騙設計時了解文化的重要性“要想成功,欺騙者必須認識目标的感覺上下文,去了解什麼樣的實際情景是似是而非的[46]”。

在一個高度結構化的環境中對目标進行欺騙設計時,組織偏見是非常重要的[41]。在這樣的組織中,有很多人是負責分析資訊并決定是否要将其傳遞到更高層次的分析者。利用這些偏見可以将重要的資訊标記為不太重要,進而将欺騙傳遞到更進階的水準。組織偏見的一個例子是由于資訊的不均勻分布導緻看法不同而未能預見到攻擊,比如1994年的美國珍珠港攻擊事件[41]。

在所有的文化、個性群組織中,認知偏見在人類中都是很普遍的。它們代表了“人類感覺、回憶和處理資訊的與生俱來的方式”[41]。世界各地的許多研究人員在許多學科上(特别是在認知心理學)早已對這些偏見有所研究,它們在欺騙的設計以及計算上都起着重要的作用。

Tversky和Kahneman提出的3個通用的啟發式思想似乎是用來将一個複雜的任務降為一個更簡單的判斷決策——尤其是在不确定的情況下——進而導緻一些可預見的偏見[47]。它們是:代表性、可用性、錨定與調整。他們直覺地定義“通過以下情況評估代表性的程度①基本特征與母體相似;②由什麼特殊方式産生的”[47]。可用性啟發式是另一種偏見,它通過評估不确定事件使人想起的難易程度判斷該不确定事件發生的可能性。最後,錨定與調整啟發式是一種使我們做出比其他保證的初始值更接近于已提供的初始值估計的偏見。

Solman讨論了假設在人類中普遍存在的兩個推理系統:基于關聯(系統1)和基于規則(系統2)[48]。系統1通常是自動的和基于啟發式的,并且通常是由習慣掌控。系統2的規則和原則通常更合乎邏輯。兩種系統在人類大腦中同時工作,欺騙目标系統1可達到更理想的響應。

在1994年,Tversky和Koehler認為,人們不重視對事件的主觀可能性的判斷。相反,他們重視對這些事件描述的可能性的判斷[49]。也就是說,同一個事件的兩種不同的描述往往導緻人們給它們配置設定不同的可能性。此外,作者假設對事件的描述越明确和詳細,人們配置設定給它的機率就越高。此外,他們發現把對事件的描述拆分為互不相交的幾部分,可以增加人們相信它的機率。他們的研究很好地解釋了與“結合謬誤”有關的機率評估的錯誤[50]。

Tversky和Kahneman發現,人們通常會給兩個事件同時發生P(XY)比單個事件(如P(X)或P(Y))發生配置設定一個更高的機率。他們表明,人類通常更傾向于相信一個有明确細節的詳細故事。

原文标題:網絡空間欺騙:構築欺騙防禦的科學基石一2.4.1 偏見的角色