揚長避短！CISO必須為ChatGPT安全應用做好準備

曆史經驗表明，即便開發者最初是出于善意的研發目的，但先進的技術往往會不可避免地被用于很多負面、惡意的應用場景中，OpenAI公司最新推出的ChatGPT聊天機器人自然也不例外。現代企業有很多機會可以利用ChatGPT技術，提升與客戶的互動，尋找新的商業機會。但是在網絡安全界，也有越來越多的證據表明，這種基于AI的機器人服務很可能會成為網絡攻擊者們的強大工具。

客觀看待ChatGPT的安全影響

ChatGPT是一種非常有用的工具。它有非常強大的知識積累，可以将複雜主題化繁為簡。對于希望使用該工具編寫惡意軟體代碼以發動網絡攻擊的人來說，ChatGPT為程式設計技能或技術技能有限的威脅分子降低了準入門檻。威脅分子隻需初步了解網絡安全和計算機科學的基礎知識，它就能收到奇好的效果。

但是，對網絡安全建設者，ChatGPT也有很多積極用途，研究人員一直在積極試驗ChatGPT的創新能力，并将網絡防禦方面的很多人工事務實作自動化，這對推動新一代網絡安全防禦技術發展大有前景。很顯然，這種工具同樣有助于為防禦者提供幫助。

影響1

實作安全事件處置的自動化（積極）

安全分析師收到警報後，首先需要提取相關資料源，以便确定這是不是真正的攻擊。這常常需要大量的手動工作。相比之下，從安全資訊和事件管理（SIEM）工具中擷取資料輸出并交給ChatGPT處理，可以迅速生成有關安全事件的分析報告。使用ChatGPT由資料生成報告可以比分析師人工分析更快地洞察事件情況。

由于安全攻擊不斷增長，許多網絡安全專業人員的日常工作已經不堪重負，雪上加霜的是，市場中長期缺少技能娴熟的安全專業人員。然而，ChatGPT有望使不堪重負的安全團隊營運工作實作自動化，同時有助于消除很多誤報資訊幹擾。

除了為安全營運團隊的網絡事件分析引入自動化功能外，ChatGPT還有望為測試網絡防禦系統查找缺陷的滲透測試人員将一些工作實作自動化。比如說，ChatGPT提供的惡意軟體開發功能還可以幫助白帽黑客。

影響2

彌補安全人員的知識鴻溝（積極）

ChatGPT有可能以更快的速度加深使用者對安全專業知識和技能的了解。這種聊天機器人能夠熟練地用高度相關的資訊回答特定的問題，歸納為幾個段落或要點，這意味着相比傳統搜尋引擎技術，ChatGPT常常可以讓使用者更快地了解某些問題，是以特别有利于那些希望深入了解網絡安全知識的人。由于ChatGPT能快速歸納複雜主題，這對推動網絡安全行業發展非常重要，它可以讓非安全專業的企業進階管理者和董事會成員快速了解網絡安全相關内容，進而獲得其對加強網絡安全建設工作的支援。

影響3

加快惡意軟體的開發（負面）

據CyberArk研究人員釋出的研究結果顯示，ChatGPT工具可以用來開發極難被發現的惡意軟體（即多态惡意軟體），同時可用于以進階方式幫助惡意軟體程式開發，包括利用開源存儲庫中發現的惡意軟體代碼訓練ChatGPT，以生成該代碼的獨特變體，進而逃避反病毒檢測機制。

此外，ChatGPT還可以用來生成用于分發的惡意軟體載荷本身，進而成為網絡攻擊的一部分。

實驗表明，ChatGPT有能力生成多種類型的惡意軟體載荷，包括資訊竊取器、遠端通路木馬和加密貨币竊取器。對此，OpenAI的解釋是，當使用者請求ChatGPT生成代碼時，ChatGPT的功能更像是搜尋引擎，還無法進行更複雜的合理性辨識和需求定制。

影響4

助長網絡釣魚和社會工程攻擊（負面）

ChatGPT可以非常真實流暢地模仿人類寫作，這個特點使其有可能成為一種強大的網絡釣魚和社會工程工具，特别是當威脅分子需要進行跨語種的欺詐攻擊時，該工具有可能被用來更有效地分發惡意軟體。

研究人員測試ChatGPT後發現，由英語不流利的人撰寫的釣魚郵件中經常出現明顯的問題，比如拼寫和文法錯誤，或者濫用英語詞彙，而通過ChatGPT生成的郵件文本并不存在這類問題。是以研究人員認為，攻擊者可以使用ChatGPT，更有效地分發竊取資訊的惡意軟體、僵屍網絡模拟工具、遠端通路木馬以及勒索軟體可執行檔案等。

為ChatGPT應用做好準備

作為一種創新技術，企業組織在未來數字化發展中會有很多機會應用ChatGPT或類似AI工具。CISO們需要為此提前做好應對準備，以避免可能出現的安全隐患。安全研究人員也提出了一些有益的措施和建議：

實施強身份驗證協定，加大攻擊者通路賬戶的難度。攻擊者已經知道如何利用MFA疲勞攻擊來繞過現有的身份驗證機制，是以，企業需要利用AI/機器學習技術實作無密碼應用，這樣有助于提高企業的安全性，同時可以緩解MFA疲勞現象。

積極采用零信任模式。這樣即使攻擊者利用ChatGPT蒙蔽了一些缺乏戒備的内部員工，他們在通路關鍵資料和系統時，仍必須驗證身份，而且即使驗證了身份，也隻能通路有限的資源。讓所有員工僅擁有執行工作所需的最低通路權限，這可能會遇到一些阻力，但會使攻擊者更難利用任何未經授權的通路權限來獲利。

嚴格監控公司賬戶活動，使用包括垃圾郵件過濾器、行為分析和關鍵字過濾在内的工具，以識别和阻止惡意郵件。基于郵件收發方的行為和關系而不是基于特定的關鍵字來監測惡意郵件，更有可能成功阻止惡意分子。

比攻擊者更早利用AI。網絡攻擊者肯定會大量利用AI，而ChatGPT隻是其中的一種手段。企業必須充分利用AI/機器學習提供的功能來改善網絡安全，并更快地響應威脅和潛在攻擊。

加強全公司的安全意識教育，向所有員工宣講最新的網絡釣魚風險。如果員工充分了解ChatGPT工具如何被利用，面對聊天機器人及其他基于AI的工具時就可能更為謹慎，進而避免淪為這類攻擊的受害者。

備注：文章分享自微信公衆号“安全牛”，轉載的目的在于資訊的分享，如有侵權請聯系我們删除。