每月 200 美元便可 AI“刀”人？無技術門檻的黑客版 ChatGPT 風靡暗網

整理 | 朱珂欣

出品 | CSDN（ID：CSDNnews）

7 月 13 日，惡意 AI 工具 WormGPT 橫空出世，借力自動生成一系列釣魚郵件，讓大家人心惶惶。

眼看一波未平，一波又起。

據安全分析平台 Netenrich 報道，近日，一款名為 FraudGPT 的 AI 工具近期在暗網上流通，并被犯罪分子用于編寫網絡釣魚電子郵件和開發惡意軟體。

基于 GPT-3 ，功能強、威脅大、操作簡單

衆所周知，傳統黑客工具需要使用者具備相應的程式設計能力，才能更好地執行網絡攻擊。

相較之下， FraudGPT 顯得更簡單、直接、高效，也「更具威脅性」。

無論是專業開發人員或小白，隻需通過簡單問答的方式就能實作黑客攻擊。

Netenrich 表示，FraudGPT 的運作方式是通過草拟一封電子郵件，以高度可信的方式誘使收件人單擊所提供的惡意連結。它的主要功能包括 ：

• 建立釣魚網站頁面。FraudGPT 可以生成看似真實的網絡釣魚電子郵件、短信或網站，誘騙使用者洩露敏感資訊，例如登入憑據、财務詳細資訊或個人資料；
• 找到最容易受害的目标。聊天機器人可以模仿人類對話，與毫無戒心的使用者建立信任，導緻他們在不知不覺中洩露敏感資訊或執行有害操作；
• 建立無法檢測的惡意軟體。 FraudGPT 可以建立欺騙性消息，引誘使用者點選惡意連結或下載下傳有害附件，導緻其裝置感染惡意軟體；
• 編寫欺詐的短信、郵件。人工智能驅動的聊天機器人可以幫助黑客建立欺詐性檔案、發票或付款請求，導緻個人和企業成為金融詐騙的受害者。

據悉，FraudGPT 是由名為 "CanadianKingpin" 的開發者提供。

它主要基于 GPT-3 的大型語言模型，在經過訓練後，可以生成合乎邏輯且與事實相符的欺詐性文本。一旦犯罪分子付費購買，FraudGPT 便可以幫助他們成功進行網絡釣魚和詐騙。

風靡暗網，定價 200 美元/月

事實上， AI 工具降低了網絡犯罪分子的進入門檻， FraudGPT 已經不是第一起案例。即便 Claude、ChatGPT 、Bard 等 AI 提供商會采取一些措施來防止他們的技術被用于不良目的，但随着開源模型的崛起，犯罪分子的惡意行為很難被遏制。7 月初，基于開源大語言模型 GPT-J 開發而成，并且使用大量惡意代碼進行訓練和微調的「WormGPT」 也曾引發關注。據悉，WormGPT 擅長使用 Python 代碼執行各種網絡攻擊，例如，生成木馬、惡意連結、模仿網站等。但相比之下，除了 FraudGPT 的功能更強大，價格也遠超于每月收費 60 歐元的 WormGPT，每月訂閱價格高達 200 美元，是 ChatGPT Plus 價格的 10 倍。如果購買三個或六個月的訂閱可以獲得折扣，購買一年的通路權限需要 1700 美元。目前，FraudGPT 已經風靡多個地下暗網市場，例如 WHM、Empire、AlphaBay、World、Versus 和 Torrez，累計達 3000 多筆交易。

當犯罪門檻降低，使用者如何防範？

毋庸置疑，無論是 WormGPT ，還是 FraudGPT ，這類極具威脅性的 AI 工具，都在為促進網絡犯罪和詐騙「賦能」。安全分析平台 Netenrich 曾表示：“這項技術會降低網絡釣魚電子郵件和其他詐騙的門檻。随着時間的推移，犯罪分子将找到更多方法來利用我們發明的工具來增強他們的犯罪能力。”當 AI 工具的邪惡面被淋漓盡緻的展現，再加之網絡攻擊「低門檻」，加強防禦政策顯得尤為重要。為此，印度《經濟時報》針對個人和企業，提出了一些可采取的關鍵措施，以確定免受 FraudGPT 和類似 AI 工具威脅的影響。

• 對線上通信保持警惕。不要亂點選陌生的網站連結、郵件，安裝未知的軟體。同時，針對需要驗證、涉及敏感資訊、金融交易的意外電子郵件，應通過官方管道加以驗證。
• 及時了解網絡安全措施。定期更新安全軟體、安裝更新檔并使用信譽良好的防病毒程式來防範潛在威脅。同時，也需要了解最新的網絡安全實踐，增強網絡攻擊的防禦意識。
• 警惕未知的連結和附件。不要點選未知來源的連結或打開附件。FraudGPT 可以生成指向網絡釣魚網站的逼真 URL，是以，在點選任何連結之前驗證發件人的身份至關重要。
• 教育和教育訓練員工。對于企業來說，網絡安全最佳實踐的員工教育訓練至關重要。確定員工了解潛在威脅并知道如何識别可疑活動。如果員工遇到任何可疑消息，應該立即向 IT 部門報告。

參考連結：

https://netenrich.com/blog/fraudgpt-the-villain-avatar-of-chatgpt

https://economictimes.indiatimes.com/news/how-to/whats-fraudgpt-and-how-criminals-are-using-this-ai-chatbot-to-target-innocent-internet-users/articleshow/102277953.cms?from=mdr

https://indianexpress.com/article/technology/artificial-intelligence/what-is-fraudgpt-dark-webs-dangerous-ai-for-cybercrime-8866138/

粉絲福利：