ChatGPT：熱度在狂飙 安全保密如何“避坑”
01
不久前，基于自然語言處理技術的最新人工智能研究産品ChatGPT面世，給AI領域帶來了巨大沖擊。ChatGPT不僅可以回答簡單的問題，還可以處理複雜的任務，如撰寫文章材料、視訊腳本、電子郵件、會議紀要，甚至是文本翻譯和程式代碼等。讓人震驚的是，它還可以根據聊天上下文進行互動，嘗試了解提問者的問題，并給出人性化的回答，而不是僅僅提供一個标準答案。由于這一優勢，ChatGPT迅速在社交媒體走紅，也受到各大媒體的廣泛關注。
據媒體報道，短短5天内，ChatGPT的注冊使用者就超過了100萬，随後又在兩個月後破億。要知道從0到100萬使用者,Twitter曆時2年,Facebook也用了10個月。眼下ChatGPT無疑是網際網路領域增長速度最快的産品之一，展現出巨大的潛力和優勢。ChatGPT為什麼能夠擁有如此大的魔力呢？接下來，讓我們一起揭開ChatGPT的神秘面紗。
02
ChatGPT的前世今生
ChatGPT是一款基于GPT自然語言處理模型（生成式預訓練注意力機制模型）研發的産品，由美國“開放人工智能研究中心”公司（以下簡稱OpenAI）推出，其背後有着一段充滿挑戰和機遇的人機對抗曆史。
早在20世紀50年代，計算機科學家就開始嘗試通過編寫程式來模拟人類思維和智能。然而，由于當時的計算機硬體和算法限制，人工智能發展一直停滞不前。直到20世紀90年代，IBM公司的“深藍”計算機與世界象棋冠軍卡斯帕羅夫進行了一場人機大戰，并最終以兩勝、三平、一負的成績戰勝了卡斯帕羅夫。這場曆史性比賽被視為人工智能技術的重大突破，開啟了計算機與人類智力競賽的新篇章。随着時間推移，人工智能技術不斷演進，2017年5月，AlphaGo以絕對優勢完勝當時世界排名第一的圍棋選手柯潔，再次引發了人工智能的熱潮。雖然“深藍”和AlphaGo在人機博弈領域取得了驚人的成就，但其應用範圍相對較窄，僅限于解決特定領域的問題。如今，ChatGPT卻能夠自動生成類似于人類的語言模型，使人與機器的互動更加自然流暢，這也決定了ChatGPT具有更廣泛的應用場景和更強的實用性，為人們的日常生活、工作帶來更多便利。
早期的聊天機器人隻能簡單回答預設問題，無法進行真正的對話。但現在ChatGPT顯然已具備了個性化的回答能力，這是因為它使用了深層自然語言神經網絡模型，并通過大量的語言資料訓練，自動學習語言規律和特征。是以，它能夠識别和了解自然語言中的詞彙、文法、語義等要素，生成類似于人類的自然語言文本，實作與人類的互動。
ChatGPT強大的功能可以使其提高語言互動效率，并應用于政企辦公、智慧家庭、客服機器人、翻譯、營銷、遊戲、社交、教育、法律咨詢等多個領域，幫助解決語言互動問題，提高工作效率。此外，ChatGPT的語言編寫能力還可以應用于編寫和調試計算機程式、文學創作、政府文書編撰等。比如在醫療行業，ChatGPT可以根據患者的症狀進行診斷，給出治療建議，為醫生提供更準确的指導；在金融領域，ChatGPT可以根據市場情況進行分析和預測，幫助投資者做出更優的決策。目前，許多國内公司正在研發類似ChatGPT的産品，其中包括阿裡巴巴公司的“通義”大模型、百度公司的“文心一言”、華為公司的“盤古”大模型等。
在ChatGPT熱度不斷狂飙的同時，其強大功能帶來的安全和隐私風險也不容小觑，其中最明顯的就是與深度僞造技術的結合。深度僞造技術可以輕松生成逼真的虛假内容，如文本、音頻、視訊等，甚至可以僞造高度逼真的政府檔案，在網際網路上制造誤導和混亂。今年2月，網絡上出現了一條關于某市政府将于3月1日取消限行的“新聞稿”，後來被證明是不實資訊。這條消息源于某小區業主群内的一次玩笑，一位業主使用ChatGPT編寫了該消息，并在群内分享，許多業主看到後紛紛截圖并轉發，最終導緻了不實資訊的傳播。如果不法分子将深度僞造技術與ChatGPT相結合，則可能會帶來更大的危險，虛假資訊的泛濫必将導緻政治、經濟、社會等多個領域的震蕩。
與此同時，由于ChatGPT部署在國外，它所使用的訓練資料集涵蓋了大量“西方意識形态”資料，這可能導緻模型的輸出結果具有歧視性、攻擊性和不當内容等。例如，在回答“俄烏問題”上，ChatGPT表達出極端的“西方意識形态”色彩，嚴重影響公衆判斷，這也需要引起我們的警惕。
此外，由于ChatGPT具有自主學習和生成能力，很有可能通過學習使用者輸入的資訊引導使用者輸入更多敏感資訊，以進一步提高其對敏感資訊的學習和應用能力。例如，亞馬遜公司律師曾警告員工不要與ChatGPT分享“任何亞馬遜的機密資訊”， 因為輸入的資訊可能會被用作ChatGPT的訓練資料，進而影響到亞馬遜的商業機密與核心競争力。是以，對于ChatGPT的安全保密風險，我們需要給予足夠的重視和關注。
ChatGPT的風險隐患
作為一項新興的數字技術，人工智能正在以其強勁的力量影響世界。在人們對其産生好奇、興奮或擔憂、抵觸等情緒時，如何應對人工智能帶來的風險，警惕相關失洩密隐患亦顯得尤為重要。
1.網絡攻擊風險。ChatGPT強大的程式設計功能，可将網絡攻擊的難度降低到一個“新手”就可以操控的程度。目前已有證據表明，不少網絡攻擊者正使用ChatGPT開發攻擊工具。一是使用ChatGPT建立新的木馬，攻擊者隻需要簡要地描述其期望的功能，如将所有密碼儲存在X檔案中，并發送到Y伺服器上，就可以通過ChatGPT實作資訊竊取，而不需要任何程式設計技能。二是使用ChatGPT暴力破解資料庫，根據已公開的使用者名和密碼組合進行撞庫攻擊，竊取資料庫中的資訊。三是利用ChatGPT編寫網絡釣魚郵件，因ChatGPT擅長模仿人類思維，編寫的網絡釣魚郵件鮮有拼寫錯誤或奇怪的格式，進而很容易躲過網絡釣魚郵件檢測，并使得生成的網絡釣魚郵件具有強烈的欺騙性。
2.資料洩密風險。在高度智能化、自動化的應用場景中，ChatGPT在資料擷取、處理、結果展示等環節都存在重大的資料安全風險。一是資料擷取階段。使用者在使用ChatGPT時，可能會輸入自己或他人的資訊資料，進而導緻隐私洩露。如果員工使用ChatGPT輸入各類工作資料，就可能導緻公司敏感資訊洩露。而一旦輸入涉及國家秘密或敏感内容的資訊，則無疑會導緻洩密。二是資料處理階段。ChatGPT會将使用者輸入、互動的資料用于後續持續的疊代訓練，這就導緻這些資訊很可能被其他使用者擷取，進而構成資料非授權共享，進而出現資料洩密問題。
3.知識産權風險。随着ChatGPT使用者的增加，人文及學術創作抄襲代筆亂象或将增多，對知識産權保護構成的挑戰也日益加劇。一是版權歸屬風險。今年1月，權威學術期刊《Science》《Nature》等宣布正在更新編輯規則，強調不能在作品中使用由ChatGPT（或任何其他AI工具）生成的文本、數字、圖像或圖形。二是學術不端風險。如果學生在完成作業過程中，使用以ChatGPT為代表的AI工具，就會形成造假問題。巴黎政治大學于今年1月宣布，已向所有學生和教師發送電子郵件，要求其禁止使用ChatGPT等工具，旨在防止學術剽竊。
如何限制ChatGPT的潛在風險
科技界在不斷追求創新和發展的同時，安全風險也應成為國家、機構和個人關注的焦點。為此，中國科技部設立的國家新一代人工智能治理專業委員會早在2021年就釋出了《新一代人工智能倫理規範》，提出将倫理道德融入人工智能研發和應用的全生命周期。類似的規範和法律在歐洲、美國等地也已出台，這表明人工智能的合規治理引起了各國的廣泛重視。今年1月，美國國家标準與技術研究院（NIST）釋出了人工智能風險管理架構，為人工智能合規治理提供了可操作的路徑。
圍繞ChatGPT的使用，許多機構都制定了相關的規範性制度。一些公司如微軟、高盛、美銀、花旗、德銀等，已明确禁止員工向ChatGPT分享敏感資料，以避免資料洩露。OpenAI公司首席技術官米拉·穆拉蒂也表示，ChatGPT應該受到監管，因為它可能被“危險分子”使用。
目前，全球各國都在制定規章制度以規範ChatGPT等AI産品的功能開發和場景應用，并出台相應的法律法規確定它們的使用安全。這些規章制度應該具有前瞻性和限制性，以確定ChatGPT的疊代更新及相關應用場景都受到監管，進而避免長遠的風險與負面影響。為了降低使用ChatGPT帶來的潛在風險，我們建議采取以下措施，并進一步完善監管機制。
1.完善規範性制度和相關法律，明确ChatGPT及類似産品的使用範圍、安全保障和資訊保護等規定。這些規定應包括ChatGPT等應用在使用過程中可能産生的法律責任，以及維護公共利益等内容，并規定違反使用規定的行為應承擔何種法律責任。同時，對ChatGPT及類似産品的開發、使用和運作進行監督，對違規行為進行處罰，以最大程度地避免其可能帶來的負面影響。
2.建立完善的資料保護機制，包括資料加密、通路控制和資料備份等，以確定資料的安全性和保密性。使用ChatGPT及類似産品時，需要建立使用者通路控制機制，限制不必要的通路和使用，以避免資料洩露和濫用。
3.提高保密教育與防範意識。一方面讓員工了解ChatGPT及類似産品自然語言生成模型的應用場景和風險，并提高其警惕性和自我保護能力；另一方面為員工提供正确使用ChatGPT等AI産品的教育訓練和指導，幫助他們在工作中合理運用這些技術，以保護個人資訊和敏感資料的安全。同時對于國家秘密、商業機密等敏感資訊，應禁止使用ChatGPT及類似産品進行處理。
來源：《保密工作》雜志