文 ｜騰訊科技
作者｜锘崴科技董事長&創始人王爽 、騰訊科技李海丹
編輯｜鄭可君
本文預計閱讀時長13分鐘丨劃重點● 蘋果針對使用者資料安全實施了一系列安全部署，包括隐私雲計算（PCC）技術，通過加密和隐私保護機制確定資料在傳輸和處理過程中的安全。同時，蘋果采取“本地優先”政策，将敏感資料保留在裝置本地，減少洩露風險，以及嚴格控制應用權限通路，并模糊使用者的IP位址和網絡身份資訊等措施，目前行業中其他廠商尚未普遍達到同樣的水準。● 即使蘋果用心為iPhone打造了一套安全保險體系，但第三方應用一旦接入，隐私的那道防線可能就沒那麼牢固了。不過，接入三方應用存在風險問題不可避免，是所有使用者面臨的共同考驗。這裡隐私安全責任其實不主在蘋果，屬于使用者和第三方應用之間的權責關系。● 歐盟的GDPR、美國的CCPA、中國的《資料安全法》《網絡安全法》和《個人資訊保護法》等相關法律法規涵蓋和強調了資料安全和個人資訊保護。尤其是歐盟地區的法律法規更加嚴格，這在一定程度上引導了蘋果等網際網路科技企業，從合規和準入角度限制和減少潛在的隐私風險。比如若有企業違反GDPR相關規定，可能面臨最高達全球年營業額4%的高額罰款。● 從發展趨勢來看，量子計算的出現對現有的安全措施提出了新的挑戰。未來我們可能需要引入“後量子密碼學”的新技術來應對，但是目前這個技術還面臨效率和性能上的瓶頸，我們還有不少技術難題需要解決。
9月10日，蘋果公司釋出會以“ 高光時刻”為主題帶來了多款新品。其中，Apple Intelligence作為iPhone16的核心宣傳點，被稱為史上第一台AI iPhone，庫克興奮的說道：“新iPhone标志着一個令人興奮的新時代開始！“。大語言模型的爆發使AI技術可以迅速融入到手機中，讓手機變得越來越“聰明”。國内各大手機廠商，華為、OPPO、vivo等都在今年紛紛推出了自己的AI手機。以華為Pura 70系列為例，使用者通過AI功能的拍照更專業，可以實作自動優化照片，AI幫使用者找出最佳角度和光線，讓使用者秒變“拍照大師”。或者AI可以讓手機的智能體助手，像秘書一樣為使用者安排日程、提醒事項，給使用者提供一些個性化的建議。但與此同時，大語言模型行業也暴露了很多問題，尤其是資料安全方面。比如，OpenAI曾緩存使用者的查詢資訊和結果，非會員使用者的資料會被用于分析和模型優化，這也是為什麼在今年6月宣布雙方合作後，遭到了馬斯克的炮轟和指責。還有三星使用OpenAI服務後，也出現了核心内部設計資訊通過大模型洩露的情況。是以，保護使用者個人的隐私安全也變得格外重要，蘋果也深知這一點。在釋出會上，庫克多次強調確定資料安全，“我們不僅手機功能更強大，還更懂得保護使用者的隐私”。然而，新iPhone真的安全嗎？
01
蘋果的隐私方案：隐私雲與本地優先的政策
對于保護使用者隐私安全的“大軍”中，蘋果推出的王牌——PCC（隐私雲計算），一種機密計算技術。網上有不少媒體對此有誤解，對其翻譯為“私有雲計算”，其實這裡完全是兩個概念。
隐私雲計算專注于保護使用者的資料隐私，通過處理和分析資料時使用先進的加密技術和隐私保護機制，確定使用者資料不會被洩露或濫用。而私有雲計算則主要關注在獨立的伺服器或資料中心内部進行管理和控制。
PCC主要是為了服務在雲側。資料在傳輸和存儲過程中需要經過多個網絡和伺服器，增加了被攔截、攻擊或誤用的可能性，是以雲端确實面臨更大的資料洩漏風險。是以蘋果的思路是，PCC需要確定這些資料在傳輸和處理時不會洩露，并且資料隻能被用做使用者請求的操作，資料處理後會被雲端立即删除，不會被雲端存留。另外，蘋果采取了“本地優先”的政策，優勢主要在于使用者更願意将敏感資料，如影像、語音和郵件等交給端側AI處理，不必擔心資料被第三方緩存或洩露。我們可以了解為，這個政策可以盡量讓使用者的資料“鎖”在手機的“保險櫃”裡，不随便“跑出去”。即便是需要雲端處理的複雜任務，蘋果也有一整套加密和隔離技術來確定使用者的資訊不會被洩露，主要有：●硬體安全子產品 (Hardware Security Modules, HSMs)：在需要與雲端互動時，蘋果的 iCloud 資料也經過複雜的加密處理。蘋果使用 HSMs 存儲和管理密鑰，確定即便雲端被攻擊，使用者的資料依然安全。●資料加密：蘋果裝置上的資料在存儲和傳輸時會進行加密。比如在 iPhone 上，檔案和資料庫都會自動進行硬體級加密，使用的是AES (Advanced Encryption Standard) 256 位加密算法。使用者資料即使被竊取，也無法被解讀，除非擁有解密密鑰。●安全隔區 (Secure Enclave)：iPhone 和其他蘋果裝置中的 Secure Enclave 是一個特殊的處理器區域，專門用來處理敏感資訊，如指紋、面容 ID 和密碼。這一部分資料不會直接進入主系統，避免被惡意軟體或應用通路。●差分隐私 (Differential Privacy)：蘋果在部分場景中使用差分隐私技術，即在收集資料前對其進行随機化處理，使得即使蘋果擷取了一些資料，也難以将這些資料與特定使用者關聯。●端到端加密 (End-to-End Encryption)：蘋果的 iMessage 和 FaceTime 通信服務采用端到端加密，確定資料在發送方和接收方之間傳輸時都被加密，任何中間節點包括蘋果本身都無法解讀這些通信内容。● 隐私隔離 (Privacy Isolation)：應用程式運作在受控的沙盒環境中，無法通路超出其權限的系統資料，蘋果通過這類隔離措施來防止惡意應用侵入使用者資料。其次，iOS作為封閉系統，在隐私和安全管控方面具有優勢，能夠通過各種手段進行有效保護。此外，還對應用權限進行了嚴格控制，限制通路麥克風、攝像頭、通訊錄和相冊等功能。比如當使用者要安裝一個新應用時，蘋果會嚴格控制它通路麥克風、攝像頭、通訊錄或者相冊的權限，隻有使用者明确同意，應用才能使用這些功能。這樣一來，使用者隐私就更有保障，資料不會随便被第三方拿走。同時，蘋果還采取了一些額外的措施來保護使用者隐私，比如模糊使用者的IP位址和MAC位址，防止應用通過這些資料來追蹤使用者。簡單來說，蘋果可以把使用者的一些網絡身份資訊“隐藏”起來，讓應用很難知道使用者和資料的具體資訊。
02
本地端不等于安全堡壘，接入第三方風險仍在
從合規的角度來說，如果資料始終保留在裝置本地（不上傳到外部伺服器或雲端），就能夠降低違反像GDPR（歐洲的《通用資料保護條例》）和CCPA（美國加州的《消費者隐私法案》）等相關的隐私保護法規的風險。
GDPR（《通用資料保護條例》）是歐盟在2018年推出的法規，旨在保護個人資料隐私，适用于任何收集和處理歐盟居民資料的公司（無論公司所在地在哪）。GDPR的核心要求包括確定資料透明、資料主體的知情權、同意權、通路權和删除權等。個人可以要求公司删除其資料（“被遺忘權”），并且公司必須在資料洩露時及時通知使用者。隻有在確定資料安全的前提下，資料才可以從歐盟傳輸到其他國家，特别是非歐盟國家。公司需要采取強有力的安全措施，確定資料不被洩露，違背規定的公司會面臨高額罰款，最高可達全球年營業額的4%。CCPA（《加州消費者隐私法案》）是美國加州推出的類似法規，主要保護加州居民的隐私權。CCPA要求公司向消費者披露其收集的資料類型、收集目的和資料是否會被出售。消費者可以要求公司删除其資料或禁止公司出售其資料。CCPA同樣對資料的傳輸和使用有嚴格要求，并規定了資料洩露後的通知義務。如果公司未能遵守CCPA，同樣會面臨罰款。這些法規對資料的跨境傳輸、存儲和使用設定了明确的界限和高要求，企業需要確定資料始終保留在安全的環境中，并遵循使用者的隐私權利。簡而言之，如果資料留在裝置上并不外傳，就可以大大降低違反這些規定的風險。雖然安全性是相對的，任何資料互動都有洩露風險。但通過盡量在端側完成計算，減少資料傳輸和雲端處理的過程，降低了攻擊面，提升産品整體的安全性。不過，盡管蘋果采用了本地優先的政策，但手機端仍可能存在使用者使用過程中的不确定風險。例如，iPhone允許接入像OpenAI這樣的第三方大模型服務，使用者在通路時可能沒有意識到某些請求已被發送到OpenAI的GPT産品，可能導緻敏感資訊洩露。使用者以為操作是在本地進行，但實際上這些查詢請求已被轉發到雲端。而且，OpenAI等第三方的使用者資料處理并不受蘋果監管，使用者可能誤以為資料由蘋果全程保護，實際資料已被第三方處理，并遵循第三方的隐私政策，這些政策可能比蘋果的寬松，這都是潛在的風險。我們手機端有很多App，不同的App可能調用蘋果的安全功能，也可能使用自己的大模型。很多使用者無法區分兩者，增加了敏感資訊洩露的風險。同時，蘋果向不同App提供API接口，使用者輸入的資訊可能被這些App緩存後再轉發到Apple的大模型接口中。這意味着使用者的資訊需要先經過第三方App，如果這些App緩存了使用者的敏感資訊，依然會導緻資訊洩露風險。是以，不同資料提供商的隐私政策如何保持一緻性，仍是需要監管機構加強管理的方向。
03
三方應用安全，
單靠蘋果解決不了
即使蘋果用心為iPhone打造了一套安全系統，但第三方應用一旦接入，隐私的那道防線可能就沒那麼牢固了。但這裡的責任不在于蘋果本身，蘋果的核心能力是iPhone本身可以提供安全的構架平台、軟硬體能力。從技術角度來說，已經盡可能做到現有能力下最大限度的安全防護，遠超其他同行們對于安全方面的系統級部署，對于使用者體驗有深刻的價值。而對于接入第三方的安全問題，是不可避免的，也是每個手機終端都會面臨的問題。蘋果可以盡自己最大努力在 AI上不作惡（惡，這裡指的是比如違規使用使用者資料資訊等不當行為），并且提供相關的技術手段和API給到App開發商， 但App作為使用者資訊的入口，如果App本身想作惡，即便蘋果本身不緩存使用者的提示詞等使用者資訊，這些資訊是可以在進入蘋果加強的AI接口前就被App緩存下來了，緩存後的資訊App是有可能作惡的，這就需要監管部門參與。資料安全不單單是某個手機廠商能解決自身的安全問題，需要在監管的引導和法律法規要求下，不斷的技術疊代，以及使用者們在安全意識提升的共同努力。在使用者側，蘋果在使用者教育和隐私保護方面還有很大提升空間。比如目前任何的安全措施都伴随着成本，通常需要使用者在使用過程中進行額外操作，也增加了學習成本。很多使用者在面對知情授權或隐私條款時，往往直接跳過并點選确認，是以如何讓使用者真正了解這些風險和安全點，是需要改進的。在iPhone使用過程中，建議蘋果不僅告知使用者并讓其授權，還需要在涉及資料外傳或使用第三方模型時，提供明确的提示和預警，讓使用者在潛在風險發生時有更好的決策權，以保護資料隐私。比如可以通過更好的使用者互動設計，将關鍵的風險提示融入使用過程中，幫助使用者更容易了解和應對。對于應用方面，由于蘋果商店的應用數量龐大，蘋果難以對每一個應用進行細緻稽核，可能存在應用非法或濫用使用者資料的情況。在這種情況下，需要國家監管機構（如網信辦、公安部等部門）加強對App在資訊收集、使用和傳輸過程中的合規性監管，并要求更嚴格的審查機制。出現隐私洩露或侵害時，還應提高追責力度，增加違規成本。這需要多方共同努力。放眼到大模型行業中, 由于隐私安全保護是蘋果核心理念之一，能夠通過手機端和App Store的收入來補償其在安全上的額外投入。而其他大模型公司很多在目前仍處于需要“燒錢”的階段，任何計算成本的增加都是巨大的負擔。是以，這些公司何時能采用類似蘋果的安全措施，還需權衡成本和收益，這個因素也會擴大使用者在隐私方面的風險。此外，雲側大模型公司在安全方面的意識至關重要。雖然大家都知道資料安全很重要，但要做好防護，确實會增加不少成本。比如H100 GPU這種高端裝置，其實有機密計算功能，可以更好地保護資料隐私，但很多大模型公司都沒開啟這個功能，因為一旦開啟，處理速度會受到影響，服務成本也會漲。這樣一來，公司得在安全性和成本之間做權衡——要安全，成本高；要便宜，安全可能打折扣，這就成了大模型公司的一大難題。是以，雲側大模型公司在安全方面的意識至關重要，需要確定使用者的敏感資訊不被濫用或洩露。同時，啟用更進階别的加密和機密計算功能，雖然增加了營運成本，卻能有效提升使用者信任度。
04
手機越聰明，全球隐私法挑戰接踵而至
蘋果在全球推廣産品時面臨一個難題：如何在保護使用者隐私的同時，保持個性化服務。蘋果的個性化推薦依賴使用者資料分析，但像GDPR等隐私法規限制資料收集和處理。這讓蘋果在提供貼心服務的同時，還得謹慎遵守法規。例如，蘋果在封閉生态中推出的許多功能目前無法在歐盟提供，比如Apple Maps、FaceTime Audio、包括部分AI服務等無法上線，隻能在美國、加拿大等地區提供。這種情況下，隐私保護和功能提供往往無法兼得。而此次iPhone 16釋出，蘋果再次表示，蘋果智能在中國的推出時間，需要依監管部門審批情況而定。當然，适用于蘋果隐私保護的政策不僅限于蘋果，而是從資料層面出發的法律，對所有相關涉及的公司都有要求。如歐盟的GDPR、美國的CCPA、中國的《資料安全法》《網絡安全法》和《個人資訊保護法》，這些法律都涵蓋了資料安全和個人資訊保護，蘋果的裝置也受其管轄。此外，還需要遵守與AI隐私相關的規定，尤其是中國和歐盟在這方面的要求。2024年9月5日歐盟釋出的《人工智能與人權、民主和法治架構公約》也涉及57個國家參與，重點關注AI風險和安全問題，其中包括資料安全和隐私保護。目前全球法律要求各不相同，理想情況下，如果通過國際聯盟可以設計一個資料安全基線，确定一些通用的服務能力，并在此基礎上提供定制化服務，這将有助于推動科技創新。像ISO，IEEE等組織都在制定國際層面的資料隐私安全标準，或針對特定行業的細分标準，包括锘崴科技也在其中參與了多項資料安全與隐私保護相關标準的制定，比如最近釋出的IEEE-P3158可信資料空間國際标準等等。對于标準化的推出，行業主要涉及兩個方向：第一個是技術架構的标準化，明确技術棧和安全保護的邊界，确定最佳實踐方法，以便各企業遵循這些标準，實作國際認可的安全邊界。第二個是分級分類資料和應用，不同級别和類别的資料可以采用不同的隐私安全保護政策，避免用一刀切的方式解決所有問題。類似于蘋果，它将核心資料盡量在手機端處理，非敏感資料則可以發到雲端進行計算。未來，端側計算會越來越普及。随着手機晶片性能越來越強、記憶體變大、算法更智能，很多複雜的計算都能直接在手機本地完成，減少對雲端的依賴。另外，像蘋果華為等廠商需要在全球範圍内還需要投入更多基礎設施。因為不是每個國家都有完善的雲計算設施，一旦資料需要跨國傳輸，就可能遇到合規的問題。舉個例子，在一些隐私法規嚴格的國家，比如在歐盟地區，在資料跨境時可能面臨更多挑戰，必須確定符合當地的法律要求。
05
各國監管趨嚴下，
AI怎麼繼續跑
未來，各國對資料安全和隐私保護的法規會越來越嚴格，因為這不僅關乎個人隐私，還涉及到“資料主權”——也就是誰掌握了一個國家的核心資料，誰就有了對國家安全的影響力。特别是在大模型技術快速發展的背景下，資料主權變得越來越重要。為了保護這些核心資料，各國會設定更多限制，這也意味着公開資料的擷取會變得更難，這對通用模型的訓練不太友好。對于廠商來說，對于技術疊代和創新需求是永不停歇的。以蘋果iPhone為例，雖然它有些“黑科技”加持，但并沒有把像同态加密這種複雜的技術應用到每一個隐私保護環節，隻是在一些相對簡單的任務上使用。比如，通過雲端比對同态加密後的電話号碼來識别騷擾電話，這相當于是“輕量級防護”。目前，蘋果更依賴的是機密計算技術，這種技術能在保證資料安全的同時，兼顧處理速度和靈活性。不過，任何安全措施都有上限，想要實作絕對安全就像要求沒有腦機接口的情況下不說話還要交流資訊一樣不現實。現在的安全手段都是在一定限制條件下，找到一個折中的保護方案。這些限制等會讓AI研發和使用的成本增加，導緻目前相關應用的大範圍普及還需要一個過程。而對于AI行業，過去依賴大資料和大模型，像開了加速器，快速出成果，但現在資料資源越來越稀缺，研發的難度和成本都在不斷上漲。而且，随着越來越多的資料保護法規的出台，AI技術的跨境使用變得更加複雜。想在某些國家使用AI，如果沒有足夠的基礎設施，還得把資料和算力跨境傳輸，這就像跑個長途加賽馬，難度又上升了幾個檔次。不過，資料的限制也帶來了新的機會。比如，垂直領域的AI模型（專門針對特定領域的AI）可以利用企業或行業内部的“私有資料”進行更精準的訓練。這也是為什麼中國在推動垂直模型方面有優勢。從發展趨勢來看，量子計算的出現對現有的安全措施提出了新的挑戰。現在大多數的加密技術都依賴于大整數分解和離散對數等複雜數學問題求解難來保證安全，但量子計算卻有能力繞過這些複雜的計算，就像突然找到了一條捷徑。是以，未來我們可能需要引入“後量子密碼學”這種新技術來應對，比如同态加密中的“格子密碼”方案。目前這些技術還面臨效率和性能上的瓶頸，計算起來會很慢。是以在量子計算真的普及之前，我們還有不少技術難題需要解決。總之，未來AI技術的發展肯定會遇到更多的規則和挑戰。AI再聰明，都需要給使用者隐私留條“安全通道”。- - - - - - - - END - - - - - - - -*想要擷取行業資訊、和志同道合的科技愛好者們分享心得，那就趕快掃碼添加“動點君”加入群聊吧！群裡更有不定期福利發放！
精彩好文值得推薦！
一鍵轉發，戳個在看！