三星被曝因ChatGPT洩露晶片機密！韓媒驚呼資料“原封不動”直傳美國

明敏 蕭箫 發自 凹非寺

量子位 | 公衆号 QbitAI

三星引入ChatGPT不到20天，就發生3起資料外洩事件？！

其中2次和半導體裝置有關，1次和内部會議有關。

消息一經釋出馬上引發各界熱議，尤其是南韓方面。韓版《經濟學人》的文章中直接寫道：

這導緻半導體裝置測量資料、産品良率原封不動傳輸給了美國公司。

韓媒方面甚至表示，因為三星員工直接将企業機密資訊以提問的方式輸入到ChatGPT中，會導緻相關内容進入學習資料庫，進而可能洩漏給更多人。

據三星表示，為了避免這種情況再次發生，他們已經告知員工謹慎使用ChatGPT。如果後面仍發生類似事故，将考慮禁止在公司内網上使用ChatGPT。

看起來，三星這次又搞了個大新聞啊。

有網友将此戲稱為：xx網盤存公司内部檔案（doge）。

不過，也有網友發現了這件事詭異的地方。

他們是怎麼知道資料被洩露的？ChatGPT這麼快就釋出了新版本嗎？

而當《經濟學人》記者向三星方面确認消息真實性時，相關負責人表示由于是公司内部事故，是以很難給出明确回複。

目前，跟進該消息的主要是南韓媒體，所謂聊天内容是怎麼被加入到學習資料庫的，細節方面還有待推敲。

是以，真如報道所說，這些資料會被ChatGPT用于訓練、給更多人看到？

企業上傳到ChatGPT的資料究竟是否安全？

3.1%打勞工在給ChatGPT喂企業資料

三星這次引起熱議，關鍵點在于将内部半導體資料上傳給了ChatGPT。

3月11日，三星的半導體事業暨裝置解決方案事業部（DS）部門允許員工使用ChatGPT，随後20天内就發生了三起将公司内部半導體資料上傳到ChatGPT的事件：

其中，員工A用ChatGPT幫自己查一段代碼的bug，而這段源代碼與半導體裝置測量資料有關；員工B想用ChatGPT幫自己優化一段代碼，就直接将與産量和良品率記錄裝置相關的一段代碼輸入了其中；

員工C則先用AI語音助手Naver Clova将自己的會議錄音轉成文字，再用ChatGPT幫他總結一下會議内容，做成摘要……

目前，三星内部已經采取了“緊急措施”，限制與ChatGPT溝通的話題每個内容上傳量不超過1024 bytes，還透露出要開發公司内部AI的意向。

然而，同樣值得注意的是，這些消息大多為南韓方面在跟進，OpenAI尚未回應。

不過，在OpenAI上周更新的資料使用說明中确實有提到，對于非API産品如ChatGPT、DALL-E，平台确實會使用使用者資料來進一步提升模型效果。

如果是API類産品，則确定不會使用使用者送出的資料。

而讓ChatGPT上傳企業資料的事兒，并不止三星一家公司員工幹過。

據統計，不少企業員工都正在将公司資料直接傳給ChatGPT，讓它幫忙處理。

Cyberhaven統計了160萬名員工使用ChatGPT的情況，發現：

3.1%的打勞工都會将企業内部資料直接輸入給ChatGPT分析。

Cyberhaven是一家資料分析服務提供商，他們開發了一個保護企業資料的方法，能幫助公司觀察和分析資料流向、實時了解資料丢失原因。

他們發現，随着ChatGPT的應用率越來越高，給它上傳企業資料的打勞工數量也越來越多。

光是一天之内（3月14日），每10萬名員工就平均給ChatGPT發送了5267次次企業資料：

那麼這其中又有多少敏感資料呢？

資料顯示，在員工直接發給ChatGPT的企業資料中，有11%都是敏感資料。

例如在一周内，10萬名員工給ChatGPT上傳了199份機密檔案、173份客戶資料和159次源代碼。

上傳資料是一回事，并不意味着它就會被使用，但資料安全又是另一回事了。

ChatGPT最近爆出的洩漏使用者資訊bug，讓不少企業開始重視這一點。

ChatGPT曾出過資料洩漏bug

實際上，為了規避資料洩露風險，已有不少企業明确禁止員工使用ChatGPT。

如軟銀、日立、富士通、摩根大通等都發出了相關通知。

同樣是晶片大廠的台積電也在幾天前表示，員工使用ChatGPT時不準洩露公司專屬資訊，注意個人隐私。

還有意大利個人資料保護局也宣布，禁止使用聊天機器人ChatGPT，并限制開發這一平台的OpenAI公司處理意大利使用者資訊。

之是以會引來這些恐慌，一部分原因還得從ChatGPT自身說起。

3月末，ChatGPT被曝出現bug會導緻使用者對話資料、支付資訊丢失洩露。

這一度導緻了ChatGPT短暫關閉。

OpenAI的回應中表示，這一漏洞可能導緻了1.2%ChatGPT Plus使用者的支付資訊（包含使用者姓名、郵件、支付位址、信用卡号最後四位及信用卡過期時間）被暴露了約9個小時。

漏洞還導緻了使用者的對話主題及記錄能被别人看到，如果裡面包含隐私資訊，則有洩露的風險。

OpenAI CEO山姆·奧特曼随即回應，這個bug來自開源庫，他們使用這個庫在其伺服器中緩存使用者資訊。

目前具體受到漏洞影響的使用者數量還無法明确，OpenAI表示已通知受影響使用者其支付資訊或被曝光。

但這種回應無法讓各方滿意。如意大利個人資料保護局就提出，OpenAI沒有就收集處理使用者資訊進行告知，缺乏收集和存儲個人資訊的法律依據。

由此要求OpenAI公司必須在20天内通過其在歐洲的代表，通報公司執行保護局要求而采取的措施，否則将被處以最高2000萬歐元或公司全球年營業額4%的罰款。

如今，随着三星被曝因ChatGPT發生資料洩露，也引發了進一步讨論。

比如不少人在使用ChatGPT時，确實沒有很強的隐私保護意識。

以及如今随着越來越多企業使用ChatGPT，相關使用規則也需要進一步明确。内置了ChatGPT的微軟産品，會不會也要禁止？

對此，你怎麼看呢？

參考連結：

[1]https://economist.co.kr/article/view/ecn202303300057

[2]https://n.news.naver.com/article/243/0000042639

[3]https://www.yna.co.kr/view/AKR20230401033500003

[4]https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt/

[5]https://www.cnet.com/tech/services-and-software/chatgpt-bug-exposed-some-subscribers-payment-info/

[6]https://twitter.com/hirokinv/status/1641766639694913537