被曝使用人工智能監控員工，沃爾瑪 雪佛龍和星巴克在名單上

圖檔| Getty Images

不管你在哪裡工作，人工智能技術系統都有可能會分析你在Slack、微軟團隊、Zoom和其他流行應用程式上的消息和資訊。

一家專門分析員工資訊的人工智能公司Aware稱，沃爾瑪、達美航空、T-Mobile、雪佛龍和星巴克等知名美國大雇主以及雀巢和阿斯利康等歐洲品牌，已經求助于這家成立七年的初創公司來監控他們普通員工的聊天資訊。

Aware--這家總部位于美國俄亥俄州哥倫布市的初創公司的聯合創始人兼首席執行官傑夫·舒曼（Jeff Schumann）表示，人工智能幫助公司“了解溝通中的風險”，實時了解員工的情緒，而不是依賴于每年一次或一年兩次的調查。

舒曼表示，使用Aware分析資訊中的匿名資料，客戶可以了解特定年齡段或特定地理位置的員工對新的公司政策或營銷活動的反應。Aware的數十個人工智能模型旨在閱讀文本和處理圖像，還可以識别欺淩、騷擾、歧視、不合規、色情、裸體和其他行為。

舒曼表示，Aware的分析工具--監測員工情緒和内容的工具--無法标記單個員工的姓名。但他補充說，在客戶預先确定的極端威脅或其他風險行為發生時，其單獨的eDiscovery工具可以确定到人。

Aware表示，沃爾瑪、T-Mobile、雪佛龍和星巴克将其技術用于治理風險和合規，這類工作約占公司業務的80%。

Aware還表示，其資料存儲庫包含代表300多萬名員工約200億次個人互動的消息。

Humane Intelligence聯合創始人朱塔·威廉姆斯(Jutta Williams)在談到人工智能員工監控技術時表示：“其中很多都變成了思想監控。”她認為，“這是在以一種我從未見過的方式對待人們。”

在美國CNBC的報道中，阿斯利康的一位代表說，該公司使用eDiscovery産品，但不使用分析來監測情緒或危害性。達美航空告訴CNBC，它使用Aware的分析和eDiscovery來監控趨勢和情緒，作為收集員工和其他利益相關者回報的一種方式，并将法律記錄保留在其社交媒體平台上。

但這已經涉及侵犯員工隐私的嚴重問題。

關于人工智能風險的非營利組織Humane Intelligence的聯合創始人朱塔·威廉姆斯(Jutta Williams)表示，人工智能為所謂的企業内部風險項目增加了一個新的、可能存在問題的發展，這些項目多年來一直存在于評估商業間諜活動等方面，尤其是在電子郵件通信中。

将人工智能應用于廣泛的員工監控，在過去一年裡獲得爆炸式增長，自2022年底推出OpenAI的ChatGPT聊天機器人以來。生成式人工智能迅速成為企業财報電話會議的流行語，從金融服務和生物醫學研究到物流、線上旅行和公用事業，某種形式的人工智能正在幾乎每個行業實作任務自動化。

舒曼表示，Aware的收入在過去五年裡平均每年增長150%，其典型客戶約有30000名員工。排名靠前的競争對手包括Qualtrics、Relative、Proofpoint、Smarsh和Netskope。

按照行業标準，Aware保持着相當精簡的狀态。該公司上一次融資是在2021年，當時它在高盛(Goldman Sachs)牽頭的一輪融資中籌集了6000萬美元。

相比之下，大型語言模型公司，如OpenAI和Anthropic，已各自籌集了數十億美元資金，主要來自戰略合作夥伴。

舒曼在保險公司Nationwide從事企業協作工作近八年後，于2017年創立了這家公司。在此之前，他是一名企業家。Aware并不是他創辦的第一家引起人們對奧威爾式公司治理的擔憂。

該公司每年都會釋出一份報告，彙總大公司發送的數十億條資訊--2023年的數字是65億條--的洞察力，并将感覺到的風險因素和工作場所情緒得分制成表格。舒曼将每年通過工作場所交流平台發送的數萬億條消息稱為“世界上增長最快的非結構化資料集”。

當包括其他類型的共享内容時，如圖像和視訊，Aware的分析人工智能每天分析超過1億條内容。在這樣做的過程中，這項技術建立了一個公司社交圖譜，檢視哪些團隊内部互相交談的次數比其他團隊更多。

舒曼在談到這款分析工具時說，它使用來自企業客戶的資料來訓練其機器學習模型。該公司表示，該公司的資料庫包含約65億條消息，代表着300多萬名獨立員工的約200億條個人互動。

“為了保護隐私，它不會有人名，”舒曼說。

但Aware的eDiscovery工具的操作方式不同。一家公司可以根據公司選擇的“極端風險”類别設定對員工姓名的基于角色的通路權限，該類别訓示Aware的技術在某些情況下為人力資源或其他公司代表提取個人的姓名。

紐約大學AI Now研究所的執行主任Amba Kak擔心使用人工智能來幫助确定什麼被認為是危險的行為。“這對人們在工作場所所說的話産生了寒蟬效應。”

她表示，美國聯邦貿易委員會、司法部和平等就業機會委員會都對此事表示了擔憂。她強調“這些既是隐私問題，也是勞工權利問題。”