編輯|伊風
出品 | 51CTO技術棧（微信号：blog51cto）
上周，馬斯克的 X 網站 “頭版 ”出現了一則令人震驚的國際新聞：
标題為 “伊朗用重型飛彈襲擊特拉維夫”。
圖檔
考慮到此前以色列的空襲，這條新聞一經發出便引起人們對戰争更新的普遍擔憂。然而，轟炸并未真實發生過——這條新聞是X平台自家的機器人Grok AI生成的！
X 剛剛宣布在趨勢（相當于微網誌發現和熱搜功能）引入Grok。沒想到，第一天來上班的 AI 就造了一個大亂子！
究竟為什麼會發生這種事？
上圖：請點選“探索”按鈕檢視Grok AI為你創造的實時個性化新聞
1.從馬斯克的“大裁員”開始說起
和微網誌等平台的熱搜榜一樣，X 平台的趨勢可以幫助使用者了解目前的熱門話題。在 X 上，話題的趨勢是實時的，可能有幾個小時的短期運作期，也可能有 24 到 48 小時的長期運作期。
趨勢大多針對每個使用者的賬戶和時間線，結合使用者關注的對象、興趣和位置等因素由算法進行内容推薦。
當一條新聞被廣泛讨論時，Twitter （那時還沒有改名）的算法會捕捉到釋出的相關關鍵詞并分享趨勢，但有時并不清楚一組特定的詞語為何會成為趨勢。
2020年起，Twitter 開始重視在事實核查上的投入，旨在阻止謠言和假新聞的病毒式傳播。
圖檔
當年9月，Twitter 組建了一支人工編輯團隊，負責策劃新聞，并将趨勢與上下文聯系起來。此外，熱門話題下顯示的熱門推文将不再隻是算法排名，還包括人工策劃。
一年後，Twitter 與美聯社和路透社合作，進一步加強了為熱門話題提供人工背景資訊的工作，以“為每天在 Twitter 上發生的廣泛的全球話題和對話提供及時、權威的背景資訊”。
然而，馬斯克的上任改變了這一切。2022 年 10 月，馬斯克宣布裁員超過 80%，員勞工數從約 8,000 驟降到 1,500 人，被裁掉的當然也包括人工編輯團隊。不久後，平台的趨勢話題就不再提供文字說明。
據路透社2022年11月報道，"Twitter的策劃團隊已被裁撤，該團隊負責'突出Twitter上發生的最佳事件和故事，并增添背景資訊使其連貫'"。
馬斯克曾在推特上表示：Twitter 對内容稽核的堅定承諾絕對不會改變。但激烈的裁員舉措讓他難以允諾——失去了監控推文中的暴力、仇恨和其他違禁内容的團隊，推特上的新聞内容有時無可避免地走向混亂。這件事也間接導緻蘋果和通用汽車在内的大批廣告主選擇撤離了 X 平台。
2.失去了人類“把關者”，AI難抗新聞大旗
在上周的假新聞事件之前，@XDaily 等一些 X 粉絲賬戶分享了 X 即将推出的更新後的 "探索 "頁面截圖。
圖檔
根據示範的demo内容，馬斯克更新後的 "探索 "頁面将重新為熱門話題和故事提供文字背景。
圖檔
4 月 4 日，更新的 "探索 "頁面正式在X上推出。這次更新提供了每個熱門話題的熱門使用者文章，并在頁面左上角補充了使用者易于消化的主題摘要。在頁面的最上方，X 建立的标題将資訊呈現給讀者，就像他們即将閱讀一篇真正的新聞一樣。
圖檔
從上圖（熱門 X 使用者 Hasan Piker 提供的截圖）中可以看到，人工智能生成的有關轟炸一事的虛假新聞标題正在該平台的首頁側邊欄上流行。
對于Grok來說，錯誤地生成了 "伊朗用重型飛彈襲擊特拉維夫 "這一标題，是它在X的 "探索 "功能上生成上下文摘要的功能，這可能是大模型根據平台中的關鍵詞進行的聯想，或者根據一些使用者的謠傳進行撰寫的。總之，這條新聞被作為熱門新聞推廣了。
看來，馬斯克并沒有讓 Twitter 的策劃團隊回歸，也沒有聘請新的人工編輯來撰寫 X 現在提供經過事實核查的上下文。
這些工作被“放心”地傳遞給 X 的人工智能聊天機器人 Grok 撰寫。
1996 年,美國通過《電信法案》第五編，其中有條款（230節）規定線上計算機服務對其使用者生成的第三方内容享有豁免權，無需為内容承擔民事責任。該條款的兩位作者提出，為了保護保護當時不斷發展的網際網路，互動式計算機服務應被視為傳播者，不應對其傳播的内容負責。
現在，AI也許正面臨着同樣的境地：潛力無限，但尚未成熟。不過，鑒于社交媒體在今日生活中無可取代的影響力，很多網友呼籲着手改變條款中的規定，讓AI承擔起責任，就像報紙所做的那樣。
3.盲目的裁員潮或許是時候叫停了
瘋狂的裁員政策将那些本應由人類去做的工作，交給了AI。但問題是AI無法勝任——起碼現在還做不到。
就像我們在生活中接到由AI撥出的客服或推銷電話，那些不能了解人類意圖的機械聲音，或許隻能徒增我們的煩惱。
無論我們是否喜歡，這些變化好像仍将繼續。有媒體認為，馬斯克的裁員政策幾乎影響到整個矽谷，X通過大幅度裁員節約成本的做法，正在被其他巨頭公司參考和跟進。
矽谷的網際網路行業已經經曆了兩年的大規模裁員。根據預測，2024 年有望成為 IT 行業複蘇的一年。Gartner 預測，2024 年全球 IT 支出将增長 8%，超過 5.1 萬億美元，但該行業的就業難似乎仍在繼續（另一方面AI人才卻被多家巨頭公司争搶）。
去年，亞馬遜、思科、Facebook 母公司 Meta、微軟、谷歌、IBM、SAP 和 Salesforce 等科技巨頭以及許多小公司都宣布了大規模裁員。
在增速放緩的大背景下，國内網際網路巨頭也并不好過。阿裡和位元組跳動在内的多家大廠，也宣布了不同規模的裁員和縮編。去年11月，阿裡雲曾經“崩”上了微網誌熱搜，包括淘寶、閑魚、滴滴在内的多款國民級應用都經曆了不同程度的癱瘓。而裁員，尤其是進階技術人員的流失，及随之而來的管理問題，被外界推測是當時阿裡雲發生大規模故障的主要原因。
盲目裁員并不能通向企業管理所向往的組織精簡和效率提高，反而帶來諸多問題。bug也許是最快能修繕的，但使用者對平台信任的喪失卻很難彌補。在看到AI提高生産力的巨大潛力的同時，企業管理者也必須保持清醒的頭腦，在平衡組織規模上做出更理性的判斷。
别讓AI的“降本增效”變成了“降本增笑”。
參考連結：
1.https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore
2.https://www.computerworld.com/article/1617283/tech-layoffs-in-2023-a-timeline.html
想了解更多AIGC的内容，請通路：
51CTO AI.x社群
https://www.51cto.com/aigc/
來源： 51CTO技術棧