人們到底在害怕Sora什麼？ | 科技觀察

封面新聞記者 闫雯雯

什麼是真？什麼是假？在人工智能的時代，顯然區分真假将更加困難。

上周，人工智能公司Open AI釋出了能夠根據文本生成超現實視訊的工具Sora，在業界一片叫好，認為其将改變諸多行業的生态，讓人人都能有機會使用更簡單的方式進行視訊創作。該工具目前正在測試和評估潛在的安全風險，尚未确定公開釋出的日期。

但是，事情永遠也不會那麼簡單。還不到一周時間，已經有專家提出警告，Sora等新的人工智能工具很可能會帶來假視訊的泛濫，而人們也會越來越難以分辨這些視訊的真假。

Sora生成的視訊

Sora的能力讓人“害怕”

2023年10月，美國總統拜登在一次采訪中提到，他看過網上一個關于他的視訊。看完之後他說：“我什麼時候說過這樣的話？”這個小小的笑料之外，讓拜登陷入了思考，一段隻有3秒鐘、AI生成的影像，足以冒充本人，甚至可以欺騙受害者的家人。那麼，詐騙犯們很容易就可以使用這段視訊來欺騙受害者的家人。

而Sora的出現，似乎就像是一個對于未來的預言。

OpenAI 在其網站上解釋說：“Sora能夠生成具有多個角色、特定類型的運動以及主題和背景的準确細節的複雜場景。”“該模型不僅了解使用者在提示中提出的要求，還了解這些東西在實體世界中的存在方式。”

這意味着，Sora不僅能夠從實體的角度，比如說重力下落，人類在咀嚼時肌肉的運動，海浪随着潮汐運動對于海岸的拍擊……更重要的一點是，作為人工智能，Sora還能夠在未來的學習中讓這些場面變得更加逼真。那麼，這很可能意味着，未來人們在看到一段視訊的話，很難分辨它是真還是假。

是以，有專家甚至稱Sora“讓人害怕”。

身份驗證公司 iProov 的首席科學官紐維爾博士表示，Sora能讓“惡意行為者更容易生成高品質的假視訊。”

Sora生成的視訊

人工智能恐影響大選

專家們說這樣的話，有一個重要的背景，2024年是美國的大選之年，人工智能技術在政治領域可能被濫用。如前文拜登所說，他在看到AI生成的自己視訊時，都會有所遲疑，那麼對于普通群眾來說，分辨這是否是參選人所說的話，就更加困難。

專家警告說，新的人工智能工具可能導緻美國總統大選之前虛假視訊的增加。

TruMedia創始人埃齊奧尼不無擔憂地表示，生成式人工智能工具發展得如此之快，而在社交網絡時代是緻命的，而且這一切發生的時機再糟糕不過。過去一年，人工智能生成的圖像、音頻和視訊的品質迅速提高，OpenAI、Google、Meta 等公司競相開發更先進、更易于使用的工具。

盡管給出的示例都是一些“真善美”，但是專家們卻警告，這項新技術可能會引發新一波的惡意僞造事件。

2024年1月，全球頂流女歌手泰勒·斯威夫特宣布了和美國NFL橄榄球運動員Travis Kelce的戀情。幾乎就在一夜之間，泰勒·斯威夫特在球場的露骨照片就傳遍了網絡，而這些照片流傳度之廣，甚至驚動了白宮。白宮發言人被問及此事時表示，“我們對此類圖像流傳感到擔憂，更确切地說，是虛假圖像，這令人擔憂。”

實際上，在這些照片瘋狂傳播的2周前，網絡上還傳出過一個泰勒·斯威夫特送名牌鍋的視訊。而視訊被泰勒·斯威夫特和品牌雙方否認，這又是一則由人工智能生成的視訊。

問題來了，視訊有人生成，但有人管嗎？誰能夠為這些虛假的視訊負責？

上周五，亞馬遜、谷歌、Meta和OpenAI等科技公司簽署了一項協定，采取“合理的預防措施”，防止人工智能工具被用來擾亂世界各地的大選。

Meta全球事務總裁尼克·克萊格表示：“每個人都認識到，沒有一家科技公司、沒有一個政府、沒有一個民間社會組織能夠獨自應對這項技術的出現及其可能的惡意使用”。

影視行業恐怕将被覆滅

很多人擔憂的是未來影視行業的前景。

電影導演兼視覺效果專家邁克爾·格雷西表示：“看看我們在圖像生成的一年裡取得了什麼進展。 一年後我們會在哪裡？”

實際上，在2023年，好萊塢就曾經進行了長達半年的罷工，其導火索跟人工智能有關。

2023年5月2日，好萊塢編劇協會罷工一部分原因是“争取流媒體播放與重播分成”，另外一個原因就是巨頭們有意使用人工智能取代一部分編劇的工作。7月14日，美國演員工會也加入了罷工的行列，16萬成員全部響應，包括演員、特技師、配音演員、動捕演員等，整個罷工一直持續到11月9日才結束。

在罷工時，曾經有報道提出過，有人希望能夠把群演們全身掃描一遍，隻給一天的工資。之後，這些制片公司擁有掃描檔案、群演的圖像和肖像。在未來任何影視項目中，公司想用就用，無需群演同意，也無需給額外的錢。

盡管到最後，這個想法并沒有成立，但在未來，巨頭們肯定不會放棄這個低成本的演員使用方案。是以，人們才擔心，未來影視行業的前景。

或許，就在不久的将來，人們在熒幕上将很難看到活生生的演員了。