知名學者戴錦華，1959年生于北京，北京大學中文系教授、博士生導師。（受訪者供圖/圖）
2023年4、5月間，B站上以AI孫燕姿為名仿真翻唱的許多流行歌曲迅速走紅，包括周傑倫的《發如雪》《愛在西元前》、王傑的《一場遊戲一場夢》、萬能青年旅店的《殺死那個石家莊人》。網友戲稱：“一首歌沒唱的孫燕姿，竟然占據了華語歌壇半壁江山”。
5月22日，孫燕姿對AI做出回應：“無論是ChatGPT還是Al或者你想叫它什麼名字，這個‘東西’現在能夠通過處理海量的資訊，同時以最連貫的方式拼接組合手頭的任務，來模仿或創造出獨特而複雜的内容。等一下，人類不就是這樣做的嗎？……諷刺的是，人類無法超越它已指日可待。沒有人可以接觸到如此大量的資訊并做出恰當的抉擇或犯下恰當的錯誤（OK，也許我領先一步了）。這種新技術将能夠大量炮制每個人所需的一切。無論你多麼小衆、多麼反常或者精神多麼錯亂，都可能有專門為你建立的獨特内容。你并不特别，你已經是可預測的，而且不幸你也是可定制的。”
而在3月底，包括特斯拉創始人馬斯克在内的多位科技界知名人士簽署了一封公開信，稱希望世界領先的人工智能實驗室暫停開發6個月，因為最近的人工智能進展“對人類社會造成了潛在威脅”。
信中寫道：“先進的人工智能可能是地球史上濃墨重彩的一筆，我們應該規劃和管理它。不幸的是，這種進階别的規劃和管理并沒有發生，導緻近幾個月世界頂級的人工智能實驗室陷入了一場失控的‘比拼’。研究者隻顧着開發和部署更強大的數字思維，但他們自己可能都無法預判人工智能的未來走向，更不能可靠地控制人工智能。”
作為一個AI研發工程的深度參與者，馬斯克的公開信引起了軒然大波。這封信的釋出時間，正好是在馬斯克創立的人工智能研究公司OpenAI釋出ChatGPT最新版本GPT-4兩周後。
早在六年前AlphaGo橫空出世之時，北京大學教授、知名學者戴錦華就用“臨淵回眸”來形容人類的處境。她指出，這一輪以人工智能、數位轉型為代表的新技術革命，我們“完全未經抵抗，幾乎未經讨論”。
面對2023年更加來勢洶洶的AI浪潮，戴錦華會做出怎樣的“診斷”？近日，南方周末記者在北京大學對她進行了專訪。
采訪結束後，戴錦華來到了北大課堂，這天下午，她講完了本學期最後一次中國電影史課程。戴錦華向學生緻歉，因為太忙，她還是沒能準備PPT。盡管她以十分古典的方式，僅靠滔滔不絕的語言成為教室的焦點，但環繞着她的，仍是各種先進的電子裝置。南方周末記者向戴錦華展示了錄音筆上的智語“聽見AI的聲音”，她不解地皺了皺眉頭。
近來，以AI孫燕姿為名仿真翻唱的許多流行歌曲迅速走紅，“AI孫燕姿”成為頂流，歌手孫燕姿對此做出了長文回應。（視覺中國/圖）
流行文化會最早受到AI的沖擊
南方周末：你怎麼看待AI孫燕姿成為流行文化的熱門？
戴錦華：我覺得這實際上隻是冰山一角，可能AI最直接沖擊的就是大衆流行文化的觀念。因為流行文化工業的特征就是類型化，類型化可以複制再生産，而AI應該是可以勝任的。類型就在于重複和變奏，AI一定會比任何一個制作者都掌握更完備的資料庫。比如說，西部片、驚悚片，很難有人看盡，對吧？但AI就可以看盡，這也就意味着它熟悉所有的套路。理想的狀态之下，它能做出最巧妙的變動。那麼在這個意義上說，流行文化的生産者會最早、最直接地受到沖擊。
我們原來所說的，盡人皆知又很難定義的原創性，仍然是人類的特征。但AI作為一種矽基生命，通過自主學習、自主成長，能不能成長出所謂的原創性？我覺得是完全可能的。可是，我仍然認為人性的特征就在于：它不可測量，不可描述，不可限定。
是以我不認為AI能夠自主生産出人性，它大概會在理性和智慧的意義上走得很遠，但是我不認為它能夠複制人類所有的荒誕、所有的不可捉摸和差異。
而且我也認識到，至少這一次ChatGPT展現出的批判性思維很少。那種證明和提供合法性、複制再生産的東西可能會最直接地受到沖擊。而批判性的思考，不管多麼發達、高超的人工智能，都暫時無法替代。
不久前我在社科院做演講，孫歌（中國社會科學院文學研究所研究員）做我的回應人，她認為威脅在于，AI開始生産出一種感情，而人類反過來會被它們生産出的感情所簡化，危險在這裡。
南方周末：在AI孫燕姿登場之前，AI換臉技術已經被用于詐騙、色情制品，是否可以說，AI已經取消了人的特征的真實性？
戴錦華：面對這一輪人工智能的變革，我感到未知和無知。而你說的這種情況，正是未知、無知和危險性的一個小側面。我們既有的法律、法規、意識、觀念都不能覆寫這些新現象，目前任何一種制衡性的力量都沒有登場，這是很恐怖的。另外，這種現實看上去很新，其實一點也不新，你可以頂着一張别人的臉，這樣的事情，至少1994年的電影《阿甘正傳》已經清晰地在我們面前展現出來了。所有關于主體的辨識，關于自我的确認，早已被動搖了。
南方周末：不久前，美國語言學家喬姆斯基發表了文章《ChatGPT的虛假承諾》，稱ChatGPT的使用會降低人類的科學水準和道德水準，他說：“如此多的錢和注意力竟然被集中在這麼小的東西上，這既是喜劇又是悲劇；與人類的大腦相比，這個東西是如此微不足道，用威廉·馮·洪堡的話說，人類的大腦通過語言，可以‘無限地利用有限的手段’創造出具有普遍影響力的思想和理論。”你怎麼看待他的觀點？
戴錦華：我大緻上可以認同喬姆斯基的回答。但總體上來說，他仍然在延續資本主義批判的基本路徑，好像問題變成了太陽底下沒有新鮮事。如果思路放在太高的層面上，具體的問題就消失了，是以我覺得在太陽底下沒有新鮮事的前提下，還是要讨論新的沖擊和挑戰是什麼，否則就無法真正去處理急劇發生的改變。
南方周末：ChatGPT同樣沖擊了學術的原創性，如果學生交的論文是ChatGPT寫的，你會怎麼處理？
戴錦華：這個問題一直都存在，現在可能面對一個ChatGPT生成的作業，以前也有通過網際網路檢索獲得的文本，或者付費請人代寫的文本。其實齊澤克已經替我回答了：如果學生用ChatGPT做作業，我就用ChatGPT打分。當然，這是個狡猾的回答，我還是要學會去分辨，盡管分辨哪個文章是ChatGPT寫的很困難。但确實我已經看到AI生産的論文不低于我們的一般水準，是以我覺得它可能會因為做得太好、沒有破綻而被我認出來。
2023年3月，埃隆·馬斯克（左）和一群人工智能專家、行業高管簽署了一封聯名公開信，呼籲暫停開發比GPT-4更強大的系統，暫停6個月，并指出對社會和人類存在潛在風險。（視覺中國/圖）
馬斯克按下暫停鍵的時間就有點可笑
南方周末：在大約六七年前，AlphaGo戰勝了人類頂尖圍棋選手的時候，你說這一輪新技術革命“完全未經抵抗，幾乎未經讨論”，現在這一狀況有什麼改變嗎？
戴錦華：現在看，更加觸目驚心。AlphaGo出現的時候，其實很少有人讨論到，它已經不再是我們原來所說的計算機，某種程度上它構成了矽基智慧生命。而當時我以為我們有一個共識，就是說人工智能已經發展到這個程度，顯然相對于人類來說，它更高更快更強，而且不是一點半點的更高更快更強。我以為大家公認的底線就是，我們要極端慎重地對待它的通用化，隻能把它用于專項，讓它去下圍棋，看病曆，讓它去做比如說某一項高度專業化的咨詢業務。
但實際上，完全沒有讨論，連任何的風聲都沒有，人工智能已經通用化了。通用化就意味着最樸素的意義上說，它全面進入了人類的生産和生活，而且可能構成對人類勞動力結構的一個巨大的沖擊和改變。
而事實上，它可能參與人類社會事務的方方面面，将造成什麼沖擊和影響？反正是完全在我的想象力之外，在我的認知力之外。這一點好像馬斯克也沒有提起，沒有任何人提及，我們已經直接面對了AI對于人類社會的全面沖擊，而沒有什麼條件。
好像大家隻是熱衷于ChatGPT做的Midjourney（一款流行的AI繪畫工具）成為了一個新玩具，熱衷于這個玩具、遊戲，在調教它，而完全沒有考慮到可想而知的沖擊。比如說它對于我們此前整個的教育體制、教育理念、教育方式、教師結構造成的影響，它對于所有之前具有成熟模闆的這種重複性勞動的職業和行當的沖擊。
我大概最近的公共演講都是從馬斯克的公開信切入，他提出AI可能對人類造成的沖擊和威脅，讓我們懷疑，應該由你來說這句話嗎？由他來提出警告，非常滑稽。而最滑稽的是由他來呼籲各國政府制定法律法規。這封信所針對的就是ChatGPT-4，而GPT-4其實隻是一個應用軟體，是這一輪技術應用的冰山一角。
南方周末：為什麼馬斯克的公開信和警告是滑稽的？
戴錦華：看上去他是第一次喊停，那麼首先他按下暫停鍵的時間就有點可笑，6個月夠幹什麼？他要求停止6個月。其次我們不需要做太多功課就可以知道，這是一輪極端激烈的商戰的展開，是一個資本的和生産的重新布局，毫無疑問的一輪大厮殺。
馬斯克顯然是因為某種意義的劣勢狀态而站出來喊停，他要争奪市場和利潤空間，當然可能也包含争奪未來的主導權。我覺得特别好玩的是，甚至已經明顯遭到了這一輪技術應用沖擊的行業當中，還是有很多人在說，我們不要懼怕技術進步，技術進步會帶來更多的便利，我覺得他們很勇敢，富于犧牲精神，他們完全不在意自己可能畢生的工作方式和生活方式都将被改變。
是以我真的沒有什麼新的結論，從我們讨論AlphaGo的時候到現在，我隻是覺得當時所觀察到的局面，今天更酷烈，或者更嚴重了。當時我們希望引發讨論，但是現在好像已經太晚了。
南方周末：以色列的學者赫拉利在《人類簡史》《未來簡史》裡有一個比較悲觀的預測，就是将來這些人工智能和生物學革命的成果可能被極少數精英掌握。你也提到過大多數人可能會成為“結構性棄民”。
戴錦華：我隻是那次在網上偶然地讀到，谷歌的進階顧問接受通路，記者問他，你認為現在世界上最重要的問題是什麼？他說，當然像任何一次技術革命一樣，就是發生了技術革命以後，人類社會要消化剩餘勞動力。然後記者就問，你認為這一次創造的剩餘勞動力的比例有多高？他回答98%。98%，然後如何消化它？我們怎麼辦？他的回答是：争當2%。太可怕了，當時真的是不知道要罵人還是要發抖，看到這種回答。
我覺得精英是個很抽象的字眼，它可能是政治精英，可能是經濟精英，可能是文化精英。而這一次所謂的精英，完全是由他擁有的可營運的資本數額決定的，就像馬斯克所代表的這樣，看上去好像他是個科學狂人，其實他所有科學狂人的計劃都使他在疫情期間晉升到了全球首富的位置。
“結構性的棄民”也許會變得不可見，但是不會消失，對吧？他們具有真實的存在感，然後他們的生存困境，他們為了能夠掙紮求生的這種努力，最終将闖入你自足的生活。那麼，由科技、資本、精英，由極少數的2%來統治的這個社會，對多數人造成剝奪，它仍然要面臨整個現代化、現代性的規劃，它承諾我們的這樣一個最後将帶給多數人的現代性，将徹底破産，是的，不光是一個神話的破産，而且是整個社會現實和結構的破産。當這一切發生的時候，可能和替代是什麼？我真的不知道，是以近來我不斷地說，我最強烈的感覺不僅是無力，而且是無知，在這麼大的一個圍困之下的無力，同時對我來說更大的一個問題是無知，我們怎麼去應對它，我們将面臨的東西是什麼？
因為我們一邊在這說馬斯克這樣的精英，另外一邊我的觀察是，資本的主導是如此地強大和清晰，以緻我用了一個說法，資本已經開始吞噬資本家了，對，資本已經開始抹除資本家了。因為現在資本無需人格化。在這樣的情況下，我面對的是什麼？我的敵人是什麼？我在什麼意義上是可能和它去相遇或者拼死一搏，我完全不知道，這種無知感對我來說才是一個特别大的問題。但是我覺得，承認無知是我的開始，承認無知就是意味着我不試圖用以前的方法、知識、路徑去應對，不要以為以前我們攢了一堆好東西，而是重新開始思考，從思考到尋找，看看有怎樣的認知，會打開一些完全被無知所遮蔽的東西，同時去思考我們能做什麼。
如果人人都是藝術家，誰是觀衆？
南方周末：2%和98%的區隔，背景是大衛·哈維所描述的新自由主義和金融資本主義的内生性沖突。技術革命創造的大量閑暇，有可能讓更多人去創造、享受文學、藝術和娛樂嗎？
戴錦華：大幅度的配置設定制度的調整，很難在一個社會秩序内部順利地完成，因為你要對财富配置設定的方式做出如此大的調整，一定意味着很多的獲益者和獲益集團會受到損害，是以它不會順滑、輕松地發生。我們再退一步，假定說可以通過全球的一個協商和調整，達成這樣一個社會保障制度，以便讓人類當中高比例的人可以不參與社會生産，同時還能夠有基本的社會保障。那我們還要面對一個非常形而下的問題，并不是所有的人都是藝術家。對于許多人來說，文學藝術可能并不構成誘惑和快樂。
人是千差萬别的，可能有人就渴望服務于社會，有人就渴望進入到物質勞動的生産當中，那麼在這種情況下，你需要應對的就不僅僅是最低收入保障了，假定你能保障他們的情況下，又怎麼去進行精神的安置？
提供這樣多元的生産方式、生活方式，真的是一個對于社會結構的大的安排。我覺得所有這些考慮都真實，所有這些考慮都奢侈，是因為這一輪技術革命絲毫沒有改變現代主義的文化邏輯、生産邏輯、社會邏輯。換句話說它仍然是高耗能的。
人們熱情洋溢地讨論元宇宙的時候，我說大概在電影中，元宇宙最真切的形式就是《頭号玩家》了。實際上所有的包含資本、經營者，他們的想象也沒有超出《頭号玩家》。但是大家好像都忽略了，《頭号玩家》電影一開篇，它的前提就是一場大災難已然發生了，那麼這場大災難的結果，一個是人口的大幅的消減，一個就是巨型貧民窟的形成。元宇宙就是為了配合巨型貧民窟的生存而出現的一種裝置。那麼我們今天的這種技術應用，真的将惠及所有的人，然後它實際的在生産生活中的應用是可持續嗎？
南方周末：近幾年流媒體平台、短視訊平台，它已經展現了一個圖景，很多有閑暇的人去做直播，做才藝展示，甚至就拍一些日常的生活片段，它的使用者可能比較多來自小城鎮或者農村，其實也是一種内容生産，或者展示了一個更豐富的世界。但是另一方面，這個世界又是通過螢幕的形式提供給我們的，大家的閑暇時間也是以媒介化的方式來填充的。你怎麼看待這一現象？
戴錦華：這就是我們整體的技術樂觀主義的一個證據，因為毫無疑問，網絡在它硬體結構當中，真的提供了社會民主化的可能性。但在實踐層面，卻是背道而馳的。因為這種硬體結構，你就看到了農村的、小城鎮的，比如有創意、有才藝、有想法的這些年輕人，他們可能也就獲得了一種有趣的生計。
我質疑技術樂觀主義的一個問題，就是這種硬體條件，确實可能讓比如說一個賣魚的大哥或者是一個村裡的孩子，經由直播變成網紅被大家所看到。大概50年前的預言就是每個人都有機會當5分鐘明星，那時候我們覺得這怎麼可能，現在我們知道确實可能。但其實它隻是給了不同階層、不同空間當中這些古靈精怪、富于創意，甚至是有被壓抑的藝術才能的人，原本因為社會資源配置設定不平等，沒機會展示的，獲得了展示的機會。
另外一個層面是，所謂新媒介，一個非常突出的特征就是它出現之際，最年輕、最有學習能力的人，才是最善于使用它的，可能比如你正好大了5歲，就趕不上這一茬了。那麼這個時候你會看到，它其實是一個非常短暫的相遇的時候，一些人可以有機會利用它自我顯影。我們看直播或者短視訊，好像新的大衆性或者新的民主性的展現，其實我們忽略掉了，這種大衆性其實是被限定的一個小衆。剛好和新媒介相遇，剛好特别善于使用這個新媒體，剛好特别有才藝的人群，在我們的人口基數上面可能比例是極低的。
就算經由普及，最後越來越多人會用新媒體，越來越多人會玩了，越來越多的人可以展示才藝了，那麼這時候面臨的問題就是，如果人人都是藝術家，誰是觀衆？假定我們每個人都有一個特别有趣的直播，我們用什麼時間來看别人的。
南方周末：可以互為觀衆嗎？
戴錦華：互為觀衆，好，這種可能性是存在的。但是在這個時候，就變成了我可能跟你互為觀衆，但是你隻有我這一個觀衆，因為另外的觀衆跟另外的人去互為觀衆。那麼它就不構成我們原來所說的創造、流通和某一種生存方式。它真的成為人人都會使用、人人都在使用的媒介的時候，媒介的意義到底在哪裡？
當我們說自媒體的時候，我們還是說有一些是自媒體人，有一些人其實是閱聽人，而不是說我們所有人都成為自媒體人。當我們所有人都成為自媒體人的時候，我們面臨的它還是傳播媒介嗎？這個地方我不是在做結論，而是說我無知，到那時候我們就全部得重新來過了，我們要定義這到底是什麼東西，這個社會将怎麼組織。
墨西哥導演托羅說，我們人類陷入了前所未有的認識的危機，就是因為你每分鐘看到的都是一緻的，每分鐘都有人出來說你做得對，然後有一個人說你說得不對的時候，你一腳就把他踢飛了，就讓他從你的網絡視野當中消失了。
我覺得以承認我們無知為開始，另外一個非常重要的原因就在于，現在網絡結構讓我們太“已知”了，在一定範圍内，它創造了一個抱團取暖、黨同伐異、同氣相求的結構，把異類完全從視野當中排除。
抵抗的意義在于赢得讨論的時間
南方周末：談到技術樂觀主義，2014年的美國紀錄片《網際網路之子》講述了一個叫亞倫·斯沃茨的IT天才的悲劇故事，他曾經想創造一個開源的、知識共享的網絡空間，卻被知識壟斷付費的公司通過法律手段一直騷擾、施壓，最後亞倫在重壓之下自殺了。是否可以說，網際網路曾經許諾的烏托邦已經破滅了？
戴錦華：其實這些年來，在我的文科視野當中，我都可以比較清晰地看待網際網路曾經攜帶的理想和曾經召喚出來理想快速的增長，一個接一個的，本來人們就是說網際網路是知識民主的，我們可以自主學習，而我們的自主學習和知識民主的前提，是建立在資料庫的完備、開放或者叫免費支撐的，對吧？然後就是我們眼見的收費制度的确立，另外一個形态的壟斷的形成。
曾經比特币出現的時候，它使得全球另類貨币的實踐者都感到興奮，說我們終于有一種可以脫離資本、脫離既有金融系統的一個新的經濟實踐的可能性。然後區域網路出現的時候，人們以為它可以作為一個去中心化的工具，打開社會實踐空間。現在比特币已經完全納入了全球資本的網絡。
而同時我特别清楚地看到，當以元宇宙為名的新的資本介入跟整合開始形成的時候，所有這些東西都被吞噬在裡面。你會看到關于網際網路的曾經的這些夢想，是怎麼在資本的主導當中快速地破滅。
南方周末：當二戰後電視普及、廣告業興起的時候，居伊·德波在批判景觀社會；最近這一輪新技術革命，也有韓炳哲這樣的學者在觀察和反思。知識分子在當下的讨論和批判意義何在？
戴錦華：（面對新技術革命）老有人問我，以前都抵抗了，有用嗎？沒用的事為什麼要做？今天我們所看到的這種抵抗的無效，加速度推進的程序，本身是一個世界性的問題。20世紀包括技術應用、技術進步，其實曾經産生過許多其他的可能性，它和另類社會試驗是同時相伴生的。從抵抗的曆史來看，抵抗的意義不在于阻止這次進行，而在于赢得一個讨論的時間，讓我們至少有所獲知，在取得便利的同時，我們付出了怎樣的代價，伴随着怎樣的喪失。然後喪失是不是你意識到的，是不是你願意的，是不是你喪失得起的。
從一開始我就覺得，讨論和抵抗的意義就在這兒，而不在于制止和逆轉它。技術發明是一回事，技術應用是另一回事。一個技術一旦投入技術應用的時候，意味着在權力結構内部的博弈已經完成了，它已經被背書了。
但是在這個時候猶未為晚，我們去抵抗，去尋找不是完全被它掌控、被它裹挾的可能性，就像我們說不是每個人都是藝術家一樣，也不是每個人都适合這樣的一個被高科技所包圍和服務的宅生活。
南方周末：最近幾年，對于在B站這樣的平台上亮相，你也持一種很開放的态度。你怎麼看待在網絡上的知識輸出？
戴錦華：一方面是有一連串的偶然，中國式的人際、人情，就卷進去了；另一方面，對我個人來說，我的一生挺飽滿豐富的，我心目中最理想的告别這個世界的方法，就是别搞那麼矯情、繁瑣，一轉身就走了，我覺得老冉冉其将至兮，真的不知道哪天也許生命就結束了，我就想能說點就說點，能做點就做點。
結果也許我也掉坑裡了，掉自己的坑裡了。對于好多外地的孩子，在街上碰上就會對我語無倫次地說一句話，說感謝網際網路，會說這輩子也沒想到能夠聽北大老師講課，這回也聽上了北大老師講課。那種他們的體會是不在我預期之中的，這算是給我一些安慰。同時我采取了一個“不體面”的做法，就是上網之後，我自己也不經營它，也不看彈幕，不答複提問之類的，用這樣一個辦法，還是把它當做一個傳播媒介，而不是一個互動界面。
最早做文化研究的時候，我會分享勞工業餘教育這樣一個理念，最多給打工子弟學校或者農村婦女小組講課，其實并沒能夠真正實作業餘教育。我對雷蒙·威廉斯的想法很感興趣，就是說給勞工去講莎士比亞，既不拔高，也不俯就，在大學裡的經典課程就拿到勞工夜校當中去上，不差別對待。我大概也是這樣在B站做節目的。我其實倒也還沒有夢想勞工、農民去看，就覺得說小城鎮的孩子，他們如果看，至少我是在傳遞一些有趣的知識。
南方周末記者 黎衡