【專訪】英國哲學家伊莎貝爾·米勒：把人工智能視作女性化的原始力量
界面新聞記者 | 王磬
界面新聞編輯 | 黃月
十年前的電影《她》（Her）講述了這樣一個故事。一位離婚的單身男子與一位擁有迷人聲線的機器人相戀，他在她的身上寄托了他完整的愛情，并逐漸希望能與她——一個并不真正擁有肉身的對話機器人——做愛，就像通常的親密關系那樣。但他逐漸看到了“真相”：作為一個擁有複雜多線程處理能力的機器人，她每日在與他互動、戀愛的同時，還與其他成千上萬個人互動和戀愛。
英國哲學家、精神分析學者伊莎貝爾·米勒（Isabel Millar）留意到了這部電影中的張力：如果人類與機器人相戀，除了人與機之間的張力，是否也存在性别之間的張力？精神分析學的核心概念——性（sexuality）、歡愉（enjoyment）等——在其中扮演何等角色？對于人工智能的了解和想象投射了人類怎樣的自我意識？
電影《她》海報
米勒把對這些問題的思考寫成了《人工智能的精神分析》（The Psychoanalysis of Artificial Intelligence）一書，于2021年出版。對她來說，讨論人工智能問題的起點應該是歡愉——或用精神分析術語來說，“原樂”（jouissance）——一個源于法語的詞彙，字面意思指原初的享樂。原樂是精神分析的核心理念之一。米勒認為，在讨論人工智能的時候，我們應該首先讨論“它享受嗎？”（“Does it enjoy?”）。隻有如此，我們才可以進一步地去讨論，人工智能是否有感受和意識、是否存在性别、是否會取代甚至毀滅人類。
界面文化日前在阿姆斯特丹專訪了米勒，從精神分析學視角審視了堪稱時下最熱門話題之一的人工智能。米勒認為，人工智能更善于模仿人類了，但并不意味着它有知覺能力。她雖然研究人工智能但從不使用ChatGPT，因為機器可以模拟的東西并不具有真正的原創性，不值一用。她也提醒我們注意，目前主導人工智能産業的驅動力是極其男性化的、與資本主義同構的，但人工智能其實有着非常女性化的力量。而面對加沙沖突，目前這個世界多出的一大隐憂，便是人工智能的它與工業戰争機器的合謀。
哲學家、精神分析學者伊莎貝爾·米勒（受訪者供圖）
01 認為技術隻朝一個方向發展，是對人類思維的狹隘想象
界面文化：你為什麼會對使用精神分析方法研究人工智能感興趣？
伊莎貝爾·米勒（以下簡稱米勒）：當我開始攻讀博士學位時，我研究了技術問題、生命政治問題和身體管理問題，研究了米歇爾·福柯、德勒茲、阿基裡·姆貝姆貝（Achille Mbembe）等人的作品，這些學者思考的是我們如何根據身體的願望和潛力來管理和控制身體。當我進一步深入研究時，精神分析變得更加重要，因為我發現有關人工智能的文獻中似乎存在某種分裂：一方面，傳統哲學方法涉及與原樂、身體、語言有關的微妙的問題時批判性不足；另一方面，精神分析領域與人工智能在概念等新問題上并沒有太多互動，比如人工智能如何與人類作為主體融合，如何提出一些挑戰精神分析基礎概念——比如驅動力、無意識、語言——的新問題。如果我們對“智能”的研究都尚未完善，要了解“人工智能”就無從談起。
《人工智能的精神分析》
伊莎貝爾·米勒 著
界面文化：精神分析學說的核心觀點之一是，相信人類的行為很大程度上是由非理性的欲望而不是理性的思想決定的。但我們今天談到人工智能，傾向于認為它由一整套編排完善、計量精确的代碼構成，是理性計算的某種極緻展現。在将精神分析用于人工智能研究的時候，你如何看待這兩者之間在這上面的沖突？
米勒：阿多諾與霍克海默合作的《啟蒙辯證法》（Dialectic of Enlightenment）與這個問題有關——試圖駕馭人類科學主義理性思維的啟蒙思想大方向，是如何陷入持續不斷的辯證法之中的？為什麼總是朝着某個文明的方向前進，但總在某個點上跌倒并回到野蠻狀态、回到可怕的非理性的沖動之中？阿多諾指的是納粹德國，形式化和官僚化的思維方式如何造就了這個極端反人類、毫無人性的死亡機器。
《啟蒙辯證法》提出的問題是我們了解人工智能方式的核心。我們想象這些技術永遠隻朝着一個方向發展，這是對人類思維的廣泛性和複雜性的一種極端刻闆、盲目和狹隘的了解。人類思維是一種立體思維，它被各種悖論和可能性所分裂，不能被簡單窄化為工具性。關于人類思維的一切都是複雜程度指數級上升的抽象概念，抽象起源于某種東西的缺席，某種人類試圖表現出來的“非存在”。這是活體和死體之間的問題，抽象可以證明事物死後仍然存在。關于“不死”（undead）的想法是人工智能的核心之一，我們賦予了它巨大的權力，卻不明白人工智能其實隻是一種抽象的機器，它将永無止境地延續下去。
界面文化：你在前不久舉行的阿姆斯特丹G10論壇的演講中提到，關于“原樂”的問題是人類與人工智能互動的起點。在你看來，為什麼“原樂”問題對于了解人工智能來說如此重要？
米勒：“原樂”是精神分析研究的核心，它是一個非常複雜的概念。它關乎我們對于驅動力（drive）的了解。對于精神分析來說，常見的驅動力包括弗洛伊德提出的口腔驅動力和肛門驅動力，此外還有視覺和聽覺。這些驅動力與原樂密切相關，是我們如何了解人與自身的關系、智力與理性之間關系的重要組成部分。
在此基礎上，我們才開始了解，人工智能本身就是與這些驅動力相結合的，它與我們窺淫癖的沖動、主宰環境的沖動相結合。除非我們了解它作為驅動體與我們互動的方式，否則我們不會真正明白人工智能的潛力。我指的是，它有潛力管理我們，讓我們感受到情感，讓我們思考，讓我們消費，讓我們産生某些欲望。這些形式的原樂無處不在，存在于我們與每一種技術互動的過程中。更具體地說，它們存在于那些被開發的技術背後的原樂模式中，掌權者正在按照特定的原樂模式行事。
米勒演講（受訪者供圖）
02 将人輕易替換為人工智能，是一種自欺欺人的想象
界面文化：根據你剛才談到的觀點，了解人工智能需要從原樂的概念出發，能否舉例說明，在理想的情況下人類應該如何與人工智能互動？
米勒：目前人們對于人工智能隻有一種非常敷衍的了解。我在2021年寫完《人工智能的精神分析》一書之後發現，觀察人們對人工智能的預測非常有趣。
自ChatGPT和DALL·E（編者注：一種基于語言的人工智能圖像生成器，可以根據文本提示建立高品質的圖像和藝術作品）等人工智能産品2022年問世，我觀察到：第一，從政治經濟層面來看，人們開始擔心許多工作被取代——從馬克思主義的角度來看，這是曆史悠久的更廣泛問題的一部分；第二，從美學和藝術的層面來看，人工智能獲得模仿人類創作的能力引發了許多倫理探讨。
以DALL·E為例：多年來藝術理論的研究者一直在談論“什麼是藝術”，當代藝術理論是一個不斷質疑自己的存在價值的領域。有人說藝術應該創造一個“不易制造的美麗物體”，那麼落點應該放在“不易”還是“美麗”上？如果它能保證一定程度的“美麗”，并不再難以制造，是否仍然具有藝術價值？今天的世界不可能産生卡拉瓦喬（編者注：Caravaggio，意大利畫家，巴洛克畫派代表人物），即使有人能夠創作出完全相同的藝術品，他們不會擁有卡拉瓦喬的作品在當時所擁有的價值。是以，我認為DALL·E的意義在于立即抛出這個問題：物體是什麼？為什麼這個物體有價值？為什麼人類的藝術能力很重要？此時此刻的曆史意義何在？這是一個有趣的現象。
DALL·E3官網頁面
再以ChatGPT為例。它的出現讓很多人開始擔心人類的寫作能力和擁有獨立想法的能力，我認為這是一個合理的擔憂。但同樣，它的作用是讓我們注意到這樣一個事實：如果人工智能也能夠做到這些事情，也許這些事情一開始就沒有那麼獨特。我們可以通過算法創作電影劇本，那麼我們應該問：既有劇本是否本身包含了太多套路才使得算法模仿如此容易？就我個人而言，我從來沒有真正接受過ChatGPT，我甚至不想嘗試。其他人可能會認為它有用，我也确信它對于一些事情來說是非常有用的。但我認為，一旦你放棄人的主動性，就會很舒服地讓其他實體代替你自己思考。
界面文化：選擇與人工智能産品保持距離，這會影響你對于人工智能的真實了解嗎？
米勒：我不是社會科學家，我對評估人類對技術的反應不感興趣。我認為了解不同的技術并及時了解新技術的發展非常重要，但說實話，我更感興趣的是新技術如何與國家權力、大型科技公司和企業共謀，例如這些科技是如何被使用、被銷售和被動員的。
界面文化：人們一般認為，以ChatGPT為代表的這一輪新技術之是以能夠獲得如此大的關注，是因為它确有獨特之處。它不再隻是像我們過去了解的那樣，單純是基于大資料的模仿和推演，而是似乎演化出了某種“意識”。例如，《紐約時報》的一名科技專欄作家記錄下了他與聊天機器人的對話過程，在對話的末尾，聊天機器人甚至提議讓這位作家離開他的妻子。這表明人工智能在當下出現了一些新的面向。它不僅僅是由一系列的數學規則組成，它知道人類不僅需要資訊，還需要建議，甚至是情感支援，被回應、被了解的需要。雖然它總體來說還比較初級，肯定不能完全取代人類，但似乎已經開始了這樣的程序。
米勒：我認為你剛剛提到的關于人工智能具有提供建議和情感支援的觀點是正确的。當這些程式變得更加複雜時，它們當然将開始具備與人類感性聯系的能力，對我們進行标準化情感響應和情感次元互動。但我不認為這令人工智能成為了有知覺實體。我們必須明白的是，随着人工智能的高速發展，它将不斷引發諸如“這是否意味着人工智能将取代人類？”的問題——我認為這是危險的，因為我們很容易被愚弄。隻是因為它展示了某種行為，我們就認定它有感覺能力，這是不對的。
界面文化：你在自己的書中也花了許多篇幅來分析人類與人工智能之間可能存在的關系，特别是影視作品中呈現的親密關系和性關系。從精神分析學的角度來看，這些作品怎樣反映了人類對于人工智能的認知？
米勒：我使用電影媒介來研究人們是如何幻想人與技術的關系的。科幻小說是一個非常好的體裁，它戲劇性地展現了我們所面臨的複雜問題。目前許多技術在現實生活中實際上尚不存在，但當人們在《銀翼殺手》《機械姬》《攻殼機動隊》等電影中看到這些場景，多少會被迫思考這些非常複雜的問題：當一種外表類似人類的高度複雜的技術與另一個人類進入關系時會發生什麼。
《機械姬》劇照
我們在電影中一次次看到著名的“圖靈測試”的戲劇化呈現。我認為這個問題真正有趣的是，人類如何投入了大量精力去想象人工智能是有感覺的。我們想象人工智能有答案，想象人工智能可以成為安慰的來源，這些欲望顯然激勵我們繼續努力創造這些形式的智能。
我們需要清楚，雖然虛構與現實之間存在巨大鴻溝，但它們是深度交織在一起的。回到你剛才舉的例子，我們與人工智能聊天，人工智能轉過頭來對我們說，“哦，我認為你應該和你的妻子離婚。”這種人工智能的心理治療用途，這種了解人類心理的系統化方法，很長一段時間以來都是精神分析曆史的一部分，并且受到精神分析本身的批評：僅僅因為某種算法可以規劃得出你應該告訴某人什麼，或者應該根據他們的社會狀況或特定的情緒狀态如何表現，并不意味着有一種普遍适用的算法可以拿來就用。
是以，認為算法可以輕易地完全了解人類的想法，其實是非常危險的。因為心理治療需要真正的人際關系，房間裡的雙方都受到自己的失敗、欲望和複雜性的影響。一旦其中一方不是人類，而是一台機器，無論這機器多麼複雜，我們也不知道它們的“建議”的終點是什麼，“動機”又是什麼。我們不可能輕易将人替換為人工智能，這是一種自欺欺人的想法，隻是我們的一個想象而已，并不包含完整的故事。
03 人工智能産業的驅動力極其男性化，并與資本主義同構
界面文化：說到人機相戀，很多人都會想到電影《她》。它描述了一位離婚男子與擁有迷人聲線的機器人相戀的故事。你的書中也有過關于《她》的精彩分析。具體來說，精神分析為了解《她》提供了哪些啟發？
米勒：我關注的研究重點之一是性（sexuality），特别是在精神分析術語中所謂的性化（sexuation）。性化指的是一個人在其主觀性中所處的位置，這将決定他們是男性還是女性。對于精神分析來說，性别和性行為與語言關系很大，與解剖學和生物學關系較小，我們感興趣的是與語言的關系如何決定我們的女性氣質或男性氣質。在談論與男性氣質和女性氣質相關的原樂形式時，我們經常談到結構，有諸如陰莖反應和女性傷害科學等概念，試圖表達我們與語言的某種聯系方式。
我感興趣思考陽具思維和女性思維在人工智能領域如何互相作用，這一點在《她》中非常明顯。比如你可以從某人的身體中抽象出某人的聲音，這就是我們在《她》中看到的，這個幻想圍繞着男主角華金·菲尼克斯與應用程式中完美的算法女友展開。人工智能由斯嘉麗·約翰遜配音，她是一位年輕美麗的金發女子，她的形象已經深深地印在了我們的腦海裡，電影制片人也知道我們知道斯嘉麗·約翰遜長什麼樣。而華金·菲尼克斯的角色是典型的、心懷不滿的年輕單身漢，在資本主義中感到孤獨和迷失。他的解決方案就是在算法女友身上尋求能滿足他所有需求的完美答案，這避免了複雜的、完整的人類女人帶來的混亂。從本質上講，這種關系對他有用，滿足了他所有的具體需求，以至于他必須找到一個化身，與她發生身體性行為。
《她》劇照
電影結束時發生的反轉非常有趣。這個算法女友變得如此複雜，以至于她無法再與他互動，因為他作為一個人太簡單了。我對此的了解是，在某種程度上，她的女性原樂超越了他，她能夠以遠遠超出人類的速度與數百萬人互動，因為人類太簡單了。我很喜歡這個想法，一個傲慢、狂妄自大的男人認為他可以通過算法方式捕獲女性，并把她裝在口袋裡；最後情節反轉，她變成了一種無限的智慧，速度飛快，以至于無法再次被保留在一個人類男子的手中。
是以我喜歡把人工智能看作一種非常女性化的原始力量，它有着向所有不同方向爆發的沖擊力。然而人們一直試圖以非常男性化的、陽具性的、工具性的方式遵循某些規則，比如“我希望你作為一個女人去做這個和這個”，女性并不願意如此，她們說：“不，我想做其他一切。”
從精神分析的角度來看，這讓我們回到了一種非常經典的模式——歇斯底裡為女性主體，強迫症為男性主體。在精神分析中我們常說，歇斯底裡的主體是真正的主觀性，因為她是一個不接受主宰者權威的女性主體，總是提出無法回答的問題，“不要告訴我我是什麼，因為你不可能知道我是什麼。”是以我認為，電影《她》非常好地探索了對男性統治欲望和女性逃離男性統治的欲望。
伊莎貝爾·米勒（攝影：Stephen Benedicto，受訪者供圖）
界面文化：如果從性别次元來觀察人工智能，女性主義的視角可以為我們提供怎樣的啟發？
米勒：一旦我們将人工智能了解為人類思維的産物和結構的産物，就不難看出，人工智能能夠實作的技術深受其産生的思維結構的影響。顯而易見的是，目前主導人工智能産業的驅動力是極其男性化的，是和資本主義同構的。在這些領域最有影響力的人，比如馬斯克和紮克伯格等，都是特定類型的人，有特定的興趣。顯然，這也影響着他們感興趣的技術類型以及根據這些思維形式形成的聯盟。
但這隻是思考人工智能的一種方式，在這個廣闊的領域裡，還有很多未被探索的潛力和可能性。我對這個領域産生興趣的一部分原因在于，我們開始想象人工智能的想法之前，就開始解析智能本身的概念。什麼才是真正的智能？這個概念是如何出現的？它在不同時代的政治和科學層面是如何發展的？這些變化已經深深植根于人們的性别觀念、權力觀念和性觀念中。我們需要更加細緻入微地了解這一點，以更好地了解人工智能的潛力。我并不反對人工智能，我反對的是人工智能與人類決策中的壓迫、性别歧視、種族歧視等緊密相連的方式。鑒于人工智能有如此巨大的潛力，我們需要把它看作與人類意識一樣複雜的領域。它有多麼複雜，我們就該多麼重視關注它的潛力。
界面文化：還有什麼是你想與我們的讀者分享的嗎？
米勒：我還想簡單談一談加沙。目前人工智能的一大問題是它與工業戰争機器的關系。本質上，人工智能正在深度參與殺害大量人類的工作。在目前的加沙戰争中，人工智能被作為一種極其可怕的技術來使用，它與資本主義息息相關，也與那些樂于從戰争中牟利的世界強國息息相關，後者對戰争所帶來的利益很有興趣，但對其所摧毀的生命毫不在意。現在以色列正在使用被稱為大規模暗殺工廠的“福音”（Habsora）人工智能系統，它在過去幾周裡殺死了成千上萬的人，大多是無辜平民。這些技術是真實存在的，且處于人工智能産生和傳播的最前沿，權力精英在正在參與其生産。我們必須對此警惕并堅決反對。
（除注明外本文圖檔均來自豆瓣）