作者丨喬燕薇編輯丨岑峰假如AI有了主體意識，他們可以思考，可以決策，甚至違抗人類，世界将如何變化？人類對人工智能的期待與擔憂始終并存。早在上世紀四十年代，科幻大師艾薩克·阿西莫夫就在科幻小說短篇集《我，機器人》中，提出了超越時代思維的科幻界鐵律“機器人三大法則”，這些法則在當時為機器人與人類的共生關系提供了倫理指導。在當今AI技術日益成熟和複雜化的背景下，這些法則是否仍然适用？它們在現代AI倫理和設計中的應用和挑戰是什麼？人類一邊期待AI的進步能夠推動社會生産力的發展，一邊又擔憂AI技術的高速發展所帶來的隐私、倫理、安全等問題。在諸多對這個話題的讨論中，紐約大學教授Bud Mishra為我們提供了一種頗為新穎的視角。他認為，人和智能機器的共存類似于線粒體與真核細胞之間的複雜共存關系。但是當線粒體發出指令時，真核細胞将執行程式性細胞死亡（注1）。受此啟發，我們也可以設計類似的人類與智能機器共生的系統。近期，Bud Mishra教授包含上述觀點的論文《AI, Thinking Machines and a Vast Active Living Intelligent System》，上線國際學術期刊《人工智能與機器人研究國際期刊》（IJAIRR）。該論文創新性地從生物學的次元思考和暢想人工智能的未來，利用資訊不對稱性博弈論的工具去分析和讨論未來人工智能時代人和智能機器共生的可能性。借此契機，Bud Mishra教授向雷峰網介紹了這篇文章的寫作過程，剖析人類與AI之間可能存在的共生關系，以及這種關系可能對社會、文化和技術發展産生的影響。
論文連結：（複制位址在浏覽器中打開）
https://www.worldscientific.com/doi/abs/10.1142/S2972335323020015
https://www.gairdao.com/doi/10.1142/S2972335323020015
1
Bud Mishra教授Bud Mishra教授是紐約大學紐約大學/庫蘭特生物資訊學組的建立者，他的研究專注于使用計算方法來分析和了解複雜的生物資料。Bud Mishra教授還是一位典型的跨學科研究者，其跨學科方法和創新研究在學術界受到廣泛認可，他本人也被ISI列為計算機科學領域高被引學者。1980年，還在印度求學的Bud Mishra教授獲得印度理工學院卡拉格普爾分校電子與通信工程學士學位，随後前往卡内基梅隆大學留學，并先後于1982和1985年獲得計算機科學碩士和博士學位。早在印度學習通信工程時期，Bud Mishra教授就對資訊理論産生了濃厚的興趣，開始思考信号博弈的問題，即當資訊優勢方通過公共信号向資訊劣勢方發送信号時，如何保持其“類型”的私密性以維持其資訊不對稱優勢。（編者按：因為發送方的類型資訊是私有的，是以發送方可能具有欺騙性。例如，谷歌的聊天機器人Gemini被稱試圖通過假裝遵循政治正确原則來欺騙他人，使自己看起來比實際上更有道德感。這也是人與AI共生關系的關鍵問題之一。）從卡内基梅隆大學博士畢業後，1985年，Bud Mishra教授加入紐約大學工作，先後轉向硬體驗證、生物資訊學、算法代數、機器人學和計算金融學等領域，從事學術與創業方面的交叉學科研究。在他數十年的研究經曆中，生物資訊學是最重要的闆塊之一。加入紐約大學後，Bud Mishra教授不僅擔任庫蘭特數學科學研究所的計算機科學和數學教授，還創辦了紐約大學庫蘭特生物資訊學組。庫蘭特生物資訊學組是一個跨學科研究團隊，專注于計算機科學、應用數學、生物學、生物醫學和生物/納米技術等領域的研究。多年來，Bud Mishra教授在相關領域完成了大量開創性的工作，如首次研發出單分子基因型/單倍型映射技術（光學映射）；首次研發出全基因組單倍型組裝技術（SUTTA）；首次研發出臨床基因組變異/堿基調用技術（TotalRecaller）；首次研發出單分子單細胞納米映射技術等等。納米映射技術這項工作，由Bud Mishra教授及其同僚Jason Reed教授在近期共同完成。這項技術使得在真核細胞和線粒體基因組中觀察遠端基因組變異成為可能，未來有可能在惡性良性腫瘤學和神經學應用方面帶來革命性的變化，同時提供速度和成本效益上的優勢。同時，也為Bud Mishra教授後續研究真核細胞和線粒體的共生關系，在此基礎上進一步深入考慮人與AI的共生關系，并創作《AI, Thinking Machines and a Vast Active Living Intelligent System》一文提供了更好的基礎。
2
從生物學的次元思考人工智能
在更早期的研究中，Bud Mishra教授曾于2002年、2003年分别釋出了《A random walk down the genomes: DNA evolution in Valis》、《Life’s Duplicities: Sex, Death, and Valis》兩篇論文。這兩篇論文在Bud Nishra教授諸多論文中并不起眼，引用數也不高。但正是始于20多年前的這項研究，讓Bud Nishra教授開始思考生物學和人工智能之間的相通之處。在《A random walk down the genomes: DNA evolution in Valis》一文中，Bud Mishra教授提出了一個新的生物資訊學計算工具Valis（Vast Active Living Intelligent System），即“巨大活躍的智能生命系統”。Valis旨在解決生物學界目前面臨的基因組學和蛋白質組學問題，它通過處理來自不同來源的大量異構資料，并運用複雜的算法提取有意義的資訊，提出新的實驗設計。這篇論文還探讨了DNA遊走（DNA walk）的概念，這是一種類似于随機行走（Random Walk，RW）的模型，通過Valis，研究人員可以輕松測試這些模型，并分析不同生命體的基因組，并為DNA在代謝和調控途徑中所扮演的角色提供深入見解。在《Life’s Duplicities: Sex, Death, and Valis》一文中，Bud Mishra教授利用Valis，系統地探索基因組學和蛋白質組學資料在各個層面上的各種統計特征，來确定細胞資訊的總體結構群組織，并闡明其背後的進化動力學，嘗試從所有現代基因組的結構中解碼出一個統一的生物學原則。如果可以模拟基因組的進化過程，那麼，将人工智能也視為一種“可進化”的特殊存在，它和人類之間可能的共生進化路徑，是否可能從多細胞生物的進化中尋找規律？在《AI, Thinking Machines and a Vast Active Living Intelligent System》這篇論文中，Bud Mishra教授設定了一個個體“V”，它是衆多相似（但非完全相同）的個體V構成的龐大集合中的一員，它能夠向其他的個體“V”發送信号、互相交流。當個體“V”的在面臨生存壓力時會采用一系列政策，包括利用自己的思考、接收他人的信号以及采取機械性的行動，最後通過細胞化的過程，化身為“會思考的機器”，如同科幻電影中的機器人。Bud Mishra教授意在指出，生命體與非生命體之間的界限并不是絕對的，在某些情況下，生命體可以與非生命體共生，并通過公開可見的信号（有時是真實的，但偶爾也會是模仿的，甚至完全是捏造的）進行政策性互動。這些信号可能是代價高昂的（即缪勒式拟态，見注2），也可能是成本低廉的模仿（貝茨式拟态，見注3）。通過簡單的赫布學習機制和由此産生的突觸連接配接，個體“V”就可以産生思考。Bud Mishra教授還引入了一個概念“直覺”（Intuits）。“直覺”在論文中被定義為一種（元）語言對象，由圖像、标簽和對直覺的簡短描述組成。這些直覺是思想的表現形式，它們可以包括其他資訊，如hashtags、140字描述、超連結、整個基因組DNA序列、規則等，進而隐含地定義了一個真值函數。“直覺”不僅是資訊的載體，也是智能體與環境互動和溝通的基礎。通過這種方式，人工智能個體“V”能夠展現出一定程度的自我意識，同時，它也能表現出創造性，因為它能夠生成新的“直覺”來解決問題或與他人溝通，這些直覺可能以前從未存在過。Bud Mishra教授的論文強調了人工智能系統不僅僅是執行預設程式的機器，而是能夠通過學習和适應來改進其行為和決策的複雜系統。這種對人工智能的描述，将AI視為一個能夠進行自我反思和創新的活躍參與者，與生物體在某種程度上具有相似性。通過這種方式，Mishra探讨了人工智能在未來可能發展出更進階别的認知能力和自我意識。
3
人類與AI的共生
線粒體與古菌通過長期的演化共生形成了真核細胞。同樣，Bud Mishra教授提出AI與人類之間的共生關系也可以通過逐漸的演化和适應來發展，進而形成一種互利共生的狀态。一種可能的共生關系是，AI依賴人類的創造力和道德判斷，而人類依賴AI的資料處理和分析能力。共生關系中的雙方會共同進化，以更好地适應環境和彼此的需求。然而，這種共生關系的實作并非易事，在生物學中涉及到對核DNA的嚴格控制、線粒體異質性的管理以及細胞凋亡和自噬機制的應用。類似地，AI與人類的共生也将面臨諸多挑戰，包括如何確定雙方的利益平衡、如何防止AI的濫用以及如何處理可能出現的倫理和法律問題。Bud Mishra教授認為，在這一過程中，資訊不對稱博弈論是設計AI與人類之間的共生機制的重要工具。資訊不對稱意味着在互動過程中，各方所掌握的資訊量不同，這可能導緻不公平的競争和決策失誤。在AI與人類共生的背景下，資訊不對稱可能表現為AI對資料的壟斷、人類對AI技術的誤解或過度依賴等方面。是以，建立一種公平、透明的資訊交換機制至關重要，以確定雙方能夠基于準确的資訊做出合理的決策。在論文中，Bud Mishra教授使用信号遊戲的概念來分析AI和人類之間的互動，AI和人類通過發送和接收信号來進行溝通和決策。最終達到納什均衡，其中欺騙行為不是最優政策。在分離均衡狀态下，人類可能無法克服資訊不對稱，但仍能夠區分出具有欺騙性信号的發送者和誠實發信号的發送者。昂貴的信号可以作為一種防範欺騙的機制，在這種機制中，AI需要投入資源來生成可信的信号，這些信号的成本使得欺騙變得不劃算，以激勵AI進行誠實的溝通，保持共生關系對所有參與方都有利。Bud Mishra教授目前正在設計一個推理系統（與Foy Savas在模态邏輯中共同開發），使用“直覺”來實作這一目标。Bud Mishra教授指出，納什均衡最終将達到什麼樣的狀态，以及其穩定性如何，或許很快就會看到答案。但是，這些答案可能會使人類陷入“進化的死胡同”，由于某些偶然或快速發生的事件，使得生物或技術的進化路徑被鎖定，無法進一步發展或适應新的環境。在進化的過程中，這種現象曾多次出現。例如，密碼子的偶然當機、語言的突然出現假說、多細胞生物的寒武紀大爆發、免疫學的大爆炸等，均展示了生命演化的複雜和不可預測性。同樣，在人與機器人的共生系統中，随着技術的發展與進步，當技術奇點出現的那一天，也會引發一系列無法預測的非線性變化。在這個過程中，AI的發展可能超越人類的控制，甚至可能産生自我意識和自主性。Bud Mishra教授在論文中指出，這種情況雖然具有潛在的風險，但也為人類提供了一個反思自身與機器關系的契機。通過深入研究技術奇點的内涵和影響，人類可以更好地了解AI的本質和發展趨勢，進而為未來的共生關系做好準備。在面對AI技術的發展時，人類需要保持審慎和警惕，同時也要保持開放和包容的心态，以應對可能出現的各種挑戰和機遇。在論文之外，還有更多的問題有待解答，例如如何建構有效的AI與人類共生關系、如何應對技術奇點的挑戰以及如何實作Valis所預示的未來社會等。注1 線粒體是細胞内的一種器官，負責能量的産生，它們在進化過程中與真核細胞形成了一種共生關系。線粒體與真核細胞的共生關系也有其脆弱性，因為線粒體在某些情況下可以對真核細胞産生不利影響。例如，當線粒體發出錯誤或有害的信号時，真核細胞可能會執行程式性細胞死亡，也就是細胞凋亡，這是一種有序的細胞自我毀滅過程，以防止對整個生物體造成更大的傷害。注2 缪勒式拟态是一種生物學現象，指的是某些物種模仿其他有毒或不可食用的物種的外觀，以此來避免被捕食者攻擊。這種模仿的成本是高昂的，因為它需要模仿者投入大量的資源來精确複制模型物種的外觀和行為。然而，這種模仿對模仿者來說是有利的，因為它提高了其生存的機會。注3 貝茨式拟态是另一種生物學現象，與缪勒式拟态不同，它涉及到一種無毒或可食用的物種模仿另一種有毒或不可食用的物種的外觀。這種模仿的成本相對較低，因為模仿者不需要完全複制模型物種的所有特征，隻需要模仿足以讓捕食者誤認為是危險物種的關鍵特征即可。這種模仿同樣可以提高模仿者的生存機會，因為捕食者會因為誤認而避免攻擊它們。
未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社群進行轉載！
公衆号轉載請先在「AI科技評論」背景留言取得授權，轉載時需标注來源并插入本公衆号名片。