最近 Anthropic 的聯合創始人兼首席執行官 Dario Amodei 釋出了一篇萬字長文，在推特上引爆了一場讨論。
Dario 在這篇長文裡深入剖析了人工智能的未來如何讓世界變得更美好，被不少人稱贊為“近來對人工智能發展最理性、最深刻的分析之一”。
在文章開頭，Dario Amodei 就特别說明了，雖然他一直在關注人工智能風險，但這并不意味着他是人工智能末日論的支援者，恰恰相反，他很看好人工智能的積極潛力。
“我關注風險的主要原因之一是，它們是我們與我所看到的基本積極的未來之間的唯一障礙。我認為大多數人都低估了人工智能的巨大優勢，就像大多數人低估了風險的嚴重程度一樣。”
那為什麼Dario 和 Anthropic 總在談論風險與安全，卻很少宣傳人工智能的好處？
Dario 直言有以下四點原因：
- 最大化杠杆：強大的市場力量能夠保證人工智能發展帶來的益處。另一方面，風險不是預先定好的，我們的行動可以極大地改變風險發生的可能性。
- 避免讓人覺得是宣傳：很多公司大談特談人工智能的好處，很容易分散公衆注意力，讓人們忽略掉潛在的風險。并且，“花太多時間‘高談闊論’對你的靈魂有害。”
- 避免浮誇：很多公衆人物和科技公司也喜歡在宣傳人工智能時誇大自己的使命，就像先知帶領他們的人民走向救贖一樣。這種從宗教角度看待實用技術目标是很危險的。
- 避免“科幻”包袱：目前一些關于人工智能未來的讨論過于“科幻化”，充滿了未被闡明的技術假設和文化包袱，“讀起來就像是狹隘亞文化的幻想，同時讓大多數人感到反感。”
換言之，“上帝的歸上帝，凱撒的歸凱撒。”對于AI帶來的經濟利益的“世俗”部分，應該交給市場來完成；而能力越大，責任也越大，作為對人工智能更了解的從業者，更應該向公衆提示當中的風險。
Dario 的這些想法也展現在了 Anthropic 對人工智能的透明度與可控性的執着追求。
這種堅持不無緣由：畢竟 Dario 從 OpenAI 離開正是因其對 OpenAI 在商業化上加速發展的理念存疑，Dario 更強調在建構強大的人工智能系統時需要更加嚴格的安全保障。
Dario 和其他幾位 OpenAI 前員工創業時，也将 Anthropic 定位為更注重安全的 OpenAI 替代方案，将透明和可控置于首位。
OpenAI 聯合創始人 John Schulman、 Durk Kingma 和前安全主管 Jan Leike 也因為認同這份理念加入了 Anthropic。
這份安全執念背後是 Dario 對人工智能潛力的深刻信念：人工智能能夠将人類未來 50-100 年取得的進展壓縮到 5-10 年。這也被他稱為“壓縮的 21 世紀”。
Dario 把未來 5-10 年内實作的人工智能定義為強大的人工智能，認為其能力将超越諾貝爾獎獲得者，能夠在多個領域（如數學、程式設計、寫作等）表現出色。
強大的人工智能将擁有多種人機互動接口（文本、音頻、視訊等），以較快的速度吸收資訊和生成結果，自主完成複雜任務。它還可以控制實體工具和裝置，甚至可以設計自己的機器人。
Dario 預測，強大的人工智能可能在 2027 年實作大規模應用。
關于技術進步，部分人持有兩種極端觀點：一種認為技術會迅速引發“奇點”，立刻解決所有問題，一種認為技術進步已經趨于飽和，而且優于人類的智能進展有限。
是以，Dario 借用經濟學的觀點，提出了智能的邊際效應：當智能達到較高水準時，與智能互補的其他因素就會成為限制因素。他認為人們應該考慮在特定情況下其他生産要素如何與智能互補，并且可能成為限制因素。
在這一架構下，Dario 構想了 5-10 年内擁有強大的人工智能的未來藍圖。
首先是生物學領域，許多生物學家長期以來一直對人工智能和“大資料”在生物學中的價值持懷疑态度。但 Dario 認為人工智能并不隻是分析資料的工具，它能執行、指導和改進生物學家所做的幾乎所有事情。
Dario 指出，生物學進步往往依賴于某個重大發現。如果我們能擁有更有才華更有創造力的研究人員，這些發現的出現頻率可以提高 10 倍或更多。
例如，人們在 80 年代就發現了 CRISPR 是細菌免疫系統中天然存在的組成部分，但花了 25 年才意識到它可以用于一般基因編輯。
而人工智能能夠把發現的速度提高 10 倍，但由于實驗不可能一次成功，相關的硬體設施的更新速度也有限，人工智能不可能憑空把發現的速度提升至 100 倍。
Dario 認為未來人工智能能夠幫助我們預防或治療大部分疾病，包括傳染病、癌症、阿爾茨海默病等，還可能讓人們可以自由改變外貌、體重等，并極大地延長人類的壽命。
類似的加速效應也适用于神經科學、心理健康、經濟等領域，不過 Dario 警告，人工智能不會主動促進民主和和平，而是需要我們作為個體行動者去推動這一結果。
文章的最後，Dario 談到了一個經典的問題，“有了人工智能做一切，人類還有什麼意義呢？人類将如何在經濟上生存？”
對此，Dario 表示認為意義主要來自人際關系和聯系，而不是經濟勞動。
短期内，人工智能和人類之間會保持良性競争的狀态，人工智能的優秀工作表現實際上會催生一系列新的人類工作，用以補充和放大人工智能所擅長的領域。
長遠來看，現有的經濟格局将會被颠覆，到那時人們也許不需要參與經濟勞動就能獲得資源。
雷峰網
Opus 3.5 什麼時候來？
在讨論文章内容的同時，也有很多網友提問 Opus 3.5 什麼時候擡上來？大家等得花都謝了。
寫得很好，是以為什麼Opus 3.5還不釋出！
根據過往經驗，Claude 系列的更新頻率大約為三到四個月。Claude 3 Haiku 于 3 月釋出，Claude 3.5 Sonnet 則在 6 月底上線。
Dario 自己也說他的計劃是每三個月左右推進一次前沿工作。說不定月底我們就能用上最新的 Claude 3.5 Opus 了。
插播一句，Dario 認為像 AGI 這種強大的人工智能最早可能會在 2026 年實作。
不過，Dario 構想的未來人工智能和 Claude 這樣的大模型隻是形式上類似，可能基于不同的架構，也可能涉及多個互動模型，還可能以不同的方式進行訓練。
這不禁讓人猜測，Claude 3.5 Opus 有沒有可能會在多模态技術上發力，推出類似于 GPT-4 的圖像識别功能？遲遲沒有推出是不是因為有了類似 AGI 的重要改進？
人工智能如何讓世界變得更美好
生物學與健康
生物學可能是科學進步最有可能直接、明确地改善人類生活品質的領域。
上個世紀，我們成功消滅了天花等古老疾病，但仍有許多疾病等待被攻克。生物科學不僅能治愈疾病，還能延長健康壽命、增強我們對身體的掌控力，并解決一些看似無解的健康問題。
然而，人工智能在生物學中的應用面臨資料、現實世界速度和内在複雜性等挑戰。這些因素互相關聯，使得臨床試驗進展緩慢。
例如，細胞培養或化學反應可能需要數天到數周，而動物和人體實驗則可能耗費數月或數年。此外，資料品質常常不高，因果關系模糊，令科學家們難以了解生物現象。
生物過程的複雜性使得精确幹預變得困難。想象一下人類新陳代謝的生物化學圖表，你就會明白這其中的挑戰。再加上臨床試驗中官僚和監管的要求，進展往往受到拖延。
是以，許多生物學家對人工智能和大資料的有效性持懷疑态度。盡管過去 30 年取得了一些進展，但真正的突破卻屈指可數。
例如，CRISPR 早在 80 年代就被發現，但花費了 25 年才得到應用。這表明科學界對有前景方向的支援不足。
我認為，對人工智能的悲觀看法是一種誤解。我想重申：我讨論的人工智能是用于執行、指導和改進生物學家幾乎所有工作的。
生物學的進步往往源于少數重大突破，這些突破通常與新技術和測量工具相關。每年都會有約一項重大突破，這些突破推動了 50% 以上的生物學進展，使我們對生物過程的了解和控制得以提升。
我相信，強大的人工智能将大幅加速這些發現的速度，讓我們在 5 到 10 年内實作 50 到 100 年的生物進步。雖然實驗時間和序列依賴性等因素仍然存在，但大規模的并行研究可能會推動這一程序。盡管臨床試驗面臨官僚主義，但嚴格的藥物評估也促使進展加快。例如，新冠疫苗的準許速度就遠快于傳統藥物。
最終，生物醫學的成功部署記錄相對較強。盡管藥物開發過程複雜，但一旦成功，它們通常會被有效利用，使生物醫學在技術領域具有獨特優勢。
綜上所述，我的基本預測是，人工智能支援的生物學和醫學将使我們能夠将人類生物學家在未來 50-100 年取得的進展壓縮到 5-10 年。我将其稱為“壓縮的 21 世紀”。
雖然預測強大的人工智能能做什麼有難度，但我們可以參考 20 世紀的成就，來想象未來可能的進展。
以下是我們可能期待的變化：
- 對抗傳染病：在壓縮的21世紀，我們有望有效預防和治療幾乎所有 17 種自然傳染病。借助 mRNA 疫苗等技術，我們可能能根除傳染病，當然，這也取決于貧困和不平等的問題。
- 消除癌症：随着癌症死亡率每年下降 2%，我們可能在本世紀消滅大多數癌症。人工智能将幫助我們開發個性化的治療方案，預計癌症的發病率和死亡率能大幅降低。
- 預防遺傳病：通過更好的胚胎篩選和 CRISPR 技術，我們将能夠預防和治療大多數遺傳病，但對全身疾病的幹預可能仍具挑戰。
- 阿爾茨海默病的突破：雖然該病因複雜，但通過人工智能，我們有望找到更好的治療方法，甚至預防這種疾病。
- 改善其他疾病的治療：糖尿病、心髒病等疾病的治療效果将大幅提升，許多疾病的死亡率已顯著下降。
- 生物自由的實作：個人将能更好地控制自己的生物特征，如體重和生育，這将使每個人都有機會選擇自己的生活方式。
- 人類壽命的延長：如果我們能找到減緩衰老的有效方法，預期壽命可能從75歲增加到150歲。這并非不可能，已有藥物能顯著延長某些動物的壽命。
如果這些預測在未來 7 到 12 年内實作，世界将會大變樣。這将是人類的一次巨大勝利，消除長期以來困擾我們的疾病。未來的孩子們可能再也聽不到關于癌症或阿爾茨海默病的故事，而是享有更高的生物自由和更長的壽命。
這些變化将對我們的社會産生深遠影響，特别是在社會保障和醫療保健方面。若新技術得以廣泛應用，未來的挑戰可能會轉向如何確定人人能享有這些成果。雖然生物學可能是人工智能成功加速的唯一領域，但即使如此，世界也會是以發生翻天覆地的變化。
神經科學與心理
在前一節中，我讨論了身體疾病和生物學，但沒有提到神經科學和心理健康。
其實，神經科學是生物學的重要部分，心理健康對我們的生活影響更直接。數億人因成瘾、抑郁等心理問題生活品質受到嚴重影響，還有數十億人在面對輕度心理挑戰。
改善這些問題不僅能提高健康，還能提升整體幸福感。
之前提到的生物學架構同樣适用于神經科學。這個領域的進展往往依賴一些關鍵發現，比如光遺傳學和 CLARITY 技術。人工智能有潛力加速這些進展，是以“5-10 年實作 100 年進展”的觀點也适用神經科學。20 世紀，神經科學取得了顯著進展，例如 20 世紀 50 年代人們明白了神經元如何放電，是以期待人工智能推動神經科學迅速發展是合理的。
此外，人工智能的一些知識可以助力神經科學。
可解釋性就是一個重要例子，雖然生物神經元和人工神經元不同，但它們在“如何協同計算”的問題上相似。這種可解釋性最近在小鼠大腦中得到了驗證。
在人工神經網絡上實驗比在真實神經網絡上簡單，是以可解釋性成為了解神經科學的重要工具。強大的人工智能可能比人類更有效地開發和應用這些工具。
同時，人工智能教給我們的訓練方法可能會引發神經科學的革命。許多人關注的學習問題與我認為的不一樣。簡單的目标函數和大量資料可以驅動複雜行為，使我們更關注目标，而忽視細節。盡管我沒有密切關注這一領域，但我覺得計算神經科學家還沒有完全吸取這些教訓。
我認為神經科學家應結合這些基本見解與人腦的獨特性，尋找神經科學中的關鍵難題。盡管某些問題與人工智能有關，人工智能神經科學家可能更有效地利用這一思路，加速研究進展。
我認為人工智能将通過四個主要途徑加速神經科學的進步，進而幫助治愈精神疾病和提升功能：
- 傳統生物學：人工智能将加速藥物研發，這些藥物能調節神經遞質、影響情緒和認知。它還可能加快對精神疾病遺傳基礎的研究。
- 細緻的神經測量與幹預：使用光遺傳學和神經探針等技術，我們能測量和幹預單個神經元的活動，進而改善神經科學的了解。
- 先進的計算神經科學：現代人工智能的見解可以應用于複雜疾病的研究，幫助揭示精神病和情緒障礙的根本原因。
- 行為幹預：盡管我在讨論中沒有深入，但精神病學和心理學已有很多行為幹預方法，人工智能有潛力加速這些方法的發展，并幫助患者堅持治療。
我猜測，即使不考慮人工智能，這四個途徑的共同作用可能在未來 100 年内治愈或預防大多數精神疾病，可能會合理地完成在人工智能加速的 5-10 年内。具體來說，我認為：
- 治愈大多數精神疾病：例如，創傷後應激障礙（PTSD）、抑郁症和成瘾等疾病可能通過這四個方向得到有效治療。
- 某些結構性問題仍然困難：例如，精神病患者的大腦結構差異可能使得某些條件更難治療。
- 有效的基因預防：精神疾病具有遺傳性，人工智能可能幫助我們通過基因篩查預防疾病，盡管這涉及複雜的倫理問題。
- 改善日常心理問題：我們日常面臨的心理問題，比如焦慮和集中注意力困難，也可能得到解決。
- 提升人類的體驗：許多人渴望更深的創造力、同情心和滿足感，人工智能有潛力改善我們的認知和情感能力。
雖然“思維上傳”的概念常常被提及，但我認為這一想法面臨巨大的技術和社會挑戰，短期内難以實作。
總之，人工智能将極大改善精神健康，提升我們的認知和情感能力，為人類創造一個更加美好和人性化的未來。這不僅會影響個體，還可能改善社會中許多其他看似無關的議題。
經濟發展與貧困
前兩節讨論了新技術在治愈疾病和提升人類生活品質方面的潛力，但一個顯而易見的問題是：“每個人都能享受到這些技術嗎？”
開發治療疾病的方法是一個方面，但要在全球範圍内根除這些疾病則是另一個挑戰。目前，許多健康幹預措施尚未在全球普及，技術改進也同樣如此。
許多地區的生活水準依然貧困。例如，撒哈拉以南非洲的人均 GDP 約為 2，000 美元，而美國則達到 75，000 美元。
如果人工智能隻幫助發達國家，而對開發中國家貢獻甚微，那将是一個嚴重的道德失敗。是以，理想情況下，強大的人工智能應當幫助開發中國家追趕上發達國家的步伐。
我對人工智能能否有效解決不平等問題的信心沒有對其發明基礎技術的信心強。這是因為經濟問題往往涉及許多複雜的人類因素，而技術創新則能更輕易地克服複雜性和資料不足的障礙。
即使在理論上，人工智能也無法解決“社會主義計算問題”，我對政府将經濟政策托付于這樣的實體持懷疑态度。
此外，如何讓人們接受那些有效但可能令人懷疑的治療方法，也是一個問題。
在開發中國家，腐敗現象的普遍存在使情況更加複雜。腐敗造成惡性循環，貧困加劇腐敗，而腐敗又導緻更多貧困。是以，人工智能驅動的經濟發展計劃需要考慮到這些人類面臨的挑戰。
盡管如此，我仍然保持樂觀。曆史上已經有國家成功根除疾病，很多地方也從貧窮走向富裕，這表明這些決策的高智力回報。人工智能或許能夠比現有做法更有效地解決這些問題。
針對性幹預措施也許能避開人類的局限，人工智能應當關注這些方面。
最重要的是，我們必須努力去嘗試。人工智能公司和發達國家的政策制定者需要確定開發中國家能夠參與其中，這不僅是道德責任，也是我們集體努力的目标。雖然成功沒有保證，但我們的行動可以帶來改變。
在強大的人工智能誕生後的 5 到 10 年，我對開發中國家的未來有以下一些樂觀的預測：
健康幹預措施的普及
我認為，最有希望的領域是全球健康幹預措施的廣泛分發。
許多疾病已經通過集體努力得以消滅，比如天花和脊髓灰質炎的病例已降至極低水準。人工智能可以在這一過程中發揮重要作用，它能夠更有效地進行疾病模型分析和優化物流配送。
希望人工智能能幫助提升健康慈善機構的效率，讓更多人受益。新型疫苗的研發，比如針對瘧疾的單針注射疫苗，正在簡化疫苗分發的複雜性。
此外，通過釋放經過基因改造的蚊子來消滅病原體的可能性也在增加。總體而言，我預計未來 5 到 10 年，開發中國家的健康狀況将顯著改善，甚至有可能超過一些發達國家。
經濟增長的潛力
在經濟方面，開發中國家有機會迅速追趕發達國家。
上世紀末，東亞一些國家實作了年均 10% 的 GDP 增長，成功彌補了與發達國家的差距。未來，人工智能或能幫助這些國家創造類似的經濟奇迹。
通過實施有效的經濟政策和發展關鍵産業，開發中國家的政府可以在尊重自決的前提下，吸收人工智能帶來的增長紅利。
許多健康幹預措施的落實，将極大地推動生産力提升，進而促進經濟增長。
此外，人工智能在非健康領域的應用，比如更高效的能源和運輸技術，也将為開發中國家帶來新的機遇。盡管面臨挑戰，經濟增長率達到 20% 是一個可實作的目标。
糧食安全的改善
在農業領域，先進的作物技術，如更高效的肥料和農藥，将幫助提高作物産量。基因工程的應用可以進一步推動這一程序，為開發中國家帶來第二次綠色革命，減輕饑餓問題。
應對氣候變化
開發中國家更易受到氣候變化的影響，是以，人工智能在應對氣候變化方面的技術進步，可能會幫助這些國家找到減少碳排放的方法，比如清潔能源和實驗室培養的肉類。這不僅能緩解環境問題，還能助力經濟發展。
國家内部的不平等
随着先進健康技術的出現，不平等現象可能會加劇，但我對發達國家的情況持樂觀态度。市場機制通常會降低高成本技術的門檻，加上政治機構的響應能力，能更好地推動技術的普及。
不過，確定技術普惠是我們共同的責任。
選擇退出的問題
發達國家和開發中國家都擔心的一個問題是人們選擇退出人工智能帶來的福利，最終可能會出現糟糕的回報循環。但曆史表明，盡管存在反對聲音，大多數人最終會接受有益的技術。是以，我們需要努力提高公衆的科學素養，讓他們了解人工智能的價值。
總的來說，我對人工智能能夠為開發中國家帶來生物學進步和經濟增長持樂觀态度。盡管面臨挑戰，我們仍需共同努力，推動這一程序，以便讓每個人都能享受到技術發展的紅利。
和平與治理
假設一切順利：疾病、貧困和不平等顯著減少，人類生活水準大幅提升。然而，這并不意味着痛苦消失，人類仍然面臨彼此的威脅。
盡管技術和經濟發展有助于促進民主與和平，但這種進步并不穩固，曆史上經常出現倒退。例如，20世紀初人們認為戰争已成過去，随後卻經曆了兩次世界大戰。
三十年前，弗朗西斯·福山預測自由民主将最終勝利，然而這一理想并未實作。
二十年前，美國政策制定者認為與中國的自由貿易會推動中國自由化，但結果卻是我們面臨一個複興的獨裁集團的挑戰。
是以，了解人工智能如何影響和平、民主和自由顯得尤為重要。
遺憾的是，我并不相信人工智能會自然而然地促進民主和和平，盡管我認為它在健康和減貧方面有積極作用。人類沖突往往對抗性強，人工智能可能同時服務于“好人”和“壞人”。尤其是，人工智能可能增強宣傳和監視的能力，這些都是獨裁者的工具。
是以，作為個體，我們必須努力推動人工智能朝着促進民主和人權的方向發展。這比關注國際不平等更為緊迫：自由民主的勝利并非理所當然，反而可能需要巨大的努力和犧牲。
這個問題可以分為兩個部分：國際沖突和國家内部結構。
在國際層面，強大的人工智能出現時，民主國家在全球舞台上占據主導地位至關重要。
人工智能推動的威權主義令人憂慮，是以，民主國家需要制定條件，引導強大的人工智能進入世界，以避免被威權主義壓倒并保護人權。
實作這一目标的最佳方式可能是“協約戰略”，即民主國家聯盟通過保護供應鍊、加快發展等手段增強實力。這種聯盟可利用人工智能獲得軍事優勢，并将其好處配置設定給更多國家，以換取對其民主戰略的支援。目标是孤立對手，使其在談判中處于劣勢，進而放棄與民主國家的競争。
如果能夠做到這一點，民主國家将在全球舞台上處于領先地位，能夠抵禦獨裁國家的破壞，并可能将人工智能的優勢轉化為持久力量。
這可能帶來“永恒的 1991 年”，實作福山的夢想。但這需要私營人工智能公司與民主政府緊密合作。
即使一切順利，國家内部的民主與專制鬥争依然存在。雖然難以預測未來，我對人工智能促進民主持樂觀态度。強大的人工智能環境下，民主政府可利用優勢赢得資訊戰，反制獨裁政權。通過全球資訊管道，民主國家能創造自由資訊環境，限制獨裁政權對資訊的控制。
總體而言，生活品質的提升應能促進民主，曆史上在某種程度上确實如此。
心理健康、福祉和教育的改善可能推動民主，因為這三者與對獨裁的支援呈負相關。滿足其他需求後，人們更希望自我表達，而民主正是自我表達的一種形式。相反，威權主義則因恐懼和仇恨而繁榮。
此外，資訊流通有助于削弱獨裁統治。未經審查的人工智能可能為個人提供工具，幫助推翻專制政權。專制政府往往通過剝奪人們的常識而生存，導緻他們無法意識到真實問題。
我們還應考慮如何利用人工智能讓民主國家更好，而不僅僅是防止獨裁。盡管法律承諾人人平等，實踐中仍存在不公。人工智能能否提高決策公正性？雖然人們擔心它加劇歧視，但也應關注其增強民主的潛力。
法律的初衷是公正，但通常由有偏見的人來解釋。人工智能可能是解決這一難題的鑰匙，因為它能以可重複的方式進行模糊判斷。我建議人工智能作為決策輔助工具，與人類協作，而非替代法官。這樣的系統需透明，允許人們了解其訓練過程并評估可能的偏見。
此外，人工智能可彙總公衆意見，幫助尋找共識，解決沖突。知情的公民能更好地強化民主制度。在政府服務方面，人工智能能幫助人們擷取健康福利和社會服務，以通俗易懂的方式了解法規，增強對民主治理的尊重。
盡管這些想法可能顯得模糊，但我們應追求人工智能作為自由、個人權利和法律平等的保障者的願景。在21世紀，人工智能支援的政體可以成為個人自由的有力保護者，成為全球向往的政府形式的燈塔。
工作與意義
即使我們在減少疾病、貧困和不平等方面取得了進展，自由民主成為主流形式，現有的民主國家也變得更好，但仍然面臨一個重要問題：在人工智能如此先進的情況下，人類的存在意義何在？他們将如何生存？
這個問題比其他問題更複雜，主要因為它涉及社會組織的宏觀問題，通常隻能随着時間的推移自然而然地解決。曆史上的狩獵采集社會可能會覺得，沒有狩獵和相關儀式的生活毫無意義，而對我們如今的社會缺乏了解。
盡管如此，我仍想談談這個問題。認為人工智能做得更好就意味着人類的任務毫無意義，未必正确。大多數人并不是在任何領域都是最優秀的，但這并不妨礙他們找到價值。
人們喜歡參與那些并不創造經濟價值的活動，比如玩遊戲、遊泳或與朋友聚會。
意義更多來自人際關系，而不是單純的經濟勞動。在後人工智能的世界中，追求複雜任務的成就感和競争感依然存在。
然而，關于經濟的問題更棘手。我們可能面臨的挑戰是，未來大多數人可能無法為高度依賴人工智能的經濟做出有意義的貢獻。
盡管短期内，比較優勢可能會幫助人類保持相關性并提高生産力，但長期來看，人工智能的廣泛應用可能會改變這一格局。
曆史上，文明成功地經曆了多次經濟轉型，例如從狩獵采集到農業、再到工業。未來我們可能需要新的解決方案，這些解決方案今天尚不可預見，可能包括普遍基本收入等方法。
或許經濟模式會依賴于人工智能的判斷，給予人類所需的資源，雖然這些想法還有待驗證。
面對這些挑戰，我們需要探索、試驗并努力避免潛在的剝削和反烏托邦的局面。未來将需要更多的讨論和思考，才能找到合适的出路。
總結
在前面的讨論中，我描繪了一個美好的未來：如果人工智能發展順利，世界将比現在更美好。然而，要實作這個願景，需要很多勇敢的人共同努力。每個人，包括人工智能公司，都要積極參與，以防範風險、分享收益。
這是一個值得奮鬥的目标。
如果在接下來的五到十年内，我們能戰勝大多數疾病、推動人類自由和民主，幫助數十億人擺脫貧困，那麼每個人都會為這種變化感到震驚。我們不僅會驚歎于新技術帶來的好處，更會為長久以來的理想逐漸實作而感動。
在寫作過程中，我意識到這個願景相當激進，可能讓許多人覺得荒謬，甚至有人不同意其中的價值觀和政治選擇。
但這個願景也展現出一種迷人的可能性，仿佛不同的美好世界設想都在朝着同一個方向前進。
在 Iain M. Banks 的《文化》系列中，主角來自一個與我描述的原則類似的社會。他們在一個專制帝國中，通過複雜的戰鬥遊戲決定上司權。主角以文化的價值觀戰勝皇帝，表明即使在競争激烈的環境中，合作與同情依然是勝利的關鍵。
Scott Alexander 也提到，競争往往會導緻一個以同情與合作為基礎的社會。
我相信，文化的價值觀是一種成功的政策。這些價值觀源自人們對公平、合作和自主權的共識，讓我們能更容易形成團結的力量。大家都認同兒童不應因疾病而死，每個孩子都應該平等享有權利。在這個基礎上，我們可以攜手運用智慧實作這一目标。
人們普遍同意，懲罰那些不必要攻擊或傷害他人的行為是合理的，并且這種一緻性應該展現在法律和制度中。同時，個體對自己生活和選擇的自主權也是顯而易見的。
最終，這些直覺的邏輯推導将引領我們走向法治、民主和啟蒙價值觀。人工智能的出現為我們實作這些目标提供了機會，清晰了未來的方向。
盡管如此，它仍然是一種超然的美。我們有機會在實作這一目标方面發揮一些小作用。
雷峰網