道德人工智能架構——人類福祉

根據經合組織，人類福祉的首要原則意味着：

利益攸關方應積極主動地對可信賴的人工智能進行負責任的管理，以尋求對人類和地球有益的成果，例如增強人類能力和增強創造力，促進對代表性不足人群的包容，減少經濟、社會、性别和其他不平等，以及保護自然環境，進而促進包容性增長、可持續發展和福祉。

這一原則基本上提出了人工智能（“AI”）應該被用來讓人類社會對每個人都更好，人工智能應該被用來維持地球。這是應該支援其他五項道德人工智能原則（透明度和可解釋性，隐私，安全和保障，公平和公正以及問責制）的主要原則。

技術是人類社會為人類社會而發明的。然而，如果人工智能系統摧毀了我們的星球，加劇了不平等和貧困，并消除了所有的白标工作，會發生什麼？本文将專門介紹人工智能對人類社會構成生存威脅的主題，人工智能可能在勞動力方面接管所有人及其對環境的影響。

生存威脅

人工智能是否構成生存威脅的問題是一個專家和研究人員之間持續争論和猜測的話題。在處理這個問題時，必須仔細考慮各種觀點。

一些個人群組織對與開發和部署進階人工智能系統相關的潛在風險表示擔憂。這些擔憂的範圍從人工智能系統超越人類智能，變得無法控制或以對人類有害的方式行事，到人工智能被用于惡意目的，如自主武器或大規模監控。

事實上，科技公司的首席執行官、人工智能研究人員以及學術教授都簽署了以下聲明：減輕人工智能滅絕的風險應該與流行病和核戰争等其他社會規模的風險一起成為全球優先事項。完整的簽署者名單可以在這裡找到：https://www.safe.ai/statement-on-ai-risk#signatories

該聲明是在人們對人工智能的潛在負面影響日益擔憂的情況下發表的。ChatGPT和其他聊天機器人等大型語言模型的顯着進展引發了人們對錯誤資訊和宣傳的廣泛傳播以及衆多白領工作的潛在取代的擔憂。

必須繼續監測和研究人工智能的進步，識别潛在風險，并通過技術、道德和政策措施積極應對這些風險。這包括正在進行的人工智能安全研究、人工智能系統的穩健測試和驗證，以及建立架構以確定負責任和有益的人工智能部署。

以下是蒙克關于人工智能研發構成生存威脅的辯論。

勞動

根據高盛（Goldman Sachs）的一份報告，人工智能有可能取代大約3億個全職工作。随着人工智能技術的不斷進步，它們正在重塑人類勞動格局，機遇與挑戰并存。自動化是人工智能對人類勞動的主要影響之一。人工智能系統擅長快速、準确和高效地執行重複性和日常任務，進而提高企業的生産力并節省成本。然而，這種自動化也可能導緻工作流失，特别是對于從事體力勞動或可預測的、基于規則的活動的勞工。高盛（Goldman Sachs）的報告強調了行政和法律專業對自動化的脆弱性。

連結： https://www.weforum.org/agenda/2023/05/jobs-lost-created-ai-gpt/

盡管工作被取代，但人工智能也有可能創造新的角色和機會。随着日常任務變得自動化，員工可以将注意力轉移到更高層次、創造性和複雜的任務上，這些任務需要獨特的人類技能，如批判性思維、解決問題和情商。人工智能可以作為人類勞動的補充，增強人類的能力，使勞工能夠專注于需要人性化的任務。世界經濟論壇确定了幾個增長最快的職位，包括人工智能和機器學習專家、可持續發展專家、商業智能分析師、資訊安全分析師、金融科技工程師、資料分析師和科學家、機器人工程師、電工工程師、農業裝置操作員和數字化轉型專家。

此外，人工智能技術可以提高工作績效并支援勞工完成任務。人工智能驅動的工具和軟體通過提供有價值的見解、預測和建議，幫助專業人士進行資料分析、決策和解決問題。人類與人工智能系統之間的這種合作促進了各個領域的效率、準确性和創新的提高。值得注意的是，人工智能對人類勞動的影響在所有部門和職業中并不統一。涉及複雜社互動動（即：社會工作者）、創造力（即馬戲團藝術家）、适應性和情商的行業不太容易受到自動化的影響。同樣，需要身體靈活性、同理心（即心理學家）和專業知識的角色可能仍然主要由人類驅動。

人工智能的廣泛采用需要勞動力技能和能力的轉變。随着自動化接管日常任務，對精通資料分析、機器學習、人工智能開發和算法思維的個人的需求也在增加。技能提升和再教育訓練計劃對于為勞動力配備在人工智能驅動的經濟中茁壯成長的必要能力至關重要。适應不斷變化的就業環境對于個人在人工智能時代保持競争力和尋找新機會至關重要。

環境

人工智能是一個快速發展的領域，在各個領域具有巨大的創新和轉型潛力。然而，重要的是要認識到人工智能也有需要仔細考慮的環境影響。雖然人工智能可以在某些領域提高效率和可持續性，但它也可能導緻能源消耗和資源使用增加。

在一篇新論文中，馬薩諸塞大學阿默斯特分校的研究人員對訓練幾種常見的大型人工智能模型進行了生命周期評估。他們發現，這個過程可以排放超過626，000磅的二氧化碳當量 - 幾乎是美國普通汽車（包括汽車本身的制造）的五倍。此外，依賴于大量資料處理和存儲的人工智能應用程式在資料中心消耗大量電力。這些資料中心需要冷卻系統來保持最佳工作溫度，進而導緻額外的能源消耗。

人工智能對環境的影響的一個主要方面是訓練和運作人工智能模型所需的計算能力。訓練複雜的深度學習算法需要大量的計算資源，這通常涉及能源密集型流程和強大的硬體基礎設施。這導緻了大量的碳足迹，尤其是在大規模人工智能部署的情況下。值得注意的是，僅ChatGPT就消耗了相當于175，000人的電力，其第三個版本的教育訓練排放了550二氧化碳。此外，像谷歌和Microsoft這樣的公司還沒有公開披露其生成人工智能模型的能耗。

然而，值得一提的是，人工智能也為環境可持續性提供了機會。人工智能驅動的優化算法可以增強能源管理、運輸和農業等各個行業的資源配置設定和效率。例如，人工智能驅動的系統可以優化建築物的能源消耗，改善交通流量以減少擁堵和排放，并使精準農業能夠最大限度地減少水和肥料的使用。人工智能在應對環境挑戰中的應用在此連結的一篇有趣文章中進行了展示：

https://www.unep.org/news-and-stories/story/how-artificial-intelligence-helping-tackle-environmental-challenges