本文翻譯自《Industrial IoT Artificial Intelligence Framework》，原始來源：https://www.iiconsortium.org/pdf/Industrial-AI-Framework-Final-2022-02-21.pdf。本翻譯作品僅供參考，遵循 Industry IoT Consortium 使用資訊 - 使用條款、條件和通告。作者和貢獻者對原文内容享有版權。請閱讀原文以了解詳細資訊和權限限制。
作者 AuthorsWael William Diab, Alex Ferraro, Brad Klenz, Shi-Wan Lin, Edy Liongosari, Wadih Elie Tannous, Bassam Zarkout.
3.4 倫理和社會問題
在工業環境中應用人工智能技術涉及到廣泛的倫理、社會關注、偏見、安全、勞動力影響和政策等問題。
3.4.1 倫理
本節旨在強調在工業環境中應用人工智能時的一些關鍵倫理問題，包括隐私、偏見和意外的算法後果。它并不替代或總結有關該主題的衆多研究，例如自動化工業裝置優化、能源使用預測和癌症檢測等。
為了避免意外後果，必須負責任地使用人工智能。例如，在隐私方面，實施知情同意的AI系統（參見第3.3.2節）可能無法防止未來的AI技術對之前被認為符合隐私控制的資料進行個人資訊推斷。
越來越多的國家釋出了人工智能倫理的指南和原則。下表3-3是澳洲工業、創新、科學、能源和資源部門釋出的一個人工智能倫理架構的示例。
表3-3. 人工智能倫理架構的核心原則。來源：澳洲工業部。第一部分
表3-3. 人工智能倫理架構的核心原則。來源：澳洲工業部。第二部分
| 人工智能倫理原則 | 描述 |
| 1.人類、社會和環境的福祉 | 在其生命周期内，人工智能系統應造福于個人、社會和環境。 |
| 2.以人為本的價值觀 | 在其生命周期内，人工智能系統應尊重人權，多樣性和個人的自主權。 |
| 3.公正性 | 在其生命周期内，人工智能系統應具有包容性和可通路性，并且不應涉及或導緻對個人、社群或群體的不公平歧視。 |
| 4.隐私保護和安全 | 在其生命周期内，人工智能系統應尊重和維護隐私權和資料保護，并確定資料的安全。 |
| 5.可靠性和安全性 | 在其生命周期内，人工智能系統應可靠地按照其預定目的運作。 |
| 6.透明度和可解釋性 | 應確定透明度和負責任的披露，以確定人們知道何時受到人工智能系統的重大影響，并能了解人工智能系統何時與他們互動。 |
| 7.争議性 | 當人工智能系統對個人、社群、群體或環境産生重大影響時，應有及時的過程讓人們對人工智能系統的使用或輸出提出質疑。 |
| 8.責任制 | 應能夠确定并追究人工智能系統生命周期中不同階段負責任的人，對人工智能系統的結果應進行人類監督并承擔責任。 |
表3-3. 人工智能倫理架構的核心原則。來源：澳洲工業部。
3.4.2 偏見
許多人工智能應用旨在提供用于決策的見解。例如，在預測性維護中，人工智能被用于确定某個零部件在一定期限内是否可能損壞。在機器優化中，它可以用于設定特定的機器配置（例如風扇速度、風扇運作時間），以優化特定的參數（例如能源使用）。
人工智能所做出的決策基于經過資料集訓練的學習模型。確定在模型訓練中使用适當的訓練資料對算法的整體品質和所做決策至關重要。如果訓練資料集中存在意外的偏見，人工智能模型所做出的決策也将帶有偏見。讓我們通過一個例子來說明這一點。假設我們要開發一個機器學習應用程式，用于預測室外泵的溫度敏感閥門的平均故障時間（MTTF）。機器學習模型是通過從現有泵中捕獲的資料進行訓練的。然而，為了使模型在預測MTTF方面做出可接受的工作，訓練資料必須代表正确的條件。
如果沒有精心設計的過程，偏見可能會在整個資料供應鍊中引入——從資料來源到模型訓練再到應用：
訓練資料中的偏見：假設訓練資料是在天氣溫暖時捕獲的泵操作資料。由此産生的模型可能無法準确預測閥門在寒冷天氣中的MTTF。
模型訓練過程中的偏見：通常為了加快訓練時間，隻使用捕獲資料的子集。然而，這個子集必須經過精心策劃，以公平地代表整體捕獲的資料，否則可能引入偏見。例如，如果子集中包含的溫暖天氣資料比寒冷天氣資料更多，這種不平衡可能導緻一個不準确的模型。
由于人的本性而引入的偏見：對人類行為或決策的資料必須特别注意。衆所周知，人類在決策過程中存在着潛意識偏見。如果我們要建立一個基于人類決策的自動化決策應用程式，需要采取特殊步驟來檢查--理想情況下--消除基礎資料中的意外偏見。否則，生成的模型和應用程式将包含這些意外偏見。随着越來越多的人使用這個應用程式，這些偏見的影響将被放大。
運作過程中引入的偏見：根據人工智能遇到的操作資料，可能會在正常運作過程中引入意外偏見。在這種情況下，需要對人工智能系統進行重新訓練。
3.4.3 安全
安全是一個有着标準和明确定義的最佳實踐的成熟領域，涵蓋了從設計到實施、部署、營運和最終退役的系統的整個生命周期。IEC 61508和IEC 61511就是這樣的安全标準的例子。
AI安全被定義為減少AI帶來的風險，特别是當AI的計算結果可以直接應用于實體世界時。必須在整個AI系統和與其內建的工業物聯網系統的整個生命周期中考慮和解決AI對安全功能和完整性要求的影響：規劃、設計、實施和營運。
考慮到AI的自動化和“無人參與”的特性以及其幾乎難以了解的潛力，安全問題可能非常重要。組織應該減輕工業AI風險和偏見，以降低意外傷害或生命損失的可能性。“事故”是由于資訊處理和決策中的意外疏忽而導緻的，這也是一個真實的可能性——高層上司和業務經理應該意識到此類事故的發生方式。
舉例：在AI戰略規劃、實施和使用的整個生命周期中，必須全面考慮AI安全性，特别是從預防的角度。考慮到“失控AI”可能帶來的不可逆轉的負面後果，組織需要確定從規劃階段開始，其AI環境擁有強有力的内部控制措施。
随着組織推進其AI計劃，重要的是考慮可能存在的“黑盒子”感覺，即AI模型的内部運作方式（如所涉及的技術或決策機制）可能難以了解，同時也難以為模型本身建立控制措施。我們可以輕易看到AI模型的輸入和輸出，但了解模型的工作原理卻可能具有挑戰性。
最後，在AI計劃中，需要建立多個回報環路和疊代式的開發和持續改進方法，以保持現實的期望、確定透明度，并從中汲取教訓。
第一道防線涉及身份驗證和授權的安全期望。基于角色的管理和控制可防止未經授權的參與者操縱工業AI資料、裝置或流程。
第二道防線由資訊模型的資料管理期望提供，它減少了系統元件的臨時配置可能帶來的意外後果。一個常見的屬性表示方式可以簡化工業AI應用的設計和實作，使業務所有者能夠确認和驗證。
第三道防線考慮了可靠的資料同步連接配接期望。缺失或不完整的資料集可能會導緻算法超出預期範圍。
第四道防線對後處理AI結果的監督，确認其是否在預期範圍内，并引入人工判斷來審查和分析異常情況。
在應用工業分析、解釋和采取行動時，必須確定有強大的安全要求，以保護勞工、使用者和環境的福祉。工業AI在其分析結果中必須滿足更高水準的準确性。任何解釋和采取結果的系統都必須有防止不可取和意外實體後果的保障措施。
此外，工業營運涉及實體世界，工業分析需要通過特定領域的專業知識對資料中複雜和因果關系進行模組化驗證。在許多工業應用案例中，需要結合第一原理（例如實體模組化）以及其他資料科學統計和機器學習能力，以提供準确的分析結果。
Copyright © 2022, Industry IoT Consortium®, a program of Object Management Group, Inc. (“OMG®”). All other trademarks in this document are the properties of their respective owners.
All copying, distribution and use are subject to the limited License, Permission, Disclaimer and other terms stated in the Industry IoT Consortium Use of Information – Terms, Conditions & Notices, as posted at https://www.iiconsortium.org/legal/index.htm - use_info. If you do not accept these Terms, you are not permitted to use the document.
This document is a work product of the Industry IoT Consortium Industrial Artificial Intelligence Task Group, chaired by Wael William Diab.
Editorial Team: Bassam Zarkout (Chief Editor) and Wael William Diab (Editor).
Authors: The following persons contributed substantial written content to this document: Wael William Diab, Alex Ferraro (PwC), Brad Klenz (SAS), Shi-Wan Lin (Thingswise), Edy Liongosari (Accenture), Wadih Elie Tannous (AASA), Bassam Zarkout (IGnPower).
Contributors: The following persons contributed valuable ideas and feedback that significantly improved the content and quality of this document: Eric Harper (ABB), Salim Abi-Azzi (Dell).
Technical Editor: Stephen Mellor (IIC staff) oversaw the process of organizing the contributions of the Authors and Contributors into an integrated document.