随着人工智能的發展，它已經逐漸應用于各個領域，但在人工智能解決方案方面，設計師可能會面臨新的挑戰。本文對此進行了探讨，并提出了一種整合兩個學科優勢的六步方法，即“人工智能設計”，一起來看看吧。
寫在前面
随着人工智能技術的發展，越來越明顯的是，僅靠技術和設計都不足以建構有效的人工智能解決方案、解決實際使用者的問題并對社會産生積極影響。在沒有設計師的情況下工作的人工智能工程師可能會基于未經驗證的假設過快地跳到解決方案，導緻團隊解決“錯誤的問題”。相反，缺乏技術知識可能會導緻設計者對人工智能的功能産生不切實際或模糊的想法，存在要麼高估要麼低估其能力的情況。
在人工智能解決方案方面，設計師可能會面臨新的挑戰，例如如何設計人工智能系統的透明度、“可解釋性”或可信度。或者如何評估人工智能解決方案對使用者和社會的影響和結果。是以，我們認為人工智能 (AI) 工程師和服務設計師應該合作建立以人為本、符合道德規範且能産生積極影響的解決方案。本文中，我們提出了一種整合兩個學科優勢的六步方法，即“人工智能設計”。
一、我們需要人工智能(AI) 嗎？
我們将人工智能設計視為一種以人為本、疊代和協作的人工智能創新方法。它利用設計師解決問題的方法，同時考慮人工智能的動态組成部分，應用人工智能創新的工程方法。該方法基于英國設計委員會提出的雙鑽石1、CRISP-DM2 資料管理方法以及我們在 OLX Group 人工智能創新方面的經驗，OLX Group 是全球增長最快的市場和分類平台網絡之一， 超過3億線上通路者。
人工智能和設計團隊都可以從合作中受益。我們相信，這将帶來更有效的工作方式和更以客戶為中心的解決方案。這就是為什麼：
1. 人工智能創新采用以人為本的方法
AI-by-Design 采用以人為本的人工智能創新方法，在開發解決方案之前深入了解客戶需求。有時人工智能并不是正确的解決方案。有時，更簡單的解決方案（例如電子表格）可能會做得很好并節省資源。是以，在開發開始之前，需要确定人工智能是否确實是解決問題的正确工具。團隊應該建構任何能解決問題的東西，賦予人類權力，而不是規定特定的工具或技術。
2. 利用跨學科性
AI-by-Design 鼓勵跨孤島的工作方式，而不是從設計研究團隊向人工智能工程師冷冰冰地移交見解。當設計師和人工智能工程師合作時，他們可以彌補彼此的盲點，并且減少溝通錯誤的空間。該流程更加高效、有效，解決方案将更加以客戶為中心且技術上可行。這将確定他們應對正确的挑戰，進而節省團隊時間。事實上，在麥肯錫 2021 年釋出的《人工智能現狀》中，“開發人工智能工具時使用設計思維”被認為是人工智能高績效者最重要的差異化因素。
3. AI-by-Design 解決方案專為我們動态的世界而設計
人工智能模型通常在沙箱環境中進行訓練，但最終卻被用于我們混亂、複雜的世界。是以，我們認為人工智能模型需要持續的再訓練。
在現實世界中，解決方案受到使用者與最終産品互動方式的影響，而人工智能具有許多動态元件。設計一種收集使用者回報和實際行為資料的方式至關重要。需要這些輸入資料來改進模型，確定人工智能解決方案按預期并以合乎道德的方式工作。
這之間其實存在一種差距，雖然這聽起來很理想，但我們不能隻是将幾位人工智能工程師和設計師放在一個團隊中，并期望他們毫不費力地一起創新。我們經常觀察到這兩個學科沒有共同語言，對彼此持有錯誤的假設，并且以不同的方式工作。
例如，人工智能工程師使用 Visual Studio 代碼工作，而設計師通常使用 Miro 等工具。機器學習模型需要盡可能細緻和準确地工作，而設計原型可能非常概念性和推測性。機器學習名額圍繞數字和預測發展，而設計名額則圍繞人類需求和客戶體驗發展。比較方法時也存在同樣的差異，如圖 2 所示。在圖中，設計委員會的雙鑽石與 CRISP-DM 資料管理方法重疊。出現三個差距：
差距 1：缺少“原因”
如果人工智能工程師被排除在項目的初始階段之外，那麼他們建構的解決方案就有可能偏離最初的客戶問題，了解客戶需求是關鍵。
差距2：缺乏技術了解
另一方面，設計師常常對人工智能的可能性抱有不切實際的期望，并且并不總是了解最新的技術發展。由于設計人員無法輕易了解工程元件，是以他們通常需要幫助來掌握所提出解決方案的可行性，以避免傾向于難以實施的解決方案。
差距3：缺乏回報循環
在流程結束時，當建構解決方案時，需要有一種方法來檢查解決方案是否按預期工作、是否收集了正确的資料以及模型是否符合道德規範。這可以通過回報循環來解決。回報循環可以提供解決方案的大量可見性和透明度。這非常重要，因為在大多數情況下，現實世界與開發人工智能的訓練環境有很大不同。此外，由于使用者與已開發的人工智能解決方案之間的持續互動，将可以獲得新的資料。當收集到正确的資料時，可以通過消除偏差和異常值來不斷改進模型。
二、AI-by Design 的六個步驟
為了填補空白并找到工作方式，我們建立了一個六步方法。
1.發現：第一步旨在了解項目的目标、客戶需求以及他們的問題以及商業機會。它通常涉及客戶研究。
2. 定義：第二步，團隊定義挑戰範圍：他們選擇要解決的問題或要追求的機會。此步驟包括研究背景和人工智能的可能性。
3.人工智能設計決策：在這個階段，鼓勵團隊問自己這是否是一個可以而且應該解決的問題。可以用AI來解決。如果是，他們會評估需要哪些資料，并研究解決方案是否可能産生不道德的後果。如果人工智能不是正确的解決方案，這也是一個很好的結果。人工智能既昂貴又耗時。如果其他替代方案可以解決問題，則應選擇它們。
4. 開發：第四步旨在了解如何才能最好地解決問題。現在是探索不同解決方案并研究所需資料和模組化的時刻。人工智能工程師可以進行探索性資料分（EDA），這意味着深入研究資料以更好地了解資料，看看是否存在異常值、缺失值以及是否可以建立基線模型。
5. 測試：在緻力于建構和部署解決方案之前，團隊應該确定有哪些風險假設并嘗試驗證它們，例如使用原型測試。這是檢查是否應該建構解決方案或是否需要“pivot”的最快方法。
6. 傳遞和評估：最後，團隊應該疊代、完善、推介并最終将解決方案傳遞給最終客戶和關鍵利益相關者。然而，這個過程并沒有就此結束。相反，團隊需要不斷疊代解決方案。随着時間的推移，将會出現更多的資料，這些資料可以為解決方案帶來新的啟發。需要設計一個監控系統（回報回路），以確定盡快檢查和糾正現實生活中的偏差和資料漂移。
前面的六個步驟旨在為那些希望改進團隊實作人工智能創新方式的人提供指導。
結論
公司需要技術和設計來建構人工智能：(A) 有效，(B) 解決實際使用者的問題，(C) 具有積極的業務影響。前面的路還很長，但我們相信我們提出的方法能夠使組織以高效且合乎道德的方式進行創新。
原文作者：Serena Westra, Ioannis Zempekakis（該文章已獲得相關方和原作者授權）
原文名稱：AI-by-Design: Human-Centred AI Innovation: A six-step approach for building AI solutions
譯者：陳昱志Yeutz Chen，微信公衆号：YeutzDesign（ID：Yeutzsheji），專注于服務設計領域，緻力于服務設計創新轉型研究。
本文由 @陳昱志Yeutz Chen 翻譯釋出于人人都是産品經理。未經許可，禁止轉載。
題圖來自Unsplash，基于CC0協定。
該文觀點僅代表作者本人，人人都是産品經理平台僅提供資訊存儲空間服務。