天天看點

無線仍然是 AI 和邊緣計算發展的瓶頸

雲栖号資訊:【 點選檢視更多行業資訊

在這裡您可以找到不同行業的第一手的上雲資訊,還在等什麼,快來!

資料中心正在向網絡邊緣擴充,以滿足人工智能和其他應用程式的快速響應需求,而這是傳統資料中心架構所無法提供的。

傳統架構的問題在于它們的集中式架構。通常,資料會從邊緣傳到數百英裡外的電腦上,然後再傳回來。當你在使用電子郵件、谷歌、Facebook 和其他通過雲提供的應用程式時,這沒問題。人腦是台運作緩慢的電腦,無法記錄從在浏覽器中點選電子郵件到郵件打開之間的時間延遲。

但人工智能和其他新興應用,如物聯網(IoT)、基于雲的遊戲、虛拟現實等,需要更快的網絡響應速度,也就是所謂的“低延遲”。這意味着資料中心的處理過程必須轉移到網絡邊緣。邊緣計算可以在小型資料中心中進行,其大小大緻相當于海運集裝箱,而不是目前支援雲計算的倉庫大小的大型建築。

像 EdgeMicro 和 Vapor.io 這樣的初創公司正在部署這樣的“微型資料中心”。

資料中心營運商仍然可以使用它們的傳統結構,并借助快速網絡和其他硬體及軟體來確定邊緣應用程式所需的快速響應時間。

邊緣資料中心可以位于企業辦公場所,也可以位于礦山、船舶和油田等外部地點。

Moor Insights&Strategy 總裁兼首席分析師 Patrick Moorhead 表示:“(推動邊緣計算的)首要因素是資料中心之外産生的資料量。”到 2024 年,聯網傳感器的數量将達到 1 萬億,主要由智能城市和視訊驅動。

延遲并不是需要邊緣計算來解決的唯一問題。Moorhead 說:“成本才是真正推動邊緣計算的因素。每次你把資料送入資料中心,都是要付錢的。網際網路不是免費的。”網際網路提供商對帶寬收費,而雲提供商,比如亞馬遜網絡服務(AWS),對在雲中進出的資料收取“出口費(egress charges)”

對于無法通路網絡的應用程式,組織就需要在邊緣進行計算,如在船上、在礦井下或在油田上。與此同時,越來越多的隐私法規要求某些應用程式現場處理資料,尤其是醫療保健。

Moorhead 說:“如果你是一家醫院,那麼你完全無權向雲上發送任何資料。”即使允許這樣做,帶寬成本也會使移動大部分資料變得非常昂貴,尤其是診斷圖像。

營運商對邊緣計算的看法

Digital Realty 是世界上最大的資料中心營運商之一,其特别之處在于它有一個全球化的平台和基礎設施,從大型多兆瓦的設施到單個的機籠和機架。該公司在全球 20 個國家擁有 267 個資料中心。

邊緣地區需要一種新的基礎設施。Digital Realty 首席技術官 Chris Sharp 說:“它一點也不像傳統的資料中心。其規模要小得多,其工作負載需要很大的功率密度和互連密度。”這些微型資料中心是無人值守的,現場沒有操作人員,不提供多租戶支援。傳回到核心雲基礎設施的密集光纖連接配接也是必須的。

Digital Realty 正處于部署微型資料中心的早期階段,在芝加哥、亞特蘭大和達拉斯,他們與初創公司 Vapor IO 合作開發了原型。

微型資料中心并不是唯一的選擇。Digital Realty 的全球服務創新總監 Russell Shriver 說,在許多地方,邊緣應用程式可以在傳統的資料中心内運作,并且仍然可以達到應用程式快速響應所需的 5 毫秒延遲。他表示:“對于許多在市區尋找邊緣解決方案的企業而言,這足以滿足它們的需求。”

微型資料中心仍然是一個新興市場。Equinix(Digital Realty 公司的競争對手)全球業務發展副總裁 Jim Poole 表示,事實上,他們現有的設施可以滿足其服務提供商和企業客戶的邊緣計算需求。“Equinix,從其存在,就在邊緣”。

Equinix 在全球 44 個主要城市地區擁有超過 190 個資料中心。對于位于 Equinix 資料中心叢集上的應用程式,美國大部分地區已經實作了 10 毫秒的光纖往返通路時間。這一延遲覆寫了 80% 的美國人口。在建立新的微型資料中心之前,企業和服務供應商都希望在現有的基礎設施中最大限度地部署邊緣應用程式。

無線是瓶頸

雖然 Equinix 可以通過光纖實作低延遲,但邊緣應用程式也需要無線,而無線仍然是 AI 和其他新興邊緣應用程式的瓶頸。Poole 說,目前,4G 無線網絡的延遲最好為 40 毫秒,平均延遲在 60 毫秒到 120 毫秒之間。

5G 有望大幅降低延遲。是以,服務提供商正在與超大規模的雲服務提供商合作,進而利用改進後的性能。例如,AWS 和 Verizon 正在合作,将位于洛杉矶市中心的 AWS 資料中心與該市的 Verizon 無線接入網絡(RAN)塔連接配接起來。Poole 說,該項目證明,他們可以在市區周圍建立一個低于 10 毫秒的延遲區。反過來,這也可能會産生對微型資料中心的需求。“但是,在我們解決這個特殊的問題之前,沒有人會願意為增加的成本買單,”他表示。

此外,Poole 補充說,5G 的“網絡切片”功能将使部署私有無線網絡成為可能,進而加強控制和安全。

目前,微型資料中心是一種很有前途的技術,但規模還不大。Poole 說:“你沒有看到人們争相宣布要部署成百上千個這樣的微型資料中心,原因是人們還沒有看到商機。”

盡管如此,Equinix 确實看到了子產品化資料中心的使用案例——不一定是在邊緣,而是作為一種進入新興市場的手段,目前看來,在這個市場中,建造一個 1 億美元的資料中心沒什麼意義。

AI 驅動

Equinix 進階研究員 Kaladhar Voruganti 表示,人工智能正在帶來巨大的邊緣計算需求。

人工智能應用程式主要包括兩類工作負載:訓練和推斷。顧名思義,訓練就是教一個人工智能模型如何解決問題。這個過程通常涉及組織 PB 級的資料。

Voruganti 說,“通常,你需要大量的計算”。訓練運作在非常耗電的 GPU 上,每個滿載的機架要消耗高達 30 到 40 千瓦。訓練通常需要在大型資料中心裡運作,這樣才能滿足其電力需求,以及某些應用程式中的隐私和監管要求。

Digital Realty 與 Nvidia 合作,在托管伺服器中提供硬體供應商的 GPU。

模型訓練完成後,下一步是推理,在此過程中,模型應用它在訓練中學到的知識,并将其應用到生産應用程式中。推理所需的資料處理要少得多,并且可以運作在網絡邊緣(智能手機、特斯拉或微型或地鐵資料中心)快速部署的 Docker 或其他軟體容器中。

分析師 Patrick Moorhead 說:“你可以在大型的雲上訓練它,然後在工廠、沃爾瑪或加油站運作應用程式進行推理。”

這些類型的人工智能應用程式可以在各種情況下使用。例如,航空公司可能使用“數字雙胞胎”進行預測性維護。或者,随着經濟從 Covid-19 大流行中恢複,企業可以使用人工智能來運作熱點圖和面部識别程式,識别進入設施的可能受感染的人。

其他需要邊緣計算(經常使用人工智能)的應用包括遊戲、物聯網、智能工廠、運輸和物流。此外,零售技術需要邊緣計算來提供所需的響應能力。

Moorhead 認為,零售行業對邊緣資料中心的需求特别大。像 Amazon Go 這樣的“未來商店”有數百個攝像頭,沃爾瑪也用視訊跟蹤顧客。他說:“他們非常需要。”

智慧城市的規劃者們希望利用人工智能和其他前沿應用來促進健康和安全,追蹤基礎設施維護需求以及管理交通。

其他需求來自交通(包括目前大肆宣傳的自動駕駛汽車)以及先進制造和産品視覺檢驗。能源行業也在推動需求,尤其是在遠端檢測方面。

特殊的硬體需求

Equinix 的 Voruganti 表示,邊緣 AI 應用通常使用閃存來實作高性能。這些應用程式還需要高度的網絡連通性,從裝置到邊緣,再到資料中心。Poole 說,在網絡上不同位置運作的應用程式元件之間可能也需要連結。“它們需要元件和域之間能夠保證低延遲,”他補充說。

Moorhead 說,邊緣計算還需要堅固耐用,以便可以部署在電梯、公共交通閘和采礦裝置上,而船載計算機必須具備耐鹽水性。

邊緣計算也帶來了實體安全方面的挑戰。傳統的超大規模資料中心具有接近軍事級别的安全性,但位于農村地區的邊緣資料中心則無人看守,很容易闖入,攻擊者甚至可以用卡車将整個遠端資料中心運走。

赢家……

超雲、企業供應商、電信供應商和資料中心營運商看起來都像是邊緣計算的赢家。Moorhead 說,“AWS 是一艘大船。雖然很緩慢,但肯定會推出一項可信賴的邊緣計算服務”。

這家公有雲巨頭釋出了運作其基礎設施軟體的 AWS Outposts,這是一個運作 AWS 資料中心的硬體機架,和運作在 AWS 資料中心的基礎設施相同。Outposts 可以在本地、邊緣或資料中心中運作。 AWS Snowball 是一種邊緣計算裝置,為船舶一類的遠端環境提供計算、記憶體和存儲。亞馬遜提供的另一款名為 Wavelength 的産品是一款面向營運商的邊緣裝置,它讓計算機更接近 5G 部署的邊緣。

在軟體方面,AWS IoT Greengrass 是一個将 IoT 裝置連接配接到雲的作業系統。與此同時,其公有雲競争對手微軟也提供了 Azure Cloud IoT-for-edge 服務,而 VMware 也提供邊緣計算服務。Moorhead 說,VMware“在這個領域的競争力令人驚訝”。

另一家主要的公有雲供應商谷歌一直有點落後,但它正借助面向分布式雲應用程式的 Anthos 服務增強自身的競争力。

Moorhead 說,與此同時,像戴爾、惠普(邊緣伺服器)和思科(IoT 網絡)這樣的 IT 基礎設施巨頭也有優勢,因為邊緣計算需要一個大的生态系統,将企業内部的基礎設施和雲連接配接起來。

Moorhead 認為,新興的邊緣資料中心供應商,如 Vapor IO,也有機會重新定義舊有的技術。“50 年來,一直有資料中心處于邊緣。任何沃爾瑪都有高架地闆和一個資料中心。如果你去加油站或麥當勞,他們在牆上會有一個伺服器,”他說,“Vapor IO 真正想要的是添加近網計算能力,尤其是 5G 網絡。”

電信公司的中央辦公室也可以被改造成微型資料中心,為營運商創造機會。Moorhead 說,“一個典型的社群會有一棟水泥建築,裡面有模拟線路和一堆機架。現在,它們幾乎空了。它們功能強大。它們有工業級的強度——确切地說,是一個很難攻破的水泥掩體——而且還有供電和冷卻系統。”

Equinix 和 Digital Reality 聲稱,鑒于他們作為全球資料中心和網絡營運商的優勢,他們處于邊緣計算的有利地位。“你不能違背事實,”Poole 說,“電信公司會做得很好——他們可以在地方一級創造接入。這是無法回避的。”

他補充道:“像 Equinix 這樣分布範圍很廣的資料中心公司将會做得很好,因為如今的應用程式就在我們身邊。”

Digital Realty 的 Sharp 補充道:“你需要一個全球性平台,否則你将很難成功。客戶在與單一市場的點供應商進行交易時會非常謹慎。如果你沒有真正的投入,沒有必要的資金來支援全球性環境,那麼你就無法取得成功。”

Sharp 補充道,“客戶不想管理 10 或 15 個供應商才能推出自己的基礎設施”。

【雲栖号線上課堂】每天都有産品技術專家分享!

課程位址:

https://yqh.aliyun.com/zhibo

立即加入社群,與專家面對面,及時了解課程最新動态!

【雲栖号線上課堂 社群】

https://c.tb.cn/F3.Z8gvnK

原文釋出時間:2020-05-22

本文作者:Mitch Wagner

本文來自:“

InfoQ

”,了解相關資訊可以關注“

繼續閱讀