天天看點

谷歌資料中心在用這種CPU 比傳統快70倍

四年前,谷歌面臨一道難題,如果每個使用者每天都會花費三分鐘時間來使用語音識别服務的話,那麼公司将不得不将資料中心規模再翻一倍,以便處理海量的語音資料和ai計算。

不過為了滿足這樣的需求,谷歌并沒有去建設更大的資料中心,而是轉為開發适用于ai計算的高性能轉用硬體。

最終,名為tpu(tensor processing unit)的處理器誕生了,其是一種專門為加速深層神經網絡運算能力而研發的晶片。

今天,谷歌在一篇博文中提到了在tpu上所取得的一系列成績。

谷歌表示,相比類似的伺服器級intel haswell cpu和nvidia k80 gpu,tpu在ai運算測試中的平均速度要快15-30倍。更重要的是,tpu的每瓦性能要比普通的gpu高出25-80倍。

谷歌資料中心自2015年以來一直在使用tpu來加速ai服務,而且首獲了理想的效果,其能夠更快的處理使用者發送的請求,降低結果回報的延遲。

值得一提的是,谷歌認為現在的tpu仍在硬體和軟體方面存在很大的優化空間,比如假定用上了nvidia k80 gpu中的gddr5記憶體,那麼tpu就可以發揮出更好的性能。

谷歌資料中心一直在用這種處理器:比傳統cpu快70倍!

此外,谷歌工程師還為tpu開發了名為cnn1的軟體,其可以讓tpu的運作速度比普通cpu高出70多倍!

本文轉自d1net(轉載)

繼續閱讀