天天看點

英偉達沈威:投入在深度學習的這三年 讓GPU性能提升了65倍

智東西(公衆号:zhidxcom)

文 | origin

編 | 四月

英偉達沈威:投入在深度學習的這三年 讓GPU性能提升了65倍

人工智能第三次浪潮風起雲湧,産業界大浪淘沙,在“gtic 2017全球(智慧)科技峰會”感受時代脈搏,看見未來。

3月10日,由智東西、awe、極果等聯合舉辦“gtic 2017全球(智慧)科技峰會”在上海證大喜馬拉雅中心正式開幕。學術界、投資界、創業圈和産業鍊在這裡激烈交鋒,nvidia、neato robotics、科大訊飛、商湯科技、科沃斯機器人、ninebot(納恩博)、威馬汽車、奇點汽車、馭勢科技、歌爾股份、地平線機器人等近40位大佬輪番登台。

作為2017年上半年人工智能領域規格最高的峰會,gtic聚焦“機器人産業”、“汽車新勢力”、“家居物聯生活”領域,探讨技術變革下的掘金機會、消費更新與生态建設,帶來最前沿的實踐經驗和判斷。

在上午的演講環節中,英偉達全球副總裁、中國區企業事業部總經理理沈威發表了主題為“人工智能深度學習——一種新型計算模式 ”的演講,詳細梳理了英偉達憑借人工智能浪潮晉升業界霸主的曆程和思路。

英偉達沈威:投入在深度學習的這三年 讓GPU性能提升了65倍

以下為演講的要點精摘:

1、cuda架構的誕生是深度學習的一個關鍵節點。英偉達cuda架構之前的gpu并無太強對深度學習運算能力的支援,而在cuda架構誕生之後,普通的學者及程式員也能較容易地使用gpu進行高性能運算。2006年深度學習與英偉達gpu第一次被運用到圖像識别資料庫imagenet競賽,将imagenet的辨識率提升到85%,從此展開深度學習與gpu的聯袂。

在2012年,英偉達與吳恩達一起探索gpu如何加速深度學習,到現在,百度的語音識别率也超過了人類。2016,imagenet辨識率已經達到96%,超過了人類。

2、不管是工業設計上面一些制造、設計,或者是到我們大家所熟悉的電影的制作,英偉達都是這個行業的标準。以及在06年英偉達公司我們步入高性能預算之後,已經有70%都使用了英偉達的産品作為高性能運算的家屬。

還有這個也是大家最關心的,在ai這波浪潮裡面,我們現在看到基本上100%從事人工智能領域的研究都是在英偉達所支援的這個平台上面開發。英偉達針對人工智能以及深度學習,我們還釋出的軟體開發平台sdk,也就是基庫達的家庭學習的家庭庫,目前世界超過20萬個下載下傳。

3、gpu成為了高性能計算的最優平台,cuda已經擁有30萬開發者,并占據了絕大多數高性能計算應用。在解決方案上,英偉達提供了行業内最好的運算平台tesla p40。

針對缺少大資料中心的客戶,如大學科研,以及初創公司、研究院,成型的超算機dgx—1是不錯的選擇。它整合了最先進的gpu,以及整合了大家熟悉的深度學習平台并加以優化,dgx—1不僅在國外非常普遍。 它的整個運算能力,雖然隻是一台小小的機器,但是它的整個運算能力就像單機箱裡放了250個伺服器的運算能力,你不需要一個很大的資料中心,就可以擁有一個等同于250台伺服器運算能力的裝置來從事ai以及深度學習的研究。

4、這一切都是從2012年底開始,英偉達公司注意到深度學習這波浪潮之後,我們做了大量投入,在短短3年内,gpu硬體已經發展了三代,整體的性能已經有65倍的提升,這個是英偉達對深度學習以及ai行業做的承諾。

以下為沈威在“gtic 2017全球(智慧)科技峰會”上的演講全文:

今天特别榮幸跟大家彙報英偉達這幾年進入到高性能預算,以及全方面的深度學習及人工智能的心路曆程。

請允許我花幾分鐘時間跟各位介紹一下英偉達。英偉達公司在1993年成立,于1999年我們發明了gpu,我們是全世界最大的gpu公司,各位對英偉達在進入深度學習之前,英偉達公司是全世界最大的遊戲運算平台的提供者,全世界已經有超過1億的使用者在使用英偉達遊戲運算平台。

英偉達同時也是專業的圖形工作顯示器,顯示運算平台的提供者,也是這個行業的标準。我們現在看到不管是工業設計上面一些制造、設計,或者是到我們大家所熟悉的電影的制作,英偉達都是這個行業的标準。以及在06年英偉達公司我們步入高性能預算之後,已經有70%都使用了英偉達的産品作為高性能運算的家屬。

還有這個也是大家最關心的,在ai這波浪潮裡面,我們現在看到基本上100%的從事人工智能領域ai的研究,都是在英偉達所支援的這個平台上面開發。英偉達針對人工智能以及深度學習,我們還釋出的軟體開發平台sdk,也就是基庫達的家庭學習的家庭庫,目前世界超過20萬個下載下傳。

這一切都從哪裡開始呢?2012年是ai元年,或者深度學習大爆發的一年。我們中國人之光李非非在斯坦佛大學主持的一個比賽,還有一個學生第一次運用深度學習的方法,加上英偉達的gpu的參與,不僅僅是一口氣拿到這個競賽的第一名。同時,也把這個競賽從原先隻是做電腦視覺算法的競賽,從之前最高的辨識率,隻有74%,在2012年用了深度學習,以及英偉達的gpu之後,一下子不隻是拿到了第一名,而且把整個辨識率拉升到85%。從此展開了深度學習以及gpu的世界。

自從2012年競賽之後,深度學習的方法就一發不可收拾。在2012年,英偉達公司很榮幸跟現在百度首席科學家我們一起釋出了通過gpu在高性能預算能力,如何加速深度學習的發展。同時,從2012年發展到現在,那場競賽從2012年提升到85%之後,之後的競賽已經沒有什麼算法參與這個競賽,到了2016年,用了深度學習整個辨識率超過96%。這個深度學習辨識率已經超過人類對圖像的辨識率。當然更不要說在2015年,百度在深度學習的突破,尤其在深度語音識别上面已經超過人類語音識别的辨識的能力。還有,去年阿爾法狗,在圍棋這方面的進展,都是用了大量的海量的深度學習cpu,這個在過去完全沒有辦法實作的。

說到這個地方,可能各位有很大的疑惑。這個是突然發生的,還是有更深層次的背景?請允許我跟各位彙報曆史演進。

談到英偉達公司從1999年發明gpu,到剛剛學習的程序,不得不談我們在06年重要的突破,也是在06年第一次釋出庫達這樣一個架構。06年之前做圖像gpu90%的圖像運算都是針對圖像運算,它是很封閉的,針對遊戲開發商、開發者提供的。對于一般科研人員,或是針對高性能預算有要求的學者,研究人員,這是一個很辛苦的事情。在06年之前,如果大家要去使用gpu是非常辛苦的,我印象中,我在前一陣子聽到國内科研專家,為了要取得更好的運算資源,他們收集了很多遊戲卡,跟現有的x86伺服器連起來,就是要去探索如何更好使用gpu的運算能力。為此,運維大公司也看到這樣一個趨勢,是以06年我們釋出了庫達這樣一個架構。第一次有了這個架構之後,一般的科研人員就可以用普通的java加上語言就可以使用gpu的運算能力,也就是從06年開始,英偉達公司正式步入高層預算能力,也就是從這個時候開始,世界大部分的科研以及高性能電腦中心部署英偉達的裝置進行運算和高性能預算。

但這裡面有幾個比較大的突破,我就不一一再提了。其中一個就是跟各位報告的,2012年的競賽讓大家對gpu的使用有更深入的了解。到了2016年,阿爾法狗也是一個實際的案例,gpu的應用上到了另外一個台階。

作為一個從26年前就進入高性能運算的從業人員來說,gpu已經成為最佳的選擇。在高性能運算已經有超過410個應用,基本上100%的大家在人工智能深度學習上面都是在gpu上面所加速。

在此,我借機會跟各位介紹一下除了剛剛報告英偉達在高性能預算以及人工智能的曆程之外,到底我們提供什麼樣的解決方案。我們在深度學習也做了很大的投入,尤其在企業的資料中心提供解決方案,不管從線下學習,我們有很強大的技術支援之外,我們同時也提供了線下部署、推理這樣一個解決方案。

比如說我們p40,就是目前廣為大部分資料中心用來做深度學習最好的平台,目前我認為是一個最好做深度學習裡面最好的平台。

另外,我們在去年也釋出了針對資料中心線上部署或者是推理的産品,非常合适當線下訓練完之後,你要做到應用,如何可以很快把你虛拟的結果跟你的實際業務結合在一起,包含了要求大量的視訊的邊界,以及實時的分析,這個是我們在去年剛剛釋出,非常合适作為線上推理以及應用的産品。

當然,你們會提出,我們沒有這麼大資料中心,我就是一個研究機關,目前剛剛初創公司,我要進行人工智能和深度學習的發展,我是不是也有機會能夠使用英偉達的解決方案?答案是的。我們也是針對大學科研,以及初創公司、研究院,我們去年釋出了成型的超算機叫dgx—1,它整合了最先進的gpu,以及整合了大家熟悉的深度學習平台并加以優化,dgx—1不僅在國外非常普遍。 它就像單機箱裡放了250個伺服器的運算能力,你不需要一個很大的資料中心,就可以擁有一個等同于250台伺服器運算能力的裝置來從事ai以及深度學習的研究。

當然,你們會提出,我們沒有這麼大資料中心,我就是一個研究機關,目前剛剛初創公司,我要進行人工智能和深度學習的發展,我是不是也有機會能夠使用英偉達的解決方案?答案是的。我們也是針對大學科研,以及初創公司、研究院,我們去年釋出了成型的超算機叫dgx—1,它整合了最先進的gpu,以及整合了大家熟悉的深度學習平台并加以優化,dgx—1不僅在國外非常普遍。 它的整個運算能力,雖然隻是一台小小的機器,但是它的整個運算能力就像單機箱裡放了250個伺服器的運算能力,你不需要一個很大的資料中心,就可以擁有一個等同于250台伺服器運算能力的裝置來從事ai以及深度學習的研究。

這一切都是從2012年底開始,英偉達公司注意到深度學習這波浪潮之後,我們做了大量投入,在短短3年内,我們在gpu硬體投入已經發展了三代,整體的性能已經有65倍的提升,這個是英偉達對深度學習以及ai行業做的承諾。

另外談到深度學習和ai,英偉達所做的貢獻并不隻是硬體在gpu,在整個生态圈更重要的是,如何讓深度學習以ai的從業人員,我們甚至有一個更好的開發環境。是以在此英偉達做了非常大的投入,在做sdk,也就是在軟體這部分的投入。

比如說在針對學習這部分,英偉達公司做了一個cudnn的加速器,針對大家所熟悉的開發,我們做了很多優化,使這些ai以及深度學習的開發者,很容易使用這些加速庫,能夠更好的性能提升。在這部分全世界已經有超過20萬個下載下傳。

同樣線上上部署和推理方面,英偉達公司也做了很大投入,當您在深度學習訓練之後的成果部署到新一代的英偉達技術的時候,能夠更快地,更有效率來做部署跟推理,包括現在很多部署的應用跟視訊、圖像有關的,sdk是特别針對深度學習在部署和應用這方面的開發,我們可以同時處理視訊的邊界碼及更新。

接下來談談針對英偉達,我們的解決方案的一些案例,google這部分就不談了,可能目前應用已經超過5千個,這個就不多談了。

在國内這部分,百度是我們一個很典型的客戶,非常感謝百度的首席科學家對我們的支援,我們做了很多投入,不管是在人臉、物體的辨識,一直到自動駕駛,我們都使用非常多的gpu的應用。

另外在國内有一個很大的客戶就是阿裡巴巴,也是深度學習。有一個非常好的應用,有一個應用,我拿出我的手機再拍一下,我可以進入到阿裡的環境裡面,這個領帶到底在哪幾個商家。更不要談大家在雙十一裡面,大家在這麼多海量的客戶需求底下,如何來處理它的客戶服務,有很多這方面的應用,都通過深度學習人工智能的方法來展現的。

最後一個應用跟大家分享,也是最近大家比較注意的是智慧城市。大家可以注意到,2020年全世界超過10億個攝像頭,攝像頭部署之後,這麼多海量的資料,尤其是影像資料如何處理,随着人工智能以及深度學習的發展,剛剛跟各位專家所報告的,不管是通過英偉達平台的學習,以及針對線上的實時的編碼的處理跟分析,我相信英偉達公司在智慧城市的應用上面,以及深度學習的應用,我們可以提供更好的解決方案。

因為時間關系,我在這裡跟各位介紹英偉達的解決方案,英偉達整個變革,以及應用的場景,我相信這隻是我們公司跟人工智能跟深度學習剛剛起步的場景。我相信在今天各位專家共同努力下,ai和人工智能會更美好,我們英偉達很高興提供這麼一個平台,跟各位一起推廣人工智能的發展,謝謝大家!

繼續閱讀