
各位同學,久等了,時隔一年,今天有三來釋出新書了。
前言
從2017年3月我在全網寫了第一篇模型壓縮的綜述開始,就一直在從事模型設計和優化相關的工作。
2019年2月首次在全網總結出了12類主流的深度學習模型設計思想,被廣泛轉載。
2019年中聯合阿裡天池在B站做了3次共計超過3個小時的直播,這也是我在B站做的唯3次直播,人均線上達萬人,可見這是很有意義的事情。
是以當仁不讓,有三一定會将其總結成更加系統的書,共兩本。第一本專門講述深度學習模型設計,第二本專門講述深度學習模型優化,今天釋出的就是第一本,下面請聽介紹!
這是什麼書?
如書名《深度學習之模型設計:核心算法與案例實踐》,這是一本講述深度學習模型設計核心算法的書籍,同時配套有大量實戰案例,以下為實拍圖。
全書共計14章,目錄如下:
第1章 神經網絡和計算機視覺基礎
第2章 深度學習的基礎
第3章 資料集、評測名額與優化目标
第4章 加深網絡,提升模型性能
第5章 1×1卷積,通道次元升降的利器
第6章 加寬網絡,提升模型性能
第7章 殘差連接配接,深層網絡收斂的關鍵
第8章 分組卷積與卷積拆分,移動端高效率經典模型
第9章 多尺度網絡與非正常卷積,更豐富的感受野與不變性
第10章 多輸入網絡,圖像檢索和排序的基準模型
第11章 時序神經網絡,有記憶的網絡更聰明
第12章 卷積從二維變成三維,實作升維打擊
第13章 動态推理與注意力機制,網絡因樣本而異
第14章 生成對抗網絡
本書主要内容
第1章,講解神經網絡與計算機視覺基礎,會給圖像基礎薄弱的同學補充必要的圖像處理知識。
第2章,講解深度學習基礎,發展背景,核心優化技術。
第3章,集中講解本書使用到的資料集、評測名額與優化目标。
第4章 追根溯源,理論與實踐分析深度與模型性能的關系。
第5章 詳解1×1卷積結構與模型壓縮實踐。
第6章 追根溯源,理論與實踐分析寬度與模型性能的關系。
第7章 詳細讨論殘差連接配接的由來,有效性分析及其結構發展。
第8章 詳細讨論分組卷積的由來,有效性分析及其結構發展。
第9章 詳解多尺度網絡,非正常卷積與感受野控制設計思想。
第10章 介紹多輸入網絡在圖像檢索和排序中的應用。
第11章 講解RNN及其變種,LSTM原理和實戰。
第12章 剖析三維卷積結構及其應用。
第13章 詳解動态推理與注意力機制,剖析同樣的網絡如何因為樣本而産生不同的工作機制。
第14章 詳解生成對抗網絡的優化目标和結構設計。
本書特色
遵循有三一貫的風格,本書有一些特點如下:
(1) 内容全面,時間跨度很大,緊扣前沿。本書既詳解了從上個世紀90年代萌芽的卷積神經網絡技術,也介紹了最新的技術,時間跨度超過30年,來龍去脈都力求詳盡。
(2) 理論詳細,原理深刻。本書并不隻是簡單羅列目前各類模型,而是會從起源開始分析背後的原理,條分縷析地剖析其中設計思想。
(3) 實踐充分,由淺入深。書中内容的章節設定都是先說清楚理論,然後緊接着選取最具有代表性的内容進行項目實踐。
依圖科技CTO 新加坡工程院院士 IEEE Fellow 顔水成:
深度學習,特别是卷積神經網絡,在過去幾年極大地推進了計算機視覺各方向在學術界和工業界的發展,熟練掌握深度學習模型的設計思想對于相關技術人員更好地完成計算機視覺的各類任務至關重要。本書作者基于自身豐富的實踐經驗,對目前深層卷積神經網絡模型的發展脈絡做了詳細的總結。跟随作者的指引,讀者既能進行全面的理論學習,也能深度體驗相關實踐。
新智元創始人、CEO 楊靜:
深度學習将人工智能浪潮推上新巅峰,模型設計的疊代速度和複雜程度比以往更甚。言有三用在深度學習領域豐富的專業知識和從業經驗填補了業界深度學習模型設計類圖書的空白。本書可以帶領從業者詳細了解深度學習尤其是卷積神經網絡模型架構的演變和其中核心的設計技術,知識體系完善,理論和實踐兼具,為相關的教學和開發實戰提供了參考。
中國科學院半導體研究所研究員 魯華祥:
本書是一位在深度學習與計算機視覺領域工作多年的有為青年根據自身經曆和經驗,以理論結合案例的形式系統闡述深度學習模型,尤其是卷積神經網絡模型發展曆程的好書。本書内容非常完整、專業,值得認真閱讀、學習。
知識星球CEO 吳魯加:
言有三擁有豐富的深度學習領域從業經驗,并組建了高品質的有三AI公衆号和有三AI知識星球學習社群。本書非常詳細地介紹了卷積神經網絡模型架構的演變,理論和實踐價值很高,并且相關内容會在有三AI知識星球中持續更新,值得相關從業人員學習和參考。
本書不足
當然由于水準和時間有限,本書也有一些不足之處。
(1) 内容未必最全。本書主講通用的深度學習模型設計思想,由于篇幅限制,無法對每一個研究方向都進行詳細地介紹,感興趣的可以移步有三AI知識星球中的各大闆塊進行學習。
另外關于模型優化和壓縮的内容沒有收錄全面,這會在我的下一本《深度學習模型優化》中詳細講解,想提前學習可以參加有三AI秋季劃模型優化組,先睹為快。
(2) 本書力求充分講解原理和實踐,成為适合該學科教學的教材,但是并沒有設定相關課後習題,讀者還需多讀多思考。
緻謝
書籍創作需要集齊衆人之力,特此集中進行緻謝:
感謝米俊萍編輯對有三AI的認可和發掘,以及在全書的成稿中反複作出的修改和校訂工作。
感謝電子工業出版社出版此書,為普及知識作出的貢獻。
感謝我的衣食父母,有三AI季劃和有三AI知識星球付費成員,讓我在寫書的同時不需要流落街頭。
感謝四位行業大咖對有三的信任和背書推薦。
感謝未來的老婆,讓為夫得以心境清明地寫完了本書。