智東西（公衆号：zhidxcom）
作者 | 心緣
編輯 | 漠影
2021年11月，嘉楠科技公布第三季度最新财報，此時距離它作為“中國自主知識産權AI晶片在美上市第一股”登陸納斯達克，已過去整整兩年。
在新冠疫情等黑天鵝事件影響全球半導體供應鍊動蕩的背景下，嘉楠科技的業績逆勢爆發，最新一季營收逾13億元，同比增長超700%。
嘉楠科技創始人、董事長、CEO張楠赓總結這一年，嘉楠的業績已經是“出乎意料的好”，在業界橫向比較、縱向比較都是如此。
這位早期區塊鍊圈子裡的神秘大佬，曾憑“NG Zhang”的名号曾響徹區塊鍊江湖，過去15年，他一直在折騰：
22歲到航天科工集團做技術員，25歲讀晶片設計研究所學生參與龍芯項目，27歲在讀博期間結緣比特币，30歲創業并傳遞全球首款區塊鍊ASIC晶片，36歲站上納斯達克敲鐘……
在區塊鍊領域揚名立萬後，如今，張楠赓正帶領嘉楠科技全速發展其第二增長引擎——AI晶片。
知名市場研究機構Gartner的資料顯示，全球AI晶片市場規模有望在2021年達343億美元，2025年将逾700億美元。目前，該晶片已落地于仿生機器狗、智能門鎖、智能程式設計積木等智能硬體産品。
随着量産落地成為AI晶片的主場，在端側AI晶片耕耘五年之久的嘉楠科技，已成長為國産AI晶片商用化程序中一個極具代表性的樣本。
在嘉楠科技北京辦公室裡，張楠赓向我們講述了這些年嘉楠AI晶片打怪更新的曆程。
▲嘉楠科技創始人、董事長、CEO張楠赓
一、尋找區塊鍊之外的第二顆芯
某種程度上，張楠赓創業前的經曆，很像熱血漫畫主角的設定——前期平凡，發現新世界後被激發潛能，對戰反派，最終成功拯救世界。
2008年，25歲的張楠赓已經作為一位航天技術員工作三年，經常看動漫打發時間，如果繼續留在這裡，一眼似乎就能望到退休，他選擇作别這樣平淡的生活，傳回北航讀內建電路設計研究所學生。
接下來便是在區塊鍊圈為人津津樂道的經典故事。2010年，正在讀博的張楠赓被區塊鍊吸引，開始以“NG Zhang”的ID活躍于比特币論壇，孰料2012年6月陡生變故——美國“蝴蝶實驗室”宣稱要研發能将算力提升數倍的ASIC礦機。
可怕的是，一旦有人掌握超過半數的算力，則足以壟斷整個比特币網絡，這對于區塊鍊将造成毀滅性的打擊。
為了守護比特币的秩序，“熱血青年”張楠赓正面迎戰，發起與經典日漫Fate中最強防禦裝備同名的“阿瓦隆項目”，成功先于蝴蝶實驗室在2013年1月研制出全球首台ASIC礦機，并将第一批300台阿瓦隆礦機全部對外銷售，憑一己之力對抗可能出現的壟斷，堅守“算力去中心化”之信仰。
要知道，當時阿瓦隆礦機一天能造357個比特币，按現在的比特币價格來換算（1比特币≈5萬美元、32萬人民币），相當于日産逾1億人民币。
一時間阿瓦隆礦機洛陽紙貴，求機者絡繹不絕，NG Zhang一戰封神。
在此期間，張楠赓曾向導師提出博士休學申請，卻遭拒絕，堅信區塊鍊技術能夠改變世界的他當機立斷：退學，創業。
2013年4月1日，嘉楠科技正式成立，開始規模化生産礦機。創業早期，張楠赓下單京東所有電源插件、跑遍北京所有電子批發市場湊齊零部件，還自己充當“快遞小哥”以按時發貨……随着訂單越來越多，礦機一度被爆炒至單價二三十萬元，嘉楠科技的晶片研發也快速疊代。
張楠赓處世非常低調，在很長一段時間，人們都隻知NG Zhang，不知張楠赓。這位隐形大佬在生活中不拘小節，全身穿着不超過500元，迪卡侬、優衣庫T恤是日常标配，甚至曾穿着短褲和拖鞋去參加剪彩儀式，在人群中深藏功與名。
2015年，嘉楠科技研發出28nm工藝晶片，一腳踏進先進制程的大門。研發期間，他在桌子和床之間兩點一線，夜以繼日，累了往後一躺，醒了坐起來繼續幹，就這樣帶着團隊将嘉楠幹到了國内前十實作16nm制程晶片量産的企業。
沒有誰能永遠停留在巅峰，區塊鍊的傳奇故事已經過去，嘉楠此時也穩居礦機老二，張楠赓開始琢磨，能不能将嘉楠積累的晶片設計和量産經驗，發揮到其他晶片賽道？
人工智能，這個經過幾十年理論積累，在2016年前後突然興起的前沿技術領域，就這樣闖進張楠赓的腦海，并成為嘉楠科技接下來5年重點培育的第二增長曲線。
二、14次流片、100%成功率、明年挺進3nm，嘉楠如何踩準AI晶片風口？
在AlphaGo擊敗世界圍棋冠軍李世石、令人工智能名聲大噪的2016年，嘉楠科技基于RISC-V的AI晶片業務正式啟航。
張楠赓将嘉楠定位為一家晶片設計公司。“當時覺得一個産品基本上做到某一個程度以後，橫向擴充其他産品，這就是水到渠成的事。”他也考慮過手機、基因測序等晶片方向，最終更傾向于“做最後量會比較大的行業”。
至于為何選擇研發端側AI晶片，張楠赓說：“這其實是出于我個人的性格原因。我選擇做什麼東西的話，它是有一些原則的，就是說我們做的東西它一定是有兩個選項，一個是要提升社會運作效率和改善人類生活方式，這也是公司的願景，另一個就是要能盈利。”與其做成熟行業的追随者，他更想做新興市場的探路人。
而端側AI晶片，正是一個還未被建立秩序的新賽道，沒有主導行業的公司，沒有主流産品，更重要的是，望向未來5年，AI晶片行業方興未艾，相比成熟晶片行業，這裡向創業者敞開了更大的機會空間。
就這樣，嘉楠科技成為一家區塊鍊晶片和AI晶片兩條腿走路的公司。
張楠赓相信科技發展速度會短期被高估，長期被低估。在他看來，做晶片最關鍵的困難，是可能5年都不見得能盈利。而最終使用者對體驗的要求越來越高，需要投入資源、錢和時間去研發，隻有實作遠超起初設定的産品性能、成本效益，才能獲得消費者的認可。
這使得嘉楠在區塊鍊晶片領域長期的沉澱，得以轉換成其AI晶片業務的優勢。
一方面，張楠赓認為一家健康的晶片公司，需要有掙錢的業務、有晶片相關技術的積累。嘉楠自家的區塊鍊業務足以持續造血，不依賴融資便可支撐其AI晶片業務的穩定前進。
财報顯示，嘉楠科技2021财年第三季度總營收13.2億元，同比增長708.2%，淨利潤4.72億元，這也是其上市以來的最好成績。在去年前三個季度，其研發投入超過2億元。
另一方面，區塊鍊晶片與端側AI晶片的設計理念有共通之處，均屬計算密集型，對成本、功耗和性能有極緻要求，追逐更先進的制程工藝。而嘉楠在量産先進制程工藝晶片方面有深厚的積累。
“區塊鍊計算晶片在技術上有一些應用特點，現在來看的話，它實際上挖的是比較深的，”張楠赓說，“在和計算相關的特定領域，還有工藝制程上等等，像做的比較好的區塊鍊計算晶片，走到後面都是一樣的，都是在優化以上這些東西，是以我覺得底層技術的話完全可以共享。”
在先進制程方面，嘉楠一直走在市場前列：2015年實作28nm，2016年實作16nm，2018年成為台積電首批7nm戰略合作夥伴、推出并量産首款7nm ASIC晶片……目前嘉楠已實作5nm定制單元和模拟IP的開發，明年将啟動3nm研發。
截至2020年12月31日，嘉楠共完成14次ASIC晶片流片、保持100%成功率。
在這背後，嘉楠組建了一支能自主實作先進制程晶片前端邏輯和後端實體設計、覆寫完整的封裝、散熱和量産工藝的成熟研發團隊，是區塊鍊計算領域唯一踐行多晶圓廠政策的廠商。
不同于多數Fabless公司，嘉楠擁有定制電路子產品設計團隊及從事實體IP設計的團隊，并擁有針對先進工藝設計的FinFET工藝和設計團隊，在近門檻值電路工藝和設計領域積累了大量工程經驗。
嘉楠建立了從FinFET SPICE仿真設計到post-Si矽後驗證的完整流程，業務能力覆寫前後端和晶片量産的所有環節。以SoC設計為主線，嘉楠科技的晶片研發流程貫穿指令集架構、自研IP核、算法預研和系統內建，以及後端的實體實作和營運工程，最終實作晶片量産和傳遞。
三、自研創新計算資料流技術，計算效率翻倍提升
創業是一場沒有颠簸就不精彩的冒險，選擇率先嘗試，必然要經曆摸着石頭過河的過程。
2018年9月，嘉楠釋出首款搭載RISC-V架構CPU和自研KPU的邊緣AI晶片勘智K210，這是全球最早量産的RISC-V架構商用邊緣AI晶片。
在張楠赓拍闆确定用RISC-V開源核心時，RISC-V還是個冷門而小衆的技術領域，直到勘智K210推出那年，它才作為有望與x86、Arm齊肩的第三大指令集架構，開始在國内晶片産業聲名鵲起。
張楠赓說，為驗證概念正确性而生的勘智K210，當時投入的資金、人力其實很少。這兩年又遇到行業産能受限的影響，即便這樣，它依然得到了市場的認可。
據他回憶，剛開始推廣的過程“非常艱險”。一方面，勘智K210推出時，軟體适配基本上處于一片空白的狀态；另一方面，怎麼賣、賣給誰等問題令嘉楠團隊焦頭爛額，許多客戶并不清楚AI晶片到底有什麼用。
之後兩年間，嘉楠重點實作軟體和算法方面的進步，并開發了一系列概念驗證産品（POC），将晶片手冊放到開發者社群推廣，讓客戶能通過測試直覺感受到嘉楠AI晶片的實際性能。同時，客戶可以直接在嘉楠的網店或百度AI市場等管道中買到其AI晶片。
張楠赓談到困難時坦言：“我們現在更多的精力其實是在圍着客戶轉，而且這個圍着客戶轉的還非常複雜，不是說你告訴我就是說你需要跑一些什麼具體的東西，然後我就去實作它，這樣作為工程實作就結束了。現在更多的還是要我們必須去關注使用者具體的應用場景和産品，然後從這個出發再重新走整個産品低端的整合的過程，然後才能到晶片。”
“現在晶片軟體硬體結合得太緊密了，需要密切合作的客戶去看他的場景，是以并沒有一個‘晶片賣的特别好，然後所有的東西都很完美，市場上其他家照着對标它就做差不多東西就行了’的這樣一個東西。”
越早落地，也就意味着越早接觸和磨合使用者的實際需求。勘智K210收集到的使用者回報，被彙內建經驗，融入新一代端側AI晶片勘智K510中。
▲張楠赓在2021年世界人工智能大會上展示勘智510晶片
勘智K510于2021年7月釋出，主要面向中高端視覺推理市場，搭載了自研RISC-V CPU核心及第二代專用神經網絡加速器IP核KPU2.0，并在總線架構、存儲空間和視覺子系統等方面進行更新。
得益于嘉楠自研的計算資料流技術，KPU2.0的計算效率大幅提升，達到2.5TFLOPS/2.5TOPS，分别支援INT8和BF16資料精度運算。相比之下，此前KPU1.0的浮點數運算能力為1.08TFLOPS。
計算資料流技術的創新在于對3D PE計算陣列和GLB局部訪存技術的結合，及多級存儲的使用。
傳統的PE計算陣列通常是2D的，而KPU2.0搭載了動态3D PE計算陣列，可以動态開啟或關閉每一個2D陣列，根據神經網絡中不同層級的帶寬、計算和存儲需求進行調整，提高資料的複用率，并降低晶片功耗。
KPU2.0通過可配置的SRAM陣列實作GLB（Global Local Buffer）設計，能滿足不同資料類型在不同層級的帶寬和存儲需求，提升内部RAM的使用率。
張楠赓解釋道：“神經網絡相關計算的話，第一計算特别密集，第二資料特别大，量特别大，資料傳輸的時間開銷和能耗超過了計算本身的開銷，這是特别大的浪費“。
他認為，主要的解決方案是通過做多級的緩存和存儲結構，讓頻繁使用的資料靠近計算單元。模型就擺在那，是以主要問題還是做計算、存儲和帶寬的平衡，盡量減少資料的讀取是最基本，也是最重要的。
與此同時，從區塊鍊晶片到AI晶片，張楠赓都堅持開源的理念。在他看來，無論是開源軟體或硬體，較大發展的背後都有一些企業在做無償貢獻。“我們也希望我們是開放性最好的一個平台。”他相信，這将為嘉楠的長期發展帶來優勢。
▲嘉楠開發者社群
四、端側AI晶片落地機器人、智能門鎖，新一代明年投片
市場調研資料映證了張楠赓5年前的判斷。
根據市場咨詢公司ABI Research的報告，預計到2025年，邊緣AI晶片市場的收入将達到122億美元，超過收入為119億美元的雲端AI晶片市場。
随着商業模式逐漸打磨成形，嘉楠科技的AI晶片商用落地開始加速。
第一代勘智K210晶片是單晶片方案，設計簡潔，整體成本較低，像RISC-V的官方手冊拿來即可使用，功能和成本都特别适合做開發，是以在教育領域受到歡迎。
例如，在AI STEAM教育領域，嘉楠的合作夥伴有國内機器人獨角獸企業優必選、明星機器狗創企陸吾智能等。優必選的智能程式設計積木Ukit2.0、陸吾智能的最新桌面級四足機器人XGO-mini均搭載了勘智K210晶片。
▲陸吾智能仿生四足機器狗XGO-mini
在高校教研方面，依托RISC-V開源架構晶片優勢，嘉楠科技作為2021全國計算機系統設計大賽唯一技術支援方，為大賽提供K210晶片及開發闆，并為參賽隊伍提供技術教育訓練支援。去年，K210晶片進入上海交大大學生創新中心的開源硬體實戰課程。
此外，勘智K210及K510在智能家居、AI STEAM智能硬體、智能門禁等場景均有一些成功落地項目。
在智能家居領域，嘉楠科技與廣州昂寶電子合作，其智能人臉貓眼門鎖、智能人臉聯網門鎖、4G路由器和迎賓機器人等多款産品均搭載了勘智AI晶片。
在海外市場方面，嘉楠科技在疫情期間與美國傳感器廠商VergeSense合作，研發基于AI晶片的智能傳感器，用于辦公區域特定人流量及社交距離檢測，依據人流密集程度進行告警。面向日本市場，嘉楠科技與日本老牌物聯網廠商Cathay Tri-Tech合作，推動勘智AI晶片及人臉識别模組在日本市場的推廣和銷售。
▲Cathay Tri-Tech網站
據張楠赓分享，嘉楠科技目前的AI晶片産品按算力分為三類，1TOPS級别主打輕量化，4~8TOPS面向較高端的端側市場，更高算力則主要應用于一些更複雜的邊緣場景。
目前嘉楠AI晶片的疊代周期為每兩年一大代，繼去年推出勘智K510後，其最新的K230晶片研發工作正在穩步推進，拟明年下半年投片。接下來，嘉楠科技可能會往強邊緣AI晶片發展，這類晶片性能跟雲端有一拼，但不會用在伺服器。
他還透露了嘉楠AI晶片下一步重點發力的方向：一是提高計算效率，支援更多不同的算法和網絡結構，二是優化全局緩存，三是維持整體成本基本不變，可能實作售價的進一步下調。
接下來，張楠赓計劃大幅擴張軟體團隊。為了引入更多客戶、持續優化體驗，他也考慮之後向為客戶提供定制化的方向發展，傳遞一些品質達到商用demo級的AI模型或功能。
結語：未來兩三年，端側AI晶片将加速發展
創業8年，從曾經的“二次元“少年成長為一家上市公司的董事長，現年38歲的張楠赓已經沒有時間再去追番。
聊起創業這些年的變化，張楠赓很是感慨：“創業這個事的話，還是不要着急。這跟想好的不一樣。”可能大家原本想做一家并不太大的公司，但慢慢地，企業發展就不見得全由你來決定，企業是順勢而為，勢到哪裡，它就要往哪個方向發展。
“後面能力越大，責任越大，尤其是像我這種責任感比較強的人，可能比較累。”他談道，現在嘉楠仍處于創業公司的狀态，因為行業變化太快了，有太多東西要去處理。“有人說，7年人就會更新一遍，我已經不是那個我了。”
回顧嘉楠推進AI晶片的5年，AI産業變了太多，新技術、應用層出不窮，市場也進一步擴容。盡管可以看到曆代端側AI晶片産品之間明顯的代差，但令他不太開心的是，包括嘉楠在内，整個行業還沒有達到讓大多數客戶非常滿意的程度。
用張楠赓的話講：“目前一些晶片在市場上是不成功的，這并不是說你無法戰勝競争對手，而是你沒有辦法得到消費者的認可。是以其實是一個對我對整個行業來說，其實要求都越來越高了。”反過來，他也認為這是好事，說明大家是有需求的，隻是需要更好的産品。
“市場還沒有打開，是現在最大的一個問題。”他覺得，現在應該更多地去總結過去5年大家做的事情，思考和判斷為什麼有些規劃沒有達到預期，然後以一個重新出發的心态，繼續前進。
他相信未來兩三年間，端側AI晶片将呈加速發展之勢，性能會大踏步地往上走，大家應該能看到很不錯的産品。“之前可能更多是披星戴月地在市場中摸索的一個狀态”，張楠赓說，“但現在還是能看到一些曙光，産品确實越來越好了。”