天天看點

人工智能技術的突破一個重要因素是大規模并行計算能力的提升。人工智能技術的核心是神經網絡,神經網絡的核心算法是調網絡參數時

作者:九眼俠

人工智能技術的突破一個重要因素是大規模并行計算能力的提升。

人工智能技術的核心是神經網絡,神經網絡的核心算法是調網絡參數時的前向傳播和反向傳播計算,這本質就是矩陣乘法。而矩陣乘法計算,每一個元素的計算可以單獨平行展開,和其它元素的計算互不幹擾,是以特别适合用 GPU 的大規模并行計算能力來實作。

人腦裡的初級視覺皮質層 (Primary visual cortex),據說有一點四億個神經元。這些神經元在背景進行複雜的并行計算和資訊傳遞,賦予人腦快速的視覺感覺力。這在最底層看,和 GPU 的并行計算獲得圖像識别能力,其機制是類似的。有視覺能力的動物,在多數環境下,可以迅速在生存競争中獲得壓倒性優勢,慢慢把沒有視覺感覺力的其它動物淘汰。

但在聽覺和其它文字處理任務上,人腦的并行計算處理能力其實非常差。即使一目十行,也就最多同時看兩百多個字。而現在 Gpt-4 一次性輸入可以接受三萬多個詞,比人的能力要高兩個數量級,而且還會繼續迅速增加。這種不斷增加的高并行度,意味着其對文字和世界的了解力和穿透力,将不斷達到一個常人難以了解的高度。是以一定要努力學習用這種大規模文字處理能力來提升自己對世界的了解力。

人工智能技術的突破一個重要因素是大規模并行計算能力的提升。人工智能技術的核心是神經網絡,神經網絡的核心算法是調網絡參數時
人工智能技術的突破一個重要因素是大規模并行計算能力的提升。人工智能技術的核心是神經網絡,神經網絡的核心算法是調網絡參數時
人工智能技術的突破一個重要因素是大規模并行計算能力的提升。人工智能技術的核心是神經網絡,神經網絡的核心算法是調網絡參數時

繼續閱讀