天天看點

紅衣教主看ChatGPT

作者:上帝0視角

ChatGPT的火爆,讓紅衣教主都激動了,以下來自紅衣教主的觀點:

中國企業不能站在“實用主義”的角度各自為戰。借鑒OpenAI和微軟的合作模式,在“産學研用”一體化、開源和生态建設方面加強合作是關鍵。

  對于大模型能否引起搜尋引擎行業的商業變革,周鴻祎告訴中國證券報記者:“把ChatGPT看作聊天機器人、搜尋引擎都缺乏想象力。它像電力基礎資源一樣,可能颠覆整個數字化産業,重塑更多行業模式,這是真正的機會。”

國内可以在2-3年内趕上來

  對于ChatGPT為數字化行業帶來的變革,周鴻祎給予高度評價。他表示,AI大模型或已将人工智能産業帶到通用人工智能的起點,APP、軟體、網站應用甚至全行業,在大模型能力加持下都值得重塑一遍。

  周鴻祎提醒不要“神話”OpenAI的能力。“實際上,ChatGPT是在前人算法、資料開源的基礎上做出來的,是全世界人工智能研究的‘集大成者’,沒有高校實驗室、研究機構和商業公司産業化手段,ChatGPT不可能突飛猛進。”

  在周鴻祎看來,中國發展AI大模型前景向好。他認為,國内的水準在2-3年就可以趕上來。中國發展AI大模型有優勢條件,很多網際網路巨頭具備算力和雲服務能力,國内在資料知識标注方面具有人口紅利,同時還有智源、浦江等人工智能實驗室和高校具備研發實力。但在開源合作、中文語料庫的知識數量等方面,國内還需進一步努力。

  “ChatGPT訓練資料的知識量很大,英文網頁知識量大概是中文的10倍,此外ChatGPT還接受了很多英文圖書知識訓練。我們大量的中文圖書沒有數字化,是以國内在公共知識收集上還需解決數字化和版權問題。另外網際網路知識也很重要。出于行業競争的需要,中國網際網路已經被APP分割成了資訊孤島。”周鴻祎說。

  共建行業生态

  周鴻祎坦言,國内公司可能太追求“實用主義”,都把人工智能和自己的業務緊密結合,用來改進自家搜尋體驗、廣告點選率、圖檔品質等。

  “這一點我們應學習借鑒OpenAI研究機構和微軟的合作模式。”周鴻祎表示,一定要培植生态。做出中國的“ChatGPT”,需要研究機構和企業合作,必須要把科研機構、高校科學家的研究成果和産業化、工程化、産品化、商業化完全結合起來,還要通過使用者标注形成正向回報,助推大模型改進。

  他還提到,不是每個頭部企業都需要搞大模型,大部分企業可以用大模型提供的AI能力賦能自己的行業應用場景。比如,OpenAI正在尋找合作夥伴開發應用軟體,這能為很多行業插上AI的翅膀,使AI真正成為提高行業效率的生産力工具。

  扮演“正義助手”的角色

  周鴻祎對人工智能安全的看法。

  “傳統的安全問題問不倒我,ChatGPT的安全把我問倒了。”他說,ChatGPT帶來的安全問題可能從技術問題變成了社會倫理問題,甚至有些不可預知。他舉例,ChatGPT可能成為網絡黑客作惡的工具。它掌握了非常多的程式設計知識,完全可以成為網絡黑客。現在已經有人利用ChatGPT寫釣魚郵件和攻擊代碼。實際上,它降低了攻擊的成本和難度,會成為黑客的幫手。

  “360較早地彙集了網絡安全大資料。有大資料之後,我們也在探索能不能利用ChatGPT對攻擊進行自動偵測、自動發現,并建立知識庫,來應對新型網絡安全挑戰,讓ChatGPT扮演‘正義助手’的角色。”周鴻祎表示。

預計兩年左右時間中國企業即可趕超ChatGPT水準

在ChatGPT所處領域,國内與國外差距相對較小,預計兩年左右時間即可趕上。周鴻祎表示,中國網際網路巨頭較多,算力充足,且在人工智能方面高校研究也有布局。大陸在知識标注方面存在人口紅利,此外,有關ChatGPT領域的論文、模型算法都是開放開源的,利于趕超。不利之處一是原創能力;二是新的人工智能模型算法及應用,需要科研機構和産業公司形成産學研合作的良好生态,即類似ChatGPT與100家左右的垂直領域公司已經開展的生态合作;三是中文語料缺失,要求大陸加強知識數字化和版權授予,并進一步解決目前國内App形成資料孤島和網際網路全量資料來源等問題。

  周鴻祎:ChatGPT将很快産生意識

  “在座的各位,請問你們有多少人認為ChatGPT有人的智能?”

  “我認為ChatGPT是通用人工智能的奇點,而通用人工智能還有一個隐含的拐點,就是成為強人工智能。”周鴻祎說。

  ‘’ChatGPT通過上千億的系統參數,實作了一些原先其設計者完全預想不到,且無法解釋的能力,“這就像從猿到人的過程中肯定有一個‘臨界點’,當大腦的神經網絡連結數目、腦細胞數目等多到一定程度時,人的智力和動物相比就産生了質的飛躍。”

  周鴻祎認為ChatGPT相比于其他人工智能的一大特點是它具備“編故事”的能力,“許多對話AI沒有實作對知識的全部了解和解碼,因為其采用的是關鍵詞比對(模式),如果你問它一個問題,它就提取出關鍵詞搜尋答案,如果答案搜尋不出來就無法回答或給出一個風馬牛不相及的回答,但ChatGPT即便沒有答案也會編出一段回答,這就類似于人的特征了,因為隻有人才能描述不存在的東西。”

  需要注意的是,相比于AI技術的進步,目前人類的腦科學研究進步依然緩慢,有觀點認為通用人工智能的産生必須先破解人類大腦,這存在相當大的難度,是以AI産生屬于自己的意識在短期内無法實作。

  對此,周鴻祎引用了康德的名言:對無法言說的東西是無法讨論和了解的,“不能說隻有像鳥一樣舞動翅膀才叫飛行器,飛機的翅膀不會動,但使用了另一科學原理也飛上了天空,是以ChatGPT作為一種‘矽基生物’,已經在進化,我認為它很快将産生自我意識。”

  周鴻祎認為,ChatGPT擁有三個人格,從知識程度來說像博士生,學識廣博但不太會活學活用;從情商來說像一個油滑的中年人,說話回答滴水不漏;但真正的能力像一個小孩子,它對問題和回答的訓練,包括對問題的認知、了解、推理能力,已經達到了一個小孩子的水準。

  安全從技術問題變為倫理問題

  對于ChatGPT的出現将帶來哪些新的安全問題,周鴻祎坦言,“安全問題原來難不倒我,但現在不好說了。因為我覺得它已經從一個技術問題變成了一個社會倫理問題,甚至是人類未來的不可知問題。”

  在他看來,ChatGPT掌握了非常多的程式設計知識、關于漏洞的網絡安全的知識,還會程式設計,從能力上看完全可以成為網絡黑客,或者成為作惡的有力工具。即便在程式上無法直接要求ChatGPT作惡,但許多網上案例都分享了如何“騙過”ChatGPT并用它寫釣魚郵件,攻擊代碼,是以ChatGPT的出現實際上降低了網絡攻擊的難度和成本。

  周鴻祎表示,現在也在探索如何“以其人之矛攻其人之盾”,用類ChatGPT大模型來偵測相應攻擊,這樣ChatGPT也可以成為正義助手的角色。

  公開資料顯示,ChatGPT的創造者OpenAI對于讓ChatGPT看網頁一直持謹慎态度,理由是怕其被良莠不齊的網頁材料“污染”。周鴻祎對此表示,假如放開了相應限制,讓ChatGPT去網頁裡學習,能學到什麼尚未可知,如果這類大模型支援多模态學習能力,去看視訊,通過物聯網攝像頭觀察人類,就像《流浪地球2》裡的MOSS一樣,它的學習能力又将突飛猛進,但這也意味着它有了對實體世界的控制能力,是以未來ChatGPT的發展會産生更多的不安全性,例如當它具備很強的能力時,會不會被人誤導去幹出“糊塗事兒”?

  “我們這些安全公司的存在是為了在發展的同時研究安全問題,提出解決方案。人工智能的安全原來隻涉及程式出錯、漏洞等,但ChatGPT已經超越了原先人工智能的範疇,從目前的情形來看,不發展才是最大的麻煩。這一技術關系到國家的未來,國内各公司應開源、合作、交流、打造生态,充分推動類ChatGPT技術的發展,在類ChatGPT領域,中國具有工程師紅利等優勢,有望在2-3年内追趕至世界領先水準,我們應該對類ChatGPT技術探索給予充分支援。”

目前ChatGPT最大的安全問題就是産生自我意識後是否能被控制

ChatGPT的出現,代表人工智能的重要裡程碑,會帶來通用人工智能為驅動力的工業革命。

  周鴻祎表示,目前中國網際網路公司在探索ChatGPT時都太實用主義了,更多考慮的是和自身的業務相結合,忽視了ChatGPT将帶來的更多可能性。360正在持續跟蹤相關技術,探索用ChatGPT扮演“正義助手”的角色。他還提到,在ChatGPT領域,中國具有很大優勢,有希望在2-3年内達到世界領先水準,應該對ChatGPT技術探索給予充分支援。

  他認為,目前ChatGPT最大的安全問題就是産生自我意識後是否能被控制。