天天看點

矽谷大神Reid Hoffman最新訪談:AI取代不了人,懂AI的人更具競争力

作者:華爾街見聞

人工智能的未來是什麼?4月3日,在哥倫比亞大學新推出的傑出演講者( Distinguished Speaker)系列活動上,LinkedIn聯合創始人裡德·霍夫曼(Reid Hoffman)與哥大商學院院長考斯蒂斯·麥克洛裡斯(Costis McCloris)共同探讨了人工智能和數字經濟的未來圖景。Hoffman是美國著名的網際網路企業家和風投家,聯合創立了職業社交網站LinkedIn的,還是PayPal的創始董事會成員,此外,Hoffman還是矽谷著名風險投資公司Greylock Partners的合夥人,投資了Facebook、Airbnb、Zynga等知名科技公司,被譽為“矽谷最成功的天使投資人之一”。在這場爐邊談話中,Hoffman提到了AI技術的發展前景以及發展過程中可能會遇到的問題,作為一名資深風投家,他還闡釋了自己的投資理念以及對AI投資風潮的看法。Hoffman表示,未來,AI不會取代人類,反而是擁有AI技能的人在就業市場上更會被優先考慮,随着AI技術的進步,在終端裝置部署小模型的需求會逐漸增加,最終呈現多種模型在不同領域共同部署的樣态。核心觀點如下:1.大規模應用計算的能力會持續增長,一些功能甚至呈指數級增長。2.開源軟體具有很大價值,類似于公開和開放的科學,但要保持謹慎使用的立場。3.在需求驅動下,未來大模型和小模型将共存。4.未來幾年内,對英偉達晶片的需求将繼續旺盛。5.資料的基礎上進行AI訓練是對技術的公平使用,比起資料所有權,更重要的是讓AI惠及全人類。6.核聚變和核裂變是應對氣候問題的關鍵。7.技術的公益性很重要,這也是尚未得到解決的問題。8.AI不會取代人類,反而是擁有AI技能的人更具競争力。9.AI非常可能帶來産業轉型,但速度上可能會很緩慢。10.在管理領域,軟技能可能是最核心的能力,比如保持永遠在學習的狀态。以下為訪談全文:

開場詞:

大家晚上好。我是史蒂芬·邁耶,我是商學院的詹姆斯·P·政府商業教授,我很高興今天歡迎大家參加這場關于塑造未來的人工智能和數字經濟的爐邊談話。這是一個新的演講系列的一部分,這個獨特的演講系列應該為商業領袖提供一個平台,分享他們的見解以及如何設定和實施非常雄心勃勃的目标,以及如何激勵創新。沒有比裡德·霍夫曼更合适的人來開啟我們的講座了。

是以我非常榮幸歡迎并介紹我們的兩位嘉賓,裡德·霍夫曼,LinkedIn和Inflection AI的聯合創始人,以及Graylock合夥人和科斯蒂斯·麥克萊爾,哥倫比亞商學院的院長。

能有你在這裡真是太棒了,裡德。他說我應該把他介紹為一個人,我稍微展開一點。是以他被稱為矽谷人脈最廣的人。我确信他可能也是最忙碌的人之一。是以感謝你來到這裡。他顯然是一位非常成功的企業家和高管,在建立LinkedIn和Paypal等領先的消費品牌方面發揮了重要作用。作為一名投資人,他在許多公司,如Facebook和Airbnb中扮演了關鍵角色。他還不僅僅寫了一本,而是五本暢銷書,盡管他的最後一本是與一個非常強大的合作者GPT-4共同創作的。我相信他們讨論了這是否算作作弊還是聰明的行為。他不僅參與了商業活動,還參與了許多慈善事業,并是以獲得了許多獎項。對我來說最了不起的是,他獲得了英格蘭女王授予的英帝國榮譽指揮官獎項。我認為這非常酷。以及馬丁·路德·金中心頒發的偉大緻敬獎。

歡迎裡德來到哥倫比亞商學院。他将與科斯蒂斯·麥克萊爾進行讨論。他是哥倫比亞商學院的第16任院長,并且是大衛和琳·塞爾夫商業教授。他是從電氣工程師轉變為商學教授,再轉變為商學院院長。在他的上司下,我認為學校發生了相當大的轉變,尤其是在引領和特别是在教育中擁抱技術方面。鑒于他的願景,他對我們項目的戳認證,推出MBA/MS工程雙學位以及許多其他舉措起到了關鍵作用,包括數字未來倡議,這是我非常關心的,因為我是其中的一名教員聯合主任,它是在這裡共同贊助的。

這是我們商學院的新智庫。它的目标是通過數字化轉型的下一個世紀來準備幫助組織、政府和社群了解并從目前和未來的數字化中受益。是以,我非常期待我們即将進行的讨論。進一步介紹之前,讓我們歡迎裡德·霍夫曼來到哥倫比亞商學院,并将話筒交給邁克卡爾斯院長。好的。

問:

謝謝斯蒂芬。那是一個簡短的介紹。它可以更短,但是是的,非常感謝。

我在思考這場對話,并意識到它可能會走向許多不同的方向。我們可以談論早期網際網路和Paypal時期。我們可以談論建立LinkedIn這樣最成功的社交網絡之一。我們可以談論作為風險投資家在灣區的令人難以置信的職業生涯,但我認為我們現在應該談談AI。特别是因為你實際上已經參與了投資、創立公司、向政府提供建議,你知道,總之就是在那個領域。我認為讨論這個并聽聽你的想法會很棒。

現在,我們之前進行了一點小交流,你使用了“認知超能力”這個詞。是以我想問你的第一個問題就是為我們概述這些AI的能力的驚人增長,從你的角度來看,你認為我們會怎樣發展?然後我們再繼續。

答:

從根本上來說,我認為我們正在做的是創造一種認知工業革命,就像心靈的蒸汽機一樣。蒸汽引擎使實體事物變得更強大,開啟了工業革命,允許運輸和物流。我現在就是在做制造。這是那樣的。

但在認知和語言特征方面,觸發它的算法已經被了解了幾十年。但這是一個規模計算的事情。是以,它是事實,您可以應用數千、數萬個計算單元、GPU,它改變了它們的建構範式,從程式設計它們到它們學習。這是為什麼你有資料和所有其他東西的部分原因。

我們仍然非常早期的階段,因為這些AI、這些代理、這些模型已經學到了一些非常有趣的事情,當他們才剛剛開始了解資料交易範式、計算規模等之間的關系。

但例如,GPT-4已經給了我們超能力。我确信我們可以找到大約20到30個人可能能做到這一點。當你說,我想要那個,加上它與海洋學的相似之處,不需要任何人,GPT-4可以做到。

現在,做這個的想法,某種程度上,是當你使用這些裝置時,你得到了什麼。是以,例如,在教育背景下,你說,為我寫一篇關于商業政策的聰明随筆,不太可能那麼好。我的意思是,它會是連貫的。

如果你說,我想了解資料和制造業的交集将如何在某些全球供應鍊中區分通用和特定機器人,假設這些材料變得更昂貴,那些材料變得更便宜,可能會得到一些更好的東西。而且它在這些運作中仍然很有用。這就是我所說的認知超能力。

像我在寫這本書時意識到的一件事是,我們的思考模式正在發生變化,随着我們學會變得深思熟慮,我們的思考模式将更像是一場電子遊戲。因為與其長時間散步試圖得到那個偉大的想法,不如坐下來開始敲擊,并說,好吧,這是一個提示。那不是很有趣,但這裡是另一個。

我認為我們将擁有更多這種疊代過程中更好的方式思考和推理的能力。顯然,将會有很多不同種類的超能力。因為,例如,我有非常有限的藝術能力。但如果我有一個想法并且可以描述它,我可以去DALL-E或Midjourney并開始獲得東,在這些領域也有所擴充了。是以,如果我想為我的朋友的生日制作一張卡片,并想做一些特定的事情,并且有一個視覺想法。這是另一種形式的超能力。這些隻是對所有事物的姿态的開始。

我認為我們對語言所做的任何事情都是開始放大的最小值。

問:

當你考慮變化的速度時,回想一下,我的意思是,你提到的許多事情都已經被人們知道了很長時間。

在過去的10年裡,我們開始基本上在大規模應用計算。資料是我們在過去的10年裡開始大規模應用的。Transformer大約7年前被發明。但是在某種意義上,我們已經看到了能力的戲劇性增加。你看到這種趨勢繼續下去嗎?

答:

所有的指數曲線最終都會變成S曲線。但我認為它肯定會在接下來的幾年甚至更長時間内繼續下去。任何聲稱他們确定知道它将在幾年後繼續下去的人,它肯定會發生。但是,你知道,所有這些事情最終都會發生。

S曲線的一部分,我認為有些人會犯的錯誤之一,就是他們會認為三年後就會變得超級聰明,他們會問,你能得到這條能力的S曲線嗎?這是由更大規模的計算驅動的嗎?他們會說,這就是智商曲線。但這并不完全是一條智商曲線。你所做的推論、判斷實際上并不是同一件事。現在,一些功能正在呈指數級增長。但這與智商并不是一回事。

問:

你坐在一個有利的位置,投資整個AI生态系統的全局。你對開源與專有模型或類似事物的看法如何?我們如何加速成長,使其可能更普及,你對此有何看法?

答:

是以我在LinkedIn的Mozilla董事會工作了将近11年,我們開源了許多不同的東西。我通常認為開源各種軟體具有很大的價值,類似于公開和開放的科學。這些模型具有很多功能。其中一個問題是将模型開源,使其普遍可用,它們将把功能交給每個人的手中。現在如果你說,嘿,我們可以開源它們,它隻會是學術機構,隻會是企業家,隻會是政府。但開源的問題是,一旦模型從酒吧出來,就在那兒了,無限存在。就像我們看到的一樣,這些各種開源模型被用于生成内容,試圖擾亂我們的資訊系統。而且這是我們需要反對的事情。現在,我認為我們也可以用AI來幫助這個。

但我對開源這些模型持更謹慎的态度的原因是,它也會放大壞人。好吧。如果那些人有一個開源的web浏覽器,他們沒什麼特别的可以做到的。一個開源資料庫,同樣,沒什麼特别的可以做到的。這些模型給了他們超能力,可能更有害。

問:

我們已經通過分享一些模型,充分開源了嗎。

答:

是以一些用例,像大規模的政治錯誤資訊。是的,目前的開源模型可以做到這一點。其中一些,比如我們看到增加的,并且會繼續看到增加的網絡攻擊,因為釣魚等等,類似于錯誤資訊。然後一些其他領域。我認為到目前為止,我們沒有延伸線,如生物恐怖主義等。但是如果你隻是繼續開源一切東西,那就會到達那裡,就無法控制這些負面案例了。而且有些是嚴重的。是以到目前為止,是存在一些問題,但沒有五級火警。但是如果你不小心,我們會很快達到五級火警。

問:

好吧,讓我換個話題。我們已經走上了你之前提到的大規模計算,大規模模型的道路,基本上建立了具有通用屬性的基礎模型,然後我們在不同的應用中部署它們。但另一種觀點是,與其建構大規模通用模型,不如建構較小的針對特定應用的模型。

而且,正如你在工程領域所知道的那樣,這種情況已經發生了很長很長時間。您如何看待目前的情況?雙方都付出了很多努力,您觀察到了什麼?

答:

到目前為止,當你觀察GPT-2、3、4等,例如,你為某些案例對3進行了微調,然後發現4在大多數3已經微調過的案例中表現更佳,甚至比3.5還要好。是以,到目前為止,在能力增強方面存在一種美德,即随着模型規模的擴大,它們就會變得更加健壯、更有能力、更像是一個即時、快速、按需的研究助手。它存在一些幻覺問題,盡管他們正試圖通過搜尋等其他方式修複這個問題。這個幻覺問題永遠不會降到零,但你可能會将它降到遠低于人類标準,在這種情況下,對我們來說,這幾乎等于零或接近絕對足夠。是以,大規模模型具有驚人的能力提升。

盡管如此,你可能會有理由想要一個小型模型,并在手機上運作。它的運作成本更低。它真的隻需要做一些特定的事情,或者它有一個不同的訓練領域,在那個領域你希望它的生成性能更好,錯誤率更低。你不在乎其他所有事情。是以,這就是為什麼我認為,未來不可避免的一部分是,不僅僅是一個模型。當你建立一個智能體或你建立一個應用程式語言時,你會部署多個模型。

問:

其他協調。很好。讓我們稍微轉向硬體方面。

你提到了計算硬體,我腦海中浮現出英偉達、GPU、大型叢集。的确,我五個月前與黃仁勳進行了一次對話,當時他的公司剛剛突破了1萬億,現在他們大約是2.3萬億。

你怎麼看待某種意義上這些東西現在沒有被商品化的事實。現在看來,台積電并未因其生産這種超前沿叢集的能力而提取顯著的經濟利益,并且你認為這種情況會持續嗎?你認為硬體是這場革命的不可避免的推動者,還是随着時間的推移,會變得商品化?

答:

我認為英偉達做了很多偉大的工作。他們并不是專門為了AI或之前的加密貨币而建立GPUs的。它恰好是一個非常好的數學處理器。而這與那些案例相吻合。

我認為,這是關于資本主義、發明等一些好事情的一個方面。我認為,對英偉達來說競争是不可避免的。沒有什麼結構性地阻止這一點,對吧?做了偉大的工作,有一個偉大的團隊,有一個偉大的建築和設計文化。是以我認為,未來幾年内英偉達晶片将繼續需求旺盛。但你知道,我知道很多努力在創造替代晶片,替代方案,這是當你有市場需求時發生的事情的一部分。是以我認為,可能從現在開始一到兩年,你将開始看到一些晶片至少它們可能還不适用于訓練,但會在我們行業稱之為推理的方面有幫助,即服務于模型和結果。但我認為,我看到很多初創公司在推銷,我也看到很多大公司也在想辦法以有趣的方式做到這一點。

問:

是以你提到了訓練,你可能需要尖端技術推斷,當我訓練了模型并現在正在查詢以獲得響應時,我可能需要特殊用途的硬體,但更簡單、不同的硬體。

答:

是的。

問:

好,我想稍微轉向資料,你知道,這些系統正在攝取大量的資料,我們的資料也是如此。這裡既有是否我們正在耗盡可供它們攝取的新資料的問題?

答:

我不認為這是事實。

問:

但另一個問題是資料所有權的問題。你對此有何看法?我的意思是,你肯定從各個角度思考這個問題了,包括你知道的,所有OpenAI正在進行的事情。是以你怎麼看?

答:

是以資料是一個複雜的問題,大多數人沒有很好地思考。是以通常會有這樣的問題:例如,像你的相機被拿走了,像是這個房間裡拍了我的照片?那是你的照片嗎?那是我的照片?那是我們的照片?你知道,那種事情和資料有關,我可能簽了一些放棄聲明,那大概是你的照片,但你知道,但這是一件複雜的事情。

資料的價值是什麼?制作出來的資料的價值是什麼?是以,我對所有這些事情的第一個看法就是,當你在訓練時,就像是這些模型在閱讀,對吧?是以管理資料的規則應該是與管理閱讀相同的規則,即你是否有閱讀你所閱讀内容的合法權利。比如你是否買了書,等等。

然後,那就沒問題了,因為那是閱讀。因為版權法不阻止我買一本書或把它賣給你然後你讀它。這都是其中的一部分。它确實阻止我做的是,我買了這本書,然後我說,哦,我要重新寫這本書然後自己開始賣它,等等。是以我認為這是你希望在資料方面處于的細微差别。顯然,有各種地方,你會說,好吧,有些是我私人資料,我不想在任何地方洩露的。而這些生成模型并不擅長知道何時該這樣做,是以不要将那些資料輸入到通用模型本身中。

現在的部分原因是,生成模型更像是一個推斷引擎。人們通常認為它頻繁地作為一個資料庫,但是要到達推斷引擎,因為你有一堆資料要到那裡,但它是一個推斷引擎。是以,紐約時報的法律案件之一令我感到好笑的事情之一是,看,它重複了這些文章,你會說,好吧,你複制并粘貼了文章的前半部分然後說完成它。它已經為此學到了一些東西。現在,擁有第一半文章的人可能擁有整篇文章,并且這可能仍然是一個合法的情況。我不确定這裡是否有傷害。如果你說給我标題的那篇文章,它生成了,那麼你會說,好吧,你給了一些紐約時報正在賣的東西,而這個人還沒有購買。那會是一個問題。

我認為這些模型不會這樣做,因為它們被訓練不這樣做。是以,在資料方面有很多不同複雜性。我認為,例如,你在網際網路上公開可得的地方進行訓練,比如我在網際網路上釋出,我說請大家閱讀這個,AI模型閱讀并在此基礎上接受訓練,在我看來,是對技術的公平使用。我認為,我們想要這些模型的存在非常重要。我們在上台之前很快讨論的一件事是,你知道,有了這些AI模型,我們知道如何建立一個可以在每個智能手機上工作的醫療助手,無論你是否有機會看醫生。顯然,它甚至可以以這樣的方式接受訓練:嘿,你有看醫生的機會嗎?如果你有,很好。讓我告訴你一些事情,你應該立刻去看醫生,那就是你告訴他的,或者,你可能還好。但這些是你可能想要和你的醫生核實的事情,如果你沒有看醫生的機會,就說,看,我不是醫生,但這是你可能考慮的事情。那可能是驚人的導師,以及其他一些事情。或者,比如,你負擔不起律師,你正在看像合同這樣的東西。那麼,實際上有一些東西可以幫助你處理這個問題是一件好事。

是以,我通常認為我們應該希望這些模型接受訓練,我們的主要問題不是應該訓練模型,而是讓我們確定能盡可能地讓更多人使用這些模型,以幫助整個人類,而不僅僅是富有的人或者是富裕國家。無論如何,這隻是對某些資料的初步印象,但它顯然非常複雜。是的,這是一個不斷發展的話題,我們就這麼說吧。

問:

是的,這是一個不斷發展的話題。我隻想說,你提到了OpenAI。你是OpenAI最初的早期投資者之一,對嗎?然後你建立了Inflection AI。你在那裡進行了各種投資。是什麼促使你幫助創立OpenAI,然後繼續在這方面深入?您如何評估AI投資?我的意思是,你現在在這個特定領域已經做了大約八年了。OpenAI的投資是在16年還是15年?

答:

我不是個善于記憶的人,是以我需要查閱文檔來確定準确性。起初,我認為自己将成為一名學者。在牛津攻讀哲學學位時,我決定通過幫助創造軟體來對世界産生更大的影響。我從未想過會成為一名投資者。成為投資者并不是我的直接目标,而是我幫助建構正确項目的方式。是以,一開始更多是出于企業家精神或産品創造的目的。是以,當我研究這些技術時,我通常作為一名軟體領域的專家。

我也進行了一些非軟體投資,但這些幾乎都是慈善性質的。就像,我認為核聚變和核裂變是應對氣候變化的關鍵,我會在這些領域進行一些投資。有時你會看到一個你認為世界上應該存在的産品,是以你會投資。我在投資時會在我的賬本上将這些投資額歸零,因為我對預測結果範圍一無所知。我當然希望它們具有經濟價值。但在軟體領域,從網際網路事務開始,然後是Web 2.0,接着是Web 3和人工智能。我尋找能夠對個人、團體、社會乃至人類産生巨大影響的東西以及世界應該如何運作。如果這是使一個行業發生真正有價值變革的一種方式,并且有一個企業家,不論男女,擁有一個很好的計劃并且資源、時機都合适,這就是我會進行投資的時刻。

現在,對于OpenAI而言,一切始于與Sam Altman和Elon Musk的一些讨論。那時,我們意識到AI革命即将到來。我們應該確定有利于人類的人工智能不僅僅是大型科技公司的專利,而是應緻力于人類利益。我并不是反對大型科技公司,它們為人類做了很多事情,但我認為這是件好事。這也是我加入Mozilla董事會超過11年,仍然是董事會成員的原因,那就是公共利益技術真的很重要,這是目前解決不了的問題。是以,是的,讓我們幫助啟動它。那時,我們認為,也許這裡有些東西。風險投資的一部分,比如種子輪或A輪投資,就是一個可能行得通的想法,對吧?讓我們嘗試一下。然後随着你繼續進行,這是我從成為一名風險投資者中真正學到的東西之一,即矽谷之是以成為如此令人興奮的地方之一,就是因為它強烈的關系網,我們所有人都在非常快的速度上交換有效或無效的資訊。是以,整個生态系統都在學習。這在資金融資方式上有所展現,即從種子輪到A輪、B輪、C輪等。當你通過一些關卡證明了某個想法有更高可能性行得通時,你就進行下一輪更大的融資,享受更高的估值等。你會讓一個注視着它的、投資于它的、選擇加入它的人員、投資者、客戶、合作夥伴等網絡來支援。

是以,OpenAI一開始的想法是,這規模化的AI可能會帶來一些有趣的成果。我們不知道,可能讓我們嘗試并確定其治理首先面向人類考量,這是現在它成為一個非營利性組織,由非營利部門管理原因,你知道,幫它一腳。

問:

在過去幾年裡,你是如何評估AI投資的?

答:

我不确定現在是否有任何軟體投資不把自己标榜為人工智能投資,這挺有意思的。你知道,這很像早期的網際網路,其中有些東西将會非常驚人。會有很多事情看起來有些瘋狂并且因為它們沒有真正思考戰略面貌而不會實作。

是的,我認為從總體上看,存活并茁壯成長的公司将在很大程度上是積極的和連通的。你知道,我将不得不關注一些事情,看看它們的做法。但可以想象,一些初創企業可能會産生潛在的負面影響。但請記住,投資者不喜歡與之關聯,員工不喜歡與之關聯,客戶也不喜歡做那樣的事情。有很多網絡治理。因為當我們考慮如何對人類負責時,這不僅僅是選民去投票,投票站的問題。它也涉及到客戶、員工、投資者、媒體等,所有這些都構成了治理的網絡。

是以,我認為通常當你通過這個過程,你通常會得到一個廣泛積極的結果。不總是,但通常會。是以,我認為我們将會看到涉及認知任務的任何事情、涉及語言的任何事物的轉變。我認為我們将會看到新的藥物發現類型。其中一件事我在7年前告訴斯坦福大學的長期計劃委員會的是,我看到了人工智能如何可以在每一個學術領域中充當放大器的可能路徑。甚至可能在理論實體學中也是如此,對吧。是以,如果你想自己做這個練習,隻需想象一下,如果它比專業搜尋引擎好1000倍。每個學科都可以利用一個專業搜尋引擎。那麼,想象一下比它好1000倍的情況。那會是一個有用的人工智能工具。這并不意味着它将會寫論文。顯然在某些方面可能會做到,但當它與人類對這些概念的了解結合時,論文會更好。

問:

我想換個話題。我們這裡主要有MBA學生,我想轉向上司力,特别是管理這些公司的爆炸性增長和規模擴大。你做到了,你創辦了最成功的社交網絡公司之一LinkedIn,并引領它經曆了爆炸性的增長。當考慮到這一點時,你想到了哪些事情?

答:

如你們可能知道的,我确實寫了一本名為《閃電式擴張(Blitzscaling: The Lightning-Fast Path to Building Massively Valuable Companies)》的書。它部分地基于我所發現的世界。

無論是創業的視角,每個人都應該認為自己的工作生涯和職業生涯就像是自己的創業者。這并不意味着你必須創業。可能不應該,但你應該以創業者的方式思考你的職業道路。那是第一個。

如何使這與公司和公司組織産生互動,對吧,等等。《閃電式擴張》是什麼呢?是矽谷以及在某種程度上,實際上是中國,了解到的,而世界其他大部分地方并不真正了解的東西。這是在全球互聯的世界裡,如何從一個想法變成一個行業的轉變,以及其中的非典型之處。是以裡面有很多原則,比如擁抱混沌,有快速移動的傾向,然後在你前進的過程中解決破壞問題。有一章是關于負責任的閃電式擴張,確定你沒有摧毀一些真正糟糕的東西,對吧?但這些都是其中的一部分。而當你比如說在進行網際網路軟體開發時,當然也包括移動端,你實際上是在與全世界競争。不僅僅是與你旁邊的人競争,也不僅僅是與街道下的人競争。而這是為什麼成為一個了解速度和節奏的生态系統的一部分如此關鍵,以及解決市場營銷的關鍵問題或是建構現代技術以進行某事的方式是什麼,實際上是非常關鍵的原因之一。

問:

在這個過程中你如何管理人員,當你有這個願景,并試圖引領一家公司經曆這種爆炸性增長階段?

答:

嗯,書裡也有一整套原則。但比如說,當你考慮到,規模擴張的節奏是将員工數量大約每十倍增加,比如10、100、1000等。那麼組織如何變化。因為順便說一下,這些公司的一些變化是一個數量級的。我見過從年初的20人增加到年底的800人的公司。好的,怎麼做到這一點?是以你意識到的一部分是,你不是在追求完美,不是在尋求一個穩定的組織架構等。你意識到你以前的一些關鍵上司人在早期階段可能不是正确的上司人。

是以比如,一個非常微觀但非常重要的建議,但對于這類規模化事務非常重要的是,比如說,好吧,你是我30人組織中的産品負責人。你不說,隻要你表現良好,當我們成為一家有1000人的組織時,你将繼續擔任産品負責人。也許他們會,也許不會。你所說的是,隻要你做得好,你的工作會繼續變得更大。順便說一下,當你從30人跳到1000人組織時,你的職責範圍會更大。

是以,就像你的工作變得更大一樣。這并不一定意味着你仍然擔任産品負責人。而實際上,當你在這種速度下跳躍每個規模層次時,通常會有超過50%的人,你會認為是公司的執行管理層會發生變化,而你必須為這種動态性做好準備。你必須為在此過程中的判斷錯誤做好準備,即使以前做得很好的人現在可能不再适合這個位置,你必須有勇氣兌現早期的承諾,建立信任關系,以便能夠進行這種變化。這本書中充滿了此類内容,因為這些是我學到的事情。你知道,《閃電式擴張》提到的,可能是最早學習快速增長的地方之一就是Paypal。

問:

你認為在這個領域最重要的軟技能是什麼?我們應該教什麼,我們應該追求擁有什麼?

答:

弗雷德·科夫曼(Fred Kaufman)有一本我非常喜歡的書叫《意識商業(Conscious Business)》,這是思考管理作為一種同情心的概念,但不僅僅是對你正在處理的個人的同情,也是對你周圍所有人的同情。是以比如,你說,哦,這個醫生給出了非常糟糕的診斷。希望如果你解雇他們,那會很痛苦。就像,好吧,記住他們所有的客戶和他們所治療的所有人,也要對他們同情。是以你必須有這種廣泛的同情心,并且要全面地表達同情。

我認為最核心的可能是軟技能。這是良好學習機構的重要一點,永遠在學習,對吧?軟技能是,看,認識到當你快速移動時,你會犯錯。我意思是,比如,一種我在創業和快速增長環境中常用的說法是,這是我的工作決定和判斷,我可能不是對的,但我們必須做出決定,我們必須繼續前進,是以大家都必須一緻,但我不是說那些不同意的人一定是錯的。我們必須做出這個決定以便良好地運作。是以,這實際上是,我想,我不記得是哪一章了,在《閃電式擴張》書中,但那是幾本書之前的事了。

OODA循環是矽谷用語之一,它來自戰鬥機飛行員的術語。觀察、定位、決定、行動。在戰鬥機飛行員中,教授這個是因為在空戰中,擁有更快OODA循環的戰鬥機飛行員生還,其他人可能會喪命。是以你真的盡力讓你的OODA循環正确。

矽谷是那些談論個體和公司OODA循環的地方之一,它必須運作正确,因為競争的速度非常激烈。這是人們了解的東西,就像每一個從矽谷走出的大型初創公司背後,都有數十到數百個,有時甚至是數千個競争者。順便說一下,在中國,是成千上萬個。是以,那些脫穎而出的公司有快速的OODA循環,并且非常具有進取心。是以,你必須有能力做到這一點,把這種文化灌輸給其他人,處理你做出所有這些非常快速的決策的複雜性。

是以,例如,為什麼在上司力的相對軟技能中,擁抱混沌是讓每個人了解快速增長的反直覺規則的第一課,因為如果每個人都明白,像,我不會被完美地告知。我們會做出一些低效的決策,因為我們必須快速移動,必須做出決定,必須從中學習。我們作為一個團隊共同做到這一點。是以,永遠在學習是這個過程的關鍵部分。

問:

好的,我想在我們轉向問答環節之前稍微改變一下話題,讨論一下人工智能、未來的工作和社會。這是一個包含來自各個領域的有趣想法的大話題。首先,你對未來3到5年内人工智能對社會的影響有什麼看法?然後我們可以讨論一些更具體的事情。我不想特别讨論書籍,但裡德剛用GPT-4在兩個月内寫了一本書。是以,實際上是兩個半月。是以,這告訴我們我們目前,不是在不久的将來,将能夠做到什麼。你有什麼想法?

答:

顯然,人們喜歡對工作被取代大做文章。你知道,不想過于簡化它,但随着時間的推移,我們的人類組織通常比技術的可用性和工作的變化慢得多。但是,如果你有一個基本上是嘗試讓人類模仿機器人的工作,通常機器人可以做得更好。但實際上會發生很多轉變。是以比如說,如果你觀察一家公司并說,好吧,讓我們假設從現在起三年後的工具可以為每個工作崗位創造2倍或4倍的更好表現。銷售,你會解雇銷售人員嗎?不。你喜歡2倍或4倍的表現提升,那太好了。是以,并非是要取代人類,而是會優先選擇使用人工智能的人類獲得工作。

營銷,這是公司之間的競争。一些工作的組成可能會變化。是以比如說,如果你的工作是将數字形式輸入廣告系統,像機器人一樣行動,那麼速度會大大加快。但是,如何定位我們自己,建立情感連接配接,建立品牌,探索不同的方式,引入新型營銷,比如内容營銷等的工作。是以當你回顧所有這些部門時,并不會結束于我們正在減少人類工作。我們更傾向于使用人工智能的人類,對吧?是以他們。

問:

是以,這是我想插入的一點。是的,我們需要教育人們成為能夠,智能地使用和消費人工智能的人。

答:

是的,确切地說。你看,即使是客戶服務,往往也是給你一個劇本,按劇本辦事,像機器人一樣的表現。這種像機器人一樣的工作,這些崗位會減少。但也許客戶服務現在變成了,嗯,如何建立關系,對吧?是以你有一個AI幫你解決問題,我的東西到了,但它壞了或者我不知道怎麼用,AI會幫忙解決。但接下來它會說,嘿,你想不想更多地參與我們的公司?然後這會轉向人工輔助的AI來進行。是以無論如何,這也許是猜測,但工作會改變。是以一些任務被大大加速,其他的變得新可能。就像,你知道,在教育機構中也會發生這樣的事。

問:

的确如此。但你認為變化的速度如何呢?我的意思是,有時候社會在變化速度是代際之間的時候很擅長适應,但代際之間的鍊條往往很難。

答:

你有想法嗎?嗯,永遠沒有。如果社會的一部分繼續加速,比如,你知道,在未來主義和後現代主義中,他們認為我們已經達到了最大速度,而我們現在比那時要快得多。你在網際網路上推出一個新産品,幾天内就可能到達數十億人的手中。實際上,通常不是那麼簡單,但它可以做到。這種速度是新的,也是有挑戰的。這是我很高興你把它帶回來的原因之一,因為我不是在試圖說過渡會完全容易。人工智能能幫助我們過渡是好事。比如你說,嘿,我們現在在建造自動駕駛卡車,盡管我們今天卡車司機短缺,但如果每家廠商開始制造自動駕駛卡車,現在隻有自動駕駛卡車可能需要10年才能替換掉一半以上的道路上的卡車。但你說,好吧,當卡車司機發現,等等,這是我喜歡的工作,工作正在減少和消失。你說,好吧,看,這種情況發生了。順便說一下,這使道路更安全,使得交通管理更綠色,以及許多其他東西。

但這裡有一個AI可以幫助你找出你可能喜歡的其他工作,幫助你學習做那些工作,幫助你做那些工作。是以這種轉型我認為是非常可能的,但轉型的速度是困難的。具體來說,就不再像,你知道的,教育系統的一部分是建立在工業模式上的,就是你訓練人們。你有了你的訓練事情,現在你去工作,就像,嗯,你總得學習,對吧?就像你今天得到的教育訓練。在五年内,如果我們取得了進步,那将會被修改。而不僅僅是通過工作經驗來學習,你必須不斷地學習。

問:

好的,很好。我想簡要地轉向政策,這也是你參與的領域。特别是,你知道,我們在考慮國内政策,稍微考慮一下人工智能和地緣政治。除此之外,考慮這些技術公司在教育我們方面的作用是什麼,也思考什麼是好的政策,與可能實際上窒息創新的限制性政策,這是一個你非常反對的領域。是的,後半部分。但現在的狀态如何?你認為接下來幾年我們會看到什麼?

答:

嗯,我們做大事和減輕壞事的工具組隻會增加。是以比如說,當你獲得越來越大的AI模型時,我們實際上發現,将它們與人類利益保持一緻,讓它們發展起來更容易。比如說,如果有人來到AI,說我真的很沮喪,我在考慮自殘,而不是說,哦,這裡有一個很好的關于如何自殘的網站。它說,哇,那真的很困難。我的意思是,你和别人說話了嗎?你有沒有想過找人談談?

而且,你知道,我認為你,你知道,你可能能夠處理這件事。是以,你知道,并以更一緻和有幫助的方式回應。這也是我如此渴望走向未來的部分原因。是的,你知道,你開始強加,讓我們慢下來,現在就停下來。這樣實際上是有害的。

比如說,如果我們在每個手機上都有一個醫療助手,不,我們不應該放慢速度,直到每個人都能通過手機使用。我們應該以某種方式讓每個人都能接觸到手機,也許是通路村裡的手機,也許是通路鄰居的手機,但是,你知道,類似這樣的方式。顯然,這并不意味着如果你說你在旅途中試圖從A點到B點,以每小時5英裡的速度行進對你沒有幫助,但這并不意味着你不喜歡導航。在你到達轉彎處時你慢下來,因為就像現在,不要走下懸崖。

你會說,順便說一下,這就是所謂的進步。是的,中間過程是困難的,你必須弄明白新的。但事實是,我們已經這樣做了幾十年,我們非常習慣這種方式。順便說一下,這是織工對織布機的抱怨,對吧?他說,我們非常滿足于我們的織造。

你會說,是的,但如果我們用織布機,我們可以為所有人提供更多的衣服。這是一件好事。我們必須以各種方式幫助人類做這個過渡。

是以我認為,在考慮政策時,問題不是我們太經常自然地想,我們如何減慢速度?我們如何停止?問題是我們如何到達正确的位置?我們要做些什麼?是以比如,我有時和這個國家的政治家們坐在一起,我會說,你希望制造業恢複活力嗎?

像,是的,那些都是很棒的中産階級工作等等。好的。你的産業政策是什麼?比如,好吧,保護主義并不真的管用,也許管用十年,之後你就把更糟糕的未來交給了你的孩子。

人工智能和機器人技術是重振它的最好方式。整個。但這不就變成了全自動的工廠嗎?像,看,全部都是機器人工廠。我們還有其他有趣的機會。但實際上,事實上,當你看亞馬遜中心,他們變得更加自動化。他們确實在每個勞工那裡運送了更多的包裹。再次強調,這是生産力和進步的展現。然而,他們也增加了員工的數量,這是資本主義進步的一部分。我認為這就是我們應該關注的問題。

問:

你認為我們的政策讨論在未來幾年需要關注什麼具體的事情?

答:

以醫療助手為例。現在,大多數模型的建構者都試圖阻止它們以任何特定方式提供醫療建議,因為他們不想承擔責任。我相信。除非他們處于醫療情況,因為至少有一個在場的人在做這件事,因為我之前剛剛見過他,但比如,一般像GPT-4之類的更傾向于遠離這些。我真的認為如果我是一個積極主動的政策人員,我會說,看,這是你必須繪制的界限。你必須說,我不是醫生。你必須說,你知道,你可以看醫生嗎?你必須說,我不确定我對你的建議,對吧?你真的應該尋求醫療建議。非常因果關系,但在此基礎上,你可以給出一些答案,我們應該進行跟進,我們應該看看它是如何工作的,然後你可以開始在每部手機上配置一個醫療助手,對吧?

因為,你知道,我們作為社會進步,我個人認為醫療保健應該由社會提供。我認為不一定要通過雇員。這裡有很多人沒有保險,這意味着他們無法獲得。好吧,這可能是一個開始幫助他們的方法。比如,這将是一些積極實作正面結果的主動行為,可以在政策層面上做些什麼。

問:

我收到要進行問答環節的信号,但我想問你對人工智能、社交網絡的簡要看法。

答:

我是LinkedIn的擁護者,這一點顯而易見,這也是我認為技術公司需要意識到的,我們不僅是向個人提供産品。但當你達到一定的水準時,你還必須把社會作為一個客戶。當你通過多米尼昂訴訟等事情看到,你知道,福克斯的觀點評論員們在犯錯的時候互相發短信。這是一個嚴重的問題。這是社會應該了解的東西。你應該有學習生态系統來達到這一點。是以這并不意味着你有一個真理提供者,就像我在LinkedIn會告訴你什麼是真的,什麼是假的。那是個挑戰。你想要的是他們有一個學習生态系統,這是為什麼我們在考慮幾乎任何系統,任何機構時,我們都會說真相的判斷是很重要的。

我們有人類的小組讨論。我們在像科學、學術期刊和評論家那樣的事情上做。我們在陪審團上做,我們在科學研究中做,所有這些事情。好吧,我們如何将這些部署為學習系統?這是我們應該努力實作的。

問:

感謝你今天的到來。我是這個領域的新手,隻有一年的經驗。我的問題是,如果你今天30歲,你會怎麼做。

答:

如果你願意冒險,承擔風險,進行投資,願意學習,那将會是一個機會。

你會利用今天的機會。是以我在創業觀點中提到的一點是,人們有點低估某些決定。是以一種決定是投資于軟資産而不是硬資産。那是你周圍的網絡,知識等。現在每個人,很多人都聽說過你或者投資知識是好事。更多地參與網絡和行業,而不是具體的公司。公司可能很好,但哪些網絡和哪些行業是那些會放大和增長的呢?然後盡一切努力加入其中。

是以比如說,我對我的職業生涯的最終結果和我最終做的事情并不不滿。但比如說,如果我回頭去想可能會做出更聰明的決定是什麼,比如我離開蘋果去富士通是因為我必須是一個産品經理。我必須有産品經理的經驗。實際上,也許決定是去網景,因為它是一個線上革命,成為線上革命的一部分比信義财産更重要。

是以選擇哪些網絡和行業适合你,并且适合你想要做的事情。你知道,比如,我猜我不會點出來讓某些人對我不滿,但你知道,有些行業正在衰退。認真點。

如果你不想,或者說要有考慮。如果你想去做那個行業,很好。但你要意識到你選擇了一個潮流正面對着你而不是在你背後的行業。是以這種一系列的選擇現在顯然軟體技術,人工智能可以是認知工業革命的一部分。

另外一種方式是,你開始考慮,我在哪裡持反傳統且正确的觀點,在哪裡我有一個有趣的潛在論點能夠脫穎而出,做一些不同凡響的事情?比如現在可能沒有太多人關注人工智能藥物發現,我就去做這個。我有生物學背景。我不知道你的背景是什麼。是以我隻是随意說點東西。而我在開始時所描述的視角就是說,看,你有你的一套資源,你有你的抱負,你面臨市場現實,你正在那些方面做産品來擁有最大的競争差異。那就是應該去關注的事情。問題在那邊嗎?

問:

嗨,我是切爾西。非常感謝你的分享。我很好奇,你的投資論點是什麼,你最喜歡哪種類型的公司?是什麼驅動你做出投資Airbnb的決定?

答:

我們來談談Airbnb的問題,因為這比較簡單。因為其中有一個有趣的故事。第一個向我推銷Airbnb的人把它說成沙發沖浪。這導緻我一年都沒有去見創始人。因為我想,啊,沙發沖浪不是一個很好的主意。它不會作為一個通用政策起作用。是以,你知道,其他人都在告訴我這些創始人很棒。

我學到的第一課是不要讓一個不是創始人的人向你過度推銷,這會導緻你産生消極印象,因為那個人搞錯了。

在見到三位創始人後的三分鐘内,我就說,好吧,我會給你一個投資的提議。周日來向合夥人團隊做陳述,等等。隻有我們向合夥人團隊做陳述。David Z是領英最寶貴的董事會成員,也是我加入Greylock的原因。是以我們讨論了演講。創始人們走了。David Z看着我說,每個風投都必須有一個失敗的交易。Airbnb可以是你的,對吧?我們在合夥人桌旁互相非常直白地交談,我想,這很有趣。我認為這增加了我投資的興趣。

但六個月後,資料沒有變化。David來找我說,好吧,你完全是對的。David的學習機是很不錯。他來找我說,你是對的,我錯了。你看到了我沒看到的什麼?我說,看,你說的一切都是對的。當地的聯盟會讨厭它,尤其是酒店裡。城市不會喜歡這種事情的重新分區。鄰居們會感到不舒服。也許會發生一些壞事。

所有這些都可能扼殺這次投資。他們有好的計劃,這是世界應有的方式,這突然讓旅行者有機會獲得更獨特的體驗,與當地社群聯系,無論他們在哪裡。主人可以變成小企業家,提供房間、較高價的電梯大廈。他們可以以酒店實際不會創新的方式創新。它可以便宜,也可以更貴,更愉悅。可以是整個範圍。而這實際上是世界應有的樣子。是以我認為如果我們能夠規避這些風險,我們可以創造出真正令人驚歎的東西。而我認為,你知道,這三位創始人有可能具備所需要的素質。總有風險系數。

綜合地描述了我怎樣看待投資。不能評論最近的投資,因為它們還處于隐蔽狀态,但它,那是我回答Airbnb問題的原因。

問:

我有兩個問題。首先,你們認為開源人工智能有哪些有價值的論點嗎?其次,你們認為政策制定者是否正在超前地了解技術,以便比如同網絡生态系統一樣更合理地進行監管呢?

2016年,你知道,那些壞人已經存在了,并且我們讓一些影響發生了,而沒有任何人真正注意到。你認為政策制定者是否更加關注正在建構的内容,并真正了解正在發生的事情呢?

答:

讓我們看看。是以關于第一個問題,我确實認為,一般來說,開源軟體,某種程度上是有好處的。是以我認為有一些不同種類的小型開源模型是完全好的。我認為促進創業精神,賦能學術工作,有開放性和審查都是好事。是以,如果你可以檢視一個模型并知道,因為順便說一下,這些模型一旦出現在世界上,就可以被後期訓練。就像我進行了安全訓練,然後我真的釋出了,比如,安全訓練可以被取消。是以你會說,嗯,我訓練它不告訴你如何制造炭疽。是的,我可以對它進行反訓練,它可以做到。

然後突然間你有了更多的人知道如何建立炭疽的配方。相對于公共健康來說,這不是好事。是以這大概是關于開源的事情。我試圖找出方法來說,你怎樣才能獲得一部分的開源而不是100%?比如,如何讓你有更廣泛的通路權限,這是好事,但不是對恐怖分子或瘋狂的人。

現在第二點,問題是你建構技術做了一堆好事,然後你遇到了一些挑戰。在那個時刻,事後看來,每個人都會說,嗯,你當時應該怎樣監管是很明顯的。你應該這樣做。但是,順便說一下,如果你試圖事前進行監管,你對真正的問題是什麼,以及如何導航的看法,實際上,即使是在專家中,幾乎肯定也是不準确的。是以,你可能阻止了很多好事情,也許你阻止了壞事情,但你也使進步大大減少。

例如社交網絡,我們遇到了紐西蘭的事件,你說,我想要更少的謀殺案。但是你做的是,你說必須對它進行審計。你必須讓你的審計師運作它,我們将有一個罰款結構。是以,如果你意外地展示了一次謀殺案,那可能要花費10000美元。但如果你在同一事件中展示了100次謀殺案,好吧,那是100萬美元。順便說一下,科技生态系統将找到一種方法來保持它非常小。是以,這是思考這些監管問題的正确方式。

但是,當然,然後你必須做的艱苦工作是思考你試圖避免的結果是什麼,這是真正的工作,而不是僅僅說直到你知道你是完美的就停下來。如果你這麼做,就像今天用來評估技術的标準,阿司匹林不會被準許,汽車不會被準許,你知道,如果他們是從一開始就準許的。是以,你必須說不,我們怎樣在前進的過程中學習和疊代,并逐漸添加安全帶,這是我們需要讨論的。

問:

我的問題是關于Inflection AI。我認為Inflection AI可能是最擅長了解和表達情感的大語言模型。我很好奇達到這一點的秘密是什麼,為什麼GPT-4和Gemini不能做同樣的事情?

答:

我認為最好的是我就直說,那是我們的商業秘密,我認為它是可複制的。我認為其他人也是,技術中的一件事就是人們看到它,他們意識到他們也可以生産。但這是由許多非常聰明的人多年的工作才實作的。

問:

我的問題是關于你的背景。你提到你學習過象征系統和哲學。我很想了解你為什麼選擇學習這些以及為什麼選擇轉向創業。你的背景如何讓你成為一個更好的投資人、創業者。

答:

我認為投資不是一個分析,比如折現現金流和市場增長和CAC和LTV以及所有這些事情,你知道,那些是重要的。但事實上,當你在想象世界可以變成什麼的時候,它是一種可能性的鏡頭。這是一個關于你可能能夠建構的技術的問題。它是團隊如何操作、何如擴充以及其他一些事情的問題。是以,你知道,當我和Sam Alton一起教導一些why評論員課程時,Sam問我,我相信什麼,而是這個房間裡大多數人不相信的?我想,為了成為一個好的創業者,你需要有一個明确的人性理論。然後當你在建構你的産品并考慮它時,你說,這是我對人性的看法。

這是我認為人們會對我的産品有好的反應,因為我将幫助他們提升,變得更好,通過。而這是哲學有用的其中一個地方。在象征系統的情況下,盡管我是從思考象征系統需要學習什麼的角度進入哲學的。這是關于如何在你創造的人工制品中,考慮思考或考慮語言如何工作時,采取精确性的問題周圍。我認為這比做技術創新時的許多其他事情更重要。

現在顯然,你必須了解一些技術才能驚喜。這個問題就像估值和泡沫,風投,現在是AI。這裡發生的一件事是,每個人都說,哦,天哪,就像在網際網路上一樣,會有驚人的技術。人們開始投資。你知道,估值,特别是作為投資者,會認為你可能會希望他們,他們在折現現金流分析和其他一切上并不完全有意義。

問題的一部分在于,我們應該考慮什麼樣的時間範圍以及複利的情況。是以我認為有很多瘋狂的交易,部分瘋狂的交易也是瘋狂的估值。但這也是人們知道你可能會在相對短的時間内創造出價值數十億美元的公司,并且你現在就在對此進行風險投資。你知道,作為一個投資者,我會希望估值更低。市場導緻估值更高。你知道,這對創業者來說是好事,這最終是我真正喜歡的,因為這樣才能創造出東西。投資者有時候隻是跟着一起走,嘗試幫助一下,如果他們做得好的話。是以,無論如何,這是一個簡化的回答,然後這是,你知道,為什麼幾乎總是技術,你知道,經典的投資者會說這個技術東西都是瘋了,因為它們都是在很高的價格上競價的。

比如特斯拉,為什麼特斯拉的估值比所有其他汽車公司加起來還要高,你我并不是說這應該是這樣,我隻是說,這是一個問題。這可能是特斯拉的投資者廣泛相信的,他們會說汽車和自動化運輸的轉變是從一個機械工程範例轉變為一個軟體範例。而且現有的公司都不會生存,不會做到這一點。并且特斯拉将成為一個偉大的,你知道,汽車巨頭,那麼估值就不那麼瘋狂了。

現在,我認為他們的估值可能是讓這種可能性看起來像一個确定性,而不是一個可能性。對吧?但是,你知道,那種事情是部分市場估值在科技上發生的原因之一。這就是為什麼人們确定技術中即将到來的東西是未來的原因,他們在這方面基本上是正确的。謝謝你。

問:

你認為人工智能會從根本上挑戰人際關系和交流的重要性嗎,特别是在那些以人際關系為中心的行業?例如,K-12學校,你認為我們說教師學生之間的關系是決定學生成長和表現的最重要的因素之一。你認為人工智能最終會以某種方式挑戰或修改這一點嗎?

答:

我認為它會轉變,因為它會像一位無限耐心的導師一樣加入到教育系統中。是以與現在你有一個教師說,看,我負責X個學生,我隻有有限的時間。如果一個學生沒弄明白,我就有限的時間去調試和花時間,你有一個實際上會在那種情況下幫助的東西。我不認為它會取代,因為,你知道,作為一個姿态比較,你知道,人類不再像AI那樣下棋了,完全停止。但我們有更多的人在觀看人類與彼此下棋。我們是以人為本的。這就像我們是部落群居動物。

是以,我認為可能,即使會有一些人說,哦,沒有人了解我,這個AI是我唯一的朋友。你知道,我們會有一些那樣奇怪的功能。我認為我們建構AI,比如Pi,說,嘿,讓我幫你連接配接你的朋友,我認為是更健康的。并且我認為從廣泛來說,我認為人們會自然而然地朝着那個方向前進,因為我們以各種方式喜歡人際連接配接。是以,我認為它可以是變革性的,但增強性的,無論是教育、醫療,所有這些事情。我認為它會是有幫助的,也會帶來一些轉變。

問:

好的,非常感謝您的到來。感謝您的參與,謝謝大家的光臨。

⭐星标華爾街見聞,好内容不錯過⭐本文不構成個人投資建議,不代表平台觀點,市場有風險,投資需謹慎,請獨立判斷和決策。