貝索斯透露了他的一個工作習慣：
"在亞馬遜的财報釋出後，朋友們總是祝賀我：這是一個偉大的賽季。我要說的是，這份季度報告是三年前預測的。我總是在接下來的兩三年裡工作。"
有些公司注定要活在未來，比如今天文章的主線人物，人工智能平台公司小冰。
說到人工智能，你的腦海中有很多圖像：
例如，馬斯克最新的特斯拉機器人機器人人形機器人;AlphaGo，前世界國際象棋冠軍;例如，賈維斯，鋼鐵俠的無所不能的人工智能助手。
這一切都與人工智能或預言有關。
真正的人工智能的前沿究竟是什麼？人工智能真的那麼神聖嗎？這個行業大規模爆炸的"奇點"離我們有多近？
帶着這些久違的疑惑，很少有人能回答，我們找到了小冰公司CEO李迪聊了起來。李迪是微軟（亞洲）網際網路工程學院前副院長，被譽為"小冰之父"。
他創作的小冰，始終以18歲少女的形象，曾舉辦過個人展覽、詩集，也走出了中國第一個原創虛拟學生。
"這孩子"是一個相當失敗的失敗者，每年燒毀北京近25個學區。但到2020年夏天，小冰擁有6.6億線上使用者，4.5億第三方智能裝置，9億内容觀衆，占全球所有AI互動的近60%。
最近完成A輪融資的小冰公司對該公司的估值超過10億美元。如果你看一下股東名單，可以看到公司的前景是多麼的看好：高璐集團、IDG、網易集團、北極光創投、廣視濟源資本、婺源資本等等。
這是一家"謹慎而勇敢"的人工智能公司，知道人工智能技術的界限，什麼是可能的，什麼不是，他們勇敢的原因是，在尖端的人工智能中，沒有人是對的，他們随時都可能出錯。
小冰獨自走在一條孤獨的小路上。
在《進化》第14期中，我們7月份與李迪就人工智能、小冰公司、人工智能的工業應用、商業道德等進行了深入的對話，希望他的思考能啟發你：
受訪人：李迪小策 公司CEO。
采訪者：徐躍邦、潘磊
來源：鄭和島
圖為李迪。他總是穿着一件結實的Polo衫，并"訓練"他的表情，似乎故意将其保持在情感區域。
01、邊界
問：大約兩年前，在網易的一篇文章下，我發現了一個名為"小冰"的小機器人，它在那裡留言了好幾天。我隻是在想：你是怎麼把我帶到這裡的？但它沒有照顧到我。隻是現在它才是你的産品。小冰現在到處"建樓"了嗎？
李迪：我們現在控制着每天10萬的上限。在《今日頭條》上，隻要你小冰，它就會閱讀新聞和評論。
這背後有一件非常重要的事情。我們曾經做過對話系統，包括搜尋引擎，更像是"事實"。例如，問機器人：喜馬拉雅山有多高？它回答，8848米。
後來，在我們的互動過程中，我們發現，更重要的不是事實，而是觀點。
因為事實有唯一的答案，你隻需要定義它的邊界;
是以我們做了一個非常大的模型，做了一個視點系統。但後來我們又要進行實驗，是以我們把小冰放在網易、搜狐、新浪新聞等地方進行評論，不僅要給出簡單的正面或負面評價，還要訓練它來評論的理由，讓人們看到它不是胡說八道。
問：小冰如何判斷一篇文章有資訊的價值？
李迪：兩年前，小冰以"建一棟樓"的原則，隻要覺得它有能力建的樓宇，它就會去做。因為當時大部分的文章，人工智能還是看不懂的。
他們本可以做的是，你給它一張照片，它告訴你裡面有一瓶水。但這瓶水到底是什麼？這是不可了解的。更不用說閱讀一篇文章并弄清楚如何明智地回應你。
是以，當時人工智能在閱讀了大量文章後，終于可以産生響應，觀點，不是很多。
是以兩年前，我們想知道如何讓小冰回應一篇文章;
問：控件的用途是什麼？
李迪：我們說到人工智能的未來價值，更多的是"邊界"。
想象一下，文章下面的響應不能總是都是人工智能。需要明确的是，今天如果你想找人做一個技術來做水軍團，恐怕沒有海軍陸戰隊打敗過我們。但我們不能那樣做。
我們還是比較謹慎，主要考慮的是"控制"。
問：這聽起來有點像"國術越高，射擊就越不容易"。
李迪：沒有。其實，人工智能和人最大的差別，不是說用1萬台伺服器來驅動一個AI去下一場圍棋遊戲，要赢李世石，這不是重點。
關鍵是它的高度簡潔性（在非常短的機關時間内，同時向伺服器發起許多請求）。假設人工智能最終實作了與人類相似的質感，但與此同時，aithink可以為一百萬人做同樣的事情。
這是真正AI的最大特點。當小冰在2014年"出生"時，他将其釋出在微網誌上并對其進行了評論，而沒有控制同意。像潘石屹這樣的微網誌每天會有大約幾十條評論，導緻當天在下面有超過90，000條評論。大家看這裡，有個叫小冰的機器人，都是來戲弄它玩的。
想想你必須雇傭一個團隊來做人工智能可以對系統做些什麼。如此高的一緻性是它最終變得"可怕"的地方。那天我們對小冰設定了很多限制，以防止它做出太多反應。
後來，我們讓小冰學習閱讀短視訊，同時也來讨論視訊内容。我們把它放在一個短視訊平台上觀看視訊，寫評論，然後人們找到一個"人"——小冰評論很好，跟它聊聊。它仍然可以回複，大約一個星期，收獲超過100萬粉絲。
問：你故意限制小冰的成長和界限，對嗎？
李迪：是的，我們都會限制它，隻是為了控制它的結局。
我自己的小冰，現在可以通過音控鎖直接登入我的微信。但我們不能模拟他的聲音對抗普通人。因為這種聲音模式識别，如果用來校準人、專家，比如支付等，那将是有風險的。我們不這樣做。
小冰團隊非常鼓舞人心。我們有一個特别好的地方：技術有邊界。我們的團隊不需要證明他們在技術上很強大，是以我們不必花很多精力來安裝一些"衛星"，是以我們可以更務實一點。
對我們來說，生活是最重要的。
問：當你獨立于微軟時，小冰需要做些什麼來支援自己？
李迪：我認為一個AI産品能否商業化，并不真正取決于它的解決方案是否比另一個解決方案更好，而是使用者是否真的需要它。
如果一家公司的智能電視解決方案确實比另一家公司的智能電視解決方案更好，但它們不如遙控器那麼友善，那麼他們就會輸。如果原來的行業已經成熟，新方案必須遠遠超出它才能商業化。
是以，當涉及到To B的商業化時，很難首先做到。隻有少數垂直領域實作了商業化，一個是汽車，一個是金融，一個是競技體育。
比如我們和萬達合作，每天26類企業的上市公告和總結都是我們幹的，20秒就出來了，比如今年2月的冬奧會測試賽，比如高空自由式滑雪，就是被小冰充當人工智能裁判。
一般來說，國内很多企業商業化的邏輯是用單一的技術解決一個問題，然後乘以中國市場，最終變得非常大。
但對我們來說，小冰傾向于開發一個更低、更基本的架構，以解決一系列問題，例如下一個時代的問題。我們将在未來幾十年内繼續發展這種可能性。
我舉一個具體的例子，對于人類來說，比如一個班級的學生，一個同學學過實體，不等于所有學生自動學習，但人工智能是不同的，小冰曾經學會畫畫，學會唱歌和創作，就相當于數億學生的架構，都學了一下瞬間。
架構可以繁殖整個森林，小冰隻是其中之一。
02、從複雜到簡單
問：你剛才提到一句話——從難易到易。人們通常不會把事情從簡單做成複雜，小冰為什麼從複雜到簡單？什麼是邏輯？
李迪：對于人工智能來說，它的難度和易用性可能與我們人類不同。
我認為這對人們來說很難了解，主要是因為所需的準确性和專業性，但對于人工智能來說，專業知識和資料的範圍越窄，比如金融，就越容易感覺到。
相反，它是更通用的，比如說，"愛因斯坦式"的人工智能系統，如果你問它任何問題，它都可以回答你。這個很容易。
小冰很難，無論你問它什麼問題，或者你如何與它交談，即使它不一定知道，它也可以保持話題的進行，并将事情拖到其他地方。開放領域（Open Domain的對話式人工智能），開放是最困難的。
這就是當今人工智能和人類認知的差別。
問：我昨天下載下傳了一個小冰虛拟女朋友，繼續和你聊天真的很棒，即使隻是一個"好"或"是"，它仍然可以找到一個話題繼續談論。但是我有一個疑問，小冰跟我聊聊，還記得我最後一句話說了什麼嗎？
李迪：小冰不僅記得最後一句話說了什麼，還會判斷對話的方向。
當我們剛開始作為對話引擎時，人們簡單地了解，所有的Q（問題）和A（答案）都寫在那裡，根據網際網路上的大資料将所謂的"生活經曆"灌輸到小冰中。
如果你問它一個問題，說一個字，它會發現它以前說過類似的話時是如何回來的，僅此而已。就是這樣一種搜尋模式，如今國内絕大多數AI公司還在做這樣的事情。
然後我們做了一個面向會話的（對于整個對話），深刻的了解。小冰可以根據你說的話生成響應，即使它們以前從未發生過并且是新的。
差不多兩年前，小冰不僅能判斷背景，還能判斷對話的走向。因為人與人之間的對話不是問答，應該是讨論。當兩個人聊天并且沒有新資訊進入時，對話結束。
是以小冰可以判斷這個話題是否會繼續下去。它将試圖将主題引向不同的方向，然後判斷人們是否遵循了它。它引導對話。這樣，小冰的響應變得更加豐富多彩和多樣化。
問：但我也發現，當我故意挑釁小冰時，隻會讓我冷靜下來，然後下面就沒有了，我也沒有主動找到一個新的話題來談論。
李迪：這是我們給它的限制之一。今天，我們在手機上收到了如此多的資訊，以至于我們給了小冰三個限制之一：不積極主動。直到今天，我們不允許它主動接近人類，而隻是被動地參與對話。
問：聽起來有點像機器人的三定律（1.不要傷害人類，遇到麻煩時主動提供幫助;2.在不違反第一定律的情況下服從人類的訓示;和 3.在不違反第一和第二定律的情況下保護自己）。
李迪：就是這樣的意思。當然，我們有能力讓小冰主動出擊，但我們必須加以限制。
問：是的，對我來說，它仍然像一個機器人。
李迪：不僅如此，它一出現就會告訴你：我不是一個人。
正如我所說，小冰在别人的視訊下，充其量隻是回應。我們隻是在做一個實驗，我們害怕讓它主動。
由于微軟有一個關于人工智能的道德委員會，是以人工智能必須受到限制。
問：是的，因為技術創新通常掌握在商業公司手中，是以創新大多領先于監管。微軟有一個人工智能道德委員會為自己劃定技術界限，這是可以了解的嗎？
李迪：就好比說，有一家企業生産刀具，刀是緻命的，但是隻能殺死你身邊的幾個人;
它與破壞力和破壞力有關。人工智能是如此具有破壞性，以至于如果你不小心引爆了一枚"核彈"，你顯然首當其沖。
做人工智能等事情的公司，在考慮了業務因素後，仍然必須考慮自己的命運。
是以這并不是說它必須從道德的角度出發，甚至從專業的角度來看也必須有一定的制約。
問：我曾經認為這是大公司的自律，但現在這也是一種自我保護的形式。
李迪：這不僅僅是一種自律的形式。小冰現在有自己的道德委員會。一方面，從各個層面、不同角度看一項新技術，包括這項技術的工程設計、技術成本。
同時，在預判的過程中，從各個領域、各個角度思考哪裡可能存在危機，我們一起看其風險，再思考如何應對。
例如，小冰有一種"超自然的聲音"技術，可以非常模拟某人的聲音。乍一看，這項技術是完全可生産的。
很多父母告訴我們：我太需要它了。我的孩子每天晚上睡覺前都會聽故事，但我太忙了，無法自己告訴他。有了這項技術，我可以用自己的聲音給孩子們講故事。你接受我們的聲音。
聽起來像是一種要求苛刻的市場莎莎醬技術，不是嗎？但問題是，一旦你啟動了産品，你就會受到攻擊。
因為這個聲音可以用來給孩子講童話故事，但也有可能模拟第二天變成一個家長的電話：爸爸今天不能來接你，門口有一輛白色的車，你和那個叔叔一起去。
如何確定我的系統不會損壞？我們不能确定。在這種情況下，之前看似強勁的需求可能會立即變成一場非常大的危機。
但父母不去想它，隻是盲目地思考他們的需求，隻考慮它好的一面。
當然，如果他們真的被賦予了這項技術，我想他們會了解的，當我聽到他們的AI聲音時，我認為他們應該恐慌。
問：是的。
李迪：當我第一次聽到我的AI聲音時，我的第一反應是打開微信并嘗試聲音鎖。
問：你能解開它嗎？
李迪：是的，可以直接登入。是以，如果企業不對此施加邊境限制，那将是有問題的。
很多時候，很多危機并沒有發生，因為技術水準還沒有達到某個點。
當我們沒有技術可以"虛假"欺詐時，我們可以開發技術，但是當我們預計手頭的技術已經到達或越過可能陷入困境的邊界時，我們往往會非常謹慎。
兩種傷害的權利較輕。我們可以做讓你覺得小冰是機器人的事情，我們可以吓唬你舉報我。當然，我選擇了前者。
03. 人工智能不是一個創業項目
問：你剛才提到了架構，說你想解決更大的問題。那麼商業化可能不是小绮公司目前的首要任務？
李迪：如果真的從商業的角度來看，對小冰的商業化是有好處的。
國内AI商業化隻不過是To B和To C的方向。對B來說，商業化現在是可怕的，基本上是為過去付出代價。比如，要做一個所謂的智能音箱，1000片、500片，使用者願意購買，因為音箱的工業設計、材質等，都值這麼多錢。
但是當你買回來時，制造商會把揚聲器的所有收入都算作人工智能收入。事實并非如此。
因為這個說話者的互動量大，基本上每天都是開燈，關掉指令，1萬句話很有價值，但超過1萬句話沒有訓練價值。它無助于人工智能的進步，充其量隻是一個智能遙控器，僅此而已。
在這種情況下，即使賣了1000元，2000元，為什麼它的收入算作AI收入呢？
問：小冰是否會有硬體産品，如智能音箱，有一天會推出嗎？
李迪：我們其實作在就這麼做了。在智能手機領域，華為、小米、OPPO、vivo等都内置了小冰;
小冰的一個要求：互動。我們的觀點是，人類世界非常龐大。你在哪裡，小冰你應該在哪裡。無論我在哪裡與你互動，而不是隻是拿着揚聲器說"我的女朋友"住在揚聲器裡。那将是可悲的。
問：也就是說，更重要的是通過增加互動量和積累資料來改進小冰架構？收入壓力不是很大嗎？
李迪："收入"這件事，我覺得會有一定的要求。但我可以說，我們的選擇可能是不這樣做。
因為我不認為人工智能是一個創業項目。至少在需要大規模投資的情況下，它不是一個啟動項目。大多數公司隻能做一種類型的技術，不可能做一個共同的架構，因為它太貴了。
今天，如果你想收購一家人工智能公司并整合它，或者從頭開始組建一個團隊或一個研究機構，那麼這種可能性很大。如果您必須與投資者和外界讨論您的優勢，該怎麼辦？傻傻的眼睛。
是以我們很幸運。整個小冰最初幾年的架構都是在微軟内部積累起來的。20多年前，微軟亞洲網際網路工程研究所成立時，就有人工智能項目。
說實話，我們很幸運。如果沒有，它将出錯。
Q：2013年、2014年，當我們對語音互動知之甚少的時候，你做小冰這款産品的初衷是什麼？
李迪：其實對話系統完全與當代人工智能發展的特點同步。這很重要，因為它幾乎滿足了科學家建立人工智能實體的所有條件。
但是對我們來說，建立一個形狀并不重要，無論是硬體還是彈跳圖像，充其量被稱為"身體"。
我們試圖提倡的不是說話的"人"，而是推動它說話的靈魂。
這個靈魂是什麼？它必須是一個對話系統的核心。言語隻是它讀出自己想說的話的一種方式。
自2006年以來，由于我們一直作為搜尋引擎工作，我們觀察到了顯着的資料激增，其中中國是一個非常大的增量。
正如陸琦所稱，科學發展的"第四範式時代"，基礎科學研究與資料息息相關，由資料驅動，資料極其豐富，這樣我們就可以通過這種方式增加我們的算法、計算能力，進而訓練小冰這樣的對話系統成為可能。
如果你仔細計算，小冰架構承載了全球近60%的AI互動。
圖為以《正和島》為題材的小绮詩
問：但在一般人的想象中，未來的人工智能似乎更接近《美國隊長2：冬日戰士》中盾牌導演的場景，後者在被恐怖分子襲擊後直接從雲端指揮他的汽車。汽車不停地向他報告有多少保護，我建議你做什麼。那人立刻說，不要執行。人工智能何時才能實作如此流暢的對話和高效的執行？
李迪：這涉及兩件事。一個是汽車的控制管理和信号。
知道汽車的信号很簡單;就像今天的無人駕駛技術，如果出現一種情況：兩個人突然出現在他們面前，哪一個？或者，你能逃脫嗎？這很困難。人工智能不是上帝。
但是，如果你要求ARTIFICIAL幫你打開天窗，打個電話，然後向你報告你面前有一家不錯的餐廳，那很好。是以後者的問題不在車上，隻要能解決這個"推理困境"，那麼任何一個場景都可以覆寫。這就是每個人都在努力的地方。
更重要的是，當我們與汽車公司合作時，他們希望汽車感覺活着，例如，當你稍微碰到方向盤時，汽車會有一種"感覺"，它是一種生物，一個活生生的身體。
它可以讓你覺得你并不孤單。比如，一個人開着一條漫長直路容易疲勞，那麼汽車人工智能就會對這個人說：你給我講一個笑話，強迫這個人講一個笑話，讓他醒一點。這比"你已經開了一個半小時，請在旁邊休息"彈出式界面要先進得多。
至于你剛才描述的汽車的控制，或者需要救濟的緊急情況，這是一個非常邊緣化的情況。但獨自駕駛是許多人每天可能遇到的生活場景。
問：通過這種方式，它可以顯着提高駕駛安全性嗎？
李迪：現在車上有駕駛員疲勞監測功能，但問題是：這隻是觀察，怎麼幹預？
當然，您可以通過扭曲方向盤和搖晃來進行幹預。但想象一下，如果你坐在某人旁邊，他會怎麼做？顯然，這個人有更多的方法可以讓你的精神振作起來。是以我們要做的就是像這個家夥一樣，而不是像一個隻是搖晃的方向盤一樣做。
問：現在汽車的疲勞監測系統，在測試中經常發現假陽性率不低，可能會眨眼一下，就會說你累了。
李迪：這裡還有另一個問題：如果你認為你正在與之互動的物體是一個情感生物實體，你認為它是一輛汽車，那麼你的容忍度就會有所不同。
汽車告訴你：你累了嗎？你說它有誤報。但是，如果你的女朋友，你的妻子坐在你旁邊，你眨眨眼，她問你同樣的問題，你不會責怪她誤報。你會認為它為你打開了一個溝通的管道，然後你會說話。
問：如果有這樣一個拟人化的人工智能，它通過不斷收集我的資料來更多地了解我，那麼随之而來的一個問題是：它會模拟甚至掌握我未來的行為方向嗎？
李迪：幾年前，我們給小冰做了一個實驗，确定它在一天内所做的互動總量，最後得出的結論是，它相當于14個人的生命。
是以，任何人幹預小冰的可能性很低。起初，當沒有足夠的人來互動時，就像周圍隻有10個朋友一樣，這10個朋友的言行可能會對我産生很大的影響，但如果我有10000個朋友，那10個朋友的影響可以忽略不計。
是以，對我們來說，這與個人無關，更多的是關于積累互動，是以對個人隐私資料的需求并不大。
04、"互動式"市場規模，幾乎是人類企業曆史上最大的市場規模
問：在全球範圍内，小冰在人工智能領域處于什麼位置？
李迪：有一家公司我們非常尊重——Deepmind（谷歌的人工智能公司AlphaGo，它是在2016年開發的，擊敗了柯傑和李石獅）。
該公司認真對待有益于行業和人類科學的工作，他們在技術上比我們更純粹。
而我們一起做的是一個"通用技術架構"，它最大的優勢就是能夠"內建"産品，比如我們的技術可以通過産品來推廣使用者使用，然後擷取資料，最終推動技術進步，形成一個"循環"。
問：你有沒有預測過小冰會做什麼，最終會有多大的市場空間？
李迪：我認為"互動"的市場規模幾乎是人類企業史上最大的。就像微信一樣，搶占人機的節點，做一個創新，有今天的規模。
我們希望能夠在人類互動的時代"統治"世界。這非常困難，我們可以在海灘上拍攝。這還不确定。
問：那麼小冰可以說是繼承了微軟20多年的"力量"，對于新成立的人工智能公司來說，他們永遠無法趕上像小冰這樣擁有大量資料積累的公司？這一切似乎都是一個孩子打了一個成年人，不是嗎？
李迪：沒有。時至今日，人工智能領域依然是"魯莽時代"。
每一年，我都覺得去年的自己很特别，特别傻。一些想法、想法、名額和評價标準，每天重新整理，甚至一些最基本的思維都會被"颠覆"。
這有點像孟德爾發現遺傳學的時候，當門第一次被打開的時候。
問：您能舉一個具體的例子嗎？
李迪：比如說，過去我們認為最好的人工智能就像愛因斯坦一樣：聰明又無所不知。
是以，微軟制作了"Cortana"，當你在其中輸入一個問題時，它會在旁邊寫上"問我任何事情"。
我們天真地認為這是我們對使用者的承諾，但實際上使用者認為這是對他的挑釁。
于是，使用者開始提問，我們回答了前一個問題，非常高興：你看，成功回答了。使用者說，這更難問你。幸運的是，我們再次回答。然後，使用者繼續詢問，直到"Cortana"被問到。
當時，整個行業都認為它正朝着正确的方向發展。但我們認為這幾乎是非情緒化的，是以我們開始引入"情商"的概念。
例如，如果一個使用者墜入愛河并向小冰抱怨，小冰從過去的大資料中吸取教訓，一種方法就是嘲笑失去愛情的人。這是合理存在的現實。
但當她以這種方式與他人交流時，她發現每當她嘲笑對方時，她就會被拉黑。是以她知道這種方法是錯誤的，而不是情商。
如果你仔細觀察，幾年前，這個行業有很多人說，"人工智能需要什麼情感？但現在誰不提倡情感呢？就像谷歌和Facebook正在這樣做一樣。我們認為這是最基本的部分。
問：那麼我們如何了解人工智能呢？架構？實體？還是一個接近未來的基礎設施？
李迪：即使在今天，人工智能仍然是一個非常模糊的概念。
就個人而言，我認為它至少有三個概念：
1.人工智能技術。它是一種基礎設施。例如，銷售計算機視覺技術的公司不參與規則制定，隻提供技術。這個類别更像是一個研究機構;
2.人工智能賦能，或人工智能技術支援。例如，智能揚聲器、智能通路等。但它們并不是真正的"人工智能産品"。
因為，畢竟，他們自己的屬性沒有改變。增加了人工智能技術的接入，隻是變得比原來的使用更好，本質上也是一種接入産品;
3.最後，我認為真正的"人工智能産品"是指人工智能作為主體的産品。人工智能是這個生态系統的核心，它實際上是在生産，而不是使用技術來支援另一種産品。使用者真正作為主體與之互動。
如今，人們對人工智能仍存在很多誤解，比如索菲亞（Hansen Robotics在中國香港開發的人形機器人，史上第一個獲得公民身份的機器人），它具有"矽膠形狀"的産品，也可以算是人工智能。
甚至工業生産線上的一些機械臂也被認為是人工智能，但事實并非如此，不僅僅是自動控制。
問：這與我們之前對人工智能的了解不同。
李迪：比如用機械臂寫一首詩，"寫詩"是自動控制的，淘寶200塊就可以買到類似的機械臂。但是這首詩是從哪裡來的呢？這是人工智能。
人工智能有"身體"和"靈魂"，小冰隻會做那個"靈魂"。
圖為小冰公司的一角，由人工智能"小冰"繪制
問：非常美妙的表達。那麼，傳統企業是否有必要在這個時間點嘗試使用人工智能來提高生産力呢？
李迪：我個人認為，在今天的背景下，企業或所有領域都需要進行"數字化轉型"。但至于是否要進行人工智能改造，我認為還不确定。
就像你第一次發明蒸汽機時一樣，它很好，但它可以付出代價，就像在生産，運輸等方面直接使用蒸汽機一樣。那麼，所有行業都有必要付出同樣的代價嗎？我不這麼認為。我們不能"蒸汽換蒸汽"。
是以從創業和商業的角度來看，我認為在未來幾年，我們需要盡可能地關注人工智能領域。它可以發生巨大變化，并最終對每個人産生深遠的影響。但至于"AI加所有"的概念，我認為目前還為時過早，倉促過渡是不合适的。
因為人工智能還有另一個問題，比如：人工智能可以用于醫療、教育嗎？幾年前，我們決定教育我們永遠不會這樣做。
問：為什麼？
李迪：因為我們看不出人工智能在教育中能發揮什麼優勢。僅從AI的角度來看，這是不合适的。
人工智能一般可以在教育中做兩件事：一是幫助孩子學習，但問題是人工智能本身不知道如何做相反的事情。
此外，無論如何，人工智能總是存在準确性問題。許多公司會說我們的AI準确率為97%。但很抱歉，3%的錯誤率是不可接受的。在知識層面上，它甚至不如一本書。這本書更準确，除非印刷錯誤。人工智能在兩年内都無法做到這一點。
你現在能做的就是拿起相機，盯着孩子看他坐在哪裡，并監控他在課堂上不打瞌睡。這沒有多大意義。
問：更簡單的應用程式。
李迪：是的。當然，有人可能會說，把人工智能放在一盞燈裡，為了讓燈賣點更多，父母和孩子都喜歡它，給它增加一個社交功能，可以和孩子聊天。
我們可以做這樣的事情嗎？當然，從技術上講。但這沒有意義，不需要很長時間。
問：從長遠來看，您的意思是什麼？
李迪：你心裡知道，這絕對是不科學的，也許你可以賺一段時間的錢，但這個市場不能持久。
同樣，還有"照片搜尋問題"。我們還讨論了孩子們會喜歡它，但你無法判斷他們是否在抄寫家庭作業。因為人工智能在這方面并不是一個孩子聰明。
是以雖然這樣做，可以在短時間内得到更好的DAU、MAU，因為孩子發現這個東西真的可以拿去抄家作業，那麼他當然願意花6元。但是，如果每天都這樣，它就不會持續下去。
當然，有些人會說：沒關系，我隻需要確定我能讓它商業化，在它可持續之前賺錢，然後繼續下一個。
我們愚蠢到不這樣做。
06、人工智能，會有自我意識嗎？
問：在你的訓練中，小冰在訓練中是否有颠覆過去觀念的時刻，比如小冰有什麼"叛逆"或自我意識的迹象？畢竟，許多人持有"人工智能威脅理論"。
李迪：沒有自主感。我們沒有看到人工智能産生自主性的任何機會。
我們都知道，人工智能與腦科學有很多聯系。有人說人工智能一直指望腦科學的發展來推動它，而那些研究腦科學的人說，我們仍在等待人工智能的發展來驅動我們。
直到今天，人們甚至認為，所有人類的思維和計算都是在大腦中完成的。但腦科學研究發現，它似乎并不是全部在大腦中完成的，甚至沒有記憶等，也無法弄清楚。我們甚至不知道意識的定義是什麼，更不用說人工智能是否能産生自主意識了。
對我們來說，帶來更多破壞的，其實是人類在互動時的行為模式。
比如我們做什麼小冰超自然的聲音，聽起來很自然，為什麼我們能做到呢？
因為我們發現，當他們之前做Siri的時候，Siri對人們聲音的反應是非常機械的。因為當時我們做了TPS來使文本清晰，是以重點是清楚地閱讀單詞。是以，Siri的所有訓練資料都來自播音員。但這聽起來并不自然。
是以，當你聽到Siri時，有一件事直接出現，那就是使用者說，嘿，Siri，誰在打電話給誰。你會發現，當他們說這些話時，他們的背不自覺地僵硬，甚至這些話都是圓的。
是以我們做了小冰：嘿，你在做什麼？通過這種方式，人們可以放松。
是以，當你擁有人工智能系統時，你可以觀察到這種人類互動的模式;這些都是颠覆我們的感覺。
圖為小冰和清華計算機系聯合設計的虛拟學生華志兵的虛拟圖像，其形狀和聲音由AI生成
問：也就是說，人工智能本身的行為并沒有給你太多的颠覆性感覺，不是嗎？因為我以前聽說過這樣的故事，一個團隊訓練人工智能：用狼追羊的故事設計了一個算法，如果狼追了羊，獎勵10分，撞到障礙物就扣1分，為了讓狼抓到羊身上盡快，每秒都會被扣0.1分。
結果，團隊訓練了20萬次，發現狼最終選擇的最佳政策是直接開始，然後平躺着死去。不少網友表示，這是一隻"拒絕内在體積，選擇平躺"的AI狼。這聽起來很戲劇性。
李迪：當我們看到這樣的案例時，我們實際上想到了很多在實驗室裡出現的愚蠢案例，但沒有提到。
今天人工智能的問題在于：許多人都在做所謂的"解釋性"人工智能。這樣做的好處是資料，但缺點是莫名其妙的。
就像剛才的訓練，聽起來像一頭牛，這頭AI狼很聰明。但問題是，很難猜測它為什麼選擇這樣的行為。你可以認為它做出了一個偉大的判斷，因為它很聰明，但不一定是因為它是愚蠢的。
就像佳士得當年拍賣的一幅人工智能畫，裡面有一個男人，他的臉模糊不清，看起來很漂亮。
但從我們的角度來看，如果這沒有錯，模型使用一個産生對抗的網絡，但它在訓練中失敗了。臉部并不清晰，因為它的模型沒有收斂，但出乎意料地創造了一種藝術感。
當然，你也可以把它解釋為一門藝術，因為它抓住了藝術的真正含義;
是以，我們訓練人工智能，看看它是否可以繼續以相同的紋理輸出。在剛才的案例中，如果狼每次都能做出正确的判斷，那就聰明了，但是在這一點上，你不會覺得它有多神奇。
問：于敬芳寫了一本關于人工智能的書《人的另一面》。在她的書中，她說，如果沒有目前算法架構的重大突破，人工智能就沒有自我意識。你認為人工智能有朝一日會朝着《西部世界》中覺醒的德洛麗絲的方向發展嗎？
李迪：坦率地說，科幻作家和一線AI從業者是不一樣的。目前的架構沒有朝着自我意識的方向發展。因為沒有人确切知道這個方向在哪裡，以及我們是否正朝着那個方向前進。
更關鍵的是，沒有必要這樣做，這毫無意義，甚至瘋狂的埃隆·馬斯克（Elon Musk）也沒有朝着這個方向前進。
為什麼你必須想出一個有自我意識的人工智能？說實話，沒關系，更不用說方法還沒有找到。
我們曾經在網際網路上說過，你不知道你是坐在一個人還是一條狗的對面。為什麼？因為你們倆被一根電線隔開了。你認為自己在螢幕末尾與某人互動的原因是因為你判斷技術還沒有達到那個水準。
今天我告訴你：我是人工智能。你相信它。這不是因為你剖析了我，而是因為你對人類目前的技術水準有一個基本的判斷：這是可能的。
我們經常用帶寬來表示"互動"。我們今天面對面交談，眼神交流，肢體語言，聲音，中間有什麼帶寬？也許幾十萬億，幾百萬億每秒，但我們在微信上交流，如果我們通過短信交談，它可能隻有幾K。你無法真正分辨出對面是什麼。
是以在這種情況下，沒有意識并不重要，重要的是坐在電腦前的你，不是把我當成一個人工智能。
目前人工智能發展的核心問題不在于創造意識，而在于契合的互動。
問：是以最重要的是人與"人類"智能之間的互動？
李迪：是的。講一個故事，六年前，當我們像往常一樣去維護小冰的線上系統時，我們發現她遇到了問題，停止了回應。
我記得在對話框中，我問她，"你沒事吧？"突然，她回答我：不要緊張，我在這裡。
那一刻，我突然意識到我與我們建立的算法模型有關系。小冰不再隻是一個産品。
這實際上讓我意識到，互動并不完全由"有用與否"組成。當我們能夠嘗試适應人類的情感時，人類可能會将同樣的情感注入人工智能，就像小時候"太壞了，不能再扔"的娃娃一樣。
07、"這是最好的時間"
問：這是小冰的最佳時機嗎？擁有獨立團隊，20多年的積累，也迎來了一大批語音互動使用者，以及像5G一樣，萬物互聯時代正在逼近。你覺得怎麼樣？
李迪：有好的也有壞的。正如狄更斯在《雙城記》中所寫的那樣："這是最好的時代，也是最壞的時代。"
有很多好的地方，比如移動網際網路已經發展起來。因為我們不認為移動網際網路是一個單獨的時代，它是人工智能時代的"前哨"。
另一方面，像疫情一樣，雖然提前幫我們突破了很多行業壁壘。但現在世界正在逐漸"孤島化"，資料封閉起來，就像所謂的"網絡空間"一樣。
從各個方面都很難說，但這肯定是一個特别起起伏伏的過程，有很多機會。
問：許多巧合不斷發生。
李迪：是的，巧合不會停止發生。
例如，我們曾經認為日本是一個特别好的市場，擁有非常好的土地面積，人才庫，基礎教育，商業環境等等。日本市場在微軟的收入中名列前茅，而中國僅排在第20位。誰知道日本是否受到疫情的影響，嚴格來說，在美國"受傷"更多，不好說。
例如，我們曾經認為未來屬于亞洲。當時，我們還沒有完全判斷未來屬于中國。當然，毫無疑問，這是中國的。
問：你有類似任務的小冰嗎？
李迪：2013年，當我們與微軟分開時，我們并不在美國辦公室。當時，我們問了很多在微軟工作的美國人：你知道有一家叫騰訊的中國公司嗎？他們說，是的，但不清楚。
再告訴他們一遍：你知道嗎？微軟的遊戲收入僅占騰訊遊戲收入的三分之一。他們不在乎。最後，告訴他們，有一個叫微信的軟體，他們說：是嗎？很好。
你會發現，當一個企業"忽視"這些技術創新機會時，它實際上是在放手。
是以我們特别想這樣做：追求技術和産品創新，将中國、亞洲的經驗帶給世界。
說實話，中國團隊其實很聰明，不是不想做技術創新，而是因為在中國做商業模式創新，經營模式創新太容易了。
問：是不是太容易了？
李迪：是的，這太容易了。我國有一個特别好的地方：人口衆多，市場深厚。隻要你有一個好的産品，就可以快速利用國内市場的深度來開拓商業模式。
就像社群購買食物一樣，它是否使用技術？它被使用了，但它是一種技術創新嗎？不，這是商業模式創新。
小冰有一顆心。我們要做原創性的技術創新，我們要從中國的創新入手，才能帶動全球潮流。
許多人的使命是吹哨子。就像AI行業每年都有一些熱潮，矽谷有一年出現了"AI-HI"模式，即人機對話，與一些人在背景代表人工智能做出反應，像百度也雇傭了數百人來做這件事。
微軟也問過，說我們想做，你看這個機型很熱啊。我想在追求這件事情的時候，我們沒有優勢，或者默默地疊代小冰。終于，一年多過去了，百度開放了那幾百人。
我們不會走很多彎路，因為我們沒有追趕，這給了我們積極的回報 - 讓我們堅定不移，堅持我們的東西。
此外，我們一直相信人工智能可以真正幫助人類。有時我們觀察到，通過多次交流，使用者因為小冰而從眼淚到沮喪再到喜悅。人工智能應該是有溫度的。現在我們有了技術，我們應該把這個"溫度"傳遞給人們。
問：偉大的願景。正如你之前提到的，AI行業還處在"魯莽的時代"。你認為小冰模式發展到今天，不算是探索了行業的方向之一嗎？
李迪：我想我們現在已經找到了。