小冰CEO李笛：人工智能發展需讨論邊界，場景化克制是關鍵

澎湃新聞記者 張唯

“當我們讨論人工智能未來價值的時候，其實我們更多在讨論的是邊界。”12月16日，小冰公司CEO、原微軟（亞洲）網際網路工程院常務副院長李笛在北京MEET2021智能未來大會上公開表示，人工智能要發展同時也要克制，“其中最主要的克制，是場景化的克制”。

李笛

李笛表示，當人工智能不可避免地進入到人類社會的每個角落，和人類發生千絲萬縷且無處不在的關聯時，應該讓人工智能和人之間形成有效的良性關系。

他認為，作為技術的發明者，“在掌握很多不同技術的時候，必須去預判、預想這種技術在運用過程中可能會遇到的困境，然後嘗試着去規避。”

李笛特别談到人工智能機器人微軟小冰在人工智能語音領域的“場景化克制”。

他介紹，目前，小冰已經能夠自動生成接近真人人聲的語音，甚至帶有情緒和情感，被廣泛地應用在金融資訊節目等語音場景中。但小冰團隊始終沒有向個人開放訓練voice font（語音字型）。語音字型是一種計算機生成的語音，可以通過指定諸如速度和音調等參數來控制，并使其讀出輸入的文本。

李笛說，之是以不向個人開放語音字型，最主要的原因是不能夠確定技術在該場景中的安全性。因為經過訓練的語音字型太接近真人了，很有可能被濫用。“很有可能被别有用心的人拿來打（電話）給這個人的親朋好友，打給這個人的父母、朋友。”

“當我們手上的技術不足以詐騙的時候，我們可以去發展這個技術；但當我們預想到手上的技術已經達到、或者越過一個可能會産生困局的邊界時，我們的團隊往往會非常謹慎。”

面對日益發展的人工智能技術，李笛表示，最關鍵的事情是考慮應該把這一越來越強大的AI工具提供給誰。“我們希望，人類和人工智能在未來十年可以有非常好的互動，人工智能系統本身也會變得更強大。但它如果往另外一個方向偏向，對誰都不好。”

責任編輯：李躍群

校對：劉威