天天看点

小冰CEO李笛:人工智能发展需讨论边界,场景化克制是关键

澎湃新闻记者 张唯

“当我们讨论人工智能未来价值的时候,其实我们更多在讨论的是边界。”12月16日,小冰公司CEO、原微软(亚洲)互联网工程院常务副院长李笛在北京MEET2021智能未来大会上公开表示,人工智能要发展同时也要克制,“其中最主要的克制,是场景化的克制”。

小冰CEO李笛:人工智能发展需讨论边界,场景化克制是关键

李笛

李笛表示,当人工智能不可避免地进入到人类社会的每个角落,和人类发生千丝万缕且无处不在的关联时,应该让人工智能和人之间形成有效的良性关系。

他认为,作为技术的发明者,“在掌握很多不同技术的时候,必须去预判、预想这种技术在运用过程中可能会遇到的困境,然后尝试着去规避。”

李笛特别谈到人工智能机器人微软小冰在人工智能语音领域的“场景化克制”。

他介绍,目前,小冰已经能够自动生成接近真人人声的语音,甚至带有情绪和情感,被广泛地应用在金融资讯节目等语音场景中。但小冰团队始终没有向个人开放训练voice font(语音字体)。语音字体是一种计算机生成的语音,可以通过指定诸如速度和音调等参数来控制,并使其读出输入的文本。

李笛说,之所以不向个人开放语音字体,最主要的原因是不能够确保技术在该场景中的安全性。因为经过训练的语音字体太接近真人了,很有可能被滥用。“很有可能被别有用心的人拿来打(电话)给这个人的亲朋好友,打给这个人的父母、朋友。”

“当我们手上的技术不足以诈骗的时候,我们可以去发展这个技术;但当我们预想到手上的技术已经达到、或者越过一个可能会产生困局的边界时,我们的团队往往会非常谨慎。”

面对日益发展的人工智能技术,李笛表示,最关键的事情是考虑应该把这一越来越强大的AI工具提供给谁。“我们希望,人类和人工智能在未来十年可以有非常好的交互,人工智能系统本身也会变得更强大。但它如果往另外一个方向偏向,对谁都不好。”

责任编辑:李跃群

校对:刘威

继续阅读