AI正在改变我们所熟悉的世界，它每天都在制造新的风险。不过真正的危险不在于机器，而是我们的大脑。我们已经习惯于利用捷径、偏见和不透明的程序做出决策。正如金融利用了人类思维的弱点一样，AI也将利用我们的生活模式，以不可抗拒和无形的方式操纵我们。在中译出版社最新出版的《循环：AI如何影响人类，人类如何应对AI》一书中，美国的雅各布·沃德揭示了我们是如何将这些习惯融入决策技术中，这些决策如何影响我们，我们又该如何应对。
人工智能将改变我们所知的世界。但真正的危险不是某个机器人会奴役我们，而是我们自己的大脑。我们的大脑经常使用捷径、偏见和隐藏的过程来做决定——我们正在使用同样的方法来创造技术，为我们做出选择。雅各布·沃德认为，人工智能对人类最大的威胁不在于机器人的反扑，我们的大脑才是最需要提防的因子。在决策时，大脑会受到偏见、情绪等因素影响。而当我们在选择要喂养哪些信息给智能产品时，往往也会把这些盲点和谬误一并复制进去。
人类的思维本来就有认知偏误，行为也受各种无形的外力牵引。而在当今模式识别科技与引导式决策的相互作用之下，智能产品帮我们写好了一切行为的剧本，人类选择因此受到限缩。雅各布·沃德提醒，如此一来，不仅不公不义的现象更加严重，人类创新的本能和思考的能力亦将大幅退化——这才是我们在面对智慧科技时真正应该担心的事情。
雅各布·沃德，斯坦福大学行为科学高级研究员，NBC新闻的科技记者，此前曾担任CNN、半岛电视台和PBS的科技记者。沃德是《大众科学》杂志的前任主编，他还主持了PBS电视台长达4小时的系列纪录片《侵入你的大脑》，向电视观众介绍了人类决策和非理性方面的基本科学发现。《循环：AI如何影响人类，人类如何应对AI》是其最新的一本关于AI的科技图书。
什么是循环？著名哲学家波普尔“三个世界”的认知框架，对物理世界、心灵世界和知识世界做出了静态的划分。雅各布·沃德将人类认知与行为划分为三个相互纠缠、彼此影响的循环：本书提到三个循环：第一个循环也是最核心的循环，即世代沿袭的人类本能。人类天生具有偏见，而且更倾向于使用大脑的系统1行事，在这个过程中，人类原有的偏见进一步被强化，形成第一个循环。第二个循环是来自现代的力量，如消费类技术、资本主义、营销和政治，它们对核心循环的人类行为进行采样，总结出模式，再将这些模式反作用于人类，最终引发了一系列问题。第三个循环，即本书书名所指的循环，是来自人工智能的影响。AI对人类偏见进行采样，总结出规律，最后把这些规律反作用于人类，形成第三个循环。雅各布·沃德的阐释，体现了自50年前波普尔知识划界之后全新的思想倾向。这一倾向有两个显著的特点：一是强调人类的认知与行为是动态演进的，二是强调作为人造物的智能技术日益强大的生命塑造能力。这一阐释从动态循环的角度描绘了一幅复杂交织的人类生存画面，对驾驭这艘人与宇宙相互依存的生命飞船，无疑是深刻的思想洞察和敏锐的警醒。
关于人类世代沿袭的生命本能与性情，本书用地球与宇宙内其他星球的演绎作了直观的解读：“火星与地球轨道相邻，它是太阳系中除地球以外最适宜人类生存的星球。但其实这并不能说明什么。诚然，其他星球的环境更糟。以木星为例，火箭如果穿越木星表面30英里厚的云层，在大量易燃的氢气和氦气中，火箭发动机推力忽高忽低，然后火箭到达云层下方约1.3万英里处相同成分的液态层（这个液态层的存在让我们对这片有毒的液态海洋下面有些什么还一无所知）后，发动机就完全失灵了。宇航员们还没出飞船就会溺死（也可能会被烧死，这种情况在地球上是不可想象的）。火星相对来说是比较宜居的。火星上有稳定的落脚点。在火星上度过美好的一天可能真的感觉不错。太阳高高挂在空中，气温大约是宜人的 68℉，就像旧金山或约翰内斯堡八月的一个晴朗的下午。但如果你刚好晚上在火星极地下了飞船，气温可能会低于-200℉，这个温度会让你立即被冻死，你的四肢会被冻得像易断的树枝一样，一锤子下去就能敲个粉碎。我们不要忘了就算是在火星上最舒适的区域，也没有可供呼吸的空气，所以即使是在最宜人的日子里，你也不能走远。在低重力环境中，你大概只能在飞船附近50码b以内的范围活动，否则你就无法屏住呼吸，缺氧会让你迷失方向，不能回到飞船上吸氧。你会失去知觉，身体抽搐，心脏停止跳动，红色的灰尘慢慢飘落到你的尸体旁边。这就是科学家和记者都对系外行星如此感兴趣的原因，作为太阳系以外的行星，系外行星似乎有着适宜人类生存的大气层和表面。在过去几年里，现已退役的开普勒太空望远镜让人类产生了源源不断的乐观幻想。开普勒太空望远镜其实无法看清远太空的事物，系外行星过于遥远不能直接对其拍摄清晰图像，因此它会观测遥远恒星的光线经过行星旁时产生的弯折。根据恒星光线途经行星后产生的光线变化，天体物理学家不仅可以计算行星的大小，还可以计算它离光源多远，这意味着我们可以根据行星体积，以及行星与恒星的距离这两个值之间的关系，推测行星周围是否存在着某种大气层。”
北京智源人工智能研究院院长黄铁军表示，人工智能目前在我们的生活中扮演并将持续多年的角色将会加速发展。但是人工智能是什么？它真的会使我们陷入困境吗？雅各布·沃德结合长达十年的人工智能和行为科学前沿研究，警告我们人工智能即将放大我们最原始的一面，并利用算法推荐和模式识别技术使我们陷入一个“选择越来越少”的循环。随着科技行业开始将有缺陷的人类习惯写入人工智能本书呼吁我们要更加清醒地审视自己。而经济人读书会创始人、公众号econhomo主理人徐瑾则评价说，当技术突飞猛进，很多人在思考AI可以做什么的时候，本书则思考不能做什么，这种带有批判性的审视对当下分外珍贵，也更能代表普通人的焦虑与声音。技术使得人类走在命运的十字路口，我们可能第一次拥有了改变进化路径的可能性，问题在于我们有这样的能力去承受各种结果吗？作者指出，人性依赖于捷径，也充满偏见，而这些特点通过不同模式的强化，最终又会反作用于我们自身。意识到这种局限，有助于我们更好地理解AI时代的变迁，做出更有利的选择。
“这本书揭示的人工智能真相既令我们感到恐惧，又对我们应用人工智能具有教育意义。沃德结合了大量关于人类思维的行为科学研究，融汇了来自多个领域的科学知识，分析了人工智能开发人员如何利用我们本身的偏见来兜售他们的产品，这是对人工智能及其前景和弊端的有趣、独特的看法。”童行书院创始人郝景芳如是说道。此外，科幻作家、中国作协科幻文学委员会副主任陈楸帆表示，人工智能的发展使得它能够在人类活动和选择中找到极其详细的模式，也使得企业从人工智能预测行为的能力中获益，对人类的决策功能拥有几乎无限的控制权。考虑到利弊，作者认为我们必须对人工智能保持警惕，意识到“陷入困境”的危险。这本书所涵盖的信息范围非常广泛，对于任何梦想更美好世界的人来说，都应该读一读。（读者报全媒体记者 何建）