我们处在人工智能的时代，我们需要知道科技是如何影响我们的社会和我们的生活?我们真正需要注意些什么?让我们从大家都已经习以为常的事情入手，从内容推荐 APP开始说起吧。
我们来分析一下，一款内容推荐APP是怎么运作的。首先有一个内容池，也就是有内容创作者在写文章或者发视频，然后机器就把这些内容进行一个特征提取，提取特征之后存储到一个指定的地方(这个地方叫模型)。同时，环境也会被特征提取进入模型。什么是环境呢?比如：你用的是什么样的手机、今天的天气、你现在所处的城市位置。每一个用户都有一个独特的画像，诸如年龄、职业，甚至可以推测出你是高收入阶层还是低收入阶层，这些都是用户的特征。
上边说到的所有信息都会被存储到模型当中，模型经过计算，将这个内容池当中的部分内容推荐给用户看，无论是商品，还是文章、视频等等。你看到这些内容之后，就会做出一些反应，比如点击、点赞、分享、收藏、评论、看得多少、多看一会、少看一会等等。
用户做出的反应会与APP厂商希望的用户行为有一定偏差。什么叫厂商希望的行为呢?简单说就是，厂商希望你一直用这个APP，永远不下线。而事实显然不是这样，有的用户喜欢，有的用户未必就喜欢。也就是说，模型一开始推给你的，是你喜欢的，你一直不离开;是你不喜欢的，你就划过去。一旦你划走了之后，机器就记住了。你没有看这些内容，可能不是你感兴趣的，这个时候，偏差就又送到了模型里去，模型依据用户的行为调整推送，直至你一直沉迷于小视频当中无法自拔，这就是内容推荐的一个基本原理。
这里实际上用到了一个所谓的负反馈的机制，就是期望和实际的输出有一个偏差，然后尽可能地来调整参数，使得偏差缩小，这个模型就会越来越好。这个偏差会通过负反馈不断地缩小。这对于模型来说肯定是好事，它会越来越靠近APP厂商的期望。但是，对于用户来说，未必是一件好事：对于用户来说，会导致一个问题，那就是正反馈。
正反馈又是什么呢?用户喜欢看，用户越想看，这里就越有;这里越有，用户也就越想看;用户越想看这里也就越有。由于厂商是希望用户一直看的，而这样的一个闭环系统就会随着厂商的期望，就会导致用户真的是最后一直看下去，这就是为什么我们看小视频的时候无法自拔，就是因为机器的目标就是让你一直看下去，它给你的信息就是你喜欢的;你越喜欢，它越给你喜欢的。人就在这个圈子当中转来转去，成了一个封闭的小圈子，人就会变得偏执，变得单调，变得没有趣味，这就是现在人工智能时代我们要避免的一个问题。
我们怎么走出这个圈子呢?这里笔者给出一个非常善意的建言：让自己成为一个更加审慎的批判性思考者，学会怎样正确地评估证据，考虑地更全面，从而得出自己的结论。实际上，这就是人工智能时代很多人需要拥有的能力，也是我们需要在日常生活中不断学习和培养的一个能力。
最后，笔者以一个真实的案例作为本文的结尾。几年前美国大选，两位总统候选人互掐，后期一个内幕被披露。有一家公司开发了一款小软件，在互联网上招募了很多志愿者，目的是做一项心理测试，类似于一个性格方面的问卷调查，参与者可以得到一个5美元的红包。他们通过所做的心理测试来判断参与者的性格是软弱一点还是强势一点，还是属于比较淡定冷静的人，或者是属于一点就着的烈火烹油型。接着，他们就把所有参与测试者的画像画出来了。
这么多人的画像有了之后，在竞选的时候就给所有的人定向推荐内容：淡定的人，推荐适合他们口味的广告;非常急躁的人，推荐竞选对手的丑闻，让用户一点就着，丑闻越劲爆越好。
言归正传，重复忠告：人工智能时代，需要我们每一个人都具备批判性思维，成为一个独立批判性思考者。当然，这并不是一个非常容易就能获得的能力，需要我们在工作和生活中不断地学习，不断地积累，不断地提升。