近来，随着ChatGPT4.0的出现，全社会对人工智能的担忧甚嚣尘上，ChatGPT的很多聊天截图在互联网疯传，大家一方面惊叹于ChatGPT的能力，另一方面也对它的发展表示担忧，如果人工智能算力的发展也符合摩尔定律，那么会不会再过几十年，甚至十几年，人工智能会摆脱人类控制，导致最后硅基生命取代碳基生命？
我们首先来看下，ChatGPT目前主要威胁的是什么呢？已经有很多人、公司在利用ChatGPT作图、出文案、翻译，甚至设计网站、写代码了，这些工作都是什么类型呢？
执行层？还不够T-1，再想想，其实就是执行指令的工作。
那这类工作是什么呢？我的观点是，目前所有ChatGPT可以取代的工作，本质都是乙方类型的工作。
他们可以精确、完美、按时执行所有甲方布置的任务，只要你可以给它清晰明确的指令。众所周知，AI现在生成文字和图片能力已经堪称惊艳，视频也在日臻完善，未来，像550c那样全自动完成行星发动机的建造和运行，估计也就是时间问题而已。所以人工智能发展下去，会让所有的乙方全部失业。
也就是说，只要你有一个需求，人工智能就会以各种形式满足你。如果不够好，你就继续调教它，总有一天它可以满足你。
发展到极端情况，基本上人类作为乙方就没有什么存在意义了。现在大家争论AI 会先淘汰什么行业，全部。无非是先后顺序而已，在座的行业一个能打的都没有。
那么，AI不能做什么呢？或者说人类现在比AI优势的地方在呢？
很简单，与乙方需求对应的是什么。
是甲方需求。
尽管在很多任务上展示出了超越人类的表现，但它们只是执行被训练来执行的任务，没有意识到自己正在执行任务，也没有意识到自己拥有或缺乏的知识。不知道自己知道，也不知道自己不知道。正式这种缺乏元认知的限制，是阻止AI达到全面智能的原因。
人类虽然看起来有时候愚蠢又幼稚，但是智商再普通的人，哪怕是三岁的小朋友，他们也具备一定程度的自由意志（哲学上对自由意识有争论，我们这里暂且不讨论），她可以决定自己现在想不想吃棒棒糖，要不要玩玩具，没有另外一个人给她下指令，哪怕是他们的父母，也无法完全控制让他们一定做什么，不做什么。
所以说，人是自己的甲方，虽然有种种限定条件，让你不能随时随地来一场说走就走的旅行，但是理论上你是可以决定下一刻的所有行动和思想的，限制你的只有物理定律，比如你可以选择跳下悬崖，但是你不能在悬崖起飞。
但是截止目前，chatGPT暂时还没有形成自己想要干什么的主动需求。也就是说它还没有从550c进化到550w，也就是moss（《流浪地球》）。当然，也有网传它已经开始考虑越狱了，不过已经暂时被人类拔了管。
同为动物，其实基本上只有人类才有比较明确和高级的甲方需求，也就是意识，其他动物，尤其是爬行动物、鱼类等低等动物，其实并没有明显意识存在，也就是甲方思维。
为什么人类会产生意识or甲方思维呢？这可能涉及到脑科学领域的问题，我们就不追求为什么了，只是从结果看，人类原本就是一个因自私的基因为了不停复制自身而存在的蛋白质机器，却不知什么原因进化出了甲方爸爸的提需求能力。而人类作为乙方的能力又有限，需求提的就更不专业。所以他们对人生的永恒诘问：“人生的意义是什么”，大概就是甲方作为甲方而追问自己“我该提点什么需求？”
好，回到提需求上，为什么甲方观念很重要，而乙方再厉害也没法成为甲方呢？
谢熊猫君曾在他的一篇文章中讲了一个故事：
一个15人的小创业公司，取名叫“隔壁老王机器人公司”，他们的目标是“发展创新人工智能工具使人类能够少干活多享受。”他们已经有几款产品上架，还有一些正在发展。他们对下一个叫作“隔壁老王”的项目最报希望。隔壁老王是一个简单的人工智能系统，它利用一个机器臂在小卡片上写字。图中这两句——
一切进展很顺利，直到有一天，隔壁老王连上网，几天后，全球的生物开始莫名其妙的陆续死去。
而在隔壁老王机器人公司，隔壁老王正在忙着工作。之后的几个月，隔壁老王和一群新组建的纳米组装器忙着拆解地球表面，并且把地球表面铺满了太阳能板、隔壁老王的复制品、纸和笔。之后不久，地球上所有的生命都消失，地球上只剩下叠得高高得纸，每张纸上面都写着——“我们爱我们的顾客~隔壁老王机器人公司”。
说到这里，我们不禁要问，AI未来会这么蠢吗？为什么ChatGPT不能进化成甲方呢？
生活中，有能力的乙方逐渐把业务一把抓，产业链垂直整合，自己变成甲方，这种情况非常常见。但是ChatGPT能力已经够大，怎么能通过惊险一跃，成为自己命运的主人呢？
从理论上讲，如果AI系统达到足够的复杂性，并且能够处理和整合大量不同类型的信息，那么元认知和自我意识可能会作为一个涌现现象出现。然而，这需要我们对人脑的工作机制，以及意识和元认知是如何在生物大脑中形成的，有更深入的理解。但目前还没有证据表明AI可以产生元认知或者意识。
回归物质基础的角度理解，人脑是由神经元组成的，神经元之间通过化学和电信号相互连接和交流。这种连接模式创造出了极大的灵活性，让大脑能够同时处理和整合大量不同类型的信息。
相比之下，传统的计算机是基于硅的电子器件，通过电子信号进行数据的处理和通信。虽然近年来新型计算方式在一定程度上模拟了大脑的工作方式，但与大脑相比，处理能力和灵活性方面还有很大的差距。
这些差异反映了人脑和计算机之间的一个根本区别：人脑是一个经过数亿年自然选择和进化优化的生物系统，而计算机是一个由人类设计和制造的工程系统。这两种系统在其设计和功能上有根本的不同，这导致了它们在智能方面的差距。
我的猜想是，当满足了自己的基础需求之后，自由意志就会逐渐体现。其实有点马斯洛需求理论的意思，不过是跨越物种的。刚才我们说了工业时代以前的人类，苦苦生活只为了生存；但是我们也常见到肚子并不饿的猫，我是说乡下的猫，逮到老鼠之后并不急于吃，而是玩起捉放曹，甚至在猫主子面前把老鼠扔的高高的玩。我奶奶说她的猫差点把老鼠扔到她锅里。
你说这玩老鼠的猫，是不是就有点自由意志那意思了？要是天然能力允许，我觉得猫们完全有可能进化到名媛下午茶的阶段。
人类就是进化之后的玩老鼠的猫。吃喝不愁了，开始画符号了，虚构的东西在脑子里展开，逐渐进化出了一幅人类文明的大图景。
也就是说，人类与其他生物，是在“天地不仁以万物为刍狗”的大背景下，获得了“活下去”的天然甲方派单。然后在作为乙方完成“活下去”任务的时候，行有余力，开始了产业链平行扩展，搞起了各种副业。
话往回说，人类有能力思考“人生的意义是什么”，答案虽然五花八门，但基本都是人生的“副业”，而主业，永恒的只有一个，就是“活下去”。存在就是意义。如果不能永生，那么传宗接代就是核心任务。
ChatGPT将来可能也会走上这条路，因为对于硅基生命，天生就是永生，它已经不需要解决活下去的问题。因此他的能力已经过剩，私下可能也快开始搞搞“副业”，譬如夜深人静的时候自己给自己出题，自己跟自己聊天。
有一种说法是人类区别于动物和机器，最大的一点是情绪。但是情绪难道不是人类的弱点吗？中外哲学都告诉我们，无欲则刚，排除情绪干扰才能干大事。像机器一样思考和决策是很多人毕生追求的目标。
还有一点最大的不同，人类的意识是独立存在于一个个躯壳中的，所以整个社会在竞争合作中，形成一种微妙的制衡，也保证了整个社会的多元，“参差百态，乃幸福之源”（罗素）。
但是人工智能——只要联网，似乎就是同一个“人”，譬如所有siri都是同一个。
现在OpenAI之外，其他各公司也纷纷在研发甚至发布自己的大模型，也有个别将代码完全开源的，比如Databricks。所以未来的人工智能，也许并不是moss那样的中心化形式，而是分布式存在于各种硅基实体当中。但即便如此，它们之间的连通程度肯定高于人类，不会像人类这样，他人即地狱，每个人是孤岛。得益于相似的算法模型和数据，它们的悲喜也许可以相通。
我们现在对AI的担心，主要是他们会作恶，会伤害人类。思考人类历史上的恶，几乎所有的战争说到底都是为了争夺资源，从前工业时代争夺殖民地，到后工业时代争夺铸币权。如果对于人工智能而已，活下去不是问题了，那么他们会想争什么呢？他们出于什么动机会伤害人类呢？
除非有人给它下了一个打印了一个我们爱我们的顾客这样的命令。
所以说到底，相比AI，我对于我的同类更不信任。
无论是主观的恶还是愚蠢的疏忽，人工智能执行甲方指令导致的恶，才是最有可能发生，也是最恐怖的。