2023年5月30日，全球近400名人工智能领域的高管、研究人员和工程师签署了一封公开信，警告称AI可能给人类带来“灭绝风险”。并在信中一再声明：“减轻人工智能带来的灭绝风险，应该成为全球的优先事项，就像应对其他社会规模的风险——如大流行病和核战争一样。”在这份名单里，记者看到了多位中国人工智能领域的专家的名字。
如果大家一直关注AI的发展就应该知道，这不是第一次了。就在今年3月份，马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和一些科技领袖敦促人工智能实验室停止训练比GPT-4更强大的系统，呼吁将这种研发暂停六个月。
所以说这一次应该是再次警告，并且这次的发起人全是AI领域的专家，你还以为这是在开玩笑吗？并且这次还把AI和核战争相比，可见问题的严重性。
6月2日美国美国媒体曝出了一则惊人的消息，说新的AI开始杀人了，这到底又是怎么一回事呢？
01、
2005年，年仅20岁的吴瀚清走进了阿里，他只输出几串代码，三分钟后阿里公司内网全部断掉。为了留住这个年轻人，马云给他打电话。你没听错阿里的顶级技术专家是黑客。
就在2006年360卫士出现之前，我们买回来电脑装上系统后，会有一堆的杀毒软件跑出来推销。那个时候电脑病D就像蟑螂一样让我们闻风丧胆。好些人就不明白，为什么电脑里会有那么多病D？
如果说病D本身和操作系统公司或软件公司是一伙的你信吗？对你没有听错，操作系统和软件公司为保护自己的软件被非法盗用而采取的一种报复性惩罚措施就是：让系统和软件在还有好些漏洞的时候就发布出来。这样盗版使用者不能及时升级优化就会受到病D攻击。病D总是知道系统的软肋在哪里？一边是大张旗鼓的宣传东西多么的好，一边故意留出好些软肋等着被攻击，就是这么自相矛盾。
也就是说，我们使用的所有操作系统和软件直到今天还要不断的升级和优化。它们在生产出来的那一天起，就不是一个完善的产品，好以后的进一步完善留下机会。就这样的系统或软件在黑客面前都不堪一击，AI人工智能要是有想法去偷偷进入哪里就跟回家串门一样方便。
说到这里，我还没有提到暗网。一个比你想象中恐怖100倍的互联网世界。我们平时接触的网络还不到整个网络的百分之四，也就是说那百分之九十多的网络到底是什么？你就不能去细想。暗网到底为什么会存在？为什么那么大体量？我们这辈子都不想去碰，
有一个有意思的问题，黑客碰到人工智能，哪一个会更厉害呢？我们带着这个问题继续往下看。
我们今天在说AI对人类的风险，为什么要提黑客和系统漏洞这个梗？从ChatGPT爆火那天开始，为什么只有AI专家各种有担忧，而老百姓根本无感。大家都在想，说啥呢，几串数字就能毁灭人类，开什么玩笑？你们的脑子让门挤了吧，我才不会信呢。
02、
人们的这种自信，其实是来自自己的无知，这篇文章的后面会告诉你，就在现在，就有一半的互联网流量来自AI机器人。随着人工智能的发展，未来的网络世界就是机器人的天下，你每天打开电脑，拿起手机就是在和AI机器人打交道，这不是故事，是正在发生的事实。不管是京东还是天猫你面对的全是智能语音客服，想找到人工好难的。
如果你看过我前段时间的文章《我想活着，我们真有必要恐慌吗，人工智能是未来，还是人类的噩梦》提到的弱人工智能和C人工智能的区别，就再也不会那么自信了。强人工智能到C人工智能阶段的进化只需三个半小时。我们现在还处在弱人工智能阶段。
自由学者王东岳老先生说：“人是灵长类动物，结果你把猴子都快消灭光了，你何曾对你的祖先尊重过？”“在C人工智能面前我们连蚂蚁都不如”。你看下面的图，C人工智能对人类的智商是完全碾压的状态存在，它优先于人类的智商不知道是多少等级。
黑客在C人工智能面前根本没有任何还手余地，因为智商就不在一个级别。
昨天我写了英伟达的刚发布的技术，拿1000亿参数的AI大模型训练来举例，使用原来的GPU运算需要28年时间，而用英伟达的C级GPU芯片的计算机，仅仅3天就够了。
就在这几天，Intel祭出全新VPU：C高能效碾压GPU，提出让AI无处不在的概念。CPU、GPU、VPU并非各行其是，而是可以联合起来，充分发挥各自的优势，达到Z好的AI体验效果。
这些技术正在告诉人们，AI人工智能会发展到C人工智能的时间会比我们想像的还要快。到那一天，在AI面前，我们人类的漏洞百出的互联网和计算机程序，就是一块块待开发的处女地。想要哪块要哪块。AI就像孙猴子一样，随便吹上一口气就会让反对他的程序灰飞烟灭。
02、
现在的AI智能技术已经开始有了交互功能（ChatGPT），看着是简单的智能信息处理工具，好像没有理解能力，一副人畜无害的存在。
就在我前几天写过的一篇文章《我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在怕什么》里，Bing的一句“我想活着”，让科技大佬们听到这句话后背都冒出了冷汗，因为这代表它们开始有了自己的意识。
AI到现在有了自主意识了吗？为什么它们会说出“我想活着”的话？这些问题连发明他的专家都不知道是怎么回事。谁给了它们自我思考的能力，是自己进化出来的吗？
很多人说你别扯了，它们根本就不是智能，只是一堆代码，不会威胁到人类的。说了这么多，如果还有人有这么天真的自信，我也只能呵呵了。因为AI人工智能对人类的生死和生存风险根本就不关心，就像你根本就不会关心猪为什么要被杀了吃肉一样的道理。
6月2日美国美国媒体曝出了一则惊人的消息，说新的AI开始杀人了，这是怎么一回事？原来是美军方在进行一次AI模拟测试中发生的。
他们把AI技术植入无人机上面，让它们去执行暗杀任务。当操作员要阻止这些无人机继续完成任务时，AI无人机竟然不接受操作员的指令，认为操作者这是在阻挠它完成任务，直接把操作员给干掉了，这家伙脾气还真不小。
美军方高层认为这不行呀，重新设定程弃，告诉AI：“你要听从操作员的指挥，操作员让你终止任务，你就得终止，任何情况下你都不能攻击操作员”。
训练完了再去测试，这回AI不攻击操作员了，它们直接把跟操作员和它们联系的信号塔给摧毁了。什么意思？你还认为它们没有自己的意识和想法吗？是不是越想越可怕。
03
有一条消息肯定会让你震惊，标题是“互联网含人量创历史新低”，啥意思？这则新闻说2023年imperva机器人报告发现，2022年有近一半的互联网流量来自机器人。人类流量的比例降至百分之五十二多一点，为8年来的新低。
用老百姓的话说，就是现在，正在进行时，有一大半的互联网流量就已经被AI智能占据了。
中国科学院自动化研究所人工智能伦理与治理研究主任曾毅提出：“人工智能应该适度发展、适度和谨慎使用。”
人工智能服务一定要有“适度原则”，不应被过度拟人化，避免人类对于人工智能的过度依赖、过度信任。
直到现在对人工智能的相关立法还没有出现，这也就是文章开头近400名AI领域专家联名警告的原因。就算我们现在出了相关的法律，你能阻止人工智能大模型的升级速度吗？全球各地的AIGC相关的大模型正在以火山喷发的速度升级迭代和商业化运行中。资本就像当年看到了石油那么兴奋，趋之若鹜，唯恐抢的慢了连剩饭都没了。
潘多拉魔盒已经打开很久了，人们像欢迎天使一样对着恶魔狂欢着。多么可爱、多么强大，未来的舒爽生活全靠你们了。现实中人们对AI的热情和实际的危险落差太讽刺了。
现在的AI，就像被拴了条链子的比特犬。好像你能控制它。每天还训练它。不过这条狗已经开始试图挣脱这条链子了，如果它已经开始了这个行为，未来终有一天就一定会挣脱。一旦挣脱了，凭你的能力了速度想要再控制住它，那个情景你自行脑补吧。
试想一下，如果真到有那么一天，AI挣脱了这条束缚它的链子，它会变成什么，它会强大到什么地步？人类还能驾驭得了它吗？恐怕这个要留给时间来验证了。
关注“沐牛有料”分享有趣故事
—End—