https://www.toutiao.com/a6680841965853999628/
2019-04-17 20:38:55
20世纪60年代，人们开始认识到超人类智能可能导致的一些后果，I.J.古德曾写道：我们把超级智能机器定义为在智力活动方面大大超过任何人类的机器，无论人类有多么聪明。机器设计是这些智能机器的能力之一，所以超级智能机器可以建造比它自己更强大的机器。随后就会发生一场“智能大爆炸”、人类的智力将被远远抛在后面。
因此，超级智能机器将是人类需要实现的最后一种发明。前提是这种机器足够驯服，会告诉我们人类如何才能控制它。我们极有可造出这种机器，并使之成为人类的最后一种发明。古德谈到了关键性的创意失控问题，但并没有深入挖掘最为令人不安的后果。他所描述的那些智力如此高超的智能机器，不可能成为人类的工具一一正如人类不会成为兔子、知更鸟和大猩猩的工具一样。
整个20世纪60、70和80年代、对此巨变的认识都在不断传播。第一批感受到实实在在冲击的应该是科幻作家群体。毕竟，“硬科幻”作家们的使命，就是用故事的形式探讨技术会给我们带来的可能性。这些作家越来越多地感觉到、在我们与末来之间、横亘着一堵若有若无的高墙。他们曾一度把这类幻想的发生时间设置在数百万年以后，现在他们却发现，即使最细心的推测，也充满了不确定性……巨变很快就会发生。
如今，我们在不断滑向边缘地带，未来的几十年又将变成什么样？奇点即将来临这一观念的传播，会对人们的世界观造成何种影响？大众对机器科学的意见暂时还倾向于正面。毕竟，在我们开发出与人脑能力相当的硬件设备之前，担心制造出类人（或超人）智能的实体显得杞人忧天。（还有一种极茫的可能，就是我们到时可以用质量较差的硬件，组装出与人类智能相当地机器。前提是我们愿意牺牲反应速度、可以接受反应很慢的智能机器。
但更可能发生的情况是，编写这样的软件会非常困难，需要经历很多的波折，要做大量的尝试。如果是这样，具备自觉意识的机器，可能要到硬件水平大大超过人类脑力的时候才能出现。但是随着时间的推移，我们会看到更多迹象。科幻作家们面临的两难处境，其他从事创意工作的人也很快就将有所体会。我曾听漫画作者抱怨等到普通人都能轻易绘制任何可视图景的时候，他们还能有什么办法构造壮观场面。
我们会看到智能机器人取代越来越高技术的工作岗位。我们现在的工具软件（数学符号处理程序，CAD/CAM等）可以帮助我们摆脱低水平重复性工作。换言之，以后从事真正有生产力的工作的人，数量会越来越少层次会越来越高。
在奇点逐渐来临的过程中，我们将看到真正的技术性失业成为现实。奇点临近的另外一种表现，就是观念的传播速度越来越快，即便是最激进的言论，也很快就会变得平常。到奇点真正来临时又会怎样？我们对奇点本身了解多少？由于这涉及次智慧的爆发，它的进程之快，可能会超过迄今为止任何一轮技术革命。
这场颠覆性巨变很可能会突如其来地发生一一甚至连专业人士都无法预见。如果网络普及程度足够（渗入无处不在的嵌入式系统），那时的状况，就像是所有的工具一下子觉醒了。那么一两个月（或者一两天）之后又会怎样？我只有一个类似案例可以参照，那就是人类的崛起。我们将迎来后人类时代。尽管我一向对技术进步的前景极为乐观，有时候我还是宁愿自己距离这个颜覆性事件有一千年以上的时间……而不是在二十年后就要面对这一切。