仿真的这些简化版对于筛选出最有希望的路径是有用的，所以可以加速取得进展。但在现实当中一切都会有度；一切真实的东西产生的影响只能到一定程度，这正是现实的定义之一。随着给模型和仿真注入的细节越来越多，它们就会到达现实要比自己的100%仿真跑得更快的极限。这又是现实的另一个定义：体现所有细节和自由度的最快版本。如果你可以对细胞的所有分子以及人体的所有细胞进行建模，这种仿真的运行速度不会比人体快。你再怎么思考这个，不管是在真实的系统还是模拟系统进行，你还是要花时间去试验。
人工智能要想发挥作用就必须嵌入到世界里面，而这个世界将设定好它们的创新节奏。如果不进行实验，不开发原型，不经历失败，不跟现实互动的话，一个智能是可以思考但却不会有结果。所谓的“比人聪明”的AI出现1分钟、1小时、1天或者1年之后都不会马上有什么新发现。当然，发现的节奏会因为AI的进展而显著加速，这部分是因为外星人式的AI会提出人类想不到的问题，但即便是一个强大得多的智能（跟我们相比）也不能意味着马上就能取得进展。问题解决需要的东西远不止是智能。
光靠智能不仅解决不了癌症和长寿问题，就连智能问题本身光靠它也解决不了。奇点派常见的一个比方是，一旦你做出“比人聪明”的AI，那么突然之间它就能努力思考并发明出一个“比自己聪明”的AI，而后者在苦思冥想之后又能发明出一个更聪明的，这样能力爆发到几乎变得像上帝一样。我们没有证据表明仅靠思考智能就可以创造出水平上一个台阶的智能。这类思考主义只是一种信念。我们有大量证据表明，除了大量智能以外，我们还需要试验、数据、试错、怪异的质疑等等各种各样智力以外的东西来发明出成功的新思维。
我的这些说法也有可能是错的。因为下结论现在还早。我们也许会发现一个智能的统一指标；我们有可能胡发现它在各个方向上都是没有极限的。因为我们对智能（更不用说意识了）是什么了解如此之少，某种类型的AI奇点出现的可能性是大于0的。我认为，所有证据表明，此类场景出现是不大可能的，但也不是不可能。
所以，尽管我不同意它的可能性，但对于OpenAI，以及担心超人AI的聪明人的更大目标——也就是我们应该开发出友好的AI并想办法给它灌输与我们相匹配的可自我复制的价值观，对这一点我是认同的。尽管我认为一个超人AI仍然是比较遥远的存在威胁（同时也是值得考虑的），但它的不可能性（基于我们目前已有的证据）不应该成为我们科学、政策以及发展的指导方针。小行星撞击地球的后果是灾难性的。其发生概率大于零，但我们不应该让小行星撞击地球的概率来支配我们在应对气候变化、推进太空旅行或者甚至是城市规划的努力。
类似地，迄今为止的迹象表明，AI很有可能不会成为超人，而是会成为众多的异人新思维，这些思维方式大部分都异于人类，但没有一个会是通用的，也没有一个会成为马上就能解决重大问题的上帝。相反，将来会出现无数有限智能，在我们不熟悉的维度上工作，其中许多都超过了我们的思维，它们会适时跟我们一起配合，去解决现有问题并创造出新问题。
我理解超人AI上帝的引人入胜。这就像是一个新的超人。但就像超人一样，这是个虚构的人物。在宇宙深处也许存在着这么一个超人，但可能性非常小。然而迷思也是有用的，而且一旦被发明出来就不会消失。超人的想法永远都不会死。超人AI奇点的想法现在已经诞生，也永远不会消亡了。但我们应该意识到在目前这还是只是一个宗教想法而不是科学点子。如果我们调查一下现有的有关智能，无论是人工智能还是自然智能方面的证据，我们只能得出结论说，我们有关虚构的超人AI上帝的猜测只不过是迷思罢了。
密克罗尼西亚的许多相互隔绝的孤岛在二战期间才第一次跟外界接触。外星人上帝坐在聒噪的鸟上飞过他们的天空，投下食物和商品到他们的岛上，然后一去不复返。岛上的宗教崇拜开始弥漫，祈祷上帝回来再扔下更多的货物。即便是现在，在50年之后，许多人仍然在等着货物回来。超人AI不过是有一次宗教崇拜的可能性是存在的。百年之后，当大家回望现在时，也许也会把此刻视为信徒期盼超人AI突然出现，然后带来价值无法想象的货品之时。10年又10年，他们痴心等待着超人AI的出现，确信它会快就会带着货物来到我们身边。
但是非超人式的人工智能已经到来，这是真的。我们不断地重新定义AI，提高它的难度，这在未来会禁锢住它，但就更广泛的外星智能——也就是各种智能、认知、推理、学习以及意识的连续体而言，AI已经渗透到了这个星球上，而且还会继续扩散、深化、变化并且增强。在改变世界的能力方面，此前没有任何一种发明能够与之匹敌，到本世纪末，AI将触及和重塑我们日常生活的一切。但是超人AI，无论是会让我们超级富足还是让我们沦为超级奴隶（或者兼而有之），这种迷思可能仍将存在——因为这种可能性实在是太具有神话性了，以至于我们难以舍弃。
相关推荐：
转载请注明出处。
相关文章
精彩导读
热门资讯
关注我们
