对于我们的数字化服务有时候甚至比我们自己更懂我们这一点，我们也变得越来越习惯。当Amazon把我们可能喜欢的书或者电影呈现给我们时，我们会很乐意。当电子邮件过滤器阅读我们的消息并且清理我们的收件箱时，我们会很赞赏。AI总统也许也能像Netflix推荐我们爱看的节目和电影那样，用相同的不可思议的先见之明来提出政策建议。

　　当然，另一方面，在AI总统独立地学习以及追求为最大多数公民的福祉而进行优化的使命的过程中，它也有可能被黑或者被改造成恶魔。为了说明这一反乌托邦的可能性，Tesla CEO Elon Musk举了一个开发AI来种植和收割草莓的例子。为了实现采摘尽可能多的草莓这一根本使命，AI可能会得出结论说消灭人类并把地球变成一个庞大的草莓场是合理的选择。想象一下，如果我们把发射核武器的代码给了AI会发生什么事情？我们怎么能把自己的生命托付给机器？哪怕这个AI编写时就是为了实现福祉最大化的，它也有可能做出决定，认为全球变暖的威胁足以彰显杀死数百万人以减少碳排放的合理性。考虑到AI学习的任何经验都是基于对大量我们也不是很清楚的数据进行消费这一点事实，就像人类总统一样，AI总统也会是一个黑箱。

　　我们已经花了很多时间去想象一个牵涉到机器智能的反乌托邦的未来。在《未来终结者》中，天网变成了流氓，试图消灭人类。在《黑客帝国》中，机器把我们变成了电池，而在《2001：太空漫游》中，Hal是一台复杂的威胁机器。但未来未必就会这样发展。风险显然存在，但重要的是我们不能忽略AI总统可带来的好处。AI的目的是解放我们不必去做那些不擅长的东西，比如驾驶，进行医疗诊断以及治理。AI引领我们进入人类繁荣与和平的新时代是完全有可能的。

　　所有这些都不会很快或突然实现。领袖会从向AI求助来分析复杂情况并博弈出最优场景开始。慢慢地，AI能够处理更多艰难决策这一点会变得越来越清晰。然后到了某一刻，我们就会意识到有一位AI总统我们的日子也许会变得更好。也许我们可以另选他人来主持国宴。

　　【36氪编译组出品】译文：boxi

相关阅读：

相关推荐：

转载请注明出处。