机器人的思考方式让我们不得不思考一个古老哲学难题的核心关键所在——道德的本质究竟是什么？

　　雷吉纳·里妮（Regina Rini）是纽约大学生物伦理学中心（New York University Center for Bioethics）的助理教授和研究员。她还是纽约大学人口健康系（NYU Department of Population Health）医学伦理学部门的名誉教工。

　　本文由 AEON授权《好奇心日报》发布，你可以在 Twitter 上关注他们。

　　很早之前，人类就开始畅想制造智能机器。但是这么久以来，这也只是人类的一个梦想而已，从未成为现实。如今，智能机器的时代终于就要来临。智能程度足够高的机器人可以脱离人类控制，独立自主的完成各项工作。同时，它们具备真正独立做出抉择的能力。如果机器人拥有了抉择的能力，那么它们能否做出符合道德标准的抉择呢？而且，机器人的道德准则又应该是什么样的？是与人类社会的道德标准一样吗？

　　哲学家和计算机科学家都表示，让缺乏想象力的机器人按照复杂微妙的人类社会道德标准行事非常困难。他们在不断努力，想要克服这个难题。但是，我们要解决的还有另外一个问题。而且，这个问题的优先级应该更高才对——我们究竟是否应该将人类的道德标准强加给智能机器人？实际上，我觉得这样做会产生适得其反的效果。而且往大里说，这甚至可以称得上是一种不道德的行为。机器人道德准则领域的核心问题不是机器人，而是我们。我们能不能与一种遵循全新类型道德规范的造物很好的共同生活在这个世界上？

　　在我们的想象中，未来的人工智能（AI）将与人类非常相似。这是因为人类是我们已知的唯一一种拥有高级智慧的生物。但是，我们的想象却可能是错误的。如果人工智能在未来真的问世，它可能与人类截然相反。它可能无法理解我们行事的方式，而我们也很难理解它做出抉择的逻辑。

　　图片来自 Pixabay

　　围棋是一种古老的策略性棋类游戏，而李世石（Lee Sedol）则是世界顶级围棋选手。2016 年，一款电脑程序向李世石发起挑战。这款由 Google 研发的程序名叫 AlphaGo，是一种比较“原始”的人工智能。通过它，我们可以一睹未来人工智能的模样。在第二回合对弈过程中，AlphaGo 在第 37 手用一个尖冲让世界上所有的围棋专家目瞪口呆。有的人觉得这是一个失误。面对这一手怪棋，李世石也不知所措。他起身离开桌子，离开了对弈的房间。没有人能够完全理解 AlphaGo 这一手棋的目的所在，因为任何顶尖围棋选手都不会选择这样的对弈策略。但是，这一手怪棋效果拔群。与第一回合一样，AlphaGo 最终顺利拿下第二回合。此后，AlphaGo 又成功在第三回合击败李世石。在这场五回合的围棋比赛中，李世石最终仅仅赢下了一局。

　　AlphaGo 精通围棋。不过，它对围棋的理解与人类顶尖棋手有所不同。即便是它的创造者也不能解释清 AlphaGo 在每一局比赛中究竟是如何选择对弈策略的。假如你能与 AlphaGo 展开对话，而你问它为何要在第 37 手选择那样一步奇怪的这走法。它能够向你或者其他顶级围棋选手解释得清吗？也许能。面对相似的任务，人工智能的思维方式不需要与我们的思维方式完全一致。即便思路不同，它们依旧能够很好的完成任务。

　　我们也许会发现智能机器人不止在理解围棋这件事上与我们不同。实际上，它们对世界万物的理解都与我们有所区别。在恐怖的科幻作品里，机器人会发生暴动，然后疯狂的屠戮人类。你不需要为此担心。在未来，故事的剧本也许会是这样：机器人对人类、其他机器人、大部分动物以及沙发产生了道德关怀。就像我们因为害怕伤害婴儿而行动小心谨慎一样，机器人也会因为害怕伤害沙发而小心翼翼。我们大概会问机器人：“你们为什么这么关心照顾沙发？”它们的解释也许完全令人无法理解。是的，AlphaGo 对自己第 37 手落子的解释也可能让我们云里雾里，丝毫无法从中找到头绪。

　　图片来自纽约时报

　　机器人的思考方式让我们不得不思考一个古老哲学难题的核心关键所在——道德的本质究竟是什么。它是一种超越人类经验的东西，适用于一切能够自主抉择的人或者物？还是说道德明显就是一种人类创造出来的东西，因此仅仅特定适用于我们人类自己？

　　有一种生物的思维模式与成年人也有很大区别，他们就是青少年。很久很久之前，古希腊人就试图让青少年接受社会的道德规范。古希腊人一直对一件事忧心不已：如何让年轻人接受理解他们的道德准则。柏拉图认为，人类社会产生了正义的概念，但这只是完美的正义概念的一种苍白无力的反射和映像罢了。同理，人类社会所产生的其他所有概念也都是如此。在柏拉图看来，人类自出生后就对各种完美形态的概念有所认知。但是在孩童时期，我们对这些概念的理解还比较朦胧浅薄。也许我们会在离世后了解到什么才是纯粹完美的正义，但哲学的任务就是试图让我们在还活着的时候理解世间的各种真理。

　　柏拉图的学生亚里士多德并不同意老师的观点。他认为世间万物——松鼠、乐器、人类——都有着独特的本质和属性。因此对于世界万物而言，表现出各自特有本质和属性就是最好的存在之道。“道德”是一种描述人类最好生存之道的方式，而且它源于人类本性。亚里士多德与柏拉图的另一个不同之处在于，他认为道德是某种与人类有关的东西，而不是某种脱离与人类存在且人类必须遵循的东西。如此一来，道德教育也就变成了对孩子们加以培训，使他们最终能开发出早就潜藏在本性之中的才能。

　　我们可以把这两种对道德的理解方式称为“天赋派”（Celestial）和“内在派”（Organic）。（哲学家诺麦·阿拉皮利对“天赋派”的观点进行了总结研究。我在她研究成果的基础上得出了自己的理解，和她最初的想法略有不同。）包括柏拉图在内的“天赋派”认为，道德就“在那里”。在他们的观点里，道德是超越人类本性的存在，是永恒不朽的客观标准。与此同时，“内在派”则认为道德是某种具有道德生物所特有本性的表现，是他们特有本性所具备的特征。人类的道德是人类本性的产物，也许其他生物因其本性不同也可能有其他的道德准则。究竟应该信奉哪一种观点？这是一个意义重大的选择，而选择结果将会直接影响到我们对待智能机器人的方式。

转载请注明出处。