去年年底，欧盟人工智能高级别专家组正式向社会发布了一份人工智能道德准则草案。在许多人担忧人工智能取代人类、破坏伦理的大背景下，该草案旨在指导人们制造一种“可信赖的人工智能”。那么，如何才能让机器人更令人信赖？可否赋予它们道德修养呢？美国匹兹堡大学科学哲学和科学史系杰出教授、西安交通大学长江讲座教授科林·艾伦在与耶鲁大学教授温德尔·瓦拉赫合著的《道德机器：如何让机器人明辨是非》一书中说道：“尽管完备的机器道德智能体还很遥远，但是目前仍有必要，而且有可能开始建构一种功能性道德，从而使人工道德智能体具有基本的道德敏感性。”
今天，让我们一起来看看艾伦对人工智能与道德问题的理解。
★什么是人工智能的“道德”？
艾伦：人工智能的“道德”，或者说“道德机器”“机器道德”，有很多不同的含义，我将这些含义归为三大类：在第一种含义中，机器应具有与人类完全相同的道德能力；第二种含义中，机器不用完全具备人类的能力，但它们对道德相关的事实应该具有敏感性，并且能依据事实进行自主决策；第三种含义则是说，机器设计者会在最低层面上考虑机器的道德，但是并没有赋予机器人关注道德事实并做出决策的能力。
就目前而言，第一种含义所设想的机器仍是一个科学幻想，我们并不知道应该如何实现它。所以，在《道德机器》一书中我略过了对它的探讨，而更多地探讨那些介乎第二、第三种意义之间的机器。
当下，我们希望设计者在设计机器人时能够考虑道德因素。这是因为，在没有人类直接监督的情况下，机器人可能将在公共领域承担越来越多的工作。这是我们第一次创造可以无监督地运行的机器，这也是人工智能伦理问题与以往一些科技伦理问题之间最本质的区别。在这样的“无监督”情境中，我们希望机器能够做出更道德的决策，希望对机器的设计不仅仅要着眼于安全性，更要关注人类在乎的价值问题。
★如何让人工智能具有道德？
艾伦：首先要说的是，人类自己还不是完全道德的，将一个人培养成有道德的人可不是一件容易的事。我们人类的本质都是出于利己主义做事，而不考虑他人的需求和利益。然而，一个道德的智能体必须学会克制自己的欲望以方便他人。但我们现在构建的机器人，其实并不具有自己的欲望，也没有自己的动机，因为它们没有自私的利益。
所以，训练人工智能和训练人的道德是有很大差异的。对机器的训练问题在于，我们怎样才能赋予机器一种能力，让它敏感地察觉到对人类的道德价值观而言哪些是重要的事情。此外还有一个问题，机器需要认识到它的行为是否会对人类造成痛苦吗？我认为是需要的。我们可以考虑通过编程使机器按照这种方式行事，且无需考虑怎么让机器人优先考虑他者利益，毕竟目前的机器还不拥有利己的本能。
★应采用何种模式发展人工智能的道德？
艾伦：我们曾在《道德机器》中讨论了机器道德发展模式，“自上而下”和“自下而上”相混合的模式是这一问题的最佳答案。我们以两种不同的方式使用着这两个术语。一个是工程的视角，也就是一些技术和计算机科学的视角，例如机器学习和人工进化；而另一个则是伦理学视角。机器学习和人工进化并不从任何原则开始，它们只是试图使机器符合特定类型的行为描述，并且在给定输入使机器以这种方式行事时，它的行为能够符合特定类型，这叫“自下而上”。与之相比，自上而下的方法则意味着一个清晰的、将规则赋予决策过程的模式，并且试图写出规则来指导机器学习。
在一些伦理学领域也有这种“上下之别”，这些学者试图制定规则以及普遍原则，以便通过这些“条条框框”判断出某个行为是不是道德的。
但是在西方传统中，亚里士多德对道德持有相当不同的观点。他认为，道德应当是一个人通过训练而习得的。他的观点更倾向于一种自下向上的方法，这种方法就是一个人通过练习变得好、善良、勇敢。当践行道德的时候，我们就称之为美德伦理。通过这样做，一个人会变得更具美德、会有更好的行为。
若问人类是怎样做的，我还是认为亚里士多德的看法更正确。因为我们人类并不是靠“瞎碰瞎撞”去养成习惯的，我们也会对习惯进行思考，并且思考我们是否需要那些原则。亚里士多德注意到，在原则灌输和习惯训练之间存在着一种相互作用。我们认为，这种途径同样也适用于人工道德智能体的构建。在很多实时决策的情境下，我们并没有足够的时间来反思行为背后的理论或原则含义。但是，我们还可以从错误中学习，因为我们可以使用这些自上向下的原则重新评估我们所做的事情，之后再进行调整和重新训练，以便下一次做得更好。
这就是混合方法的基本思路，我认为它确实符合人类的情形。举个例子，当你还是个孩童时，你对兄弟姐妹做了什么不好的事情，父母会说“如果这种事情发生在你身上，你会有何感受呢”，在许多道德传统中都有这样一种原则：“以你自己对待自己的方式，或是你希望被别人对待的方式去对待他人”，有时人们也称这一原则为黄金法则。所以，你不仅仅被告知不要那样做，也不仅仅因此而受罚，实际上你会被告知去思考这样做为何是好的或不好的，这就是“自上而下”与“自下而上”的结合。
（王小红）
