如何制造有道德的机器人？( 六 )_图1

图3/4

4. 我们应该限制人工智能的发展吗？

艾伦：我认为，这取决于其应用的领域。我现在并不担心机器人或人工智能会取代人类，我也不认为人类正处在这一危险的边缘。如果情况变得危险，我们是有能力去阻止它的。比如说，如果我们突然间看到机器人可以开始生产机器人，我们所需要做的无非就是切断电源。

当然，如果我们能办到的话，确实存在一些应当停止人工智能应用的地方，其中一个就是人们正致力开发的军事领域。我们应当拥有人工智能武器吗？我认为这是应该极力避免的，并且我在各种方面都对此持悲观态度。因为从人类的历史来看，一旦有人构想出一个武器，那将很难阻止另一些人的欲望及其为之奋斗的野心。在这方面，核武器和无人机就是很好的例子。所以，人工智能武器时代或许真的将要来临，但如果我们能阻止它的话，我会对此十分支持。

但是，我不认为我们应该阻止其他形式的人工智能发展。我们需要思考技术对生活带来了怎样的后果，比如说，自动驾驶汽车会使行人过马路更困难，还是更加容易呢？自动驾驶汽车面临行人过马路的情形时应附加什么样的权限呢？无人车看到行人能不能安全停下，还是说它像人类司机一样，依然有可能撞到行人？这些都是我们需要对人工智能进行思考的问题。不过话说回来，我觉得无人驾驶汽车不该停止发展，反而应该投入更多。