回忆霍金：他的多个奇思妙想让人类受益，却输掉了三场“赌局”( 七 )_斯蒂芬·霍金是有史以来最伟大的物理学

五. 霍金对人工智能发出了严厉的警告

在霍金死后出版的《对大问题的简明回答》一书中，霍金表达了他对人工智能未来的希望和担忧。与世界上许多其他大思想家一样，他认为，当人工智能不可避免地超过我们所有人时，人类应该不会感到惊讶。

他和其他人一样，认为人工智能的崛起对它的创造者来说是福也是祸。斯蒂芬希望是前者，但他警告说，我们需要仔细考虑如何开发和利用它们。霍金警告说:“人工智能的短期影响取决于谁来控制它，而长期影响则取决于它能否被完全控制。 ”人工智能很可能会发展得如此之快，以至于使人类的智能相形见绌。

大多数人担心的是人工智能会变得恶毒而不是仁慈。但霍金并不确定这一点， “人工智能的真正风险不是恶意，而是能力” 。在霍金看来，人工智能将非常善于实现其目标; 如果人类挡道过于干涉，我们可能会有麻烦。

他说：“你踩到蚂蚁可能并不是不是出于恶意的憎恨，但如果你负责一个绿色水电项目，而该地区有一个蚁丘要被淹没，这对蚂蚁来说太糟糕了。我们不要把人类放在那些蚂蚁的位置上。 ”

回忆霍金：他的多个奇思妙想让人类受益，却输掉了三场“赌局”( 七 )