超级人工智能给人类带来的不利因素( 二 )

当然了这只是一些很极端的例子 , 事情应该不会错到这种程度;但是它所要表达的寓意是非常重要的 , 如果我们创造了一个非常强大的人工智能 , 想让它们以最高效的方式达成某个目标;那么我们最好能保证 , 我们想要的这个目标包括在这过程中 , 所有我们在乎的事情都会按照我们认为对的方式进行 。

如果我们创造一个超级人工智能 , 并且给予了它一个错误或者不精确的目标 , 那么后果将变的难以预料;因为可能我们爆炸式的科技发展 , 也正是我们一步步接近于大过滤器的成因 。

推荐阅读