超级人工智能给人类带来的不利因素_我们需要把人工智能看作是一个优化的过

----超级人工智能给人类带来的不利因素//---- http://

"multi_version":false

我们需要把人工智能看作是一个优化的过程，一个能把未来引导至一个特殊组合结构的过程。一个超级人工智能是一个非常强大的优化过程，它会擅长利用各种资源来达到目标，但是我们也要规避掉其中对于人类不利因素；假设我们给予人工智能的目标是让人们笑，那么当人工智能弱的时候，它会尽可能的收集一些搞笑的方式来让人们笑！而一旦它变成超级人工智能的时候，它会很快意识到，一个更有效的办法能够达到这个目标，那就是控制世界！然后将人类的脸上插上电极，这样人类就会一直不停的笑下去了；另外一个例子：假设我们给予人工智能的目标是解决一个难道爆炸的数学题，那么超级人工智能很可能意识到，有一个更高效的办法来解出这道题，那就是将整个地球变成一个超级计算机，这样它们就能最大化增强算力。