耶鲁大学测试人类和AI一起工作结果令人意外！( 七 )_【网易智能讯3月7日消息】《大西洋月刊

不管怎样，如果我们不对这些社会溢出效应进行优先考虑，就不能不顾后果地推出新的人工智能形式。人类必须像为自动驾驶汽车技术开发硬件和软件那样，运用同样的努力和聪明才智来管理人工智能对汽车外部产生的潜在涟漪效应。毕竟要求车后安装刹车灯，不仅是为了车内人员的利益，而且主要是为了车后的其他人。

1985年，在艾萨克·阿西莫夫(Isaac Asimov)提出他的机器人定律大约40年后，他又在自己的清单上增加了一条:机器人永远不应该做任何可能伤害人类的事情。但他在如何评估这种危害方面遇到了困难。“人是一个具体的物体，”他后来写道。“对一个人的伤害是可以估计和判断的。但人性是一种抽象。”

特别关注社会溢出效应会有所帮助。其他领域的溢出效应导致了规则、法律和监督的要求。无论是污染水源的公司还是在办公楼里呼出二手烟的个人，一旦一些人的行为开始影响其他人，社会可能会介入。由于人工智能对人与人之间互动的影响是如此强烈而深远，而且发展迅速而广泛，在大规模部署之前必须系统地研究可能会出现什么样的效应，并讨论如何为了共同的人类利益来进行调节。