当机器学习时,人类会失去控制( 二 )

AI可能缺少基础?

人工智能正在进步 , 但它可能会缺少一个阻碍其达到人类般的一般智能的技术 。 《科学》杂志上的一篇文章分享了一个三岁孩子能够学习并将最近获得的知识快速应用于新环境的故事 。 该帐户中的孩子属于认知科学家 , RobustAI的创始人加里·马库斯(Gary Marcus) 。 马库斯认为 , 人类无论是在出生时还是从童年开始就具有本能 , 这使我们能够抽象灵活地思考 。

最初的直觉是目前大多数AI尚未编程的东西 。 我可以想象用任何与人类相近的直觉来编程AI都是艰巨的任务 。 但是 , 我缺乏所谓的“基本本能代码” , 这在我脑海中产生了一个问题 , 人们无法诚实地知道我们狭窄(但正在扩展)的AI的想法 。

我看到了AI与人类之间的关系在某种程度上类似于人类与工作动物之间的动态关系的未来 。 一个盲人和一个导盲犬是一个团队 , 但他们都不了解对方脑袋里发生了什么 。

当我们了解AI的想法时

今年早些时候 , 《大西洋》详细叙述了一个犯罪量刑的AI的恐怖故事 。 这篇文章记载了哥伦比亚特区公设辩护律师事务所Rachel Cicurel的工作经历 。 AI将Cicurel的客户标记为“高风险” , 检察官将缓刑作为其客户的一种选择 。

推荐阅读