易坊好文馆

  1. 首页 > 生活百科 >

AI 算法的进化：机器会引发战争吗？( 五 )


人类的大脑不擅长进行概率分析 ， 这是进化的失败 。概率直觉感知力的构建必须基于大量的试验 ， 然后从中发现可能的趋势性 。我们缺乏大量试验的机会 ， 所以无法建立这种直觉 。从某种程度上来说 ， 机器代码的发展弥补了人类大脑在数据交互方面低速率的缺陷 。因此 ， 机器学习可以看作对人类思维方式的补充 ， 而不仅仅是简单的复制 。
概率是机器学习的核心 。许多算法实际上都是确定性的 。这就好比一个人发现了问题的解决办法 ， 然后通过编程促使计算机机械地在人所设定的规则下完成某一件事情 。这就像牛顿的世界观：宇宙是由数学方程控制的 ， 科学家的任务是发现其中蕴含的规律并用它们来预测未来 。
20世纪的物理学家们向人们揭示了宇宙并不像我们此前想象的那样具有确定性 。量子物理理论认为 ， 世界就像上帝在玩骰子 ， 结果具有不确定性 ， 取决于事件发生的概率 。概率思想主导下形成的算法具有非常强大的力量 ， 这或许是为什么在新算法的世界中 ， 那些受过物理思维训练的人比数学学者显得更游刃有余 。这是理性主义与经验主义之间的对抗 。但就我而言 ， 经验主义占了上风 。
那台机器是如何在不知道游戏规则的情况下仅靠一个可以左右移动的滑块 ， 以及屏幕中的像素及分数变化情况就学会了雅达利开发的Breakout游戏的？算法计算的是当前状态下 ， 左右移动滑块对得分情况的影响 。由于移动所产生的影响是持续性的 ， 可能是几秒钟时间 ， 所以还需要计算延迟影响 。这就非常难了 ， 因为我们并不总是能够确定这之间存在什么样的因果关系 。而这暴露了机器学习的一个缺点：它有时会把某些关联误认为是因果关系 。动物们也会被这个问题所困扰 。
美军用神经网络训练机器识别坦克图片的例子 ， 是在机器学习社区里被反复提起的一个经典的反面教材 。该算法的训练数据是一些带标签的图片（标记出哪些有坦克 ， 哪些没有坦克） 。通过对这些图片进行分析 ， 算法获得了识别坦克的重要特征 。在分析了数百张带标签的图片之后 ， 研究人员用一些算法从未见过的图片进行测试 ， 结果非常振奋人心 ， 识别准确率达到了100% 。
但将装有该算法的探测器部署到战场后 ， 美军很快发现它毫无用处 。令研究小组感到迷惑不解的是 ， 当他们用美军所使用的图片做分析时 ， 探测器所给出的识别结果竟然是随机的 。直到后来通过深入研究他们才发现 ， 只要图片拍摄于阴天 ， 探测器就能做出正确的判断 。
一想到训练数据 ， 他们就明白问题出在哪儿了：研究小组只是获得批准有权使用坦克有限的几天 ， 所以他们将坦克开到不同地方 ， 拍摄了大量位于不同伪装位置的照片 ， 但没注意到那些天一直都阴阴沉沉的 。返回后 ， 他们拍摄了一些没有坦克的乡村照片 ， 但那时的天空是异常晴朗的 。用这些照片作为训练数据 ， 算法就误认为晴天和阴天也是区分坦克的重要特征 。所以 ， 一个坦克探测器就变成了一个对军方毫无用处的“阴天探测器”了 。从这个事件中我们总结的经验教训是：机器是能够学习的 ， 但前提是你要让它学习对的东西 。
现如今 ， 随着基于数据训练的算法广泛应用于社会的各行各业 ， 如申请抵押贷款、治安决策、个人健康建议等 ， 上面这个问题所造成的负面影响日益凸显 。很多证据表明 ， 算法中暗藏着歧视和偏见 。麻省理工学院的一名研究生乔伊·布兰维尼（Joy Buolamwini）发现 ， 她的脸相较于那些肤色较浅的同学 ， 更加不易被所使用的机器人软件识别 。当她带上一个万圣节用的白色面具时 ， 技术识别很顺利 ， 可一旦取下面具 ， 她就在机器眼中“消失”了 。
问题出在哪儿呢？该算法虽然针对大量的人脸图像进行了训练 ， 但这些数据中黑色皮肤的面孔较少 。本应公平公正的人工智能 ， 从数据中学会了人类的偏见 ， 这种偏差导致算法生成了许多令人不可接受也难以接受的结果：针对男性的声音进行训练的语音识别软件识别不了女性的声音；某图像识别软件将黑人辨认为大猩猩；护照照片拍摄软件不适用于亚洲人 ， 原因是它始终认为他们在拍照时闭眼了 。硅谷的科技公司雇用的员工中有4/5都是男性白人 ， 这正是布兰维尼创立算法正义联盟以对抗人工智能算法偏见的原因 。

推荐阅读


上一篇：中国侨网 福建追回“红通人员”30人！原副局长自述外逃捡废品为生16年

下一篇：数字货币 数字货币这轮大跌像极了上一轮