其次 ， 从实务层面来看 ， 大多数用于公共事务管理的自动化决策系统 ， 其运行规则实际是由官僚行政机构负责制定 。 然而 ， 官僚行政机构在忙于拥抱新技术、部署新系统时 ， 常常会疏忽新的决策产生方式对所有利益相关者的影响 ， 并且对如何将新决策工具有效融合到现实的行政管理功能之中考虑不足 。 这就容易导致唯技术论 ， 简单地将“应用人工智能”或“以数据驱动决策”设定为目标 ， 却不重视解决实际问题 。 一但出现自动化决策错误 ， 则又会归咎于系统遵循的规则本身 ， 回避当中的人为因素 。 由于人为设定的规则不可能完美适用于每一种情况 ， 服务于公共事业的自动决策系统除了要重视通过预设合理的规则来明确处理具体场景的标准 ， 大幅提升决策的规模和速度之外 ， 还必须认真探索如何实现规则的有效性和规则应用的透明度；规则对优势群体和弱势群体影响的相对公平性；规则遭遇例外情况时的协调办法；当规则出现整体性失败时的监督和问责机制等目标 ， 以避免人工智能系统陷入机械依照既定规则行事 ， 忽略识别新问题并及时纠错的治理困境 。
当前 ， 改善人工智能自动化决策治理模式的需求已迫在眉睫 。 约书华·A·克罗尔（Joshua A. Kroll）因此提出了三个治理的关键点：首先 ， 要以解决具体问题为导向 ， 重视自动化决策结果的实效 ， 而不是局限于制定技术解决方案本身 ， 将制定决策的责任简单推给技术专家 。 只有当系统应用是由问题而不是技术解决方案驱动时 ， 才最有可能取得成功 。 其次 ， 将事前制定合理、公平的规则和建立事后监管与救济机制同时并重 ， 使治理体系的功能更加完善、透明 。 自动决策发生错误后必须有能够升级处理的渠道和酌情处置的补救途径 。 相关系统记录要完整保存 ， 以备审计和监管 。 第三 ， 为了推动人工智能自动化决策系统与应用的可持续发展 ， 尤其需要大力创建包括政府、企业、社会、用户等在内的多方共同开发、协同共治的良性生态 ， 以形成应对人工智能近期、远期问题的建设性共识 ， 弥合灵活变动的实际需求和僵化遵循规则的技术工具之间的断层 。 在此过程中 ， 人类应作为有远见的参与者来积极介入系统的运行和治理 ， 而不仅仅是技术的被动接受者 。 唯有如此 ， 才有可能超越部门职能和学科藩篱 ， 突破现有范式 ， 重塑整个系统 ， 而这还有赖于长期的能力建设和人才培养 。
【治理|全球数治｜人工智能自动化决策偏见不可避免，该如何应对】约书华·A·克罗尔（Joshua A. Kroll）强调 ， 在大数据时代 ， 人工智能自动化决策过程中出现算法偏见的情况几乎是无可避免的 。 尚未解决这一问题的人工智能系统暂时还只能算是一种自动化应用而已 。 但是 ， 否定或禁用该项技术并非明智之举 ， 关键在于如何矫正和规制 。 应当看到 ， 由规则驱动的自动化系统的优势在于能够以可预测的方式将具体的事实置入算法模型 ， 进而转化为特定的结论 。 输入系统的事实模式、决策规则与系统计算输出的结果间的关系和过程可以被完整记录 ， 供日后审查和监管 。 这为将来实现完善的监督与透明的执行 ， 消除偏见和歧视提供了可能性 。 当然 ， 成就这一愿景目前最亟需的是社会各界力量深度协同 ， 构建向善的社会技术治理机制 ， 而不是将视野局限于令机器学习各种规则并自动做出决策的技术过程之上 。
推荐阅读
- 四平|智慧城市“奥斯卡”揭晓！祝贺柯桥客户荣获2021世界智慧城市治理大奖
- 测试|图森未来完成全球首次无人驾驶重卡在公开道路的全无人化测试
- 殊荣|蝉联殊荣！数梦工场荣获DAMA2021数据治理三项大奖
- ASUS|华硕预热ROG Flow Z13：称其是“全球最强悍的游戏平板”
- IT|全球汽车行业价值两年突增至3万亿美元 中国电动车企立大功
- IT|全球供应25亿剂疫苗 科兴上半年营收110亿美元
- IT|全球每日新增确诊病例首超100万例 世卫：两大毒株正掀起“疫情海啸”
- Tesla|特斯拉在美国召回约47.5万辆汽车 接近其去年全球交付总量
- 堆芯|全球首座，世界领跑！
- 集聚|向全球应用创新策源地持续迈进 上海“双千兆”应用体验中心正式揭牌