视点·观察|歧视、造假、思维控制:人工智能在道德面前急踩刹车( 三 )


她说,该委员会包含人权、数据科学和工程等领域的专家,他们最终为Custom Neural Voice今年2月全面发布开了绿灯 。但对它的其使用设置了限制,包括确认受试者的同意声明,并且根据公司的相关政策培训了一个“负责任的人工智能冠军”(Responsible AI Champs)团队 。
IBM的人工智能委员会大约包含20 名部门领导,在新冠疫情初期,当客户要求定制面部识别技术,以识别发烧情况和面部遮盖物时,他们陷入了困境 。
该委员会联席主席蒙哥马利表示,他们拒绝了这个要求,认定人工检查足以减少对隐私的侵犯,因为照片不会被保留到任何人工智能数据库中 。
6个月后,IBM宣布停止提供面部识别服务 。
壮志未酬
为了保护隐私和其他自由,欧盟和美国的立法者希望加大对人工智能系统的控制 。
欧盟的人工智能法案有望于明年通过,该法案将禁止在公共场所进行实时人脸识别,并要求科技公司审查高风险应用,例如用于招聘、信用评分和执法的应用 。
美国国会议员比尔·福斯特(Bill Foster)曾就算法如何加剧金融服务和住房领域的歧视举行听证会,他表示,针对人工智能出台新的法律将为供应商营造一个公平的市场 。
“当你要求一家公司为了社会利益减少利润时,他们会说,‘我们的股东怎么办?怎么不处罚竞争对手?’所以才需要细致的监管,”这位来自伊利诺伊州的民主党人说 。
“可能有些领域非常敏感,你会看到科技公司有意不去涉足,直到有明确的规则出现 。”
事实上,一些人工智能的进步可能会被搁置,直到企业能在不投入大量工程资源的情况下应对道德风险 。
在谷歌云去年10月拒绝为金融公司定制人工智能服务后,“柠檬水”委员会告诉销售团队,该部门的目标是有朝一日能开发与信贷相关的应用程序 。
谷歌云在发给员工的政策中表示,首先,必须通过研究来打击不公平的偏见,以此匹配谷歌云通过“高度敏感”的技术提高金融包容性的雄心壮志 。
【视点·观察|歧视、造假、思维控制:人工智能在道德面前急踩刹车】“在那之前,我们无法部署解决方案 。”

推荐阅读