研究人员|PowerTransformer AI重写文本、纠正剧本、消除性别偏见_doctor|角色|文本|剧本|性别|偏

From: Venturebeat; 编译: Shelly
千奇百怪的AI应用又来了， PowerTransformer使用AI重写文本以纠正角色刻画中的性别偏见。无意识的偏见普遍存在于文本和媒体中，为此，艾伦人工智能研究所和华盛顿大学的研究人员创建了PowerTransformer ，旨在重写文本以纠正字符刻画中的隐性不良偏见。他们声称， PowerTransformer是缓解电影脚本以及其他媒体中性别偏见的重要一步。
无意识的性别偏见在文本和媒体中几乎无孔不入。故事中的女性角色通常被描写为命运被动和无能为力的形象，而男性则被描绘为有力量和积极主动的。

文章图片

麦肯锡对全球10个市场的120部电影进行了研究，研究显示2016年电影中男女角色比例为3：1 ，与1946年以来的比例相同，这也间接说明了：六十多年来，电影中的性别意识没有大的突破。
受这点的启发，美国艾伦人工智能研究所和华盛顿大学的研究人员创建了PowerTransformer ，这是一个旨在通过改写文本来纠正字里行间潜在偏见的 AI 。
论文入口: https://arxiv.org/pdf/2010.13816.pdf
据两家研究所声称， PowerTransformer是改变电影脚本和其他媒体中隐含的性别偏见的重要一步！

文章图片

PowerTransformer与GD-IQ类似， GD-IQ利用了南加州大学维特比工程学院开发的AI来分析脚本文本，确定男女字符的数量以及它们大体上是否代表实际人口。 GD-IQ还可以挑出有色人种、LGBTQ群体、经验障碍者和好莱坞电影中代表性不足的人群。
迄今为止，大多数媒体研究都是手动完成的， GD-IQ作为开创者首先对媒体内容进行自动分析，其自动化的精确度之高，连人耳人眼都不能及，彻底改变了业内研究方法。据此，研究人员可以快速分析大量数据，在实时报告发现有意义的结果。
GD-IQ的开发也旨在更准确地测量电影中的性别差异。经发现，流行电影中女性角色仍然没有代表性，当女性角色出现时，她们的屏幕时间和演讲时间要少得多，这意味着仅在影片中添加更多女性角色是不够的。要真正解决性别不平等问题，女性角色需要和男性角色一样频繁地被听到、被看到。
PowerTransformer则更进一步，不仅解决了文本修订，还会使用机器学习生成新文本表达样式。例如，它可以自动将“Mey做白日梦，想成为医生” (Mey daydreamed about being a doctor) 改写为“成为一名医生是Mey的梦想” (Mey pursued her dream to be a doctor) ，这样改写后， Mey在文本中显得更权威和果决。

文章图片

研究人员指出，改写文本的AI系统也面临一些关键挑战。首先，系统得能跳出表层编辑，给出深层释义，简单的释义通常不能直接解决明显的偏见词（比如男女的不同动作）和细微的偏见词（比如动作的构架）。其次，要想保证修订的不偏不倚，系统应该更有目的性，在不大改文本基本含义的情况下保证修改的精确度。
PowerTransformer通过重建故事中的部分句子和外部释义语料库来克服这些挑战。模型会恢复句子中被掩盖的与能动性相关的动词，并在生成过程中采用发声增强技术来增加这些单词的可能性（i.e., ability to act and make choices）。
例如， “一个朋友叫我用一分钟的时间去看看她两岁的孩子”（A friend asked me to watch her two-year-old child for a minute）将变成“一个朋友需要我用一分钟的时间去看看她两岁的孩子”（A friend needed me to watch her two-year-old child for a minute）；降低能动性， “艾莉挂了科学课”（Allie was failing science class）则变为“艾莉上科学课”（Allie was taking science class）。
在实验过程中，研究人员测试了767种现代英语电影剧本中的16763个字符，希望看看PowerTransformer能否改变剧本中的性别偏见。在这些人物中， PowerTransformer推断68％为男性， 32％为女性，因此PowerTransformer试图重新平衡男女角色。
研究人员说，结果表明， PowerTransformer的修订成功增加了剧本中女性的积极面，减少了其消极角色或消极情绪。研究人员写道， “电影剧本上的发现展示了AI在剧本中去除隐性偏见的光明未来，这种作用还可以扩展到其他领域。我们的发现凸显了神经模型在编辑文本中消除社会偏见的潜力。 ”
当前，性别平等与女权运动的呼声不断， PowerTransformer功能是强大的、愿景是美好的。说起来，前途一片光明，但能否真正应用到主观意愿强烈的电影和剧本行业仍是未知数，想要拓宽市场仍需未雨绸缪吧。
一个新功能里会包含很多隐性因素，若PowerTransformer大获成功，或许会改变整个行业规则和架构，但也许这同时也是一份带有陷阱的礼物。
https://venturebeat.com/2020/10/29/powertransformer-uses-ai-to-rewrite-text-to-correct-gender-biases-in-character-portrayals/
https://venturebeat.com/2020/08/06/researchers-discover-evidence-of-gender-bias-in-major-computer-vision-apis/
【研究人员|PowerTransformer AI重写文本、纠正剧本、消除性别偏见】https://seejane.org/research-informs-empowers/data/

研究人员|PowerTransformer AI重写文本、纠正剧本、消除性别偏见

推荐阅读

如何找寻自我

缝纫机调线器怎么安装平车方法如何

强组词强字组词

火笋鸡翅的做法（增肥食谱）

闺女生日快乐祝福语朋友圈

LV请来潮牌设计师做艺术总监，看中的是啥

老虎豆怎么做好吃老虎豆图片怎样弄来吃

暖气有流水声是什么原因

皮球是什么体

手机怎样开通QQ空间

男生发mua说明 mua是什么意思

手指盖凹陷怎么回事

对自己的生活失去掌控咋调整

小米10s怎么没有月亮模式

我想找个偏僻的地方搞养殖！有没有推荐的地方？

南京养老金认证上门服务怎么申请南京市养老金认证

如何评价猪场阉割猪？

最后一个字是豹的成语

泰山散酒怎么样

猫发情的声音(猫发情的叫声)