算法正义联盟创始人：对抗算法偏见需要考虑“优先级”

　　原标题：Joy Buolamwini：Fighting algorithmic bias needs to be“priority”

　　算法正义联盟(Algorithmic Justice League)创始人乔伊•布兰维尼(Joy Buolamwini)本周在世界经济论坛(World Economic Forum)上发表了演讲，主题是消除人工智能偏见的必要性。

　　Buolamwini也是麻省理工学院媒体实验室的研究员，她在2016年的TED演讲《我是如何与算法中的偏见作斗争的》(How I ' m fighting bias in algorithms)在网络上走红。

　　在她最近的演讲中，布兰韦尼对当前流行的面部识别算法进行了分析。

　　以下是猜测一张脸的性别时的总体准确性结果:

　　微软:93.7%

　　面对+ +:90%

　　IBM: 87.9%

　　这样看来，似乎没有什么问题。当然，社会更加多样化，算法需要对所有人都是准确的。

　　当男性和女性分开时，一个更大的差异变得明显:

　　微软:89.3%(女性)，97.4%(男性)

　　Face++: 78.7%(女性)，99.3%(男性)

　　IBM: 79.7%(女性)，94.4%(男性)

　　在这里，我们开始看到STEM职业中女性比例不足的现象开始显现。中国的Face++遭受的影响最为严重，这可能是中国与美国之间更严重的性别差距造成的。

　　皮肤类型的分裂也增加了差异:

　　微软:87.1%(深色)，99.3%(浅色)

　　Face++: 83.5%(深色)，95.3%(浅色)

　　IBM: 77.6%(深色)，96.8%(浅色)

　　这里的差异可能再次与STEM职业中的种族差异有关。肤色深浅之间有12- 19%的差距。

　　到目前为止，研究结果与NIST和达拉斯德克萨斯大学2010年的一项研究一致。研究人员发现，在东亚设计和测试的算法更善于识别东亚人，而在西方国家开发的算法在识别白种人时更准确。

　　Buolamwini解释说:“我们做了一些以前在这个领域没有做过的事情，那就是做交叉分析。”

　　“如果我们只做单轴分析——我们只看皮肤类型，只看性别……我们将错过重要的趋势。”

　　这里是最令人担忧的结果。结果从最准确到最不准确按降序排列:

　　微软

　　体重较轻的男性(100%)

　　体重较轻的女性(98.3%)

　　肤色较深的男性(94%)

　　肤色较深的女性(79.2%)

　　脸+ +

　　肤色较深的男性(99.3%)

　　较轻男性(99.2%)

　　体重较轻的女性(94%)

　　深色女性(65.5%)

　　IBM

　　较轻男性(99.7%)

　　体重较轻的女性(92.9%)

　　肤色较深的男性(88%)

　　深色女性(65.3%)

　　尤其值得注意的是，对于肤色较深的女性来说，这种说法不够准确。三种算法中有两种会在大约三分之一的情况下出错。

　　想象一下用这些算法进行监视。在大多数情况下，浅肤色的男性会被认出来，但是深肤色的女性通常会被阻止。在机场等人流量较大的地区，这可能是很多错误。

　　在公布结果之前，布兰韦尼把结果发给了每家公司。IBM在同一天做出了回应，并表示他们的开发人员将解决这个问题。

　　当她重新评估IBM的算法时，在评估深色男性时，准确率从88%跃升至99.4%，在评估深色女性时，准确率从65.3%升至83.5%，在评估浅色女性时，准确率从92.9%升至97.6%，在评估浅色男性时，准确率保持在97%。

　　Buolamwini评论道:“所以对于每个看过我的TED演讲的人来说:‘你们之所以没有被发现，难道不是因为，你们知道，物理学吗?“你的皮肤反射率、对比度等等，”——从我做这项研究的2017年12月到他们发布新结果的2018年，物理定律并没有改变。

　　“真正改变的是，他们把它放在了优先位置。”(编译/吉吉)

　　原文：

　　https://www.artificialintelligence-news.com/2019/01/24/joy-buolamwini-algorithmic-bias-priority/