AI的“色差”与“纠偏”

云栖号资讯:【点击查看更多行业资讯】
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

在美国学术界声援BLM(Black Lives Matter)之后,事情的走向有点Z T 6难以预料。

学术界的反种族歧视反省似乎没有了下文,但是如火如荼的BLM运动早已蔓延开来,这次将矛头指向y l ~ .了AI界。

事情的起因是{ $ 7 f s杜克大学提出了一种称之为PULSE(Photo Upsampling via Latent Spl J Q q J . ( mace Exploration)的AI算法。它s 2 6 z m m可以轻松将马赛克级别画质的人脸图像转化为计算机生成的高清画质图像,也可以o B r n R z“有来有往”地将高清画质给降级到高糊状态,反正是效果6 * % G Q n /极好。

AI的“色差”与“纠偏”

问题就出在,PULSE生成的图像可不保证是还原的原始人物的头像,而且在人脸肤色上还会进行大胆“创新”,把原本是黑肤色的人像变成了白肤色的。比如奥巴马:

AI的“色差”与“纠偏”

这一结果被美国网民发现之后,纷纷将涉嫌种族歧视i p E ; N . 5 X e的矛头指向人工智能。然后将事情引向高潮的是AI界的标杆性人物Yann LeCun,他在推特上给出了自己的解释,大意是出现这种偏差^ s h ! 3 # @ 7的原因是由于数据集的偏差。训练数据集主要是用了白人照片,如果是换成黑人照片,可能会出现生成的人像更多是黑人N % a e Z # ? ~ X的情况。

LeCun的一番解释却换来了两位同行的反驳,她们声称LeCun的解释是“避重就轻”,忽视了AI的z ) o偏见来自于更广泛的社会不公和偏见的影响

为此,LeCun选择道& + P (歉以息事宁人,不愿意将这一话题继续扩大。然而AI界已经为此分成了两派,就LeCun是否在为“AI的种族歧视”辩护% c k *和是否应该为此f 8 Q d | R事道歉吵得不可开交。

今天,在社交网络中不堪其扰的LeCun呼吁所有人停止相互的攻击,再次申明自己反对一切形式的歧视,并决定退出推特来表明这一态度。

相互攻击的口水战确实对于解决问题于事无补,但AI算法中存在种种的“偏见”和“歧视”,则仍然是AI界严肃面对的 “事实性”问题。

不过,就导致AI偏见的种种原因,人们仍然在争论不休,而至于如何解决AI中存在的种种偏见,则同样没有一致的定论。我们希望尽可能呈现出这一争论的复杂样貌,来探索下破解AI偏见的方案中有无最优解。

AI的“有色眼镜”世界

今年5月底,k j N + O X a Y微软宣布要裁撤80名外包编辑,交由AI算法负责接下来的MSN新闻抓取、排版和配y p ! 0 e图等工作。

AI的“色差”与“纠偏”

(MSN 在关于Jade的报道中错误地使用了Leigh的照片)

然而就在宣布之后不到一周时间里,AI编辑就捅了娄子,在一篇关于阿拉伯裔歌手Jade Thirlwall的文章中,配图却用成了该团队另外一个非n : 2 *裔成员Leigh-Anne Pinnock的照片。更让人哭笑不得的是,这篇文章正是Jadej ( u p讲述自己曾m J ` 5 g m ; 2经遭受种族歧视经历的文章。

AI的“色差”与“纠偏”

(左三是Jade Thirlwm w _ S q T % 1 ,all,右一是Leigh-A% . O W . e ! qnne)

AI算法又用“AI脸盲”的偏见再^ 8 ? ^ z c一次不经意地“歧视”了一把Jade和她的伙伴Leq R A x x Qigh-Anne。虽然说两位女团成员长0 % ] G J e F = 3得是有那么一点想象,但是AI就不能长长眼,正确区分出两人的U a u =肤色差别吗?

事实上,AI人脸识别在深色皮肤族裔的识别上,问题一直存在。

2018年,MIT媒体实验室的研究员Joy Buolamwini(算法正义联盟的组织者),就“人脸识别技术在识别不同种族和性别的人脸的效果关系”的研究中发现,一些商业软件在识别黑色人种的性别的错误率要远远高于白色人种,而且肤色越黑,识别率就越低。

研究中,她选] C [ J ] r 4 x K择了微软、IBM和Face++的人脸识别算法。经过测试,算法在识别白人男性的错误率仅为1%,在识别白人女# 9 k k S ^ = R h性的错误率为7%。而到了识别黑人男性的错误率则升至12%,黑人女性g J ( P {的识别错误率则高达35%,也就是每三个黑人女性就会被错误识别一次性别。

而这次研+ o F S究被哈弗3 c Z ( s福德学院计算机科学家Sorelle Friedler评价为第一次证明人& 0 x ; W E *脸识别对不同人群有不同效果的研究。

其实之前业界早已经意识到这一问题,AI在计算机视觉上面存在的认知偏见,可能会导致种族歧视,比如2015年,谷歌的图像识别z | 7 ; K术就将非裔美国人标记为“大猩猩”。

AI的“色差”与“纠偏”

(美国边境警察检查护照)

当时出现这样的状况,还可以理解为图像识别算法不够成熟,而现在这一问题却仍然并未得到更好的解决。n M i K Z b s l ^2019年底,美国国家标准与技术研究院(NIST)的一项研究表明,世界上许多顶尖的面部识别算法都存在年龄、种族和民族偏见。研究显示,一些美国本土开发的面部识别软件中,中年白人男子的识别准确率最高,而非裔美国妇女识别错误率最高,少数族裔、儿童和老年人的错误识别率也相对更高。在某些情况下,亚裔和非裔美国人被错误识别的概率是白人的100倍。

AI偏见的范围,自然不仅仅限于人脸识别领域。比如在算法招聘、犯罪风险预测以及疾病风险评估当中u V f z 4 b,都| c _ $ 1 6 + 0 R会因为算法模型的偏差和数据的不完善导致AI的偏见。

比如,2018年,研究5 w * o U I { (者在亚马逊的招聘算法中发现,在技术职位的简历中,对包含有“女性”的一词的简历进行了降级。而将AI应用于某些人可能再犯罪的风险评估q ) = 3 F m Q r时,更多以司法部的历史数据F @ S y 7 T c ` n记录进行训练。而现实数据中,美国黑人就比白人或西班牙裔更容易被警察拦截。

再比如,美国某公司在利用AI筛选慢性病高风险人群的过程汇总,他们主要根据患者支付的医疗费用来评估的患者患并发症的风险高低。但他们发现,在实际过程中,当黑人和白人患者花费相同的情况下,模型给出的黑人患者的风险评分仍会低于白人患者q O ~ j , o。也n N g X 就是,即使在风险相似的情况下,- N ) ( . 该模型也更倾向于选出更多白人患者进入护理计划。

也就是说,在现实世界中存在的种族歧视、性别、年龄歧视、少数人群歧视等问题,不: t a - E `仅在AI算法中存在,甚至还会通过Z % ` *一种更直接有效地方式放大。

AI算法的“色差”体质,难道真的像LeCun所言,就是AI训练的数据集的问题吗?

AI“色差”从何而来?

在我们大多数人的意识中,科技通常是中立的。不管在全世8 j d m c 0界任何体制中、面对任何人群,科技遵循的规则都是客观的、+ I Q中立的,就像建造高楼要遵循力学结构原理,防御新冠病毒要遵循科学检测和消杀防护手段一样。

偏偏AI这位科技领域的新宠,从诞生之日起就带着神秘的算法黑箱和挑战人类智能的宏伟愿景。同时不可避免地也带有了人类设计者的主观色彩和个人偏见。

在AI应用中,最显而易见的一种人R & e O D R类性别偏见甚至都没有上升到算法层面,而仅仅在人类选择AI助手中就暴露无遗。

AI的“色差”与“纠偏”

现在,主要的智能音箱或者智能设备中的AI助手都默认为女性名字和女性声音。当然,大多数用户也都表现出对于女性声音的偏好。但这一默认出厂设f k ? A M 2定隐含着一个来自现实社会的偏见,q ( 0 n H 5 N p那就是人们更倾向于把女性设定为服务助理的角色,继续强化了女性的次要地位和顺从男性的角色定位。

AI的“色差”与“纠偏”

在深入到那些由于AI图像识别算法导致的种族歧视和性别歧视案例中,其实也可以发现AI算法的决策过程以及导入训练数据的过程中都有研发者个人的价值观、认知缺陷和偏见等因素参与其中。

比如,在PULSE进行高清图像生成的案例中,LeC& b gun的解释一定意义上是可能的,就是如果在训练数据集中加入更多的黑人照片,那么生成的照片可能会更多是黑人的肤色。但是,AI偏见的锅也不能完全甩给数据偏差(LeCun在此的回应确实有点草率)。

AI的“色差”与“纠偏”

AI艺术家Mario Klingemann通过验证指出,PULSE将黑人图像生成为白人的问题,并非出自数据,而是算法本身。他通过使用S! J L {tyleGA} q K B 9 k nN(PULSE也采用了英伟达的这一算法)从相同像素的奥巴马图像中生成的更多是非白人照片。当然,Mario也不能真正指出到底是b * H J q h算法在什么情况下出现这种错误的。

s l ! M对LeCun的回应中,在AI正义联盟工作的研究者Deborah Raji指出,AI的偏见受到更广泛的社会不公正和偏见的影响,而不仅仅是使用“正确”的数据集来能解决更大的社会不公问题(当然Raji的指责也有点* t 2 ] ` , * i O超纲)。

通过以上争论,我们其实P 0 q $ B & 可以得出一个更折中的答案。AI是大j _ T H m s H规模带标注的数据集训练的p u ( J # 3产物,数据集中反映不同种族B - * w、性别的样本数据占比的失衡,确实将反映到AI算法模型的Q n W @ z j结果当中,从而又会强化算法模型对于某一类p @ I s G数据的判断,而弱化对缺失数据的判断。而训练数据的偏见则来自于人类研究者对于数据的收集方式的偏颇。

在以往的数据收集,更多来自于研究者更为熟悉的人种,或者是互联网上面的数据。但事实上,这些数据也并非“客观中立”,M % w 7 3 O :而早已带上了人类世界的“偏见”标签。比如在谷歌中,搜索CEO的图片,绝大多数都是男性CEO,其比例要远远高于实际当中的男性CEO比例。而搜索黑人名字,则往往会跟“犯罪”、“逮捕”等^ ! G标签绑定。此外,在英文搜索中,其他少数族裔的C / R m `数据也很少会被搜索到。由此形成的数据集而训练的模型将延续人类的偏见。

AI的“色差”与“纠偏”

一个典t | 7型的案例就可以理解。去年,微软、c h & o X : X ,谷歌、亚马逊等AI在识别低收入国家的物品上面,准确度要远远低于高收入国家的物品。V Y ; 5 [ B不完整的数据集导致AI也$ e 6 p T P j d 会“嫌贫爱富”了。

也就是说,AI算法和数据集的问题( D k 6 % Z [直接导致了偏见和歧视的出现,而导致AI算法和数据集出问题的原因则来自于人类研究者一开s N 9 g ] = u ?始的认知缺陷和原始数据隐藏的偏见问题。

在BLM运动愈演愈烈的当下,AI偏见问题正从一个圈内被忽视的“顽疾”走出Q / K L h圈外,成为社会大众关心的公平正义问题。那么,这是否能成为解决这一问题的最好契机呢?

AI“色差”该如何“纠偏”?

客观来说,想要真正清除AI算法的C Y 1这些“色差”偏见,难度极大。不然AI界也不X u 3 ` H d + C f会坐视这个问题的泛滥。不过,至少在美+ : S ; % q国非裔男子佛? ( x洛依v . $ ^ q q德事g _ c j ^ # L f件之后,科技公司已经开始意识到AI算法带来歧视问题的严重性了。

比如,IBM等公司6 d ] ^就做0 q ! O | O R z了一件“釜底抽薪”的事情——既然AI(仅指人脸识别)有问题,那我不_ ` a用还不行吗?

AI的“色差”与“纠偏”

(IBM现任首席执行官AX z + q [ # 1rvind Krishna)

6月8号,IBM旗帜鲜明地声明要彻底放弃人脸识别业务, “反对将面部识别技术在内的任何技术用于大规模监控、种族定性、侵犯基本人权与自由,或其他任何不符合我们价值观和信任与透明原则的目的。”

随后,亚马逊和微软也紧随其后,只是打了折扣,声明有条件地限制自己的人脸识别技术提r E ] {供给美国警方使用。

IBMC ( 1 ! @ E这种自绝K , u J # Y K ~于AI的方法,当然可以避免人脸识p & _ M别技术在种族歧视上的滥用。但是一竿子打死AI并不能彻底解决问题。人脸识别在现实世 w e n B R T 7界的应用既有普遍场景,也有重要作用。通过追根溯源,提高少数族裔和女N , 8 E h _性老人等群体的人脸识别准确度,不是更有意义吗?

导致AI偏见的原因可能是复杂因素的集合,那么解决AI偏见的“药方u F 0 B a k F - aA v [ k |,自然也是需要多管齐下的。综合来看,纠正AI偏见要从技术、立法和团队三方面来整体改进。

在技术层面,丰富数据源类型和规模,构建更公平的数据集,这成为解决AI偏见最直接、看起来也最可行的方式。

在立法层面,建立算法问责制度,由AI组织成立专; ^ Q X a o t : *业机构实现对算法的审查和监督。尽管欧洲的GDPR、美国的《算法问责法案》已经有相关规定,但实际操作仍然存在难度,这就要求拥有AI算法的科技企业在算法透明性和可解释性上做出巨大让步。

在团队层面,增加科技公司中AI团队的人群多样性,特别是女性和有色人种的比例,也许是解决这一问题的可行方法。毕z o # I v R ;竟,k i c 5 w之前的AI技术大多是由西方白人男性主导,4 + q A ! i v U$ p w i E很可能是导致美} F D k D O j / u国众多AI算法带有种族歧视、性别歧视的一个“隐含”原因(但并不能确定其中包含直接的因果关系)。

更为重要的是,在今后的算法测试中,在公布结果前,应该加入更C y J U多样化的应力测试1 e s,包括增加对不同国籍、种族、肤色、性别、年龄等数据的测试,提前发现算法中可能存在的认知7 9 u M $ 0 s ^偏见。

此外,通过开源社区和开源技术来消除AI偏见,也可能是一个不错的思路。至少首先解决了AI算法的透明性问题。同时,诸如像研究者提出的# $ O s Z r D自动白箱测试技I H T - 0 5 j术——DeepXplore,可以增强了AI应力测试的强度,以验证AI的黑盒问题,并消除可能带来的偏见问题。这也是值得研究者们长期关注的问题。

AI的“色差”与“纠偏”

在解决AI偏见的问题上,我们不可能抱着过于激进的态度,希望通过一次社会运动就能彻底推O | Q k =动技术界去消除这一技术[ _ Z ) 6 N / 7 k问题,毕竟这一问题的根源更多是来自于人类自身。

我们的认知偏见其实要远远多于AI,而AI所做的就是“学会”并“放大”我们的偏见和歧视。因此,对于AI算法训练的纠偏就U , A $ i显得刻不容缓,但又不能操之过急。正如AI- S P 5 o G l e 3算法要经过一次次调参的过程来将训练结果调整至越来越接近完美的准确状态,AI的纠偏也需要这样一个一步步q M m缓慢调整的“调参”过程,只不过这个过程要更为复杂和艰辛。

在这个过程中,AI研究者首先是跟自己的认知盲区和个人偏q u 9 N G + i a见做斗争。如果你认为AI中存在的偏见不是什么大问题的时候,它本身已经就是一个很大的问题了。

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/live

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-06-29
本文作者:付静
本文来自:“脑) 0 c m ) )极体”,了解相关信息可以关注“脑极体”