面部识别拒绝种族歧视

荣智慧

美国黑人乔治·弗洛伊德被警察用膝盖顶住脖子窒息而亡的事件，在美国各地掀起了巨大的抗议浪潮。一波波群情激昂的游行示威中，美国的几家科技巨头均动静不大—除了特朗普和推特的宿怨嘴炮之外。

6月8日，“蓝色巨人”IBM终于站了出来。首席执行官阿文德·克里什纳（Arvind Krishna）向美国国会致信，宣布该公司已完全退出面部识别业务。信中写道，“ IBM不再提供通用的IBM面部识别或分析软件。IBM坚决反对也不会容忍任何技术（包括其他供应商提供的面部识别技术）用于大规模监视，种族歧视，侵犯基本人权和自由的行为，或与我们的价值观和《信任与透明度原则》不符的任何目的。”

此举是对监测示威游行的当局使用面部识别人工智能平台的回应。之前《纽约时报》就揭露过人工智能平台Clearview，有数以百计的执法机构和企业与它合作。Clearview有一个庞大数据库，包含了从脸书、推特、Venmo等热门网页上抓取的30多亿张照片。

刺探隐私不说，这些面部识别人工智能软件还具有“历史悠久”的算法歧视。根据美国国家标准技术演技院2019年12月的报告，“大多数人脸识别算法表现出人口统计学差异”—意思就是，人工智能会因为种族、性别和年龄而无法正确识别。在弗洛伊德事件爆发前，人工智能把黑人男性认成“黑猩猩”已经引起了相当程度的指责。

人工智能学好不容易，学“坏”是很快的。前几年，微软机器人“小冰”受“不良网友”熏染，脏话比美国小混混说得还溜。而面部识别人工智能还“继承”了歧视传统—白人男性识别得最准，黑人女性识别得最不准。这个结论有研究数据支持：2018年，IBM人工智能软件识别白人男性的准确率高达99.7%，识別黑人女性的准确率仅有65.3%。

IBM宣布放弃面部识别技术，比解散一个城市的警察部门更能动摇执法的技术基础。这才是弗洛伊德之死引发的大游行的最重要的胜利。

本来，IBM是计划在人工智能领域（包括面部识别）有一番作为的。两个月前，印度裔的克里什纳就任IBM的CEO，表示IBM将专注于混合云和人工智能两大战略。IBM在2019年年初力争纠正面部识别的“偏见”。当时IBM发布了一个名为Diversity in Faces（DiF）的脸部多样性数据集，目标是减少对深色人种的辨识度偏差，该数据集包含100万张已标注的人脸图像。

不过，面部识别业务一直没有给IBM带来重大的营收；同时，当前美国社会强烈关注警察制度、种族歧视等敏感问题，这两个方面促使IBM做出了上面的决定。反面例子则是亚马逊。之前美国公民自由联盟称人脸识别 “可能是有史以来最危险的监视技术”，并多次上书美国政府：要求亚马逊停止向警方提供其旗下的Rekognition人脸识别技术。2019年亚马逊在股东会议上就 “停止向政府机构销售人脸识别技术”进行投票，只有2.4%的股东同意，投票也就没能通过。亚马逊的CTO温纳·沃格斯公开说“技术无罪”。最近的大游行中，亚马逊的店也被砸了不少。

虽然坊间对IBM也不乏指责，认为其只是抛掉了“鸡肋”版块，但对于一家两个月前依然将该业务视为发展方向、对美国政府也是重要客户的科技公司来说，做出这个决定并不容易。

更重要的是，IBM宣布放弃面部识别技术，比解散一个城市的警察部门更能动摇执法的技术基础。这才是弗洛伊德之死引发的大游行的最重要的胜利。可惜很多人没有意识到这一点。

更进一步去看，乔治·弗洛伊德的死亡及爆发的大规模游行示威，不仅提示我们要考虑政治、社会和道德的复杂勾连，更要考虑到技术与个人、技术与集体、技术与权力之间的模糊地带。在这片地带里，有很多珍贵的东西不能失去。