美国的科技公司正掀起一场对人脸识别技术的反思。

不久前,IBM的CEO阿里德·克里希纳在给过会的一封信里面说,IBM将不会继续提供、开发、研究面部识别或者分析软件。 相比决绝的IBM, 亚马逊的态度看起来暧昧了不少,只是宣布将暂停警方使用人脸识别技术一年,也隐晦提到,“如有需要我们将随时准备提供帮助。”

黑人乔治·弗洛伊德之死在美国扔下了一颗深水炸弹,让全体美国人关注警察执法正当性的同时, 又引申到了警察们普遍使用的人脸识别技术上来。

其实, 在人类技术发展的长河中,人脸识别几乎是最具有争议的一项技术。

在过去的十年中,人工智能的进步让人脸识别技术有了很大的进展,这项技术也逐渐成为美国执法部门保护公民安全的辅助工具。

不过,由于人脸识别技术需要依托大量的公民面部生物信息,技术上也主要由私营公司提供,所以几乎很难受到法规和政府的监管。在实际运用中,人脸识别一直存在着隐私争议,此次的弗洛伊德事件,又让人脸识别背后所涉及的年龄、种族偏见问题浮出水面。

在伦理和民众情绪面前,科技也得让道。IBM并不是第一家对旗帜鲜明放弃人脸识别的科技巨头。

早在2018年,据英国金融时报报道,微软已经悄悄删除掉其2016年建立起来、号称全球最大的公开人脸识别数据库。谷歌的高管也曾经公开表态称,人脸识别技术存在社会风险,不会通过Google Cloud提供人脸识别API。

同年,也有学者研究首次揭示了许多商业面部识别系统存在不同程度的偏见程度,其中就包括IBM的系统。IBM虽然在此后一直在调整面部识别的偏差问题,比如通过公开数据集调整数据偏差。但这一问题一直没有完全根治。

推动IBM做最后决定的或许是如今熊熊燃起的民族情绪。

但其实,对于IBM来说,其实放弃人脸识别并不是一个多么艰难的决定——从商业的角度来看,人脸识别并没有为IBM带来多大的营收,放弃小利益把钱花在刀刃上的云计算、又能迎合民众诉求。

但长远的影响可能是,IBM此次也踩到了当局痛处,IBM很大一部分的业务来自于与美国政府的合作,这一决定是否会对后续合作产生影响也还无法判定。

亚马逊可能是少数对人脸识别态度比较模糊的科技公司。此前一次公开演讲中,亚马逊CTO Werner Vogels在回应人脸识别争议时候提出了“技术无罪”的观点,同时,亚马逊同时也是少数几个向执法部门出售面部识别软件的主要科技公司之一。

难能可贵的是两家公司对人脸识别伦理的表态。IBM在给国会的信中提议, AI系统的供应商和用户都有责任保证对AI进行偏见测试,尤其是在执法中使用的时候,需要对偏见测试进行审计和报告。

此外,阿里德·克里希纳还提议, 需要提高警务透明度和问责制。 亚马逊方面也表态称, 主张政府制定更严格的法规规范人脸识别技术的道德使用。

随着两家科技公司旗帜鲜明的选择,也会促进更多科技公司开始反思。毫无疑问的是,人脸识别这场围绕商业技术和伦理的这场争议中,伦理取得了短暂的胜利。

相关文章