人脸识别在美国:科技也是“双刃剑”
[导读] 人脸识别技术正在突飞猛进,但是,在它最先兴起的地方,一些人已经警惕起来。
今年1月29日,美国旧金山市议会的一位议员提交了《停止秘密监视条例》的立法提案。如果该提案通过,旧金山将成为美国第一个禁止政府使用人脸识别技术的城市,并将对政府部门购买和使用监控技术加以监督。
这份提案声称,人脸识别技术的威胁,“大大超过了它所宣称的好处”。这项提案受到了包括美国公民自由联盟(ACLU)等公民团体的支持。
关于这项技术的争议在美国也甚嚣尘上,从普通公民,到联邦及各州议员,开始呼吁为人脸识别技术降温,并及早立法予以监管。当然也有网友觉得此举略显荒谬,在相关新闻下评论说:“就好像禁止马车的城镇,只因为他们害怕马。”
ACLU曾用美国国会议员的照片,对亚马逊公司的人脸识别系统Rekognition进行了测试,结果是,系统将28位议员错误地识别为涉嫌犯罪的被捕者。ACLU怀疑系统存在种族歧视,因为在测试中,被错误识别者中约40%是有色人种,但有色人种只占国会议席的20%。
麻省理工学院对于微软、Facebook、IBM等公司人脸识别系统的研究也表明,系统在检测肤色较深的女性时,出错率要比检测肤色较浅的男性高出35%。这将强化社会对于少数族裔与边缘群体的偏见。
问题的原因之一是在用于训练识别算法的人脸里,男性和白人面孔占了大多数。通常,识别的准确度与喂食算法的人脸数量和多元性成正比。技术无偏见,技术的偏见源于人类的偏见和不加纠正的利用。
因为该系统涉嫌“非法歧视或侵犯人权、公民权利或隐私权”,遭到了不少人的抵制,其中包括亚马逊的员工及股东。一封由473人签署的公开信也敦促亚马逊停止向警察局和政府机构销售其面部识别技术。
如果不对面部识别加以限制和监管,它对于隐私与自由的威胁远比想象的要多。面部识别主要依赖的是人的面部信息,而这是具有唯一性特征的生物信息,类似信息包括指纹、虹膜,一旦泄露将是终身泄露。何况面部识别训练的背后,也隐藏着许多的“肮脏的小秘密”,例如我们的照片在未经允许的情况下被用于训练人脸识别系统,而这个系统最终可能被出售或用于监视。
据NBC报道,IBM从Flickr网站上抓取了近100万张照片用于训练人脸识别算法,包括一些摄影师拍摄的人脸图像以及自拍照,但他们对此毫不知情,其中一位奥地利摄影师有超过700张照片被用于研究面部识别技术。据CNN、NBC报道,类似的公司也常从Flickr、Instagram、YouTube、Facebook、Google等网站以及图片库,免费抓取人脸图像以喂食算法系统。这些训练并不仅仅是学术研究,最终会被拿来赚钱。
这种未经许可的行为在伊利诺伊州是违法的,但该州只是通过一项《生物识别信息隐私法》来限制人脸识别技术对公民隐私的侵犯,规定获取生物识别数据的任何个人、公司或组织必须首先获得用户签名(例如,通过在屏幕上单击“我同意”)。许多其他州已经或正在考虑自己的生物识别法律,但是目前只有德克萨斯州和华盛顿州制定了类似的法律。
从目前的应用情况来看,这项技术已经越来越多地在商店、企业、学校等场所使用。但在美国,面部识别技术最狂热的付费用户却是政府和执法机构。旧金山那份立法提案所希望禁止的正是政府和执法机构。然而4月15日,旧金山警方缺席了关于该项立法的听证会。加州参议院也提出过类似的法案,但在很大程度上由于警方的反对而被否决。
不可否认,人脸识别技术为警方侦破案件提供了巨大的帮助。但在法律对技术做出规范之前,应该避免技术被滥用。人脸识别技术的批评者认为,即便是政府,也不应在没有明确的监督体系的情况下使用监控技术。
出于担忧,微软总裁表示,微软近期拒绝向加州警方出售其面部识别技术。微软曾在2018年敦促国会规范人脸识别技术的使用问题,其总裁也曾公开表示对于人脸识别技术滥用的担忧。但是如果没有立法层面的监管,个别公司可以拒绝出售技术,但更多的同类公司会为了利益而出售。
一个让批评者们欣慰的消息是,3月14日,美国参议院提出了商业面部识别隐私法的新提案,这被认为是美国进行联邦监管的第一个重大举措。该提案要求商业公司在使用人脸识别技术时需要经过用户的明确同意,同时要求对引入市场的任何技术进行第三方测试,以确保其符合准确性和偏见标准。
但很显然,美国国土安全部并不吃这一套。4月17日,美国国土安全部表示,预计在未来4年内,对97%的离境旅客将使用面部识别技术。目的是让当局更好地掌握谁进出这个国家,以及谁签证过期。
反对者们认为,在相关的法律制定、公民的隐私得以保护之后,再推广也不迟。建立数百万人的照片数据库是对公民自由的威胁。
但在多数地方,关于人脸识别监控技术的狂欢,还没有任何停歇的迹象。有人甚至没能意识到,无论走到哪里,都有眼睛在盯着你。