我们遗落的骨骸

  • 当基础设施遗留下来时,仅仅将面部识别定为非法是不够的

似乎潮流已经开始转向面部识别技术。虽然争议不断 —— 从种族主义到大规模存储公民敏感信息 —— 引起了人们对技术带来的风险的严重关注,该技术增强了已经不堪重负的癌病状态,并维持和强化了监视资本主义体制

奥克兰、旧金山和马萨诸塞州萨默维尔等城市出于对公民自由和种族歧视问题的关注,最近都禁止执法部门使用该技术;加利福尼亚州正在考虑一项法案,以减少身体摄像机中面部识别的使用;从芝加哥到马萨诸塞州的激进主义者已经动员起来,以防止在公共住房等领域使用面部识别系统 ……

似乎无处不在的国家和寡头公司操控的这种监视反乌托邦可以被叫停?或者至少推迟一段时间?

并非如此。

首先必须强调,所有这些组织的努力和公民抗议活动都是出色且重要的工作。能够这样做的所有人都需要得到支持、称赞和联合。面部识别是一项危险的技术,因此禁止它并在此期间阻止其标准化是至关重要的。

但是,专注于抵制 “面部识别” —— 一种特定技术及其在特定的机构用途 —— 会带来风险

这种 *专注的抵制* 将该技术视作一个可以孤立解决的离散概念,就好像可以简单地将其减去以 “解决” 特定问题一样。这不可能做到。

因为就像其他所有技术一样,面部识别技术也依赖于广泛的基础结构,即:使之成为可能的现有技术、实践和流程

如果不考虑面部识别技术的支持基础而简单地拒绝面部识别技术本身,并无法解决问题。

面部识别技术的一些前提条件是文化和历史根源。Simone Browne、C.Riley Snorton、Toby Beauchamp 等人的研究表明,这项技术起源于仇外心理、定居者殖民主义和对黑人的仇视,已被广泛用于偏见和压迫性监视。

过去几十年的监视范围不断扩大 —— 已经开始影响白人和富人 —— 但如果不提及对边缘社区进行监视的悠久历史,就无法理解该技术。

以国家为导向的分类(在科学家和技术专家的支持下)通常围绕着反土著和/或反黑人的努力将自身结构化,并借此将自己和其他族裔区分开来。

当前的禁毒战争、1990年代的边境恐慌、和冷战的焦虑妄想症,都导致了合法化扩大监视的范围 —— 要么太危险以至于需要新技术,要么太微妙以至于没有新技术就无法发现,或者两者兼而有之。

正是这段历史证明了排外主义和社会控制技术的最新发展 —— 面部识别、指纹识别、以及其他形式的跟踪和生物识别监视技术。

然后,这些技术经过自然化处理,以监视和控制 *当权者所认为的* “正常” 和 “异常”。

但是除了在意识形态上使其成为可能的社会文化条件之外,面部识别系统还需要一系列其他技术系统才能使其起作用。

从历史上看,面部识别技术就是这样工作的:一张人脸的静态图像将通过算法在其上映射点和线。这些点和线以及它们之间的关系,将被发送到包含其他图像的现有庞大数据库中,其中标记了相关的名称、日期和类似记录。然后算法会将提取的结构与现有结构进行比较,如果发现一张或多张匹配的照片,则会提醒操作人员。

为使这种恐怖的监视生态成为可能,需要的不仅包括文化惯例和规范 —— 在被警察询问时出示身份证、CCTV监视摄像机的可接受性 —— 并且,也需要技术基础设施 —— 这些算法、数据库、运行的硬件等等。

不幸的是(或幸运的是)这种面部识别方法的效果不佳。

直到2010年,这份关于光线问题对其准确性的影响的报告显示,在 “不受控制” 的环境中,性能最佳的算法的错误率为15%。

政府数据库中收集的基本都是证件照(护照、身份证、驾驶执照等),而监视摄像头拍到的任何环境光线都比拍摄证件照的光线要差,当时的算法很难处理“源”照片和“目标”照片之间的角度和光线差异。

此后技术有所改进,但并不是因为一系列渐进的算法调整。相反,是由于在过去十年中,包括CCTV摄像机在内的高分辨率相机的大量增加,导致对面部识别技术的工作方式进行了全面改革

现在,面部识别系统不再局限于一个人的朦胧画面,而是可以从一系列依序拍摄的视频静止图像中提取合成图像,从而消除了一些照明和角度差异的问题,使传统的面部识别方法变得可用。

只要您拥有高质量的视频,而不是采用像素化的单帧CCTV拍摄,就可以纠正不受控制环境中捕获图像的大多数问题。

但是后来研究人员又迈出了一步:他们意识到已经从这些新型(高分辨率、基于视频的)相机中获得了这些高质量的图像序列,因此他们决定编写算法,不能简单地从特定场景中剪掉脸部。

他们将脸部重建为3D模型,可以根据需要进行调整,使其 “适合” 可以与之进行比较的任何图像的角度和条件。

这种方法大大提高了面部识别的准确性。研究人员在2018年针对10个数据集(包括美国政府的标准数据集)进行测试时,发现准确率至少达到98%,而不是曾经盛行的 “非受控捕获’’ 的85%。

当前的面部识别技术具有如此高的准确性,使得当局梦想的那种无处不在的跟踪和监视系统成为现实,该系统将既有的CCTV监视和新的 “智能” 城市技术结合在一起(就如加州的路灯间谍那样)来追踪各个地方的人,并产生可以在事后进行监控和分析的档案。

但是要实现这点,通常还必须在城市中布满高清摄像机网络,将数据流传输到中央存储库中,然后可以将其无限次存储并进行梳理,以便在任何时候都能识别目标人。

没有独立存在的面部识别算法。它的存在取决于某些其他硬件、其他软件和某些基础结构。

而且一旦建立了该基础结构,无论是否禁止面部识别,该基础结构始终具有面部识别的潜力,并且在没有面部识别的情况下,经常也可以将其重新用于其他同类的监视目的

是这些基础设施使面部识别技术难以约束。例如,旧金山的法令全面禁止面部识别,但是,对于摄像机网络和提供算法的数据库而言,宽容得多。

如果一个城市引入了面部识别技术,而您花一年的时间针对它进行抗议活动并赢得了胜利,那很好 —— 但是该城市仍然有无数摄像机记录着公共空间并将其存储给鬼知道会保存多久的数据库,仍然有人类在监视那个数据库。

这不是假设:亚特兰大正是以24/7全天候监控实时集成视频的。

除此之外,保持监视基础架构的完好无损意味着可以将其复活。任何观看恐怖电影的人都知道,怪物有一种令人讨厌的趋势,即 具有显著的韧性。

监视基础结构也是如此。现在,萨默维尔禁止面部识别。但如果该城市在禁止使用该技术之前就已经使用过该技术,并且已经保留了基础设施,那么它将不仅可以在将来监视人们,而且还可以回溯监视。

重新授权该技术后,分析过去的录像并提取有关出现在录像中的数据是异常容易的事。这就是 Bonnie Sheehey 所说的 “temporal governmentality”,在该制度下,即使没有算法监视,也必须像正在发生那样运作,以备将来它可以追溯性地采用相同的偏见做法。

而且,当面部识别与单个软件更新一样便宜且容易实现时,很快就可以重新启用它。

幸运的是,电影中杀死怪物的解决方案也同样适用于面部识别:砍下头部或捣烂大脑。

也就是说,消除基础设施所依赖的东西,这些东西可以暂时用于效率较低但仍很危险的社会控制形式。

正式禁止面部识别绝对是一个开始,但是,只有在您打印封条并将其粘贴在每个已安装的监控摄像头上时,它才能提供真正的保护。

我们必须拆下那些摄像机,拔掉那些服务器的电源。

专门针对面部识别的激进抗议运动的策略没有错。抗议、组织、强迫国家提高透明度,并用它来严密地审问监视做法,既是好的工作,也是有效的。

但是,我们需要做的是确保将这项技术放在适当的背景下:不仅要抵制面部识别(它是更广泛的疾病的单一症状),还要对抗潜在的疾病本身

应该努力禁止面部识别,应该庆祝成功,但也应该理解,“成功” 不仅仅意味着暂时阻止了该技术 —— 要摧毁所有骨骸,让它永远无法复活。⚪️

It’s not enough to make facial recognition illegal when its infrastructural legacy remains

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据