2017 年,Flock Safety 作为业余项目诞生于亚特兰大的一间车库。

如今,它已是一家价值数十亿美元的公司,在美国 49 个州运营着 超过 120,000(新窗口) 个自动车牌识别(ALPR)摄像头,每月为 5,000 多个执法机构读取 200 亿个车牌。

Flock 自称是公共安全技术提供商。然而,批评者称其为一个由风险投资支持的监控网络,滥用行为猖獗,监管薄弱。

过去一年,数十个城市和机构放弃了 Flock:洛杉矶因公民权利方面的顾虑任其合同到期(新窗口),加州的一个警察局则在联邦机构未经通知访问其数据后关闭了摄像头(新窗口)。

在制作我们最新一部关于 Flock 摄像头的 Proton 纪录片期间,Flock 的 CEO Garrett Langley 同意接受我们主持人 Richie Koch 的采访。

以下是完整对话的文字记录,为求简洁清晰略作编辑。

——

Richie Koch:好,第一个问题。在整个 Flock 平台上,不仅仅是车牌读取器,警方有可能搜索到某个人吗?

Garrett Langley:我们销售多种产品,专注于做好两件事:保障安全。保护隐私。推动问责。这就是我们的目标,对吧?我们有一些产品专注于车辆,也就是我们的车牌读取器。还有一些产品专注于音频,即枪声检测。另外我们还销售一种您的观众可能熟悉的产品,叫做云台变焦(PTZ)摄像机。这类摄像机传统上部署在行人经常出没的地方。

Richie:好。是的。我听说过 Condor 摄像机。

Garrett:那是一种 PTZ 摄像头。

Richie:好。嗯,接下来我想知道,我并没有从您那里得到明确的“是”或“否”。所以我想请您再多讲讲 Condor PTZ 摄像机能做什么?

Garrett:这里有个很好的例子。这些摄像机,无论是我们生产的,还是全球几百家生产云台变焦摄像机的大型厂商的产品,城市通常会把它们部署在公园里,对吧?城市投入数千万美元建造一座美丽的公园,他们最不希望看到的就是公园变成毒品交易频发、有人受伤之类的场所。以我自己的家乡亚特兰大为例,就在五年前,那里发生过一起非常可怕的恶性事件。您可以查到相关报道。一位女士半夜遛狗时被残忍杀害,最终成了一起悬案。您知道为什么吗?那里有摄像机,但没有正常工作。如果当时摄像机在那里并且正常工作,我很有信心地认为那个案子不会成为悬案。所以,我们的客户在更多情况下部署我们的产品,正是为了保护人员安全,无论是在公园里还是在公共道路上。

Richie: 您能稍微解释一下搜索是如何运作的吗?我们已经确认这些摄像头存在,相关能力也存在。那么搜索是什么样的?

Garrett:哪个产品?……两者差别很大,因为我们在 ALPR 摄像头方面划了一条非常明确的界线。您不能搜索人。它们专门设计用于读取车牌、检测车辆属性。而我们的云台变焦摄像头则专注于人。因为人们通常去公园,他们通常去公园。

Richie:您能解释一下云台变焦摄像机上的搜索是如何运作的吗?

Garrett: 说实话,搜索主要有两种方式。一种是所谓的传统搜索,就像我家里摄像头上的那种;或者直接查看时间线来回翻阅,对吧?这是一种相当传统的滚动浏览方式。第二种是我们有一款名为 Freeform 的产品。Freeform 让你能够用纯文本搜索各类内容。不过我想补充一点,这一点很重要——我认为这不仅是我们独有的,而是整个行业的共识——你不能只提供这种搜索功能,而不体现我们所说的“宪法”精神,对吧?我们拥有权利,也受到某些限制。因此,这种搜索功能内置了一项审核策略,以防止任何形式的滥用性搜索。

Garrett:主要有两种搜索方式。一种可以说是传统搜索,就像我家里装的摄像机那样,我可以查看时间线,前后翻看,对吧?这是一种很传统的滚动浏览。第二种是,我们有一款名为 Freeform 的产品,它允许您以纯文本方式搜索内容。我还要补充一点很重要的事——我认为这不仅是我们独有的,而是整个行业一致的做法——您不能在提供这种搜索的同时,不体现我们所称的宪法精神,对吧?我们有权利,也有一定的限制。因此,这种搜索内置了一项审核策略,以防止任何形式的滥用搜索。

Richie:Flock 能否通过软件更新改变已部署产品的功能,而无需市议会或公众批准这一新功能?

Garrett:嗯。我们业务关系的核心,无论是与社区、企业还是城市合作,您可以看我们的合同,那是一年期合同,对吧?每年我们都需要证明自己的价值。因此,客户期望我们每天都在变得更好。

Richie:对,但是,您应该能看到这会导致任务蔓延。404 Media 最近有一篇报道,提到您的 ALPR 摄像机曾一度被变成实时画面摄像机。EFF 也有一篇报道,提到您的枪声监控系统曾被短暂用于监测人类的呼救声。嗯,在这两个案例中,这些功能似乎都是在没有对合同进行任何附加修订、没有与市议会进行任何新一轮协商的情况下添加的。

Garrett:嗯,让我们更宏观地看,有两点我认为是成立的。第一,我们确实必须继续打造更好的产品,更好的产品意味着更安全、更隐私、更问责。但我们不做的事情,是强制我们的客户使用或不使用什么。举个例子,大约一个半月前,我们推出了审计辅助工具。这是一项附加功能,用于检测我们系统中可能存在的滥用或恶意行为。我们目前并不强制使用它。现在,已有超过三分之一的客户启用了这项功能,我们也在积极推动客户,你们应该使用这个。但我认为,推动实现更多问责是市议会、专员们的职责。在安全方面我也持同样看法。所以我们很少会强行把某些东西塞给客户,而更常见的做法是先开发出某个功能,比如 Freeform,然后让全世界知道。如果某个城市选择采用,那就由他们自己来决定是向市议会汇报,还是直接推进。

Garrett:刚才那是个问题吗?

Richie:我想说…

Garrett:抱歉。

Richie:我不想把话题展开得太宽泛、陷入细节,但就所报道的情况来看,似乎并没有来自市议员、市议会或市政府的协商,而更像是警察部门自行勾选选项就启用了该功能。这似乎与你们所倡导的本地治理原则不完全相符。

Richie:您是否支持在一项技术已在社区落地实施后,必须先获得明确的公众批准,才能在其上启用实质性的新监控能力?

Garrett:百分之百支持。我非常强烈地认为,警察部门只是地方政府的一部分,而这些地方政府有各自的政策,其中大多数地方政府的政策不仅涉及监控,还涉及预算项目,我们应该继续依靠地方民选官员来做出如何保障社区安全的权衡。

Richie:好。那么,并非替您表态,但如果您愿意支持这一点,似乎就意味着在推出新功能之前要先提交市议会,而不是简单地直接推出、强行铺开。是这样吗?

Richie:据称已有多起警察滥用 Flock 跟踪他人的事件。发生这种情况时,Flock 自身会承担什么责任?

Garrett:我是这样看的。如果一个部门,一个警察部门选择添加某个功能,我也必须依靠该客户去了解他们社区的价值观、政策和程序。您知道,我们目前合作的警察部门、城市接近 7000 个。它们都各不相同。克利夫兰与辛辛那提、托莱多就很不一样,而这还没离开俄亥俄州。再看看我的家乡佐治亚州,或者加利福尼亚州、华盛顿州。关键在于,它们都有不同的采购规则、不同的政策审查,所有这些都存在于非常本地化的层面。所以从大方向上说,百分之百支持。我认为警察部门不应该擅自采用任何真正的新政策,无论是移除我的产品还是竞争对手的产品,甚至是更换制服这类改变,都应该由城市自己来决定在每个城市层面需要何种程度的审查。

Richie:是的。

对吧?这些数据曾被商业出售,现在依然如此。没错。回收拖车四处巡游,出售这些商业数据,而其中却没有任何问责机制。所以当我看到我们不断推进这项工作——比如现在添加了审计协助——并会继续在这方面加大力度时,我并不感到意外。对我来说,我们的职责就是打造一款极难偏离预期用途、几乎无法被滥用的产品。这一点可能有点反直觉,但我真心认为,看到媒体如此关注是件好事,因为我希望警员们明白:如果你想使用 Flock,却又试图以滥用方式使用它,就必须承担后果。而其他一些你所知道的系统并未受到追踪,我认为这是件坏事。

Garrett:任何高于零的滥用都是不可接受的,让我感到恶心。我们打造了一款产品。我创办这家公司是为了让人们更安全。我有三个年幼的孩子。我认为作为父亲,我的首要义务就是保护他们的安全。所以当我看到有人做出非常糟糕的决定,以违背产品本意的方式使用我们的产品时,这令人沮丧。九年前我们就知道这是一种风险。这正是我们设计审计日志的原因。您知道吗,回到 Flock 出现之前,我们谈谈 LPR。LPR 存在已久,却没有任何数据保留机制。

Garrett:对吧?它以商业形式出售,现在也是如此。追债拖车四处巡游,出售这些商业数据。而且其中没有任何问责机制。所以当我们在推进这件事,加入了审计辅助功能之后,我们会继续在这方面加大力度。对我来说,我认为我们的职责是打造一款几乎不可能、极难被用于非预期用途的产品。这一点可能有些反直觉:当我看到媒体对此高度关注时,我反而觉得很好,因为我想让警员们知道,如果你试图滥用 Flock,你就会被追究责任。而其他一些系统是不受追踪的,我认为那才是糟糕的。

Richie:您对这件事似乎感受非常强烈。那么,由于警员对您的系统存在系统性滥用、猖獗滥用,Flock 已经暂停或终止了多少份与警察部门的合同?

Garrett:我不想歪曲一个回答,所以我没有回答。我不想告诉您一件事,然后又…

Garrett:嗯,我觉得这是一个非常非常有意思的问题。有意思是因为,举例来说,我每天都能看到至少三四个被拐儿童被安全送回家的成功案例。我看到成百上千起案件被侦破。如果我住在一个警察部门滥用 Flock 的城镇里,我最不愿做的事就是拆除这套在侦破犯罪方面如此有效的系统。所以你所说的滥用情况极其罕见。当然,回到我的观点,任何高于零的情况都不可接受,但你说的是每天有数十万警员在使用 Flock,而可能滥用的人数却只有个位数,你知道,几十个人。我认为不应该因为少数人的错误决定而追究整座城市的责任。

Richie:是否存在某种程度的滥用,会让您决定某个机构不再能访问你们的技术?有没有一个门槛?

Garrett:有。我想您描述的情况是,某个事件中,姑且说,整个警察部门被证实存在滥用行为——可能不只是针对 Flock,还涉及很多其他事情。在这种情况下,有联邦层面的处理程序。通常联邦政府会介入,州政府也会介入。而在那种情况下,他们不太可能继续保留 Flock,因为整个警察部门很可能都被解散了。所以我认为我不太可能面临那个问题或那个决定。

Richie:如果我从这个回答中推断,这个数字是零?

Garrett:对。您怎么看?我其实很好奇,您对此有观点吗——一家科技公司什么时候应该…

Richie:好,公平。我们就把它保留为是一个极其罕见的例子,然后继续。

Richie:好。那么,再简单地推断一下,锦上添花地说,这将是一个极高的门槛,对吧?

Richie:我的看法并不重要。您才是这里的 CEO。我很想改天喝着啤酒跟您聊。您说 Flock 的保障措施之一是本地控制,但加利福尼亚州的多个城镇声称,他们的数据在未经允许的情况下被分享给了外部机构,有时还包括联邦政府。这与您所说的客户掌控自己的数据如何保持一致?

Garrett:我不同意这种说法。