저희는 Flock의 CEO에게 감시 남용에 대해 물었습니다. 그가 말한 내용은 다음과 같습니다.

2017년, Flock Safety는 애틀랜타의 한 차고에서 사이드 프로젝트로 시작되었습니다.

오늘날 이 회사는 미국 49개 주에서 120,000대 이상의(새 창) 자동 번호판 인식(ALPR) 카메라를 운영하며, 5,000개 이상의 사법 집행 기관을 위해 한 달에 200억 개의 번호판을 읽음 처리하고 있는 수십억 달러 규모의 기업이 되었습니다.

Flock은 스스로를 공공 안전 기술 제공업체로 홍보합니다. 그러나 비판론자들은 이 회사를 남용과 부실한 감독으로 점철된 벤처 자금 지원 감시 네트워크라고 부릅니다.

지난해 수십 개의 도시와 기관이 Flock 사용을 중단했고, 로스앤젤레스는 시민 자유권에 대한 우려로 계약을 만료시켰으며(새 창), 캘리포니아의 한 경찰서는 연방 기관이 통보 없이 데이터에 접근한 후 카메라 전원을 껐습니다(새 창).

Flock 카메라에 관한 최신 Proton 다큐멘터리를 제작하는 동안, Flock의 CEO인 Garrett Langley가 진행자인 Richie Koch와의 인터뷰에 응했습니다.

아래는 길이와 명확성을 위해 가볍게 편집된 전체 대화의 녹취록입니다.

—

Richie Koch: 그럼 첫 번째 질문입니다. 번호판 인식기뿐만 아니라 Flock 플랫폼 전체에서 경찰이 사람을 검색하는 것이 가능합니까?

Garrett Langley: 저희는 두 가지 일을 올바르게 수행하는 데 중점을 둔 여러 제품을 판매합니다. 안전 제공, 개인정보 보호, 책무성 강화입니다. 이것이 저희의 목표입니다. 저희에게는 번호판 인식기와 같이 차량에 중점을 둔 제품이 있습니다. 총성 감지와 같이 오디오에 중점을 둔 제품도 있습니다. 그리고 시청자 여러분에게 익숙할 수도 있는 팬, 틸트, 줌 카메라라고 불리는 제품을 판매합니다. 이러한 제품은 전통적으로 보행자가 다니는 장소에 배포됩니다.

Richie: 그렇군요. 네. Condor 카메라인가 하는 것에 대해 들었습니다.

Garrett: 그것이 PTZ입니다.

Richie: 네. 알겠습니다. 확답을 듣지 못한 것 같아서, Condor PTZ가 어떤 역할을 하는지 조금 더 자세히 설명해 주실 수 있는지 궁금합니다”?

Garrett: 좋은 예가 있습니다. 저희 제품이든, 팬, 틸트, 줌 카메라는 만드는 전 세계 수백 개의 대형 카메라 제조업체 제품이든, 이러한 카메라는 자주 설치됩니다. 저희든 다른 업체든 상관없이 말이죠. 도시에서는 이러한 카메라를 공원에 배포하곤 합니다. 그렇죠. 도시는 아름다운 공원을 만들기 위해 수천만 달러를 씁니다. 도시가 가장 원치 않는 것은 그 공원이 마약 거래가 일어나거나 사람들이 다치는 장소가 되는 것입니다. 제 고향인 애틀랜타만 봐도 불과 오년 전에 끔찍한 사건이 있었습니다. 이에 대해 읽음 조회를 해보실 수 있습니다. 한 여성이 한밤중에 개를 산책시키다가 참혹하게 살해당했고, 미제 사건이 되었습니다. 왜일까요? 거기에 카메라는 있었지만 작동하지 않고 있었습니다. 카메라이 작동하고 있었다면 그 사건이 미제로 남지 않았을 것이라고 확신합니다. 그래서 고객들은 공원이든 공공 도로든 상관없이 주민의 안전을 지키기 위해 제품을 배포하는 경우가 많습니다.

Richie: 검색이 어떻게 작동하는지 조금 설명해 주시겠습니까? 이러한 카메라와 기능이 존재한다는 것은 확인했습니다. 검색은 어떤 방식으로 이루어지나요?

Garrett: 어떤 제품을 말씀하시는 건가요? … 제품마다 매우 다릅니다. 저희는 ALPR 카메라에 명확한 선을 긋고 있기 때문입니다. 사람을 검색할 수 없습니다. 번호판을 읽음으로써 차량의 속성을 감지하도록 특별히 설계되었습니다. 반면 팬, 틸트, 줌 카메라는 사람에게 초점을 맞춥니다. 사람들은 보통 공원에 가기 때문입니다.

Richie: 팬, 틸트, 줌의 경우 검색이 어떻게 작동하는지 설명해 주시겠습니까?

Garrett: 검색하는 주요 방법에는 두 가지가 있습니다. 집에 있는 카메라처럼 타임라인을 보며 앞뒤로 이동하는 전통적인 검색 방식이 있습니다. 이것은 꽤 전통적인 스크롤 방식입니다. 그리고 두 번째는 Freeform이라는 제품입니다. Freeform을 사용하면 일반 텍스트로 항목을 검색할 수 있습니다. 여기에 덧붙이고 싶은 중요한 점이 있습니다. 이는 저희에게만 해당하는 것이 아니라 업계 전체에 공통적인 사항입니다. 헌법적 가치를 준수하지 않고는 그러한 유형의 검색을 제공할 수 없습니다. 권리가 있고 특정 제한 사항이 존재합니다. 따라서 모든 유형의 남용적 검색을 방지하기 위해 해당 검색에는 중재 정책이 내장되어 있습니다.

Richie: Flock은 시의회나 주민의 승인 없이 소프트웨어 업데이트를 통해 이미 배포된 제품의 기능을 변경할 수 있습니까?

Garrett: 음, 저희 비즈니스 관계의 핵심은 이렇습니다. 지역사회, 기업, 도시와의 계약이든, 계약서를 보시면 아시겠지만 연간 계약입니다. 매년 저희 가치를 증명해야 합니다. 그렇기 때문에 고객들은 매일 제품이 더 발전하기를 기대합니다.

Richie: 그렇습니다. 하지만 이것이 본래 목적을 벗어난 기능 확장으로 이어질 수 있음을 이해하실 것입니다. 최근 404 미디어 보도에 따르면 잠시 동안 ALPR 카메라인 라이브 피드 카메라로 전환되었다고 합니다. EFF의 또 다른 보도에서는 음향 총성 모니터링 시스템이 사람의 비명이나 위급 상황을 모니터링하는 데 잠시 사용되었다고 합니다. 두 경우 모두 계약에 어떠한 부속 서류도 추가되지 않고, 시의회와의 새로운 협의도 없이 이러한 기능이 추가된 것으로 보입니다.

Garrett: 네, 그렇습니다. 더 넓은 시각에서 보면 두 가지가 사실이라고 생각합니다. 첫째, 저희는 더 향상된 제품을 계속 만들어야 합니다. 더 향상된 제품이란 더 높은 안전성, 더 철저한 개인정보 보호, 더 높은 책무성을 갖춘 제품을 의미합니다. 그러나 저희가 하는 일은 고객에게 무엇을 사용하고 무엇을 사용하지 않을지 강제하는 것이 아닙니다. 예를 들어, 한 달 반 전에 감사 지원 도구를 출시했습니다. 저희 시스템에서 남용될 수 있거나 악의적인 행위를 감지하는 추가 기능입니다. 현재 이를 필수 항목으로 요구하지는 않습니다. 하지만 고객의 삼분의 일 이상이 이 기능을 활성화했으며, 저희는 고객에게 이를 사용하도록 권장합니다. 그러나 더 많은 책무성을 향해 드라이브를 걸도록 유도하는 것은 시의회나 위원회의 역할이라고 생각합니다. 안전 부문에서도 마찬가지입니다. 따라서 저희가 고객에게 무언가를 강요하는 경우는 매우 드물며, Freeform의 예처럼 기능을 구축하고 세상에 알린 후 도시가 채택을 선택하면 시의회와 공유하거나 앞으로 전달하기에 적절한지 여부를 스스로 결정하도록 합니다.

Richie: 구체적인 내용에 들어가지 않으려는 것은 아니지만, 보도된 사례들을 보면 도시 대표, 시의회, 도시 정부와의 협의라기보다는 단순히 경찰서가 체크박스를 선택해 기능을 활성화한 것에 가깝습니다. 이는 지자체 거버넌스 원칙과 맞지 않는 것으로 보입니다.

Garrett: 질문이 있으신가요?

Richie: 제 말씀은…

Garrett: 죄송합니다.

Richie: 지역사회에 이미 도입된 기술에 실질적인 새로운 감시 기능이 활성화되기 전에 명시적인 대중의 승인을 요구하는 정책에 대한 지원을 하시겠습니까?

Garrett: 100% 동의합니다. 경찰서는 지방 정부의 일부분일 뿐이며, 지방 정부에는 정책이 있고, 대부분의 지방 정부는 감시뿐만 아니라 예산 항목에 관한 정책도 가지고 있습니다. 그렇죠. 따라서 시스템이 이미 갖추어져 있으므로, 지역사회의 안전을 유지하는 방법에 관한 손익 조정을 지역에서 선출된 공직자들에게 계속 의존해야 한다고 생각합니다.

Richie: 알겠습니다. 단정을 짓는 것은 아니지만, 이를 지원할 의향이 있다면 새로운 기능을 단순히 출시하거나 밀어붙이지 않고 도입하기 전에 시의회를 거친다는 의미로 보입니다. 맞습니까?

Garrett: 저는 이렇게 생각합니다. 경찰서가 기능을 추가하기로 선택하면, 저는 그 고객이 지역사회의 가치, 정책, 절차를 이해하고 있다고 신뢰해야 합니다. 현재 저희와 협력하는 경찰서 및 도시는 거의 7000개에 달합니다. 도시마다 모두 매우 독특합니다. 클리블랜드는 신시내티나 톨레도와는 많이 다릅니다. 오하이오주만 해도 그렇습니다. 제 고향인 조지아주나 캘리포니아, 워싱턴주로 이동해 보면 핵심은 모두 조달 규칙이 다르다는 점입니다. 정책 검토도 다르며, 이 모든 것이 지자체 수준에서 존재합니다. 따라서 높은 수준에서 볼 때 100% 동의하는 바는, 경찰서가 제 제품이든 경쟁사 제품이든 제복 변경과 같은 것이든 간에 지자체별로 필요한 검토 수준을 도시 스스로 결정하지 않고 새로운 정책을 도입하거나 삭제를 진행해서는 안 된다는 것입니다.

Richie: 경찰관들이 사람들을 스토킹하기 위해 Flock을 남용했다는 혐의를 받은 사례가 여러 건 있었습니다. 그런 일이 발생하면 Flock 자체는 어떤 책임을 집니까?

Garrett: 영보다 큰 수준의 남용은 용납될 수 없으며 메스꺼움을 느낍니다. 저희는 제품을 만들었습니다. 저는 사람들을 더 안전하게 만들기 위해 회사를 설립했습니다. 저에게는 어린 자녀 세 명이 있습니다. 아버지로서의 제 우선 순위 의무는 아이들을 안전하게 지키는 것이라고 생각합니다. 그래서 개인들이 의도하지 않은 방식으로 저희 제품을 사용하기 위해 매우 나쁜 결정을 내리는 것을 보면 좌절감을 느낍니다. 구년 전에도 이것이 위험 요소임을 알고 있었습니다. 그래서 감사 로그를 고안했습니다. Flock 이전으로 돌아가 LPR에 대해 이야기해보겠습니다. LPR은 항상 존재했지만 데이터 보존이 없었습니다.

Richie: 네.

Garrett: 그렇죠? 상업적으로 판매되었습니다. 지금도 그렇습니다. 압류 트럭이 드라이브하며 상업 데이터를 판매합니다. 그리고 거기에는 책무성이 구축되어 있지 않았습니다. 따라서 우리가 이것을 더 전달하여 발전시켜 나가며 감사 지원 기능을 추가한 것은 당연한 일입니다. 저희는 이를 계속 강력히 추진할 것입니다. 의도된 목적 이외의 용도로 사용하는 것이 거의 불가능할 정도로 어려운 제품을 만드는 것이 저희의 역할이라고 생각합니다. 직관에 반하는 이야기일 수 있지만, 언론의 큰 관심을 받는 것은 좋은 일이라고 생각합니다. 경찰관들이 Flock을 남용하려고 하면 책임을 지게 된다는 점을 알기를 바라기 때문입니다. 추적되지 않는 다른 시스템들도 존재하며, 저는 그것이 나쁘다고 생각합니다.

Richie: 이 문제에 대해 매우 확고한 의지를 가지고 계신 것 같습니다. 그렇다면 경찰관들과 시스템의 만연한 남용, 즉 시스템적 남용으로 인해 Flock이 중단하거나 해지한 경찰서와의 계약은 몇 건이나 됩니까?

Garrett: 네, 매우 흥미로운 질문입니다. 예를 들어 매일 유괴된 아이가 집으로 돌아오는 성공 사례를 최소 세 건 이상 봅니다. 해결되는 범죄도 수백에서 수천 건에 달합니다. 만약 제가 Flock을 남용하는 경찰서가 있는 동네에 산다면, 범죄 해결에 매우 효과적인 이 시스템을 철거하는 것은 가장 원치 않는 일일 것입니다. 따라서 말씀하신 남용 사례는 예외적으로 드뭅니다. 제 관점에서는 영보다 큰 것은 용납할 수 없지만, 매일 Flock을 사용하는 수십만 명의 경찰관 중 남용 가능성이 있는 사람은 한 자릿수, 수십 명에 불과합니다. 단 몇 사람의 잘못된 결정 때문에 도시 전체에 책임을 물어서는 안 된다고 생각합니다.

Richie: 그 답변에서 추론해 보자면, 그 수치는 영건이라고 말씀드릴 수 있겠네요.

Garrett: 답변을 왜곡하고 싶지 않아서 답변하지 않았습니다. 한 가지를 말씀드린 뒤 나중에…

Richie: 알겠습니다. 일리가 있네요. 예외적으로 드문 사례로 정리하고 넘어가겠습니다.

Richie: 특정 기관이 더 이상 해당 기술에 접근할 수 없도록 결정하게 만들 만한 남용 수준이 있습니까? 임계값이 존재하나요?

Garrett: 네. 말씀하신 상황은 경찰서 전체가 Flock뿐만 아니라 다른 여러 부문에서도 남용 혐의가 입증된 이벤트 상황을 의미한다고 봅니다. 그런 경우 처리하기 위한 연방 절차가 있습니다. 보통 연방 정부나 주 정부가 개입합니다. 그리고 그러한 상황에서는 경찰서 전체를 해체할 가능성이 높기 때문에 Flock을 유지할 가능성은 낮습니다. 따라서 제가 그러한 문제나 결정에 직면할 일은 없을 것이라고 생각합니다.

Richie: 알겠습니다. 다시 정리해서 살짝 추론해보자면, 매우 높은 임계값이 되겠군요. 맞습니까?

Garrett: 네. 어떻게 생각하시나요? 사실 궁금합니다. 기술 기업이 언제를 기준으로 삼아야 하는지에 대해 견해가 있으신가요…

Richie: 제 의견은 그다지 중요하지 않습니다. 여기 계신 분이 CEO이시니까요. 맥주 한잔하면서 말씀드리고 싶네요. Flock의 안전장치 중 하나가 지자체 통제권이라고 말씀하셨지만, 캘리포니아의 여러 도시에서는 허가 없이 데이터가 외부 당사자, 때로는 연방 정부와 공유되었다고 주장합니다. 이것이 고객이 데이터를 통제한다는 귀하의 주장과 어떻게 부합합니까?

Garrett: 저는 그러한 주장에 동의하지 않습니다.

Richie: 알겠습니다. 캘리포니아주 마운틴뷰의 주장 사례를 말씀드릴 수 있습니다. 그들은 Flock이 자신들의 허가 없이 경찰서들과 전국 단위 검색을 활성화했으며, 이후 연방 기관이 데이터에 접근했다고 주장합니다. 비슷하게 사우스 패서디나도 의도치 않은 데이터 공유를 계약 취소 이유로 들었습니다. 하나는 가디언지에 보도되었고, 다른 하나는 도시 측의 발표였습니다. 귀하는…

Garrett: 고객이 자신의 데이터를 통제하고, 어떤 체크박스가 선택되는지 통제합니다. 굳이 따지자면, 저희는 고객이 실수하지 않도록 해야 하는 의무를 오해했습니다. 캘리포니아의 경우 LPR 데이터가 주 밖으로 나가서는 안 된다는 주 법률이 있습니다. 이년 전에는 이를 제품에 법제화하는 것이 저희 역할이라고 생각하지 않았습니다. 하지만 부주의하게 버튼을 클릭하거나 누군가 버튼을 클릭하여 ‘전국 조회 기능을 켜고 싶다’고 말한 고객들의 이야기를 듣고, 저희가 그 과정을 너무 쉽게 만들었다는 것을 알게 되었습니다. 그래서 이제 LPR 데이터가 주를 이탈할 수 없다는 명확한 법률이 존재하는 캘리포니아, 워싱턴, 버지니아주에서는 이러한 일이 발생하지 않도록 불가능하게 만들었습니다. 체크박스조차 존재하지 않습니다. Richie, 이 대화에서 말씀드릴 수 있는 것은 Flock의 의무 수준이 높아졌다는 점입니다. 저는 저희의 책임이 더 커졌다고 보며, 이것이 제가 규정 전반을 적극 지지하는 이유입니다. 워싱턴과 같은 곳에서는 LPR이 어떻게 작동해야 하는지에 대한 법안이 있습니다. 법안의 내용뿐만 아니라 집행 가능성 측면에서 잘 작성되었을 때 훌륭한 일이라고 생각합니다. 따라서 캘리포니아 같은 곳에서는 이러한 일 자체가 일어날 수 없도록 위상을 바꾸고 높였습니다.