Perguntámos ao CEO da Flock sobre o abuso de vigilância. Eis o que ele disse.

Em 2017, a Flock Safety começou como um projeto paralelo numa garagem em Atlanta.

Hoje em dia, é uma empresa de vários milhares de milhões de dólares que opera mais de 120.000(nova janela) câmaras de leitura automática de matrículas (ALPR) em 49 estados dos EUA, lendo 20 mil milhões de matrículas por mês para mais de 5.000 agências de aplicação da lei.

A Flock apresenta-se como uma fornecedora de tecnologia de segurança pública. No entanto, os críticos chamam-lhe uma rede de vigilância financiada por capital de risco repleta de abusos e pouca supervisão.

Dezenas de cidades e agências abandonaram a Flock no último ano, Los Angeles deixou caducar o seu contrato(nova janela) devido a preocupações com os direitos civis e um departamento de polícia da Califórnia desligou as suas câmaras(nova janela) depois de agências federais terem acedido aos seus dados sem aviso prévio.

Durante a produção do nosso mais recente documentário da Proton sobre as câmaras da Flock, o próprio CEO da Flock, Garrett Langley, aceitou dar uma entrevista ao nosso apresentador, Richie Koch.

Abaixo está uma transcrição da conversa completa, ligeiramente editada para efeitos de extensão e clareza.

—

Richie Koch: Então, primeira pergunta. Em toda a plataforma da Flock, não apenas nos leitores de matrículas. É possível a polícia pesquisar por uma pessoa?

Garrett Langley: Vendemos vários produtos focados em fazer duas coisas bem. Garantir a segurança. Garantir a privacidade. Promover a responsabilização. Esse é o nosso objetivo, certo? Temos alguns produtos focados em veículos, os nossos leitores de matrículas. Temos alguns produtos focados em áudio, deteção de disparos de armas de fogo. E depois vendemos aquilo com que os seus espetadores poderão estar familiarizados, chamadas câmaras pan, tilt, zoom. E essas são tradicionalmente implementadas em locais onde circulam peões.

Richie: Sim. De acordo. E já ouvi falar das câmaras Condor.

Garrett: Essa é uma PTZ.

Richie: Pois. De acordo. E estava a perguntar-me, não obtive necessariamente um “sim” ou “não” firme aí. Por isso estava a perguntar-me se poderia talvez aprofundar um pouco o que as PTZs Condor fazem?

Garrett: Aqui tem um ótimo exemplo. Muitas vezes estas câmaras, quer sejam nossas quer de cerca de duas centenas de grandes fabricantes de câmaras a nível global que constroem câmaras pan, tilt, zoom. Portanto, quer sejamos nós ou outra pessoa qualquer. As cidades costumam implementar estas câmaras em parques. Certo. A cidade gasta dezenas de milhões de dólares para construir um parque bonito. A última coisa que querem é que esse parque se torne num local onde ocorrem transações de drogas, pessoas ficam feridas, etc. E olhe para a minha própria cidade natal, Atlanta, há apenas cinco anos, houve um incidente terrível, terrível. Pode ler sobre isso. Uma mulher estava a passear o cão no meio da noite, foi violentamente assassinada, um caso arquivado sem solução. Sabe porquê? Havia câmaras lá, mas não estavam a funcionar. Se as câmaras estivessem lá e a funcionar, gosto de pensar e estou bastante confiante de que o caso não estaria arquivado. Portanto, na maioria das vezes, os nossos clientes implementam os nossos produtos nesse caso para manter as suas pessoas seguras, quer seja num parque quer numa via pública.

Richie: Poderia explicar um pouco como funciona a pesquisa? Já estabelecemos que estas câmaras existem, que a capacidade existe. Como é que se parece uma pesquisa?

Garrett: Para que produto? … São muito diferentes, porque fazemos uma distinção muito grande em relação às nossas câmaras ALPR. Não pode pesquisar por pessoas. Foram concebidas especificamente para ler uma matrícula para detetar atributos de um veículo. Agora, as nossas câmaras pan, tilt, zoom estão focadas nas pessoas. Porque as pessoas normalmente vão aos parques, normalmente vão aos parques.

Richie: Poderia apenas explicar como funciona a pan, tilt, zoom; como funcionaria a pesquisa?

Garrett: Portanto, na verdade, há duas formas principais de pesquisar. Há o que chamamos de pesquisa tradicional, como a que tenho nas minhas câmaras em casa. Ou posso simplesmente olhar para uma linha do tempo e ir para trás e para a frente. Certo. E isso é uma barra de deslocamento bastante tradicional. E depois a segunda é que temos um produto chamado Freeform. E o Freeform permite-lhe pesquisar por coisas em texto simples. Agora, o que acrescentaria a isso, que é importante. E acho que não é exclusivo nosso. É consistente em todo o setor. Não se pode simplesmente fornecer esse tipo de pesquisa sem a representação do que chamamos de Constituição, certo? Temos direitos, temos certas restrições. Portanto, há uma política de moderação integrada nessa pesquisa para evitar qualquer tipo de pesquisa abusiva.

Richie: A Flock pode alterar a capacidade de produtos implementados através de uma atualização de software sem que a câmara municipal ou o público aprovem essa nova capacidade?

Garrett: Hmmm. Quero dizer, no âmago da nossa relação comercial, certo. Quer seja com um bairro, uma empresa ou uma cidade, como pode ver nos nossos contratos, é um contrato anual, certo. E todos os anos temos de provar o nosso valor. Por isso há uma expetativa por parte dos nossos clientes de que melhore todos os dias.

Richie: Certo. No entanto, consegue perceber como isto pode levar a um desvio de missão. Houve uma reportagem recente no 404 Media onde, brevemente, as suas câmaras ALPR foram transformadas em câmaras de transmissão em direto. Houve outra reportagem na EFF onde o seu sistema de monitorização acústica de disparos foi utilizado brevemente para monitorizar gritos de aflição humana. Em ambos os casos, parece que estas funcionalidades foram adicionadas sem qualquer adenda ao contrato. Sem qualquer novo tipo de consulta com a câmara municipal.

Garrett: Sim, sim. Acho que, de forma mais geral, se olharmos com perspetiva, duas coisas são verdadeiras. Primeira: temos de continuar a construir um produto melhor, sendo um produto melhor tanto mais segurança, mais privacidade, mais responsabilização. Mas aquilo que não fazemos é impor aos nossos clientes o que utilizam e o que não utilizam. Por exemplo, lançámos a nossa ferramenta de assistência de auditoria há cerca de um mês e meio, certo. É uma funcionalidade adicional para detetar comportamentos potencialmente abusivos ou nefastos no nosso sistema. Não exigimos isso hoje. Agora, mais de um terço dos nossos clientes ativaram-na e incentivamos os nossos clientes. Devem usar isto. Devem usar isto. Mas creio que é função da câmara municipal, dos comissários, pressioná-los para promover uma maior responsabilização. E diria o mesmo em relação à segurança. Por isso, é bastante raro forçarmos algo aos nossos clientes em vez de construir algo, dar a conhecer ao mundo, como o Freeform, por exemplo. E depois, se uma cidade optar por adotá-lo, cabe-lhes a eles tomar a decisão do que é adequado partilhar com a câmara municipal ou simplesmente avançar.

Richie: Sem querer entrar… não quero manter isto genérico, nem entrar em detalhes específicos, mas nos casos relatados parecia menos que tinha havido consulta aos representantes da cidade, à câmara municipal, ao governo da cidade, e mais, simplesmente, que o departamento de polícia decidiu marcar a caixa para ativar a funcionalidade. Isto não parece bater certo com o seu princípio de governação local.

Garrett: Havia alguma pergunta?

Richie: Eu diria…

Garrett: Desculpe.

Richie: Apoiaria a exigência de uma aprovação pública explícita antes que uma capacidade de vigilância substancialmente nova possa ser ativada numa tecnologia que já foi implementada na comunidade?

Garrett: 100%. Sinto convictamente que os departamentos de polícia são simplesmente uma parte do governo local, e esses governos locais têm políticas, e a maioria desses governos locais tem políticas não só sobre vigilância, mas também sobre itens orçamentais. Certo. Por isso, quando olho para isto, penso que existe um sistema estabelecido e devemos continuar a confiar nos nossos representantes eleitos localmente para fazer esses compromissos sobre como manter a comunidade segura.

Richie: De acordo. Portanto, sem querer pôr palavras na sua boca, mas pareceria que sim. Se está disposto a apoiar isto, significaria potencialmente ir à câmara municipal antes de introduzir uma nova funcionalidade e não simplesmente lançá-la. Lançá-la para o terreno. Está correto?

Garrett: É assim que penso sobre o assunto. Se um departamento, se um departamento de polícia optar por adicionar uma funcionalidade, também tenho de confiar nesse cliente para compreender os seus valores comunitários, as suas políticas, os seus procedimentos. E sabe, temos quase 7.000 departamentos de polícia nesta altura, cidades com as quais trabalhamos. São todas muito únicas. Cleveland é muito diferente de Cincinnati, de Toledo. E ainda nem saímos do Ohio. Se formos para o meu estado natal, a Geórgia, ou a Califórnia, ou Washington. E o ponto essencial é que todos têm regras de contratação pública diferentes. Têm diferentes revisões de políticas, tudo isso existe a um nível muito local. Portanto, a um nível geral, 100%, não acho que os departamentos de polícia devam adotar praticamente nenhuma nova política, remover quer sejam os meus produtos quer os de um concorrente, ou mesmo uma mudança de fardamento desse tipo, isso deve caber à cidade decidir que nível de revisão é necessário numa base cidade a cidade.

Richie: Houve vários casos de agentes da polícia alegadamente a abusarem da Flock para perseguir pessoas. Quando isso acontece, que responsabilidade assume a própria Flock?

Garrett: Qualquer nível de abuso superior a zero é inaceitável e deixa-me doente. Construímos um produto. Fundei uma empresa para tornar as pessoas mais seguras. Tenho três filhos pequenos. Vejo como minha obrigação principal enquanto pai mantê-los em segurança. Portanto, quando vejo indivíduos tomarem decisões muito más ao usarem os nossos produtos de uma forma para a qual não foram concebidos, é frustrante. E sabíamos que isto era um risco há nove anos. Foi por isso que criámos registos de auditoria. Sabe, se recuarmos para antes da Flock, falemos de LPR. A LPR sempre existiu. Não há retenção de dados.

Richie: Pois.

Garrett: Certo? Era vendido comercialmente. Ainda é. Certo. Os reboques andam por aí e vendem os dados comerciais. E não havia qualquer responsabilização integrada. Por isso, não é surpresa para mim que, à medida que fomos avançando. Certo. E dado que adicionámos agora a assistência de auditoria, vamos continuar a insistir mais nisto. Para mim, vejo como nosso dever construir um produto que seja quase impossível, tão difícil de utilizar fora do seu fim previsto. E acho que, na verdade, isto pode ser contraintuitivo, mas acho ótimo quando vejo o nível de atenção dos meios de comunicação social, porque quero que os agentes saibam que se tentarem usar a Flock, serão responsabilizados se tentarem usá-la de forma abusiva. E há outros sistemas que, sabe, não são rastreados. E acho que isso é mau.

Richie: Parece ter ideias muito fortes sobre isto. Sendo assim, quantos contratos com departamentos de polícia é que a Flock suspendeu ou rescindiu devido a abuso sistémico? Abuso desenfreado por parte de agentes no seu sistema?

Garrett: Sim, acho que é uma pergunta muito, muito interessante. E é interessante porque todos os dias, por exemplo, vejo pelo menos três, se não quatro histórias de sucesso de uma criança raptada a regressar a casa. Vejo centenas a milhares de crimes a serem resolvidos. Se eu vivesse numa cidade com um departamento de polícia que estivesse a abusar da Flock, a última coisa que queria fazer era arrancar este sistema que é tão eficaz a resolver crimes. Portanto, o abuso de que está a falar é excecionalmente raro. Voltando ao meu ponto: qualquer valor superior a zero é inaceitável. Mas está a falar de centenas de milhares de agentes da polícia que usam a Flock todos os dias, e de um número de um só dígito, dezenas que estão potencialmente a abusar. Não acho que se deva responsabilizar toda a cidade apenas pelas más decisões de alguns.

Richie: Se puder deduzir dessa resposta, diria que o número é zero.

Garrett: Não quero dar uma resposta distorcida, por isso não respondi. Não lhe quero dizer uma coisa e depois é…

Richie: De acordo. É justo. Ficamos por aqui considerando que é um caso excecionalmente raro e seguimos em frente.

Richie: Há algum nível de abuso que o levaria a decidir que uma agência não deveria continuar a ter acesso à sua tecnologia? Existe um limite?

Garrett: Sim. Portanto, acho que o que está a descrever é num evento em que, digamos, todo o departamento de polícia é considerado culpado de ser abusivo, e provavelmente não apenas com a Flock, mas com muitas outras coisas. E nesses casos, há um processo federal para lidar com isso. O governo federal normalmente intervém, o governo estadual intervém. E nessas situações, é pouco provável que mantenham a Flock porque provavelmente estão a desmantelar todo o departamento de polícia. Por isso, não acho que alguma vez me visse confrontado com esse problema ou essa decisão.

Richie: De acordo. Portanto, mais uma vez, simplesmente para deduzir um pouco, para fechar o assunto, seria um limite excecionalmente elevado, sim?

Garrett: Sim. O que acha? Na verdade, estou curioso. Tem um ponto de vista sobre quando é que uma empresa de tecnologia deveria…

Richie: A minha opinião não importa verdadeiramente. O CEO aqui é você. Adorava contar-lhe a beber umas cervejas. Diz que uma das salvaguardas da Flock é o controlo local, mas várias cidades da Califórnia alegam que os seus dados foram partilhados com entidades externas, por vezes com o governo federal, sem a sua permissão. Como é que isto é coerente com a sua afirmação de que os clientes controlam os seus dados?

Garrett: Discordo dessas afirmações.

Richie: De acordo, posso dizer-lhe que retirei isto de uma alegação de Mountain View, Califórnia. Alegam que a Flock ativou a pesquisa a nível nacional com departamentos de polícia sem a permissão deles, e as agências federais acederam depois aos dados. E, de forma semelhante, South Pasadena citou a partilha inadvertida de dados como razão para ter cancelado o seu contrato. Um caso foi noticiado no The Guardian, o outro veio simplesmente da cidade. O senhor…

Garrett: Portanto, os clientes controlam os seus dados, controlam quais as caixas de seleção que estão selecionadas. Se é que houve alguma falha, desvalorizámos a nossa obrigação perante os nossos clientes de impossibilitar que cometessem erros. E, por isso, se olharmos para um caso como a Califórnia, a legislação estadual exige que os dados da LPR não saiam do estado. Há dois anos não víamos como nossa obrigação codificar isso no nosso produto. Agora, como ouvíamos clientes que inadvertidamente clicaram num botão ou alguém clicou num botão e disse ‘ei, na verdade queremos ativar o National Lookup’, facilitámos demasiado as coisas. Portanto, agora no estado da Califórnia, no estado de Washington, no estado da Virgínia, onde existe legislação clara de que os dados da LPR não podem sair do estado, impossibilitamos que isso aconteça. Nem sequer existe uma caixa de seleção. Assim sendo, Richie, a forma como descreveria é que a obrigação da Flock nesta conversa aumentou. Considero a nossa responsabilidade maior, razão pela qual sou um grande fã da regulamentação em geral. Porque agora, num local como Washington, sabe, há um projeto de lei que diz que é assim que achamos que a LPR deve funcionar em Washington. E quando esses projetos de lei são bem redigidos, não necessariamente na substância, mas na aplicabilidade, acho que isso é ótimo. Por isso, num local como a Califórnia, mudámos e aumentámos a nossa postura de modo a ser impossível que isso sequer aconteça.