En 2017, Flock Safety comenzó como un proyecto secundario en un garaje de Atlanta.

Hoy es una empresa de miles de millones de dólares que opera más de 120.000(ventana nueva) cámaras de lectura automática de matrículas (ALPR) en 49 estados de EE. UU., que leen 20.000 millones de matrículas al mes para más de 5.000 agencias de seguridad.

Flock se presenta como un proveedor de tecnología de seguridad pública. Sin embargo, los críticos la califican de red de vigilancia respaldada por capital de riesgo repletos de abusos y escasa supervisión.

Decenas de ciudades y agencias han abandonado Flock en el último año, Los Ángeles dejó vencer su contrato(ventana nueva) por preocupaciones sobre los derechos civiles, y un departamento de policía de California apagó sus cámaras(ventana nueva) después de que las agencias federales accedieran a sus datos sin previo aviso.

Durante la realización de nuestro último documental de Proton sobre las cámaras Flock, el propio CEO de Flock, Garrett Langley, aceptó una entrevista con nuestro presentador, Richie Koch.

A continuación se muestra una transcripción de la conversación completa, ligeramente editada para mayor brevedad y claridad.

—

Richie Koch: Primera pregunta. En toda la plataforma Flock, no solo en los lectores de matrículas. ¿Es posible que la policía busque a una persona?

Garrett Langley: Vendemos varios productos centrados en hacer dos cosas bien: brindar seguridad, garantizar la privacidad e impulsar la rendición de cuentas. Ese es nuestro objetivo, ¿verdad? Tenemos algunos productos centrados en vehículos, nuestros lectores de matrículas. Tenemos productos centrados en audio, como la detección de disparos. Y luego vendemos lo que sus espectadores pueden conocer como cámaras panorámicas, con inclinación y zoom. Y normalmente se despliegan en lugares por donde transitan peatones.

Richie: Vale. Sí. Y he oído hablar de las cámaras Condor.

Garrett: Eso es una PTZ.

Richie: Sí. Vale. Y luego me preguntaba, no obtuve necesariamente un «sí» o un «no» firme. Por eso me preguntaba si tal vez podrías ampliar un poco lo que hacen las PTZ Condor.

Garrett: Aquí hay un gran ejemplo. A menudo estas cámaras, ya sean nuestras o de un par de cientos de grandes fabricantes de cámaras a nivel mundial que construyen cámaras panorámicas, con inclinación y zoom. Ya seamos nosotros o alguien más. Las ciudades a menudo las despliegan en los parques. Las ciudades gastan decenas de millones de dólares para construir un parque hermoso. Lo último que quieren es que ese parque se convierta en un lugar donde se trafique con drogas, la gente resulte herida, etc. Y si miras a mi ciudad natal, Atlanta, hace solo cinco años hubo un incidente horrible. Puedes leer sobre ello. Una mujer paseaba a su perro en mitad de la noche, fue asesinada brutalmente, un caso no resuelto. ¿Sabes por qué? Había cámaras allí, pero no funcionaban. Si las cámaras hubieran estado allí y funcionado, me gustaría pensar con bastante confianza que ese caso no estaría sin resolver. Así que la mayoría de las veces, nuestros clientes despliegan nuestros productos en esos casos para mantener a su gente segura, ya sea en un parque o en una vía pública.

Richie: ¿Podrías explicar un poco cómo funciona la búsqueda? Ya hemos establecido que estas cámaras existen, que la capacidad existe. ¿Cómo es una búsqueda?

Garrett: ¿Para qué producto? … Son muy diferentes, porque trazamos una línea muy grande entre nuestras cámaras ALPR. No se puede buscar personas. Están diseñadas específicamente para leer una matrícula y detectar atributos de un vehículo. Ahora, nuestras cámaras panorámicas, con inclinación y zoom están centradas en personas. Porque la gente suele ir a los parques, normalmente van a los parques.

Richie: ¿Podría explicar cómo funcionaría la búsqueda con las cámaras panorámicas, con inclinación y zoom?

Garrett: Realmente hay dos formas principales de buscar. Está la llamada búsqueda tradicional que, ya sabes, es como la que tengo en las cámaras de mi casa. Puedo mirar una línea de tiempo e ir hacia atrás y hacia adelante. Es un desplazamiento bastante tradicional. Y la segunda es un producto llamado Freeform. Freeform te permite buscar cosas en texto plano. Ahora bien, lo que añadiría a eso, que es importante, y creo que no es solo exclusivo de nosotros, sino constante en toda la industria: no se puede ofrecer ese tipo de búsqueda sin representación de lo que llamamos la Constitución, ¿verdad? Tenemos derechos, tenemos ciertas restricciones. Por lo que hay una política de moderación integrada en esa búsqueda para evitar cualquier tipo de búsqueda abusiva.

Richie: ¿Puede Flock cambiar la capacidad de un producto desplegado a través de una actualización de software sin que el ayuntamiento o el público aprueben esa nueva capacidad?

Garrett: Hmmm. Quiero decir, en el núcleo de nuestra relación comercial, ya sea con un vecindario, una empresa o una ciudad, como se puede ver en nuestros contratos, es un contrato anual, ¿verdad? Y cada año tenemos que demostrar nuestro valor. Así que existe una expectativa por parte de nuestros clientes de que mejore cada día.

Richie: Claro. Sin embargo, se puede ver cómo esto llevaría a una desviación de la misión. Hubo un informe reciente en 404 Media donde, brevemente, sus cámaras ALPR se convirtieron en cámaras de transmisión en vivo. Hubo otro informe en la EFF donde su sistema de monitorización acústica de disparos se utilizó brevemente para detectar gritos de auxilio humano. En ambos casos, parece que estas funciones se añadieron sin ninguna adenda al contrato. Sin ningún nuevo tipo de consulta con el ayuntamiento.

Garrett: Sí, sí. De forma más amplia, si miras el panorama general, creo que dos cosas son ciertas. Una: tenemos que seguir creando un producto mejor, siendo un producto mejor aquel que ofrece más seguridad, más privacidad y más rendición de cuentas. Pero en lo que no estamos es en el negocio de imponer a nuestros clientes lo que usan y lo que no. Por ejemplo, lanzamos nuestra herramienta de asistencia de auditoría hace un mes y medio, ¿verdad? Es una funcionalidad adicional para detectar comportamientos potencialmente abusivos o nefastos en nuestro sistema. No la exigimos hoy. Ahora, más de un tercio de nuestros clientes la han activado y presionamos a nuestros clientes diciéndoles: deberían usar esto, deberían usar esto. Pero creo que es trabajo del ayuntamiento, del comisionado, presionarlos para impulsar una mayor rendición de cuentas. Y diría lo mismo del lado de la seguridad. Así que es bastante raro que forcemos algo a nuestros clientes en lugar de construir algo, darlo a conocer al mundo, como Freeform, y luego, si una ciudad decide adoptarlo, depende de ellos tomar la decisión de qué es apropiado compartir con el ayuntamiento o simplemente seguir adelante.

Richie: Sin querer entrar en detalles específicos, en los casos informados parecía menos que hubiera consulta por parte de los representantes de la ciudad, el ayuntamiento o el gobierno local, y más simplemente que el departamento de policía decidió marcar la casilla para activar la función. Esto parece no encajar necesariamente con su principio de gobernanza local.

Garrett: ¿Había alguna pregunta?

Richie: Yo diría…

Garrett: Perdón.

Richie: ¿Apoyarías requerir una aprobación pública explícita antes de que se pueda activar una capacidad de vigilancia sustancialmente nueva en una tecnología que ya se ha implementado en la comunidad?

Garrett: Al 100 %. Siento firmemente que los departamentos de policía son solo una parte del gobierno local, y esos gobiernos locales tienen políticas, y la mayoría de esos gobiernos locales tienen políticas no solo sobre la vigilancia, sino también sobre elementos presupuestarios. ¿Verdad? Así que cuando lo veo, pienso que hay un sistema establecido y debemos seguir confiando en nuestros funcionarios electos localmente para tomar estas decisiones sopesadas sobre cómo mantener segura a la comunidad.

Richie: Vale. Así que, sin querer poner palabras en su boca, parecería que sí. Si está dispuesto a apoyar esto, significaría ir potencialmente al ayuntamiento antes de introducir una nueva función y no simplemente desplegarla. ¿Es correcto?

Garrett: Así es como lo veo. Si un departamento de policía decide añadir una función, también tengo que confiar en que ese cliente comprenda los valores, las políticas y los procedimientos de su comunidad. Y tenemos casi 7000 departamentos de policía en este momento, ciudades con las que trabajamos. Todas son muy únicas. Cleveland es muy diferente de Cincinnati o Toledo. Y ni siquiera hemos salido de Ohio. Te mudas a mi estado natal de Georgia, a California o a Washington. El punto es que todos tienen reglas de contratación diferentes. Tienen revisiones de políticas diferentes, todo eso existe a un nivel muy local. Así que, a nivel general, al 100 %, no creo que los departamentos de policía deban adoptar ninguna política nueva, eliminar productos míos o de la competencia, o incluso hacer un cambio de uniforme sin que corresponda a la ciudad decidir qué nivel de revisión es necesario ciudad por ciudad.

Richie: Ha habido múltiples casos de agentes de policía que presuntamente abusan de Flock para acosar a personas. Cuando eso sucede, ¿qué responsabilidad asume la propia Flock?

Garrett: Cualquier nivel de abuso superior a cero es inaceptable y me pone enfermo. Construimos un producto. Fundé una empresa para hacer que la gente esté más segura. Tengo tres hijos pequeños. Veo como mi obligación principal como padre mantenerlos a salvo. Por eso, cuando veo a personas tomar decisiones muy malas para usar nuestros productos de una manera no prevista, es frustrante. Y sabíamos que este era un riesgo hace nueve años. Por eso ideamos los registros de auditoría. Si volvemos a antes de Flock, hablemos de LPR. LPR existía desde siempre. No había conservación de datos.

Richie: Sí.

Garrett: ¿Verdad? Se vendía comercialmente. Todavía se vende. Las grúas circulan y venden los datos comerciales. Y no había rendición de cuentas integrada. Por lo tanto, no me sorprende que a medida que avanzamos en esto, y ahora que hemos añadido la asistencia de auditoría, sigamos presionando más. Para mí, nuestro trabajo es construir un producto que sea casi imposible, tan difícil de usar fuera de su propósito previsto. Y creo que esto puede ser contraintuitivo, pero creo que es genial cuando veo el nivel de atención mediática, porque quiero que los agentes sepan que si intentan usar Flock de forma abusiva, se les pedirán cuentas. Y hay otros sistemas que no se rastrean, y creo que eso es malo.

Richie: Pareces sentir esto muy fuertemente. Entonces, ¿cuántos contratos con departamentos de policía ha suspendido o cancelado Flock debido a abusos sistémicos? ¿Abuso desmedido por parte de los agentes y su sistema?

Garrett: Sí, creo que es una pregunta muy interesante. Y es interesante porque todos los días, por ejemplo, veo al menos tres, si no cuatro, historias de éxito de un niño secuestrado que regresa a casa. Veo de cientos a miles de delitos resueltos. Si viviera en una ciudad que tuviera un departamento de policía que estuviera abusando de Flock, lo último que querría hacer es retirar este sistema que es tan eficaz para resolver delitos. Así que el abuso del que hablas es excepcionalmente raro. Volviendo a mi punto: cualquier cifra superior a cero es inaceptable. Pero estás hablando de cientos de miles de agentes de policía que usan Flock todos los días frente a un número de un solo dígito o decenas que potencialmente abusan de él. No creo que se deba responsabilizar a toda la ciudad solo por las malas decisiones de unos pocos.

Richie: Si puedo deducir de esa respuesta, diría que el número es cero.

Garrett: No quiero tergiversar una respuesta, por lo que no respondí. No quiero decirte una cosa y que luego sea…

Richie: Vale. Me parece justo. Lo dejamos en que es una ocurrencia excepcionalmente rara y seguimos adelante.

Richie: ¿Existe un nivel de abuso que le lleve a decidir que una agencia ya no debería acceder a su tecnología? ¿Existe un umbral?

Garrett: Sí. Creo que lo que estás describiendo es un evento en el que, llamémoslo así, se demuestra que todo el departamento de policía es culpable de abusos, y probablemente no solo con Flock, sino con muchas otras cosas. En esos casos, hay un proceso federal para manejar esto. El gobierno federal suele intervenir, el gobierno estatal interviene. Y en esas situaciones, es poco probable que conserven Flock porque probablemente estén desmantelando todo el departamento de policía. Así que no creo que jamás se me presente ese problema o esa decisión.

Richie: Vale. Así que de nuevo, simplemente para inferir un poco y rematarlo, sería un umbral excepcionalmente alto, ¿no?

Garrett: Sí. ¿Tú qué piensas? Tengo curiosidad. ¿Tienes un punto de vista sobre cuándo una empresa tecnológica debería…

Richie: Mi opinión no importa realmente. Tú eres el CEO aquí. Me encantaría decírtelo con unas cervezas. Dices que una de las salvaguardas de Flock es el control local, pero varias ciudades de California afirman que sus datos se compartieron con partes externas, a veces con el gobierno federal, sin su permiso. ¿Cómo es esto coherente con tu afirmación de que los clientes controlan sus datos?

Garrett: No estoy de acuerdo con esas afirmaciones.

Richie: Vale, puedo decirte que obtuve esto de una afirmación de Mountain View, California. Afirman que Flock permitió buscar a nivel nacional a los departamentos de policía sin su permiso, y las agencias federales luego accedieron a los datos. Y de manera similar, South Pasadena citó el intercambio involuntario de datos como motivo por el cual cancelaron su contrato. Uno se informó en The Guardian, el otro fue simplemente de la ciudad. Tú…

Garrett: Los clientes controlan sus datos, controlan qué casillas están seleccionadas. En todo caso, malinterpretamos nuestra obligación con nuestros clientes de hacer imposible que cometan errores. Así que si tomas a alguien como California, su legislación estatal establece que los datos de LPR no deben salir del estado. No consideramos que fuera nuestro trabajo codificar eso en nuestro producto hace dos años. Ahora, como hemos escuchado de clientes que, sin querer, hicieron clic en un botón o alguien hizo clic en el botón y dijo: «Oye, realmente queremos activar la búsqueda nacional», se lo pusimos demasiado fácil. Así que ahora en el estado de California, en el estado de Washington y en el estado de Virginia, donde existe una legislación clara de que los datos de LPR no pueden salir del estado, hacemos que sea imposible que eso suceda. Ni siquiera hay una casilla de verificación. Por lo tanto, en todo caso, Richie, la forma en que lo describiría es que la obligación de Flock en esta conversación ha aumentado. Veo que nuestra responsabilidad es mayor, por lo que soy un gran defensor de las normativas en general. Porque ahora en un lugar como Washington hay un proyecto de ley que dice así es como creemos que debería funcionar LPR en Washington. Y cuando esos proyectos de ley están bien redactados, no necesariamente en el fondo, sino en la aplicabilidad, creo que es algo grandioso. Y por eso, en un lugar como California, ahora hemos cambiado y aumentado nuestro nivel de manera que sea imposible que eso ocurra.