En 2017, Flock Safety comenzó como un proyecto secundario en un garaje de Atlanta.

Hoy en día, es una empresa multimillonaria que opera más de 120,000(nueva ventana) cámaras de lectura automática de matrículas (ALPR) en 49 estados de EE. UU., habiendo leído 20 000 millones de matrículas al mes para más de 5,000 organismos encargados de hacer cumplir la ley.

Flock se promociona como un proveedor de tecnología de seguridad pública. Sin embargo, los críticos la califican como una red de vigilancia respaldada por capital de riesgo llena de abusos y con una supervisión débil.

Decenas de ciudades y organismos han abandonado Flock en el último año, Los Ángeles dejó vencer su contrato(nueva ventana) debido a inquietudes sobre los derechos civiles, y un departamento de policía de California apagó sus cámaras(nueva ventana) después de que organismos federales pudieron acceder a sus datos sin previo aviso.

Durante la producción de nuestro último documental de Proton sobre las cámaras de Flock, el propio director ejecutivo de Flock, Garrett Langley, aceptó una entrevista con nuestro presentador, Richie Koch.

A continuación se muestra una transcripción de la conversación completa, editada ligeramente para mayor brevedad y claridad.

—

Richie Koch: Primera pregunta. En toda la plataforma de Flock, no solo en los lectores de matrículas. ¿Es posible que la policía pueda buscar a una persona?

Garrett Langley: Vendemos múltiples productos enfocados en hacer dos cosas bien. Proporcionar seguridad. Proporcionar privacidad. Fomentar la rendición de cuentas. Ese es el objetivo para nosotros, ¿verdad? Tenemos algunos productos enfocados en vehículos, nuestros lectores de matrículas. Tenemos algunos productos enfocados en audio, detección de disparos. Y luego vendemos lo que sus espectadores tal vez conozcan como cámaras con movimiento horizontal, vertical y zoom. Y esas tradicionalmente se despliegan en lugares por donde transitan los peatones.

Richie: De acuerdo. Sí. Y he oído hablar de las cámaras Condor.

Garrett: Es una PTZ.

Richie: Sí. De acuerdo. Y me preguntaba, no obtuve necesariamente un “sí” o “no” firme allí. Así que me preguntaba si tal vez podría ampliar un poco lo que hacen las PTZ de Condor.

Garrett: Aquí hay un gran ejemplo. A menudo estas cámaras, ya sean nuestras o de un par de cientos de grandes fabricantes de cámaras a nivel mundial que construyen cámaras con movimiento horizontal, vertical y zoom… así que, ya seamos nosotros u otra persona. Las ciudades a menudo despliegan estas cámaras en parques. ¿Verdad? La ciudad gasta decenas de millones de dólares para construir un hermoso parque. Lo último que quieren es que ese parque se convierta en un lugar donde ocurran transacciones de drogas, la gente resulte herida, etc. Y si mira a mi propia ciudad natal, Atlanta, hace solo cinco años hubo un incidente horrible, horrible. Puede leer al respecto. Una mujer estaba paseando a su perro a mitad de la noche, fue asesinada violentamente, un caso no resuelto. ¿Sabe por qué? Había cámaras allí, pero no funcionaban. Si sus cámaras hubieran estado allí y funcionando, me gustaría pensar con bastante confianza que ese caso no estaría sin resolver. Por lo tanto, la mayoría de las veces, nuestros clientes despliegan nuestros productos en ese caso para mantener a su gente segura, ya sea en un parque o en una vía pública.

Richie: ¿Podría explicar un poco cómo funciona la búsqueda? Ya hemos establecido que estas cámaras existen, que la capacidad existe. ¿Cómo se ve una búsqueda?

Garrett: ¿Para qué producto? … Son muy diferentes, porque trazamos una línea muy clara con nuestras cámaras ALPR. No se puede buscar a personas. Están diseñadas específicamente para leer una matrícula y detectar atributos de un vehículo. Ahora bien, nuestras cámaras con movimiento horizontal, vertical y zoom están enfocadas en las personas. Porque la gente suele ir a los parques, suelen ir a los parques.

Richie: ¿Podría explicar cómo funcionaría el movimiento horizontal, vertical y zoom; cómo funcionaría la búsqueda?

Garrett: Realmente hay dos formas principales para buscar. Está la búsqueda que llamamos tradicional, como la que tengo en las cámaras de mi casa. O simplemente puedo mirar una línea de tiempo e ir hacia adelante y hacia atrás. ¿Verdad? Y ese es un desplazamiento bastante tradicional. Y luego la segunda es que tenemos un producto llamado Freeform. Y Freeform le permite buscar cosas en texto plano. Ahora, lo que añadiría a eso, que es importante, y creo que no es solo único de nosotros, es constante en toda la industria. No se puede simplemente proporcionar ese tipo de búsqueda sin representación de lo que llamamos la Constitución, ¿verdad? Tenemos derechos, tenemos ciertas restricciones. Por lo tanto, hay una política de moderación integrada en esa búsqueda para evitar cualquier tipo de búsqueda abusiva.

Richie: ¿Puede Flock cambiar la capacidad de un producto desplegado a través de una actualización de software sin que el concejo municipal o el público aprueben esa nueva capacidad?

Garrett: Hmmm. Quiero decir, en el núcleo de nuestra relación comercial, ya sea con un vecindario, una empresa o una ciudad, como usted puede ver en nuestros contratos, es un contrato anual, ¿verdad? Y cada año tenemos que demostrar nuestro valor. Por lo tanto, existe la expectativa de nuestros clientes de que mejore cada día.

Richie: Entendido. Sin embargo, usted puede ver cómo esto podría llevar a una desviación de la misión original. Hubo un informe reciente en 404 Media donde, por un breve momento, sus cámaras ALPR se convirtieron en cámaras de transmisión en vivo. Hubo otro informe en la EFF donde su sistema de monitoreo acústico de disparos se utilizó brevemente para monitorear gritos de auxilio humano. En ambos casos, parece que estas funciones se agregaron sin ninguna adenda al contrato. Sin ningún tipo de nueva consulta con el concejo municipal.

Garrett: Sí, sí. Así que creo que, a grandes rasgos, si se mira desde una perspectiva más amplia, creo que dos cosas son ciertas. Una, ¿verdad?, tenemos que seguir construyendo un mejor producto, y un mejor producto significa tanto más seguridad, más privacidad, como más rendición de cuentas. Pero en lo que no estamos es en el negocio de exigir a nuestros clientes lo que usan y lo que no usan. Por ejemplo, usted sabe, lanzamos nuestra herramienta de asistencia de auditoría hace aproximadamente un mes y medio, ¿verdad? Es una funcionalidad adicional para detectar comportamientos potencialmente abusivos o nefastos en nuestro sistema. No exigimos eso hoy en día. Ahora, más de un tercio de nuestros clientes la han activado y presionamos a nuestros clientes: ‘Ustedes deberían usar esto. Deberían usar esto’. Pero creo que es trabajo del concejo municipal, trabajo del comisionado, presionarlos para impulsar una mayor rendición de cuentas. Y diría lo mismo del lado de la seguridad. Así que es bastante raro que forzemos algo a nuestros clientes en lugar de construir algo, darlo a conocer al mundo, como Freeform por ejemplo. Y luego, si una ciudad decide adoptarlo, depende de ellos tomar la decisión de qué es apropiado compartir con el concejo municipal o simplemente seguir adelante.

Richie: No para entrar… No quiero mantenerlo general, no entrar en detalles, pero los casos reportados, parecía menos que hubiera una consulta con los representantes de la ciudad, el concejo municipal, el gobierno de la ciudad y, más simplemente, que el departamento de policía decidió marcar la casilla para activar la función. Esto no parece encajar necesariamente con su principio de gobernanza local.

Garrett: ¿Había alguna pregunta?

Richie: Yo diría…

Garrett: Lo siento.

Richie: ¿Apoyaría usted exigir una aprobación pública explícita y explícita antes de que una capacidad de vigilancia sustancialmente nueva pueda ser activada en una tecnología que ya se ha implementado en la comunidad?

Garrett: 100 %. Siento firmemente que los departamentos de policía son simplemente una parte de un gobierno local, y esos gobiernos locales tienen políticas, y la mayoría de esos gobiernos locales tienen políticas no solo sobre la vigilancia, sino también sobre elementos presupuestarios. ¿Verdad? Así que cuando lo veo, digo, hay un sistema establecido, y deberíamos seguir confiando en nuestros funcionarios electos localmente para tomar estas decisiones sopesadas sobre cómo mantener segura a la comunidad.

Richie: De acuerdo. Entonces eso, no por poner palabras en su boca, pero parecería que usted lo haría. Si está dispuesto a respaldar esto, significaría ir potencialmente al concejo municipal antes de introducir una nueva función y no simplemente desplegarla. Lanzarla. ¿Es eso correcto?

Garrett: Esta es la forma en que lo veo. Si un departamento, si un departamento de policía decide agregar una función, también tengo que confiar en ese cliente para que entienda los valores, sus políticas y sus procedimientos de su comunidad. Y usted sabe, tenemos casi 7000 departamentos de policía en este momento, ciudades con las que trabajamos. Todas son muy únicas. Cleveland es muy diferente de Cincinnati, de Toledo. Y ni siquiera hemos salido de Ohio todavía. Si usted se muda a mi estado natal de Georgia, o a California o Washington… el punto es que todos tienen reglas de contratación diferentes. Tienen diferentes revisiones de políticas, todo eso existe a un nivel muy local. Así que a un alto nivel, 100 %, no creo que los departamentos de policía deban adoptar realmente ninguna nueva política, borrar si son mis productos o uno de mis competidores, o si es incluso un cambio de uniforme como ese, eso debería depender de la ciudad para decidir qué nivel de revisión es necesario ciudad por ciudad.

Richie: Ha habido múltiples casos de oficiales de policía que presuntamente abusan de Flock para acosar a personas. Cuando eso sucede, ¿qué responsabilidad asume Flock?

Garrett: Cualquier nivel de abuso superior a cero es inaceptable y me enferma. Construimos un producto. Fundé una empresa para hacer que la gente esté más segura. Tengo tres hijos pequeños. Veo como mi obligación principal como su padre el mantenerlos a salvo. Y por eso, cuando veo a personas tomar muy malas decisiones para usar nuestros productos de una manera no prevista, es frustrante. Y sabíamos que esto era un riesgo hace nueve años. Es por eso que se nos ocurrieron los registros de auditoría. Sabe, si volvemos a antes de Flock, hablemos de LPR. LPR existió desde siempre. No hay conservación de datos.

Richie: Sí.

Garrett: ¿Verdad? Se vendía comercialmente. Todavía se vende. Los camiones de remolque circulan y venden los datos comerciales. Y luego no había ninguna rendición de cuentas integrada. Así que no me sorprende que a medida que hemos avanzado en esto, y como ahora hemos añadido la asistencia de auditoría, continuaremos presionando más en esto. Para mí, veo como nuestro trabajo construir un producto que sea casi imposible, muy difícil de usar fuera de su propósito previsto. Y creo que, de hecho, esto puede ser contraintuitivo: creo que es genial cuando veo el nivel de atención de los medios, porque quiero que los oficiales sepan que si intentan usar Flock, se les responsabilizará si intentan usarlo de manera abusiva. Y hay otros sistemas que usted sabe que no se rastrean. Y creo que eso es malo.

Richie: Parece que usted siente esto muy firmemente. Entonces, ¿cuántos contratos con departamentos de policía ha suspendido o rescindido Flock debido a un abuso sistémico? ¿Un abuso desmedido por parte de los oficiales y su sistema?

Garrett: Sí, creo que es una pregunta muy, muy interesante. Y es interesante porque todos los días, por ejemplo, veo al menos tres, si no cuatro historias de éxito de un niño secuestrado que regresa a casa. Veo de cientos a miles de delitos que se resuelven. Si yo viviera en un pueblo que tuviera un departamento de policía que estuviera abusando de Flock, lo último que querría hacer es arrancar este sistema que es tan efectivo para resolver delitos. Así que el abuso del que usted habla es excepcionalmente raro. Ahora, volviendo a mi punto: cualquier cosa superior a cero es inaceptable. Pero usted está hablando de cientos de miles de oficiales de policía que usan Flock todos los días, y de un número de un solo dígito, o docenas, que potencialmente están abusando de él. No creo que se deba responsabilizar a toda la ciudad solo por las malas decisiones de unos pocos.

Richie: Si puedo deducir de esa respuesta, diría que el número es cero.

Garrett: No quiero tergiversar una respuesta, por lo que no respondí. No quiero decirle una cosa y que luego sea…

Richie: De acuerdo. Es justo. Lo dejaremos como que es un caso excepcionalmente raro y seguiremos adelante.

Richie: ¿Existe un nivel de abuso que le haría decidir que un organismo, que un organismo ya no debería acceder a su tecnología? ¿Existe un umbral?

Garrett: Sí. Así que creo que lo que usted está describiendo es un evento en el que, llamémoslo así, se demuestra que todo el departamento de policía es culpable de ser abusivo, y probablemente no solo con Flock, sino con muchas otras cosas. Y en esos casos, hay un proceso federal para manejar esto. El gobierno federal normalmente interviene, el gobierno estatal interviene. Y en esas situaciones, es poco probable que conserven Flock porque probablemente estén desmantelando todo el departamento de policía. Así que no creo que me enfrente nunca a ese problema o a esa decisión.

Richie: De acuerdo. Así que de nuevo, simplemente para inferir un poco, para ponerle el broche de oro, sería un umbral excepcionalmente alto. ¿Sí?

Garrett: Sí. ¿Qué piensa usted? De hecho, tengo curiosidad. ¿Tiene un punto de vista sobre cuándo una empresa de tecnología debería…

Richie: Mi opinión realmente no importa. Usted es el director ejecutivo aquí. Me encantaría contárselo con unas cervezas. Usted dice que una de las salvaguardias de Flock es el control local, pero varios municipios de California afirman que sus datos se compartieron con partes externas, a veces con el gobierno federal, sin su permiso. ¿Cómo es esto coherente con su afirmación de que los clientes controlan sus datos?

Garrett: No estoy de acuerdo con esas declaraciones.

Richie: De acuerdo, le puedo decir que obtuve esto de una reclamación de Mountain View, California. Afirman que Flock permitió activar la búsqueda a nivel nacional con los departamentos de policía sin su permiso, y los organismos federales pudieron acceder a los datos. De manera similar, South Pasadena citó el intercambio inadvertido de datos como una razón por la cual cancelaron su contrato. Uno fue reportado en The Guardian, el otro simplemente fue de la ciudad. Usted…

Garrett: Así que los clientes controlan sus datos, controlan qué casillas están seleccionadas. En todo caso, no entendimos bien nuestra obligación hacia nuestros clientes de hacer imposible que cometan errores. Y así, si se toma un caso como California, su legislación estatal establece que los datos de LPR no deben salir del estado. No consideramos que nuestro trabajo fuera codificar eso en nuestro producto hace dos años. Ahora, como hemos escuchado de clientes que involuntariamente hicieron clic en un botón o alguien hizo clic en el botón y dijo: ‘Oigan, en realidad queremos activar la búsqueda nacional’, se lo pusimos demasiado fácil. Y así que ahora en el estado de California, en el estado de Washington y en el estado de Virginia, donde hay una legislación clara de que los datos de LPR no pueden salir del estado, hacemos que sea imposible que eso suceda. Ni siquiera hay una casilla de verificación. Por lo tanto, en todo caso, Richie, la forma en que lo describiría es que la obligación de Flock en esta conversación ha aumentado. Veo nuestra responsabilidad mayor, razón por la cual soy un gran admirador de las regulaciones en general. Porque ahora en un lugar como Washington, usted sabe, hay un proyecto de ley que dice que así es como creemos que debería funcionar LPR en Washington. Y cuando esos proyectos de ley están bien redactados, no necesariamente en el fondo, sino en la exigibilidad, creo que eso es algo grandioso. Así que en un lugar como California, ahora hemos cambiado e incrementado nuestra postura de tal manera que es imposible que eso suceda.