Vi frågade Flocks VD om övervakningsmissbruk. Här är vad han sade.

År 2017 började Flock Safety som ett sidoprojekt i ett garage i Atlanta.

I dag är det ett mångmiljarddollarföretag som driver fler än 120 000(nytt fönster) automatiska nummerskyltsläsare (ALPR-kameror) i 49 amerikanska delstater, och läser 20 miljarder skyltar i månaden åt fler än 5 000 rättsvårdande myndigheter.

Flock beskriver sig som en leverantör av teknik för allmän säkerhet. Kritiker kallar det dock för ett riskkapitalfinansierat övervakningsnätverk fyllt av missbruk och svag tillsyn.

Dussintals städer och myndigheter har övergivit Flock under det senaste året, Los Angeles lät sitt kontrakt löpa ut(nytt fönster) på grund av oro för medborgerliga rättigheter, och en polismyndighet i Kalifornien stängde av sina kameror(nytt fönster) efter att federala myndigheter fick åtkomst till deras data utan förvarning.

Under arbetet med vår senaste Proton-dokumentär om Flock-kameror gick Flocks egen VD, Garrett Langley, med på en intervju med vår programledare, Richie Koch.

Nedan följer en utskrift av hela konversationen, lätt redigerad för längd och tydlighet.

—

Richie Koch: Så första frågan. Över hela Flocks plattform, inte bara nummerskyltsläsarna. Är det möjligt för polisen att söka efter en person?

Garrett Langley: Så vi säljer flera produkter som är fokuserade på att göra två saker rätt. Erbjuda säkerhet. Erbjuda integritet. Driva ansvarsskyldighet. Det är liksom målet för oss, eller hur? Vi har vissa produkter som är fokuserade på fordon, våra nummerskyltsläsare. Vi har vissa produkter som är fokuserade på ljud, skottdetektering. Och sedan säljer vi det som dina tittare kanske känner till som kallas panorering-, lutning- och zoomkameror. Och dessa distribueras traditionellt på platser där fotgängare rör sig.

Richie: Okey. Ja. Och jag har hört talas om Condor-kamerorna.

Garrett: Det är en PTZ.

Richie: Ja. Okey. Och så undrade jag, jag fick inte nödvändigtvis ett bestämt ”ja” eller ”nej” där. Så jag undrade om du kanske kunde utveckla lite vad Condor-PTZ-kamerorna gör?

Garrett: Här är ett bra exempel. Oftast är det dessa kameror, oavsett om de kommer från oss eller om det finns ett par hundra stora kameratillverkare globalt som bygger panorerings-, lutnings- och zoomkameror. Så oavsett om det är vi eller någon annan. Städer distribuerar ofta dessa i parker. Eller hur. Staden spenderar tiotals miljoner dollar på att bygga en vacker park. Det sista de vill göra är att den parken ska bli en plats där narkotikaaffärer sker, folk blir skadade osv. Och om du tittar på min egen hemstad, Atlanta, för bara fem år sedan inträffade en förfärlig, förfärlig händelse. Du kan läsa om den. En kvinna rastade sin hund mitt i natten, blev våldsamt dödad, olöst fall. Vet du varför? Det fanns kameror där, men de fungerade inte. Om deras kameror var där och fungerade vill jag tro, ganska säkert, att det fallet inte skulle vara olöst. Och så oftast än inte distribuerar våra kunder våra produkter i det fallet för att hålla sina invånare säkra, oavsett om det är i en park eller på en allmän väg.

Richie: Skulle du kunna förklara lite hur sökningen fungerar? Vi har ju fastställt att dessa kameror finns, att möjligheten finns. Hur ser en sökning ut?

Garrett: För vilken produkt? … De är väldigt olika, eftersom vi drar en väldigt tydlig gräns mot våra ALPR-kameror. Du kan inte söka efter personer. De är utformade specifikt för att läsa en nummerskylt för att upptäcka egenskaper hos ett fordon. Våra panorerings-, lutnings- och zoomkameror är däremot fokuserade på personer. Eftersom personer vanligtvis går till parker, går de vanligtvis till parker.

Richie: Skulle du bara kunna förklara hur panorering, lutning, zoom; hur sökningen skulle fungera?

Garrett: Så det finns egentligen två huvudsakliga sätt att söka på. Det finns den så kallade traditionella sökningen som du vet, som jag har på mina, du vet, kameror där hemma. Eller så kan jag bara titta på en tidslinje och gå fram och tillbaka. Eller hur. Och det är en ganska traditionell tidslinjerullning. Och sedan är den andra att vi har en produkt som heter Freeform. Och Freeform gör att du kan söka efter saker i oformaterad text. Det jag skulle vilja lägga till där, vilket är viktigt. Och jag tror inte att det bara är unikt för oss utan konsekvent över hela branschen. Du kan inte bara tillhandahålla den typen av sökning utan representation av vad vi kallar konstitutionen, eller hur? Vi har rättigheter, vi har vissa begränsningar. Och så finns det en moderationspolicy inbyggd i den sökningen för att förhindra all typ av missbruksmässig sökning.

Richie: Kan Flock ändra en distribuerad produkts förmåga genom en mjukvaruppdatering utan att ett stadsfullmäktige eller allmänheten godkänner den nya förmågan?

Garrett: Hmmm. Jag menar, i kärnan av vår affärsrelation, eller hur. Oavsett om det är med ett bostadsområde eller ett företag eller en stad, som du kan se i våra kontrakt, är det ett årligt kontrakt, eller hur. Och varje år måste vi bevisa vårt värde. Och därför finns det en förväntan från våra kunder att det blir bättre varje enskild dag.

Richie: Rätt. Men du kan se hur detta skulle leda till uppdragsglidning. Det fanns nyligen en rapport i 404 Media där dina ALPR-kameror kortvarigt förvandlades till direktsändningskameror. Det fanns en annan rapport i EFF där ert akustiska skottövervakningssystem användes kortvarigt för att övervaka skrik av mänsklig nöd. I båda dessa fall verkar det som om dessa funktioner lades till utan något tillägg till kontraktet. Utan någon ny form av samråd med stadsfullmäktige.

Garrett: Ja, ja. Så jag tror mer övergripande, om du zoomar ut, två saker tycker jag stämmer. Ett, eller hur. Vi måste fortsätta att bygga en bättre produkt, och en bättre produkt innebär både mer säkerhet, mer integritet, mer ansvarsskyldighet. Men det vi inte sysslar med är att tvinga våra kunder vad de ska använda och inte använda. Som ett exempel lanserade vi vårt granskningsassistentverktyg för ungefär en halvannan månad sedan, eller hur. Det är en ytterligare funktionalitet för att upptäcka potentiellt missbrukande eller skadligt beteende i vårt system. Vi kräver inte det i dag. Nu har mer än en tredjedel av våra kunder aktiverat det och vi uppmanar våra kunder: Du borde använda detta. Du borde använda detta. Men jag anser att det är stadsfullmäktiges jobb, kommissionärens jobb, att driva på dem för mer ansvarsskyldighet. Och jag skulle säga detsamma på säkerhetssidan. Så det är ganska sällsynt att vi skulle tvinga på våra kunder något jämfört med att bygga något, berätta för världen om det, som Freeform som ett exempel. Och om en stad sedan väljer att införa det, då är det upp till dem att fatta ett beslut om vad som är lämpligt att antingen dela med stadsfullmäktige eller bara gå vidare.

Richie: För att inte gå in på… Jag vill inte hålla det övergripande, inte gå in på detaljer, men i de rapporterade fallen verkar det mindre som att det fanns samråd med stadsrepresentanter, stadsfullmäktige, stadsstyrelsen och mer helt enkelt att polismyndigheten beslutade att kryssa i rutan för att aktivera funktionen. Detta verkar inte nödvändigtvis stämma överens med er princip om lokal styrning.

Garrett: Var det en fråga?

Richie: Jag skulle säga…

Garrett: Förlåt.

Richie: Skulle du stödja att kräva uttryckligt, uttryckligt offentligt godkännande innan en väsentligt ny övervakningsförmåga kan aktiveras på en teknik som redan har implementerats i samhället?

Garrett: 100 %. Jag känner starkt att polismyndigheter helt enkelt är en del av ett lokalt styre, och dessa lokala styren har policyer, och de flesta av dessa lokala styren har policyer kring inte bara övervakning utan även budgetposter. Eller hur. Och så när jag tittar på det tänker jag att det finns ett system på plats, och vi bör fortsätta att lita på våra lokalt valda tjänstemän för att göra dessa avvägningar av hur vi håller samhället säkert.

Richie: Okey. Så det skulle, för att inte lägga ord i din mun, men det verkar som om du skulle göra det. Om du är villig att stödja detta skulle det innebära att potentiellt gå till stadsfullmäktige innan ni introducerar en ny funktion och inte bara rulla ut den. Trycka ut den. Stämmer det?

Garrett: Så här tänker jag kring det. Om en myndighet, om en polismyndighet väljer att lägga till en funktion, måste jag också lita på att den kunden förstår sina lokala värderingar, sina policyer, sina rutiner. Och du vet, vi har, vi har nästan 7000 polismyndigheter vid det här laget, städer som vi arbetar med. De är alla väldigt unika. Cleveland är väldigt annorlunda än Cincinnati, än Toledo. Och då har vi inte ens lämnat Ohio än. Om du flyttar till min hemstat Georgia eller Kalifornien eller Washington. Och hela poängen är att de alla har olika upphandlingsregler. De har olika policygranskningar, allt detta finns på en väldigt lokal nivå. Så på en övergripande nivå, 100 %, tycker jag inte att polismyndigheter borde anta egentligen någon ny policy, ta bort oavsett om det är mina produkter eller någon av mina konkurrenters, eller om det till och med är en enhetlig förändring så där, att det borde vara upp till staden att avgöra vilken nivå av granskning som krävs från stad till stad.

Richie: Det har funnits flera fall där poliser påstås ha missbrukat Flock för att förfölja människor. När det händer, vilket ansvar tar Flock självt?

Garrett: Vilken nivå av missbruk som helst över noll är oacceptabel och gör mig illamående. Vi byggde en produkt. Jag startade ett företag för att göra människor säkrare. Jag har tre små barn. Jag ser det som min primära skyldighet som deras pappa att hålla dem säkra. Så när jag ser individer fatta väldigt dåliga beslut genom att använda våra produkter på ett sätt som inte var avsett, är det frustrerande. Och vi visste att detta var en risk för nio år sedan. Det var därför vi, det var därför vi skapade granskningsloggar. Du vet, om du går tillbaka till före Flock, låt oss tala om LPR. LPR har funnits i alla tider. Det fanns ingen datalagring.

Richie: Ja.

Garrett: Eller hur? Det såldes kommersiellt. Gör det fortfarande. Eller hur. Bärgningsbilar kör runt och säljer kommersiella data. Och sedan fanns det ingen ansvarsskyldighet inbyggd i det. Så det är ingen överraskning för mig att i takt med att vi har drivit detta vidare. Eller hur. Och när vi nu har lagt till granskningsassistans, kommer vi att fortsätta pressa hårdare på detta. För mig ser jag det som vårt jobb att bygga en produkt som är nästan omöjlig, så svår att använda utanför dess avsedda syfte. Och jag tror faktiskt, det här kan vara motstridigt, att det är jättebra när jag ser den mediala uppmärksamheten, för jag vill att poliser ska veta att om du försöker använda Flock kommer du att ställas till svars om du försöker använda det på ett missbrukande sätt. Och det finns andra system som du vet inte spåras. Och det tycker jag är dåligt.

Richie: Du verkar känna väldigt starkt för detta. Så hur många kontrakt med polismyndigheter har Flock stängt av eller avslutat på grund av systematiskt missbruk? Utbrett missbruk av poliser och ert system?

Garrett: Ja, jag tycker att det är en väldigt, väldigt intressant fråga. Och det är intressant för varje dag ser jag till exempel minst tre, om inte fyra framgångssagor om att ett bortfört barn återvänder hem. Jag ser hundratals till tusentals brott som klaras upp. Om jag bodde i en stad som hade en polismyndighet som missbrukade Flock, skulle det sista jag ville göra vara att riva ut detta system som är så effektivt på att faktiskt lösa brott. Så missbruket du talar om är ytterst sällsynt. Nu till min poäng. Allt över noll är oacceptabelt. Men du talar om hundratusentals poliser som använder Flock varje enskild dag, där ett ental, ett dussintal potentiellt missbrukar det. Jag tycker inte att du ska ställa hela staden till svars för bara några fås dåliga beslut.

Richie: Om jag kan dra en slutsats från det svaret skulle jag säga att siffran är noll.

Garrett: Jag vill inte snedvrida ett svar, så jag svarade inte. Jag vill inte säga en sak till dig och sedan är det…

Richie: Okey. Det är rättvist. Vi nöjer oss med att det är ett ytterst sällsynt fall och går vidare.

Richie: Finns det en nivå av missbruk som skulle få dig att besluta att en myndighet, att en myndighet inte längre borde få åtkomst till er teknik? Finns det en tröskel?

Garrett: Ja. Så jag tror att vad du beskriver är i en händelse där, låt oss kalla det, hela polismyndigheten bevisats vara skyldig till missbruk och troligen inte bara gällande Flock, utan många andra saker. Och i de fallen finns det en federal process för att hantera detta. Den federala regeringen kliver vanligtvis in, delstatsregeringen kliver in. Och i de situationerna är det osannolikt att de behåller Flock eftersom de förmodligen lägger ner hela polismyndigheten. Så jag tror inte att jag någonsin skulle ställas inför det, det problemet eller det beslutet.

Richie: OK. Så igen, bara för att dra en liten slutsats, sätta pricken över i, skulle det vara en ytterst hög tröskel. Eller hur?

Garrett: Ja. Vad tycker du? Jag är faktiskt nyfiken? Har du en synpunkt på när ett teknikföretag borde…

Richie: Min åsikt spelar inte riktigt någon roll. Du är VD här. Jag skulle gärna berätta för dig över en öl. Du säger att en av Flocks skyddsåtgärder är lokal kontroll, men flera städer i Kalifornien hävdar att deras data delades med utomstående parter, ibland med den federala regeringen, utan deras tillstånd. Hur stämmer detta överens med ert påstående att kunderna kontrollerar sina data?

Garrett: Jag håller inte med om de påståendena.

Richie: Okey, jag kan tala om för dig att jag fick detta från ett påstående från Mountain View, Kalifornien. De hävdar att Flock aktiverade rikstäckande sökning med polismyndigheter utan deras tillstånd, och att federala myndigheter sedan fick åtkomst till data. Och på liknande sätt hänvisade South Pasadena till oavsiktlig datadelning som skäl till att de sade upp sitt kontrakt. En rapporterades i The Guardian, den andra var helt enkelt från staden. Du…

Garrett: Så, kunderna kontrollerar sina data, de kontrollerar vilka kryssrutor som väljs. Om något missförstod vi vår skyldighet gentemot våra kunder att göra det omöjligt för dem att göra misstag. Och om du tar någon som Kalifornien, har de delstatslagstiftning om att LPR-data inte får lämna delstaten. Vi såg det inte som vårt jobb att kodifiera det i vår produkt för två år sedan. Nu, efter vad vi hört från kunder som oavsiktligt antingen klickade på en knapp eller någon klickade på knappen och sade, hej, vi vill faktiskt slå på nationell sökning. Vi gjorde det för enkelt för dem. Och så nu i delstaten Kalifornien och delstaten Washington, delstaten Virginia, där det finns tydlig lagstiftning om att LPR-data inte får lämna delstaten, gör vi det omöjligt för det att hända. Det finns inte en kryssruta ens. Och så om något, Richie, så som jag skulle beskriva det har Flocks skyldighet i denna konversation ökat. Jag ser vårt ansvar som större, vilket är varför jag är ett så stort fan av reglering i allmänhet. För nu på en plats som Washington, du vet, finns det ett lagförslag som säger att det är så här vi tycker att LPR borde fungera i Washington. Och när dessa lagförslag är välskrivna, inte nödvändigtvis i sak, utan i verkställbarhet, tycker jag att det är en utmärkt sak. Och så på en plats som Kalifornien har vi nu ändrat och ökat vår ställning så att det är omöjligt för det att ens hända.