Vi spurgte Flocks adm. direktør om overvågningsmisbrug. Her er, hvad han sagde.

I 2017 startede Flock Safety som et sideprojekt i en garage i Atlanta.

I dag er det en virksomhed til adskillige milliarder dollar, der driver mere end 120.000(nyt vindue) automatiserede nummerpladegenkendelseskameraer (ALPR) på tværs af 49 amerikanske delstater og læser 20 milliarder nummerplader om måneden for mere end 5.000 retshåndhævende myndigheder.

Flock slår sig op på at være en leverandør af offentlig sikkerhedsteknologi. Kritikere kalder det dog et venturekapitalfinansieret overvågningsnetværk fyldt med misbrug og svag kontrol.

Snesevis af byer og myndigheder har opgivet Flock i det forgangne år, Los Angeles lod sin kontrakt udløbe(nyt vindue) på grund af bekymringer om borgerrettigheder, og en politiafdeling i Californien slukkede sine kameraer(nyt vindue), efter at føderale myndigheder fik adgang til deres data uden varsel.

Under udarbejdelsen af vores seneste Proton-dokumentar om Flock-kameraer indvilgede Flocks egen adm. direktør, Garrett Langley, i et interview med vores vært, Richie Koch.

Nedenfor er en udskrift af hele samtalen, let redigeret af hensyn til længde og klarhed.

—

Richie Koch: Så første spørgsmål. På tværs af Flock-platformen, ikke kun nummerpladelæserne. Er det muligt for politiet at søge efter en person?

Garrett Langley: Så vi sælger flere produkter med fokus på at gøre to ting rigtigt. At skabe sikkerhed. At beskytte privatlivet. At fremme ansvarlighed. Det er ligesom målet for os, ikke? Vi har nogle produkter, der er fokuseret på køretøjer, vores nummerpladelæsere. Vi har nogle produkter, der er fokuseret på lyd, skuddetektering. Og så sælger vi det, som Deres seere måske kender som panorerings-, tilt- og zoomkameraer. Og de udrulles traditionelt på steder, hvor fodgængere færdes.

Richie: Okay. Ja. Og jeg har hørt om Condor-kameraerne.

Garrett: Det er et PTZ-kamera.

Richie: Ja. Okay. Og så tænkte jeg på, at jeg ikke nødvendigvis fik et klart ”ja” eller ”nej” der. Så jeg tænkte på, om De måske kunne uddybe lidt, hvad Condor PTZ-kameraerne gør”?

Garrett: Her er et godt eksempel. Ofte udrulles disse kameraer, uanset om de er fra os, eller der er sandsynligvis et par hundrede store kameraproducenter globalt, der bygger panorerings-, tilt- og zoomkameraer. Så uanset om det er os eller en anden. Byer udruller ofte disse i parker. Ikke også. Byen bruger titusindvis af dollar på at bygge en smuk park. Det sidste, de ønsker, er at lade den park blive et sted, hvor der foregår narkohandel, folk kommer til skade osv. Og hvis De ser på min egen hjemby, Atlanta, for blot fem år siden, var der en forfærdelig, forfærdelig hændelse. De kan læse om den. En kvinde luftede sin hund midt om natten, blev brutalt dræbt, en uopklaret sag. Ved De hvorfor? Der var kameraer der, men de virkede ikke. Hvis deres kameraer var der og virkede, vil jeg gerne tro med ret stor sikkerhed, at den sag ikke ville være uopklaret. Og for det meste udruller vores kunder vores produkter i det tilfælde for at holde deres borgere sikre, uanset om det er i en park eller på en offentlig vej.

Richie: Kan De forklare lidt om, hvordan søgningen fungerer? Vi har slået fast, at disse kameraer eksisterer, og at muligheden eksisterer. Hvordan ser en søgning ud?

Garrett: For hvilket produkt? … De er meget forskellige, fordi vi trækker en meget klar grænse ved vores ALPR-kameraer. De kan ikke søge efter personer. De er designet specifikt til at læse en nummerplade for at registrere et køretøjs egenskaber. Vores panorerings-, tilt- og zoomkameraer er derimod fokuseret på personer. Fordi folk typisk tager i parker, de tager typisk i parker.

Richie: Kan De bare forklare, hvordan panorering, tilt, zoom; hvordan søgningen ville fungere?

Garrett: Så der er i virkeligheden to primære måder at søge på. Der er det, man kan kalde den traditionelle søgning, som De ved, ligesom jeg har på mine kameraer derhjemme. Hvor jeg bare kan se på en tidslinje og gå frem og tilbage. Ikke også. Og det er en ret traditionel rullefunktion. Og så er den anden, at vi har et produkt, der hedder Freeform. Og Freeform giver Dem mulighed for at søge efter ting i almindelig tekst. Hvad jeg vil tilføje til det, som er vigtigt, og jeg tror ikke, det kun er unikt for os, men gennemgående i hele branchen: Man kan ikke bare tilbyde den type søgning uden repræsentation af det, vi kalder forfatningen, ikke? Vi har rettigheder, vi har visse begrænsninger. Og derfor er der indbygget en moderationspolitik i den søgning for at forhindre enhver form for misbrug af søgningen.

Richie: Kan Flock ændre et udrullet produkts funktionalitet via en softwareopdatering, uden at et byråd eller offentligheden godkender den nye funktionalitet?

Garrett: Hmmm. Jeg mener, i kernen af vores forretningsforhold, ikke sandt, uanset om det er med et nabolag, en virksomhed eller en by, som De kan se på vores kontrakter, er det en årlig kontrakt. Og hvert år skal vi bevise vores værdi. Så der er en forventning fra vores kunder om, at det bliver bedre hver eneste dag.

Richie: Rigtigt. Men De kan godt se, hvordan dette kan føre til funktionsskred. Der var for nylig en rapport i 404 Media, hvor Deres ALPR-kameraer i en kort periode blev omdannet til live feed-kameraer. Der var en anden rapport fra EFF, hvor Deres akustiske skudovervågningssystem i en kort periode blev brugt til at overvåge skrig fra menneskelig nød. I begge disse tilfælde ser det ud til, at disse funktioner blev tilføjet uden noget tillæg til kontrakten. Uden nogen ny form for høring af byrådet.

Garrett: Ja, ja. Så jeg tror mere overordnet set, hvis De zoomer ud, er to ting sande. For det første, ikke. Vi er nødt til fortsat at bygge et bedre produkt – et bedre produkt betyder både mere sikkerhed, mere privatliv og mere ansvarlighed. Men hvad vi ikke beskæftiger os med, er at pålægge vores kunder, hvad de skal bruge, og hvad de ikke skal bruge. Og som et eksempel lancerede vi vores revisionsassistentværktøj for omkring en halvanden måned siden, ikke sandt. Det er en ekstra funktionalitet til at opdage potentielt misbrugende eller ondsindet adfærd i vores system. Vi kræver ikke det i dag. Nu har mere end en tredjedel af vores kunder slået det til, og vi opfordrer vores kunder: De bør bruge dette. De bør bruge dette. Men jeg mener, det er byrådets opgave, kommissærens opgave, at presse dem til at tilstræbe mere ansvarlighed. Og jeg vil sige det samme på sikkerhedssiden. Så det er ret sjældent, at vi gennemtvinger noget over for vores kunder i stedet for at bygge noget og lade verden vide besked om det, som f.eks. Freeform. Og hvis en by så vælger at tage det i brug, er det op til dem at træffe en beslutning om, hvad der er hensigtsmæssigt enten at dele med byrådet eller blot gå videre.

Richie: Uden at gå… Jeg vil gerne holde det overordnet og ikke gå i detaljer, men de rapporterede tilfælde virkede mindre som om, der var høring fra byrepræsentanter, byråd eller bystyre, og mere blot at politiafdelingen besluttede at krydse feltet af for at aktivere funktionen. Dette ser ikke nødvendigvis ud til at stemme overens med Deres princip om lokal styring.

Garrett: Var der et spørgsmål?

Richie: Jeg vil sige…

Garrett: Undskyld.

Richie: Ville De støtte at kræve udtrykkelig, udtrykkelig offentlig godkendelse, før en væsentlig, væsentligt ny overvågningsfunktion kan aktiveres på en teknologi, der allerede er implementeret i lokalsamfundet?

Garrett: 100 %. Jeg mener bestemt, at politiafdelinger blot er én del af et lokalstyre, og disse lokalstyrer har politikker, og de fleste af disse lokalstyrer har politikker vedrørende ikke kun overvågning, men også budgetmæssige elementer. Ikke sandt. Så når jeg ser på det, mener jeg, at der er et system på plads, og vi bør fortsat lade det være op til vores lokalt valgte embedsmænd at foretage disse afvejninger af, hvordan vi holder lokalsamfundet sikkert.

Richie: Okay. Så det ville, uden at lægge ord i munden på Dem, se ud som om De ville det. Hvis De er villig til at støtte dette, vil det betyde potentielt at henvende sig til byrådet før introduktionen af en ny funktion og ikke blot udrulle den. Rulle den ud. Er det korrekt?

Garrett: Sådan tænker jeg om det. Hvis en afdeling, hvis en politiafdeling vælger at tilføje en funktion, må jeg også stole på, at kunden forstår lokalsamfundets værdier, deres politikker, deres procedurer. Og De ved, vi har næsten 7000 politiafdelinger på nuværende tidspunkt, byer som vi arbejder sammen med. De er alle meget unikke. Cleveland er meget anderledes end Cincinnati og Toledo. Og vi har ikke engang forladt Ohio endnu. Flytter De til min hjemstat Georgia eller Californien eller Washington. Og hele pointen er, at de alle har forskellige indkøbsregler. De har forskellige politikgennemgange, alt det eksisterer på et meget lokalt niveau. Så overordnet set, 100 %, mener jeg ikke, at politiafdelinger overhovedet bør vedtage nogen ny politik, fjerne hvad enten det er mine produkter eller en af mine konkurrenters, eller det overhovedet er en ændring af uniformer som den – det bør være op til byen at afgøre, hvilket niveau af gennemgang der er nødvendigt fra by til by.

Richie: Der har været adskillige tilfælde af politibetjente, der påstås at have misbrugt Flock til at stalke folk. Når det sker, hvilket ansvar tager Flock så selv?

Garrett: Enhver grad af misbrug over nul er uacceptabel og gør mig syg. Vi byggede et produkt. Jeg startede en virksomhed for at gøre folk mere sikre. Jeg har tre små børn. Jeg ser det som min primære forpligtelse som deres far at holde dem sikre. Og så når jeg ser individer træffe meget dårlige beslutninger om at bruge vores produkter på en måde, det ikke var tilsigtet, er det frustrerende. Og vi vidste, at dette var en risiko for ni år siden. Det var derfor vi, det var derfor vi fandt på audit-logs. De ved, hvis De går tilbage til før Flock, lad os tale om LPR. LPR har altid eksisteret. Der var ingen dataopbevaring.

Richie: Ja.

Garrett: Ikke? Det blev solgt kommercielt. Det bliver det stadig. Ikke. Bjærgningskøretøjer kører rundt og sælger de kommercielle data. Og så var der ingen ansvarlighed indbygget i det. Så det overasker mig ikke, at efterhånden som vi har bragt dette videre. Ikke. Og da vi nu har tilføjet revisionsassistance, vil vi fortsætte med at presse endnu hårdere på for dette. For mig ser jeg det som vores job at bygge et produkt, der er næsten umuligt, så vanskeligt at bruge uden for dets tilsigtede formål. Og jeg tror faktisk – dette er måske stridende mod sund fornuft – jeg synes, det er fantastisk, når jeg ser mediernes opmærksomhedsniveau, for jeg vil have, at betjente ved, at hvis de forsøger at bruge Flock, vil de blive holdt til ansvar, hvis de forsøger at bruge det på en misbrugende måde. Og der er andre systemer, De ved, som ikke spores. Og det synes jeg er skidt.

Richie: De lader til at gå meget op i dette. Så hvor mange kontrakter med politiafdelinger har Flock suspenderet eller opsagt på grund af systematisk misbrug? Udbredt misbrug fra betjentes side og i Deres system?

Garrett: Ja, det synes jeg er et rigtig, rigtig interessant spørgsmål. Og det er interessant, fordi jeg hver dag som eksempel ser mindst tre, hvis ikke fire, succeshistorier om et bortført barn, der vender hjem. Jeg ser hundreder til tusinder af forbrydelser blive opklaret. Hvis jeg boede i en by, der havde en politiafdeling, som misbrugte Flock, var det sidste, jeg ville ønske, at fjerne dette system, der er så effektivt til faktisk at opklare kriminalitet. Så det misbrug, De taler om, er ekstremt sjældent. Nu tilbage til min pointe: Alt over nul er uacceptabelt. Men De taler om hundredtusindvis af politibetjente, der bruger Flock hver eneste dag, hvor det er et encifret antal eller snesevis, der potentielt misbruger det. Jeg mener ikke, man bør holde hele byen ansvarlig for blot nogle få personers dårlige beslutninger.

Richie: Hvis jeg kan udlede af det svar, vil jeg sige, at tallet er nul.

Garrett: Jeg ønsker ikke at give et misvisende svar, så jeg svarede ikke. Jeg vil ikke sige én ting til Dem, og så er det…

Richie: Okay. Det er fair. Vi lader den ligge som en ekstremt sjælden hændelse og går videre.

Richie: Er der et niveau af misbrug, der ville få Dem til at beslutte, at en myndighed, en myndighed ikke længere bør få adgang til Deres teknologi? Er der en tærskel?

Garrett: Ja. Så jeg tror, det De beskriver, er i en begivenhed, hvor, lad os kalde det, at hele politiafdelingen findes skyldig i at være misbrugende og sandsynligvis ikke kun over for Flock, men mange andre ting. Og i de tilfælde er der en føderal proces til at håndtere dette. Den føderale regering træder typisk til, delstatsregeringen træder til. Og i de situationer er det usandsynligt, at de beholder Flock, fordi de sandsynligvis nedlægger hele politiafdelingen. Så jeg tror ikke, jeg nogensinde ville blive præsenteret for det problem eller den beslutning.

Richie: Okay. Så igen, for blot at udlede lidt og skære det ud i pap, ville det være en ekstremt høj tærskel. Ikke sandt?

Garrett: Ja. Hvad mener De? Jeg er faktisk nysgerrig. Har De et synspunkt om, hvornår en teknologivirksomhed bør…

Richie: Min mening betyder ikke rigtig noget. De er adm. direktør her. Jeg vil meget gerne fortælle Dem det over en øl. De siger, at en af Flocks sikringer er lokal kontrol, men adskillige byer i Californien hævder, at deres data blev delt med eksterne parter, nogle gange med den føderale regering, uden deres tilladelse. Hvordan stemmer det overens med Deres påstand om, at kunderne har kontrol over deres data?

Garrett: Jeg er uenig i de udsagn.

Richie: Okay, jeg kan fortælle Dem, at jeg fik dette fra en påstand fra Mountain View, Californien. De hævder, at Flock aktiverede landsdækkende søgning med politiafdelinger uden deres tilladelse, og føderale myndigheder fik derefter adgang til dataene. Og på samme måde henviste South Pasadena til utilsigtet datadeling som en grund til, at de annullerede deres kontrakt. Den ene blev rapporteret i The Guardian, den anden var blot fra byen. De…

Garrett: Så kunderne har kontrol over deres data, de har kontrol over, hvilke afkrydsningsfelter der vælges. Om noget misforstod vi vores forpligtelse over for vores kunder til at gøre det umuligt for dem at begå fejl. Og så hvis De tager et sted som Californien, har de en delstatslovgivning om, at LPR-data ikke må forlade delstaten. Vi så det ikke som vores opgave at indkode det i vores produkt for to år siden. Nu, da vi har hørt fra kunder, der utilsigtet enten klikkede på en knap, eller at nogen klikkede på knappen og sagde: Hej, vi vil faktisk gerne slå National Lookup til. Vi gjorde det for nemt for dem. Og så nu i delstaten Californien, delstaten Washington og delstaten Virginia, hvor der er klar lovgivning om, at LPR-data ikke må forlade delstaten, gør vi det umuligt for det at ske. Der er ikke engang et afkrydsningsfelt. Og om noget, Richie, er måden, jeg vil beskrive det på, at Flocks forpligtelse i denne samtale er øget. Jeg ser vores ansvar som større, hvilket er grunden til, at jeg er så stor tilhænger af regulativer i det hele taget. For nu i et sted som Washington, De ved, er der et lovforslag, der siger, at det er sådan, vi mener, LPR bør fungere i Washington. Og når de lovforslag er velskrevne, ikke nødvendigvis om substansen, men i håndhævelsen, synes jeg, det er en god ting. Og så i et sted som Californien har vi nu ændret og øget vores standarder, så det er umuligt for det overhovedet at ske.