L-am întrebat pe directorul executiv al Flock despre abuzul de supraveghere. Iată ce a spus.

În 2017, Flock Safety a început ca un proiect secundar într-un garaj din Atlanta.

Astăzi este o companie de miliarde de dolari care operează peste 120.000(fereastră nouă) de camere de citire automată a plăcuțelor de înmatriculare (ALPR) în 49 de state americane, citind 20 de miliarde de plăcuțe pe lună pentru peste 5.000 de agenții de aplicare a legii.

Flock se prezintă ca fiind un furnizor de tehnologie pentru siguranța publică. Cu toate acestea, criticii o numesc o rețea de supraveghere susținută de capital de risc, plină de abuzuri și cu o supraveghere slabă.

Zeci de orașe și agenții au renunțat la Flock în ultimul an, Los Angeles a lăsat contractul să expire(fereastră nouă) din cauza preocupărilor privind drepturile civile, iar un departament de poliție din California și-a oprit camerele(fereastră nouă) după ce agențiile federale au avut accesare la datele sale fără preaviz.

În timpul realizării celui mai recent documentar Proton despre camerele Flock, chiar directorul executiv al Flock, Garrett Langley, a fost de acord cu un interviu cu gazda noastră, Richie Koch.

Mai jos este o transcriere a conversației complete, cu o ușoară editare pentru lungime și claritate.

—

Richie Koch: Deci, prima întrebare. Pe toată platforma Flock, nu doar la cititoarele de plăcuțe de înmatriculare. Este posibil ca poliția să facă o căutare pentru o persoană?

Garrett Langley: Vinzi mai multe produse axate pe două lucruri făcute bine. Oferirea de siguranță. Oferirea de confidențialitate. Impulsionarea responsabilității. Acesta este obiectivul nostru, nu-i așa? Avem unele produse axate pe vehicule, cititoarele noastre de plăcuțe de înmatriculare. Avem unele produse axate pe audio, detectarea focurilor de armă. Și apoi vindem ceea ce privitorii dvs. ar putea cunoaște sub numele de camere Pan, tilt, zoom. Iar acestea au o implementare tradițională în locuri în care merg pietonii.

Richie: În regulă. Da. Și am auzit despre camerele Condor.

Garrett: Aceasta este o cameră PTZ.

Richie: Da. În regulă. Și apoi mă întrebam, nu am primit neapărat un „da” sau „nu” ferm acolo. Așa că mă întrebam dacă ați putea, poate, să detaliați puțin ce fac camerele PTZ Condor?

Garrett: Iată un exemplu excelent. Adesea aceste camere, fie că sunt de la noi, fie că există probabil câteva sute de mari producători de camere la nivel global care construiesc camere pan, tilt, zoom. Deci, fie că este vorba despre noi sau altcineva, orașele le implementează adesea în parcuri. Nu-i așa? Orașul cheltuiește zeci de milioane de dolari pentru a construi un parc frumos. Ultimul lucru pe care vor să îl facă este ca acel parc să devină un loc în care au loc tranzacții de droguri, oameni sunt răniți etc. Și dacă vă uitați la orașul meu natal, Atlanta, acum doar cinci ani a existat un incident teribil, teribil. Puteți citi despre asta. O femeie își plimba câinele în mijlocul nopții, ucisă cu violență, un caz neelucidat. Știți de ce? Existau camere acolo, dar nu funcționau. Dacă ar fi existat camere acolo și ar fi funcționat, îmi place să cred cu destulă încredere că acel caz nu ar fi rămas neelucidat. Și astfel, cel mai adesea, clienții noștri își implementează produsele în acel caz pentru a-și păstra oamenii în siguranță, fie că este într-un parc, fie pe un drum public.

Richie: Ați putea explica puțin cum funcționează o căutare? Am stabilit că aceste camere există, că această capacitate există. Cum arată o căutare?

Garrett: Pentru care produs? … Sunt foarte diferite, pentru că facem o diferență foarte mare între camerele noastre ALPR. Nu puteți efectua o căutare pentru oameni. Ele sunt concepute special pentru a citi o plăcuță de înmatriculare, pentru a detecta atributele unui vehicul. Acum, camerele noastre pan, tilt, zoom sunt axate pe oameni. Pentru că oamenii merg de obicei în parcuri, merg de obicei în parcuri.

Richie: Ați putea pur și simplu să explicați cum ar funcționa căutarea la sistemul pan, tilt, zoom?

Garrett: Deci există două moduri principale de căutare. Există ceea ce numim căutare tradițională, pe care, știți, o am și eu la camerele mele de acasă. Ou pot pur și simplu să mă uit la o cronologie și să derulez înainte și înapoi. Nu-i așa? Și acela este un Derulor destul de tradițional. Iar al doilea este un produs pe care îl numim Freeform. Iar Freeform vă permite să efectuați o căutare pentru lucruri în text simplu. Acum, ce aș adăuga la asta și este important. Și cred că nu ne este unic nouă. Este consecvent în întreaga industrie. Nu poți pur și simplu să oferi acel tip de căutare fără o reprezentare a ceea ce numim Constituția, nu-i așa? Avem drepturi, avem anumite restricții. Și astfel există o politică de moderare integrată în acea căutare pentru a preveni orice tip de căutare abuzivă.

Richie: Poate Flock să modifice capacitatea unui produs cu implementare finalizată printr-o actualizare de software fără ca un consiliu local sau publicul să aprobe acea nouă capacitate?

Garrett: Hmmm. Vreau să spun, la baza relației noastre de afaceri, nu-i așa. Fie că este vorba despre un cartier, o afacere sau un oraș, așa cum vă puteți uita în contractele noastre, este un contract anual, nu-i așa. Și în fiecare an trebuie să ne dovedim valoarea. Așa că există o așteptare din partea clienților noștri ca lucrurile să devină mai bune în fiecare zi.

Richie: Am înțeles. Cu toate acestea, puteți vedea cum acest lucru ar duce la o extindere necontrolată a misiunii. A existat un raport recent în 404 media în care, pentru scurt timp, camerele dvs. ALPR au fost transformate în camere de transmisie în direct. A existat un alt raport în EFF în care sistemul dvs. de monitorizare acustică a focurilor de armă a fost folosit scurt timp pentru a monitoriza țipetele de suferință umană. În ambele cazuri, se pare că aceste caracteristici au fost adăugate fără niciun act adițional la contract. Fără niciun fel de consultare nouă cu Consiliul Local.

Garrett: Da, da. Deci cred că, în mod mai amplu, dacă priviți în ansamblu, două lucruri cred că sunt adevărate. În primul rând, trebuie să continuăm să construim un produs mai bun, un produs mai bun însemnând mai multă siguranță, mai multă confidențialitate, mai multă responsabilitate. Dar ceea ce nu facem este să impunem clienților noștri ce să folosească și ce să nu folosească. Și, ca exemplu, am lansat instrumentul nostru de asistență pentru audit în urmă cu aproximativ o lună și jumătate, nu-i așa. Este o funcționalitate suplimentară pentru a detecta un comportament potențial abuziv sau nefast în sistemul nostru. Nu solicităm acest lucru astăzi. În prezent, mai mult de o treime din clienții noștri l-au activat și ne îndemnăm clienții: Ar trebui să folosiți acest lucru. Ar trebui să folosiți acest lucru. Dar cred că este treaba Consiliului Local, treaba comisarului să îi determine să tindă spre o mai mare responsabilitate. Și aș spune același lucru și în privința siguranței. Deci este destul de rar să forțăm ceva asupra clienților noștri în loc să construim ceva, să anunțăm lumea despre asta, cum ar fi Freeform de exemplu. Iar dacă un oraș alege să îl adopte, este decizia lor ce este adecvat fie pentru o partajare cu consiliul local, fie doar pentru a merge mai departe.

Richie: Fără a intra în detalii neapărat… Nu vreau să rămânem la nivel general, dar din cazurile raportate, părea mai puțin că ar fi existat consultări din partea reprezentanților orașului, a consiliului local, a administrației locale și mai degrabă că departamentul de poliție a decis pur și simplu să bifeze caseta pentru a activa acea caracteristică. Acest lucru nu pare să se potrivească neapărat cu principiul dvs. de guvernanță locală.

Garrett: A fost o întrebare?

Richie: Aș spune…

Garrett: Scuze.

Richie: Ați oferi asistență pentru cerința unei aprobări publice explicite, explicite, înainte ca o capacitate de supraveghere cu totul nouă să poată avea parte de o activare pe o tehnologie care a fost deja implementată în comunitate?

Garrett: 100%. Simt foarte ferm că departamentele de poliție sunt pur și simplu o parte a administrației locale, iar acele administrații locale au o politică clară și cele mai multe au o politică nu doar în privința supravegherii, ci și în privința unor elemente bugetare. Nu-i așa? Așa că, atunci când mă uit la asta, îmi spun că există un sistem stabilit și ar trebui să continuăm să ne bazăm pe oficialii noștri aleși la nivel local pentru a face aceste compromisuri privind modul în care păstrăm comunitatea în siguranță.

Richie: Am înțeles. Deci, fără a vă pune cuvinte în gură, ar părea că sunteți de acord. Dacă sunteți dispus să susțineți acest lucru, ar însemna mersul la consiliul local înainte de a introduce o nouă caracteristică și nu doar lansarea ei directă. Este corect?

Garrett: Iată cum văd eu lucrurile. Dacă un departament, dacă un departament de poliție alege să adauge o caracteristică, trebuie, de asemenea, să mă bazez pe acel client că își înțelege valorile comunității, politica, procedurile sale. Și, știți, avem aproape 7000 de departamente de poliție în acest moment, orașe cu care lucrăm. Toate sunt foarte unice. Cleveland este foarte diferit de Cincinnati, de Toledo. Și nici măcar nu am părăsit Ohio încă. Vă mutați în statul meu natal, Georgia, sau California sau Washington. Iar ideea este că toate au reguli de achiziție diferite. Au revizuiri de politică diferite, toate acestea existând la un nivel foarte local. Deci, la un nivel general, 100%, nu cred că departamentele de poliție ar trebui să adopte o nouă politică, să facă o eliminare pentru produsele mele sau ale vreunui concurent sau chiar o schimbare de uniformă; acest lucru ar trebui să fie la latitudinea orașului pentru a decide ce nivel de reevaluare este necesar de la oraș la oraș.

Richie: Au existat mai multe cazuri în care ofițeri de poliție ar fi abuzat de Flock pentru a hărțui oameni. Când se întâmplă acest lucru, ce responsabilitate își asumă Flock?

Garrett: Orice nivel de abuz mai mare decât zero este inacceptabil și îmi provoacă greață. Am construit un produs. Am fondat o companie pentru a-i face pe oameni mai siguri. Am trei copii mici. Consider că obligația mea principală ca tată al lor este să îi păstrez în siguranță. Așa că, atunci când văd persoane care iau decizii foarte proaste de a ne folosi produsele într-un mod neintenționat, este frustrant. Și știam că acesta era un risc acum nouă ani. De aceea am creat jurnalele de audit. Știți, dacă ne întoarcem înainte de Flock, să vorbim despre LPR. LPR a existat dintotdeauna. Nu exista nicio păstrare a datelor.

Richie: Da.

Garrett: Nu-i așa? Se vindea comercial. Încă se vinde. Camioanele de reposedare circulă și vând datele comerciale. Și nu exista nicio responsabilitate integrată. Așa că nu este o surpriză pentru mine că, pe măsură ce am dus lucrurile mai departe și am adăugat asistență pentru audit, vom continua să insistăm pe acest lucru. Pentru mine, consider că este treaba noastră să construim un produs care este aproape imposibil, atât de dificil de utilizat în afara scopului său prevăzut. Și cred că, deși ar putea fi contraintuitiv, cred că este grozav când văd nivelul de atenție din partea presei, pentru că vreau ca ofițerii să știe că, dacă încearcă să folosească Flock într-un mod abuziv, vor fi trași la răspundere. Și există alte sisteme care nu sunt monitorizate, iar eu cred că este un lucru rău.

Richie: Pare că aveți convingeri foarte ferme în această privință. Deci, câte contracte cu departamentele de poliție a suspendat sau a reziliat Flock din cauza abuzului sistemic? Abuz galopant din partea ofițerilor și a sistemului dvs.?

Garrett: Da, cred că este o întrebare foarte, foarte interesantă. Și este interesantă pentru că în fiecare zi, ca exemplu, văd cel puțin trei, dacă nu patru povești de succes cu un copil răpit înapoiat acasă. Văd de la sute la mii de infracțiuni rezolvate. Dacă aș locui într-un oraș care ar avea un departament de poliție ce abuzează de Flock, ultimul lucru pe care mi l-aș dori ar fi să elimin acest sistem care este atât de eficient în rezolvarea reală a infracțiunilor. Deci abuzul despre care vorbiți este excepțional de rar. Revenind la ideea mea: orice valoare mai mare decât zero este inacceptabilă. Dar vorbiți despre sute de mii de ofițeri de poliție care folosesc Flock în fiecare zi, în timp ce numărul celor care îl abuzează potențial este de o cifră sau de ordinul zecilor. Nu cred că ar trebui să trageți la răspundere întregul oraș doar pentru deciziile proaste ale câtorva persoane.

Richie: Dacă pot deduce din acest răspuns, aș spune că numărul este zero.

Garrett: Nu vreau să denaturez un răspuns, așa că nu am răspuns. Nu vreau să vă spun un lucru și apoi să fie…

Richie: În regulă. Este corect. O vom reține ca pe o situație excepțional de rară și vom merge mai departe.

Richie: Există un nivel de abuz care v-ar determina să decideți că o agenție nu ar mai trebui să aibă accesare la tehnologia dvs.? Există un prag?

Garrett: Da. Deci cred că ceea ce descrieți este o situație în cazul unui eveniment în care, să spunem, întregul departament de poliție este dovedit vinovat de abuz și probabil nu doar cu Flock, ci cu multe alte lucruri. În aceste cazuri, există un proces federal pentru gestionarea situației. Guvernul federal intervine de obicei, guvernul statal intervine. Și în aceste situații, este puțin probabil să păstreze Flock pentru că probabil desființează întregul departament de poliție. Așa că nu cred că m-aș confrunta vreodată cu această problemă sau decizie.

Richie: În regulă. Deci din nou, doar pentru a deduce puțin, pentru a pune punctul pe i, ar fi un prag excepțional de ridicat, nu-i așa?

Garrett: Da. Dvs. ce credeți? Chiar sunt curios. Aveți un punct de vedere despre când o companie de tehnologie ar trebui să…

Richie: Opinia mea nu contează cu adevărat. Dvs. sunteți directorul executiv aici. Mi-ar plăcea să vă spun la o bere. Spuneți că una dintre măsurile de siguranță ale Flock este controlul local, dar mai multe orașe din California susțin că datele lor au avut parte de o partajare cu părți externe, uneori cu guvernul federal, fără permisiunea lor. Cum se potrivește acest lucru cu afirmația dvs. că clienții își controlează datele?

Garrett: Nu sunt de acord cu aceste afirmații.

Richie: În regulă, vă pot spune că am luat asta dintr-o revendicare din Mountain View, California. Ei susțin că Flock a efectuat o activare pentru o căutare la nivel național cu departamentele de poliție fără permisiunea lor, iar agențiile federale au realizat apoi o accesare a datelor. În mod similar, South Pasadena a invocat partajarea neatenționată a datelor drept motiv pentru care a făcut o anulare a contractului său. Unul a fost raportat în The Guardian, celălalt a fost pur și simplu de la oraș. Dvs.…

Garrett: Deci, clienții își controlează datele, controlează ce casete au parte de o selectare. Dimpotrivă, am înțeles greșit obligația noastră față de clienți de a le face imposibilă comiterea de greșeli. Așa că, dacă luați un stat precum California, legislația lor de stat prevede că datele LPR nu ar trebui să părăsească statul. Nu am considerat că este de datoria noastră să codificăm acest lucru în produsul nostru acum doi ani. Acum, așa cum am auzit de la clienții care au făcut accidental clic pe un buton sau cineva a făcut clic pe buton și a spus că vrem de fapt să activăm Căutarea Națională, am făcut acest lucru prea ușor pentru ei. Așa că acum, în statul California, în statul Washington, în statul Virginia, unde există o legislație clară că datele LPR nu pot părăsi statul, facem imposibil ca acest lucru să se întâmple. Nu există nici măcar o casetă de bifat. Așa că, Richie, modul în care aș descrie lucrurile este că obligația Flock în această conversație a crescut. Consider că responsabilitatea noastră este mai mare, motiv pentru care sunt un mare adept al unor reguli în general. Pentru că acum, într-un loc precum Washington, știți, există un proiect de lege care spune că așa credem că ar trebui să funcționeze LPR în Washington. Iar când aceste proiecte de lege sunt bine scrise, nu neapărat pe fond, ci pe aplicabilitate, cred că este un lucru grozav. Așa că într-un loc precum California, am modificat și am crescut standardele noastre astfel încât să fie imposibil ca acest lucru să se mai întâmple.