Zeptali jsme se generálního ředitele společnosti Flock na zneužívání sledování. Zde je to, co řekl.

V roce 2017 začala společnost Flock Safety jako vedlejší projekt v garáži v Atlantě.

Dnes je to společnost s hodnotou několika miliard dolarů, která provozuje více než 120000(nové okno) kamer se systémem automatického rozpoznávání státních poznávacích značek (ALPR) napříč 49 státy USA a měsíčně přečte 20 miliard značek pro více než 5000 orgánů činných v trestním řízení.

Společnost Flock sama sebe prezentuje jako poskytovatele technologií pro veřejnou bezpečnost. Kritici ji však označují za sledovací síť financovanou rizikovým kapitálem, která je plná zneužívání a slabého dohledu.

Desítky měst a úřadů v uplynulém roce od spolupráce s Flockem odstoupily, Los Angeles nechalo vypršet smlouvu(nové okno) kvůli obavám z porušování občanských práv a kalifornské policejní oddělení vypnulo své kamery(nové okno) poté, co k jeho datům bez upozornění přistoupily federální úřady.

Během natáčení našeho nejnovějšího dokumentu Proton o kamerách Flock souhlasil sám generální ředitel společnosti Flock, Garrett Langley, s rozhovorem s naším moderátorem Richiem Kochem.

Níže je přepis celého rozhovoru, lehce upravený z důvodu délky a přehlednosti.

—

Richie Koch: Takže první otázka. Napříč celou platformou Flock, nejen čtečkami poznávacích značek. Je možné, aby policie hledala konkrétní osobu?

Garrett Langley: Prodáváme několik produktů zaměřených na správné provádění dvou věcí. Zajištění bezpečnosti. Zajištění soukromí. Prosazování odpovědnosti. To je náš cíl, že? Máme některé produkty, které se zaměřují na vozidla, naše čtečky poznávacích značek. Máme produkty, které se zaměřují na zvuk, na detekci střelby. A pak prodáváme to, co vaši diváci možná znají pod názvem otočné, naklápěcí a přibližovací kamery. A ty se tradičně nasazují na místech, kde se pohybují chodci.

Richie: Dobře. Ano. A slyšel jsem o kamerách Condor.

Garrett: To je PTZ.

Richie: Jo. Dobře. A pak by mě zajímalo… nedostal jsem úplně jednoznačné „ano“ nebo „ne“. Takže jsem se chtěl zeptat, zda byste mohl trochu rozvést, co vlastně kamery Condor PTZ dělají?

Garrett: Zde je skvělý příklad. Často tyto kamery, ať už od nás, nebo od dalších stovek velkých výrobců kamer po celém světě, kteří vyrábějí otočné, naklápěcí a přibližovací kamery… Takže ať už jsme to my, nebo někdo jiný. Města je často nasazují v parcích. Že ano. Město utratí desítky milionů dolarů za vybudování krásného parku. To poslední, co chtějí, je, aby se z toho parku stalo místo, kde probíhají obchody s drogami, lidé tam přicházejí k úrazu atd. A když se podíváte na moje rodné město, Atlantu, před pouhými pěti lety tam došlo k hroznému, hroznému incidentu. Můžete si o tom přečíst. Žena tam uprostřed noci venčila psa, byla násilně zabita, nevyřešený případ. Víte proč? Kamery tam sice byly, ale nefungovaly. Kdyby tam kamery byly a fungovaly, jsem si docela jistý, že by ten případ nezůstal nevyřešený. A tak naši zákazníci nejčastěji nasazují naše produkty v takových případech, aby udrželi své občany v bezpečí, ať už v parku, nebo na veřejné komunikaci.

Richie: Mohl byste trochu vysvětlit, jak funguje vyhledávání? Už víme, že tyto kamery existují a že tato možnost existuje. Jak takové vyhledávání vypadá?

Garrett: Pro který produkt? … Jsou velmi odlišné, protože děláme velkou čáru u našich kamer ALPR. V nich nemůžete vyhledávat lidi. Jsou navrženy speciálně k načítání poznávacích značek a detekci vlastností vozidla. Naše kamery s funkcí otáčení, naklápění a přibližování jsou naproti tomu zaměřeny na lidi. Protože lidé obvykle chodí do parků, obvykle chodí do parků.

Richie: Mohl byste vysvětlit, jak by fungovalo vyhledávání u kamer s otáčením, naklápěním a přibližováním?

Garrett: Existují v podstatě dva hlavní způsoby vyhledávání. Je tu, řekněme, tradiční vyhledávání, které znáte třeba z kamer, co mám doma. Kde se prostě mohu podívat na časovou osu a posouvat se dopředu a dozadu. Že ano. To je celkem tradiční posuvník. A druhý způsob je, že máme produkt s názvem Freeform. A Freeform vám umožňuje vyhledávat věci pomocí prostého textu. K tomu bych přidal něco důležitého. A myslím, že to není unikum jen u nás, je to běžné v celém odvětví. Nemůžete jen tak poskytnout tento typ vyhledávání bez zohlednění toho, čemu říkáme ústava, že? Máme práva, máme určitá omezení. A tak je do tohoto vyhledávání zabudována zásada moderování, aby se zabránilo jakémukoli typu zneužití vyhledávání.

Richie: Může společnost Flock změnit schopnosti již nasazeného produktu pomocí aktualizace softwaru, aniž by tuto novou funkci schválila městská rada nebo veřejnost?

Garrett: Hmmm. Chci říct, že základem našeho obchodního vztahu, ať už jde o sousedství, firmu nebo město, jak se můžete podívat do našich smluv, je roční smlouva, že ano. A každý rok musíme dokázat svou hodnotu. Takže od našich zákazníků existuje očekávání, že se to bude zlepšovat každý den.

Richie: Rozumím. Nicméně chápete, jak by to mohlo vést k postupnému rozšiřování původního účelu. Nedávno se v médiu 404 Media objevila zpráva, že vaše kamery ALPR byly na krátkou dobu proměněny v kamery se živým přenosem. V další zprávě EFF se uvádělo, že váš akustický systém sledování střelby byl krátce použit ke sledování výkřiků lidské tísně. V obou těchto případech se zdá, že tyto funkce byly přidány bez jakéhokoli dodatku ke smlouvě. Bez jakékoli nové konzultace s městskou radou.

Garrett: Jo, jo. Takže si myslím, že obecněji, když se na to podíváte z nadhledu, platí dvě věci. Za prvé, musíme i nadále budovat lepší produkt – přičemž lepší produkt znamená jak větší bezpečnost, tak více soukromí a vyšší odpovědnost. Ale co neděláme, je, že bychom našim zákazníkům nařizovali, co mají používat a co ne. Příkladem může být to, že jsme asi před měsícem a půl spustili náš nástroj pro asistenci při auditu, že? Je to dodatečná funkce pro detekci potenciálně zneužívajícího nebo nekalého chování v našem systému. Dnes to nevyžadujeme. Nyní si ji zapnula více než třetina našich zákazníků a my na zákazníky naléháme: Měli byste to používat. Měli byste to používat. Ale věřím, že úkolem městské rady, úkolem radních je tlačit na ně, aby prosazovali větší odpovědnost. A totéž bych řekl i na straně bezpečnosti. Je tedy dost vzácné, že bychom zákazníkům něco vnucovali, místo abychom něco vybudovali a dali o tom světu vědět – jako například Freeform. A pokud se pak město rozhodne to přijmout, je na něm, aby se rozhodlo, co je vhodné sdílet s městskou radou, nebo prostě pokračovat dál.

Richie: Nechci zacházet… nechci to udržovat jen v obecné rovině a nejít do podrobností, ale u hlášených případů se zdálo, že spíše než o konzultace se zástupci města, městskou radou nebo vedením města šlo jednoduše o to, že se policejní oddělení rozhodlo zaškrtnout políčko a funkci zapnout. Zdá se, že to ne zcela odpovídá vašemu principu místní správy.

Garrett: Byla to otázka?

Richie: Řekl bych…

Garrett: Promiňte.

Richie: Podpořil byste požadavek na výslovný, výslovný souhlas veřejnosti předtím, než bude u technologie, která již byla v komunitě nasazena, aktivována zásadně nová funkce sledování?

Garrett: Na 100 %. Jsem pevně přesvědčen o tom, že policejní oddělení jsou pouze jednou částí místní samosprávy a tyto místní samosprávy mají své zásady – a většina z nich má zásady nejen ohledně sledování, ale i ohledně rozpočtových položek. Že ano. Takže když se na to podívám, říkám si, že je tu zavedený systém a měli bychom se i nadále spoléhat na naše místně zvolené zástupce, že udělají tyto kompromisy v tom, jak udržet komunitu v bezpečí.

Richie: Dobře. Takže by to – aniž bych vám vkládal slova do úst – vypadalo, že ano. Pokud jste ochoten to podpořit, znamenalo by to před zavedením nové funkce případně předstoupit před městskou rada a ne ji prostě jen tak nasadit. Je to tak?

Garrett: Já o tom přemýšlím takhle. Pokud se oddělení, pokud se policejní oddělení rozhodne přidat funkci, musím se spoléhat na to, že tento zákazník rozumí hodnotám své komunity, svým zásadám a svým postupům. A víte, v tuto chvíli pracujeme s téměř 7000 policejními odděleními a městy. Všechna jsou velmi specifická. Cleveland je velmi odlišný od Cincinnati nebo Toleda. A to jsme ještě ani neopustili Ohio. Posunete se do mého rodného státu Georgie nebo do Kalifornie či Washingtonu. A smyslem je, že všechna mají jiná pravidla pro zadávání zakázek. Mají různé přezkumy zásad, to vše existuje na velmi lokální úrovni. Takže obecně vzato, na 100 %, si nemyslíte, že by policejní oddělení měla přijímat jakékoli nové zásady, odstraňovat produkty mé nebo mých konkurentů, nebo dokonce dělat změny jako je změna uniforem – to by mělo být na městě, aby rozhodlo, jaká úroveň přezkumu je nutná město od města.

Richie: Objevilo se několik případů, kdy policisté údajně zneužili systém Flock ke sledování lidí. Jakou odpovědnost nese v takových případech samotný Flock?

Garrett: Jakákoli míra zneužití větší než nula je nepřijatelná a je mi z ní špatně. Vybudovali jsme produkt. Založil jsem společnost, abych zvýšil bezpečnost lidí. Mám tři malé děti. Považuji za svou primární povinnost jako jejich otce udržovat je v bezpečí. A tak když vidím, jak jednotlivci dělají velmi špatná rozhodnutí a používají naše produkty způsobem, pro který nebyly určeny, je to frustrující. A věděli jsme, že je to riziko, už před devíti lety. Proto jsme přišli s protokoly auditu. Víte, když se vrátíte do doby před Flockem, promluvme si o LPR. LPR existovalo odjakživa. Žádné uchovávání dat neexistovalo.

Richie: Jo.

Garrett: Že? Prodávalo se to komerčně. A stále prodává. Že ano. Odtahovky jezdí kolem a prodávají komerční data. A nebyly v tom zabudovány žádné prvky odpovědnosti. Takže pro mě není žádným překvapením, jak posouváme věci dopředu. Že ano. A jak jsme nyní přidali asistenci při auditu, budeme v tom i nadále ještě více tlačit. Vnímám to tak, že naším úkolem je vytvořit produkt, který je téměř nemožné, tak těžké použít mimo jeho zamýšlený účel. A myslím si – a to může být možná neintuitivní –, že je skvělé, když vidím takovou míru pozornosti médií, protože chci, aby policisté věděli, že pokud se pokusíte použít Flock, budete beráni k odpovědnosti, pokud se jej pokusíte použít zneužívajícím způsobem. A existují jiné systémy, o kterých víte, že se nesledují. A to je podle mě špatně.

Richie: Zdá se, že vám na tom hodně záleží. Kolik smluv s policejními odděleními tedy Flock pozastavil nebo ukončil z důvodu systémového zneužívání? Běžného zneužívání příslušníky a vaším systémem?

Garrett: Jo, myslím, že je to opravdu, opravdu zajímavá otázka. A je to zajímavé, protože každý den vidím například nejméně tři nebo čtyři úspěšné příběhy o tom, jak se unesené dítě vrátilo domů. Vidím stovky až tisíce vyřešených trestných činů. Kdybych žil ve městě, kde policejní oddělení zneužívá Flock, to poslední, co bych chtěl udělat, je vytrhnout tento systém, který je tak efektivní při řešení trestné činnosti. Takže zneužívání, o kterém mluvíte, je výjimečně vzácné. Ale zpět k mé myšlence. Cokoli většího než nula je nepřijatelné. Ale mluvíte tu o stovkách tisíc policistů, kteří Flock používají každý den, a o jednotkách, možná desítkách lidí, kteří ho potenciálně zneužívají. Nemyslíte si, že byste měli volat k odpovědnosti celé město jen za špatná rozhodnutí několika jedinců.

Richie: Pokud si mohu z této odpovědi vyvodit závěr, řekl bych, že to číslo je nula.

Garrett: Nechci zkreslovat odpověď, proto jsem neodpověděl. Nechci vám říct jednu věc a pak se ukáže, že…

Richie: Dobře. To je férové. Berme to jako výjimečně vzácný případ a pojďme dál.

Richie: Existuje úroveň zneužití, která by vás přiměla k rozhodnutí, že daný úřad by již neměl mít k vaší technologii přístup? Existuje nějaká hranice?

Garrett: Jo. Myslím, že to, co popisujete, je situace, kdy se prokáže, že celé policejní oddělení zneužívá své pravomoci – a pravděpodobně ne jen systém Flock, ale i mnoho dalších věcí. A v takových případech existuje federální postup, jak to řešit. Obvykle zasáhne federální vláda, zasáhne státní vláda. A v takových situacích je nepravděpodobné, že by si Flock ponechali, protože pravděpodobně rozpustí celé policejní oddělení. Takže si nemyslím, že bych někdy stál před takovým problémem nebo rozhodnutím.

Richie: Dobře. Takže opět, abychom z toho něco vyvodili a dodali tomu tečku, byla by to výjimečně vysoká hranice, že?

Garrett: Jo. Co si myslíte vy? Vlastně mě to zajímá. Máte na to názor, kdy by technologická společnost měla…

Richie: Na mém názoru moc nezáleží. Vy jste tady generální ředitel. Rád vám to řeknu u piva. Říkáte, že jedním z ochranných prvků Flocku je místní kontrola, ale několik měst v Kalifornii tvrdí, že jejich data byla sdílena s třetími stranami, někdy i s federální vládou, bez jejich svolení. Jak to odpovídá vašemu tvrzení, že zákazníci mají své data pod kontrolou?

Garrett: S těmito tvrzeními nesouhlasím.

Richie: Dobře, mohu vám říci, že to mám z tvrzení města Mountain View v Kalifornii. Tvrdí, že Flock bez jejich svolení aktivoval celostátní vyhledávání pro policejní oddělení a federální úřady pak k těmto datům přistupovaly. A podobně město South Pasadena uvedlo neúmyslné sdílení dat jako důvod, proč zrušilo smlouvu. O jednom informoval The Guardian, druhé bylo vyjádřením přímo z města. Vy…

Garrett: Takže zákazníci mají svá data pod kontrolou, mají pod kontrolou, která zaškrtávací políčka jsou vybraná. Pokud vůbec něco, nepochopili jsme zcela naši povinnost vůči zákazníkům znemožnit jim dělat chyby. Pokud si vezmete například Kalifornii, její státní legislativa říká, že data LPR by neměla opustit stát. Před dvěma lety jsme nepovažovali za svůj úkol zakódovat to do našeho produktu. Když jsme se pak dozvěděli od zákazníků, kteří neúmyslně buď klikli na tlačítko, nebo někdo klikl na tlačítko a řekl: „Ahoj, vlastně chceme zapnout celostátní vyhledávání“, udělali jsme to pro ně příliš snadné. A tak nyní ve státě Kalifornie, ve státě Washington a ve státě Virginie, kde existuje jasná legislativa, že data LPR nesmí opustit stát, znemožňujeme, aby k tomu došlo. Není tam ani zaškrtávací políčko. Takže pokud vůbec něco, Richie, popsal bych to tak, že závazek společnosti Flock v této konverzaci vzrostl. Vnímám naši odpovědnost jako větší, a proto jsem tak velkým fanouškem regulací obecně. Protože nyní v místě, jako je Washington, existuje návrh zákona, který říká: „Takto si myslíme, že by LPR mělo ve Washingtonu fungovat.“ A když jsou tyto návrhy zákonů dobře napsané – ne nutně v obsahu, ale ve vymahatelnosti –, myslím si, že je to skvělá věc. A tak na místě, jako je Kalifornie, jsme nyní změnili a zvýšili naše standardy tak, že je nemožné, aby k něčemu takovému vůbec došlo.