Zapytaliśmy dyrektora generalnego Flock o nadużycia związane z nadzorem. Oto, co powiedział.

W 2017 roku firma Flock Safety rozpoczęła działalność jako poboczny projekt w garażu w Atlancie.

Dziś to wielomiliardowa firma obsługująca ponad 120 000(nowe okno) kamer automatycznego odczytu tablic rejestracyjnych (ALPR) w 49 stanach USA, odczytująca 20 miliardów tablic miesięcznie dla ponad 5000 organów ścigania.

Flock przedstawia się jako dostawca technologii bezpieczeństwa publicznego. Krytycy nazywają go jednak wspieraną przez venture capital siecią nadzoru, w której pełno jest nadużyć i słabego nadzoru.

W ciągu ostatniego roku dziesiątki miast i agencji zrezygnowały z Flock. Los Angeles pozwoliło wygasnąć umowie(nowe okno) ze względu na obawy dotyczące praw obywatelskich, a wydział policji w Kalifornii wyłączył kamery(nowe okno) po tym, jak agencje federalne uzyskały dostęp do jego danych bez powiadomienia.

Podczas realizacji naszego najnowszego filmu dokumentalnego Proton o kamerach Flock, sam dyrektor generalny Flock, Garrett Langley, zgodził się na wywiad z naszym prowadzącym, Richiem Kochem.

Poniżej znajduje się zapis całego wątku, nieznacznie edytowany pod kątem długości i przejrzystości.

—

Richie Koch: Więc pierwsze pytanie. W całej platformie Flock, nie tylko w czytnikach tablic rejestracyjnych. Czy policja ma możliwość szukaj osoby?

Garrett Langley: Sprzedajemy więc wiele produktów skoncentrowanych na dwóch rzeczach. Zapewnieniu bezpieczeństwa. Zapewnieniu prywatności. Napędzaniu odpowiedzialności. To jest nasz cel, prawda? Mamy produkty skoncentrowane na pojazdach, nasze czytniki tablic rejestracyjnych. Mamy produkty skoncentrowane na dźwięku, wykrywaniu strzałów. Sprzedajemy też to, co Twoi widzowie mogą znać pod nazwą kamer Pan, tilt, zoom. Są one tradycyjnie wdrożenie w miejscach, gdzie chodzą piesi.

Richie: Dobrze. Tak. Słyszałem o kamerach Condor.

Garrett: To jest PTZ.

Richie: Tak. Okay. Zastanawiałem się, bo nie dostałem tam jednoznacznego „tak” ani „nie”. Zastanawiałem się więc, czy mógłbyś rozwinąć nieco, co robią kamery Condor PTZ?

Garrett: Oto świetny przykład. Często te kamery, niezależnie od tego, czy są od nas, czy od kilkuset dużych producentów kamer na świecie, którzy budują kamery pan, tilt, zoom. Więc niezależnie od tego, czy to my, czy ktoś inny. Miasta często wdrażają je w parkach. Prawda. Miasto wydaje dziesiątki milionów dolarów na budowę pięknego parku. Ostatnią rzeczą, jakiej chcą, jest to, aby ten park stał się miejscem transakcji narkotykowych, krzywdzenia ludzi itp. Spójrz na moje rodzinne miasto, Atlantę, zaledwie pięć lat temu miał miejsce okropny, okropny incydent. Możesz o tym przeczytać. Kobieta spacerowała z psem w środku nocy, została gwałtownie zabita, nierozwiązana sprawa. Wiesz dlaczego? Kamery tam były, ale nie działały. Gdyby kamery tam były i działały, myślę z dużą pewnością, że ta sprawa nie byłaby nierozwiązana. Dlatego najczęściej nasi klienci wdrażają nasze produkty w takich przypadkach, aby zapewnić bezpieczeństwo swoim ludziom, czy to w parku, czy na drodze publicznej.

Richie: Czy mógłbyś wyjaśnić nieco, jak działa szukaj? Ustaliliśmy, że te kamery exist, że istnieje taka możliwość. Jak wygląda szukaj?

Garrett: Dla którego produktu? … Bardzo się różnią, ponieważ stawiamy grubą kreskę między naszymi kamerami ALPR. Nie możesz szukać ludzi. Są zaprojektowane specjalnie do odczytywania tablic rejestracyjnych i wykrywania cech pojazdu. Z kolei nasze kamery pan, tilt, zoom są skoncentrowane na ludziach. Ponieważ ludzie zazwyczaj chodzą do parków, zazwyczaj chodzą do parków.

Richie: Czy mógłbyś po prostu wyjaśnić, jak w przypadku pan, tilt, zoom działałoby szukaj?

Garrett: Są więc dwa główne sposoby na szukaj. Jest tak zwane tradycyjne szukaj, które znacie, jak w moich kamerach w domu. Mogę po prostu spojrzeć na oś czasu i przewijać w przód i w tył. Prawda. I to jest dość tradycyjny pasek przewijania. A drugi to produkt o nazwie Freeform. Freeform pozwala szukać rzeczy wpisując zwykły tekst. Co chciałbym do tego dodać, co jest ważne. I myślę, że to nie dotyczy tylko nas. To jest spójne w całej branży. Nie można po prostu udostępniać tego typu szukaj bez uwzględnienia tego, co nazywamy Konstytucją, prawda? Mamy prawa, mamy pewne ograniczenia. Dlatego w to szukaj wbudowana jest zasada moderacji, aby zapobiec wszelkim rodzajom nadużyć.

Richie: Czy Flock może zmienić możliwości wdrożonego produktu poprzez zaktualizuj oprogramowania bez zgody rady miasta lub opinii publicznej na tę nową funkcjonalność?

Garrett: Hmmm. Chodzi o to, że u podstaw naszej relacji biznesowej, prawda, niezależnie od tego, czy chodzi o osiedle, firmę czy miasto, jak możesz zobaczyć w naszych umowach, jest to umowa coroczna, prawda. I każdego roku musimy udowadniać naszą wartość. W związku z tym nasi klienci oczekują, że produkt staje się lepszy każdego dnia.

Richie: Zgoda. Jednak widzisz, jak może to prowadzić do rozszerzania zakresu działań. W niedawnym raporcie 404 Media podano, że na krótko Wasze kamery ALPR zostały przekształcone w kamery z transmisją na żywo. W innym raporcie EFF podano, że Wasz akustyczny system monitoring strzałów był używany na krótko do monitorowania krzyków świadczących o zagrożeniu życia ludzi. W obu tych przypadkach wydaje się, że te funkcja zostały dodane bez żadnego aneksu do umowy. Bez żadnych nowych konsultacji z radą miasta.

Garrett: Tak, tak. Myślę, że patrząc szerzej, dwie rzeczy są prawdziwe. Po pierwsze, musimy kontynuować budowanie lepszego produktu — lepszego produktu oznaczającego większe bezpieczeństwo, większą prywatność, większą odpowiedzialność. Ale nie zajmujemy się narzucaniem naszym klientom, czego mają używać, a czego nie. Jako przykład: około półtora miesiąca temu uruchomiliśmy nasze narzędzie wspomagające audyt. To dodatkowa funkcjonalność do wykrywania potencjalnie szkodliwych lub niegodziwych zachowań w naszym systemie. Dziś tego nie wymagamy. Ponad jedna trzecia naszych klientów to włączyła i zachęcamy ich: powinieneś tego używać. Powinieneś tego używać. Ale wierzę, że rolą rady miasta i komisarza jest zachęcanie do większej odpowiedzialności. I to samo powiedziałbym po stronie bezpieczeństwa. Jest więc dość rzadkie, abyśmy zmuszali klientów do czegokolwiek; wolimy coś zbudować, poinformować o tym świat, jak np. Freeform, a jeśli miasto zdecyduje się to wdrożyć, decyzja należy do nich, czy udostępnić to radzie miasta, czy po prostu przekazać dalej.

Richie: Nie wchodząc w szczegóły, ale w zgłoszonych przypadkach wydawało się, że nie było konsultacji z przedstawicielami miasta, radą miasta czy władzami lokalnymi, a po prostu wydział policji zaznaczył pole, aby włączyć funkcja. Wydaje się to nie do końca zgodne z Waszą zasadą lokalnego zarządzania.

Garrett: Czy to było pytanie?

Richie: Powiedziałbym…

Garrett: Przepraszam.

Richie: Czy poparłbyś wymóg uzyskania wyraźnej, publicznej zgody, zanim istotnie nowa funkcja nadzoru zostanie włącz w technologii, która została już wdrożona w społeczności?

Garrett: W 100%. Zdecydowanie uważam, że wydziały policji są po prostu jedną z części samorządu lokalnego, a te samorządy mają swoje zasada i większość z nich ma zasada dotyczące nie tylko nadzoru, ale także kwestii budżetowych. Prawda. Kiedy więc na to patrzę, myślę, że istnieje działający system i powinniśmy nadal polegać na lokalnie wybranych przedstawicielach, aby dokonywali tych wyborów dotyczących tego, jak dbać o bezpieczeństwo społeczności.

Richie: Dobrze. Więc, nie chcąc wkładać słów w Twoje usta, wydawałoby się, że tak. Jeśli jesteś gotów to wsparcie, oznaczałoby to potencjalnie udanie się do rady miasta przed wprowadzeniem nowej funkcja, a nie po prostu jej wdrażanie. Czy to prawda?

Garrett: Oto jak o tym myślę. Jeśli wydział policji zdecyduje się dodać funkcja, muszę również polegać na tym klientów, że rozumie wartości swojej społeczności, swoje zasada i procedury. I wiesz, mamy na ten moment prawie 7000 wydziałów policji, miast, z którymi współpracujemy. Wszystkie są bardzo wyjątkowe. Cleveland bardzo różni się od Cincinnati czy Toledo. A nie opuściliśmy jeszcze Ohio. Przenosisz się do mojego rodzinnego stanu Georgia, Kalifornii czy Waszyngtonu. Chodzi o to, że wszystkie mają inne zasady zamówień. Mają różne przeglądy zasada, wszystko to istnieje na bardzo lokalnym poziomie. Więc ogólnie rzecz biorąc, w 100% uważam, że wydziały policji nie powinny przyjmować w zasadzie żadnej nowej zasada, usuń produktów moich czy moich konkurentów, ani nawet zmieniać munduru — o tym powinno decydować miasto, jaki poziom przeglądu jest konieczny w każdym przypadku.

Richie: Miało miejsce wiele przypadków, w których funkcjonariusze policji rzekomo nadużywali Flocka do prześladowania ludzi. Kiedy tak się dzieje, jaką odpowiedzialność bierze na siebie sam Flock?

Garrett: Każdy poziom nadużycia większy niż zero jest niedopuszczalny i sprawia, że robi mi się niedobrze. Zbudowaliśmy produkt. Założyłem firmę, aby zwiększyć bezpieczeństwo ludzi. Mam trójkę małych dzieci. Uważam, że moim głównym obowiązkiem jako ich ojca jest zapewnienie im bezpieczeństwa. Kiedy więc widzę, że poszczególne osoby podejmują bardzo złe decyzje, używając naszych produktów w sposób niezgodny z przeznaczeniem, jest to frustrujące. Wiedzieliśmy o tym ryzyku dziewięć lat temu. Dlatego stworzyliśmy logi audytowe. Wiesz, jeśli wrócisz do czasów przed Flock, porozmawiajmy o LPR. LPR istniało od zawsze. Nie było Przechowywanie danych.

Richie: Tak.

Garrett: Prawda? Było sprzedawane komercyjnie. Nadal jest. Lawety jeżdżą i sprzedają komercyjne dane. A potem nie wbudowano w to żadnej odpowiedzialności. Nie jest więc dla mnie zaskoczeniem, że idąc z tym przekaż dalej, prawda, i dodając teraz wspomaganie audytu, będziemy nadal naciskać mocniej na tę kwestię. Dla mnie naszą rolą jest stworzenie produktu, którego użycie niezgodnie z przeznaczeniem jest niemal niemożliwe, tak trudne. I myślę, chociaż może to być nieintuicyjne, że to świetnie, gdy widzę zainteresowanie mediów, ponieważ chcę, aby funkcjonariusze wiedzieli, że jeśli spróbują użyć Flocka, zostaną pociągnięci do odpowiedzialności, jeśli spróbują użyć go w sposób stanowiący nadużycie. Są inne systemy, które, jak wiesz, nie są śledzone, i uważam, że to źle.

Richie: Wydaje się, że masz bardzo silne przemyślenia na ten temat. Ile umów z wydziałami policji Flock zawiesił lub rozwiązał z powodu systematycznych nadużyć? Szybko rozprzestrzeniających się nadużyć ze strony funkcjonariuszy i Waszego systemu?

Garrett: Tak, myślę, że to naprawdę, naprawdę ciekawe pytanie. I to ciekawe, ponieważ każdego dnia widzę na przykład co najmniej trzy, jeśli nie cztery historie sukcesu dotyczące powrotu uprowadzonego dziecka do domu. Widzę setki i tysiące rozwiązywanych przestępstw. Gdybym mieszkał w mieście z wydziałem policji, który nadużywał Flocka, ostatnią rzeczą, jakiej bym chciał, byłoby wyrwanie tego systemu, który jest tak skuteczny w rozwiązywaniu przestępstw. Więc nadużycie, o którym mówisz, jest wyjątkowo rzadkie. Wracając do mojej myśli: cokolwiek większego niż zero jest niedopuszczalne. Ale mówisz o setkach tysięcy funkcjonariuszy policji, którzy codziennie używają Flocka, i jednocyfrowej liczbie, dziesiątkach osób, które potencjalnie go nadużywają. Nie sądzę, że powinieneś pociągać do odpowiedzialności całe miasto tylko za złe decyzje nielicznych.

Richie: Jeśli mogę wywnioskować z tej odpowiedzi, powiedziałbym, że ta liczba wynosi zero.

Garrett: Nie chcę przekręcić odpowiedzi, dlatego nie odpowiedziałem. Nie chcę powiedzieć Ci jednej rzeczy, a potem okazałoby się, że…

Richie: Dobrze. Uczciwe podejście. Zostawmy to z wnioskiem, że to wyjątkowo rzadki przypadek, i przejdźmy dalej.

Richie: Czy istnieje poziom nadużyć, który skłoniłby Cię do podjęcia decyzji, że agencja nie powinna już mieć dostęp do Waszej technologii? Czy jest jakiś próg?

Garrett: Tak. Myślę, że opisujesz przypadek, powiedzmy wydarzenie, w którym udowodniono, że cały wydział policji stosuje nadużycia, i zapewne nie tylko w odniesieniu do Flocka, ale do wielu innych rzeczy. W takich przypadkach istnieje procedura federalna służąca do radzenia sobie z tym. Zazwyczaj wkracza rząd federalny, wkraczają władze stanowe. W takich sytuacjach jest mało prawdopodobne, że zatrzymają Flocka, ponieważ prawdopodobnie likwidują cały wydział policji. Nie sądzę więc, abym kiedykolwiek stanął przed takim problemem lub taką decyzją.

Richie: Dobrze. Podsumowując i stawiając kropkę nad i, byłby to wyjątkowo wysoki próg, tak?

Garrett: Tak. A Ty co myślisz? Jestem naprawdę ciekawy. Masz własny pogląd na to, kiedy firma technologiczna powinna…

Richie: Moja opinia nie ma większego znaczenia. Ty jesteś tutaj dyrektorem generalnym. Chętnie opowiem Ci przy piwie. Twierdzisz, że jednym z zabezpieczeń Flocka jest kontrola lokalna, ale wiele miast w Kalifornii twierdzi, że ich dane zostały udostępnij stronom zewnętrznym, czasami rządowi federalnemu, bez ich zgody. Jak to się ma do Twojego twierdzenia, że klienci kontrolują swoje dane?

Garrett: Nie zgadzam się z tymi stwierdzeniami.

Richie: Dobrze, mogę Ci powiedzieć, że wziąłem to z roszczenia z Mountain View w Kalifornii. Twierdzą oni, że Flock umożliwił ogólnokrajowe wyszukiwanie z wydziałami policji bez ich zgody, a agencje federalne uzyskały następnie dostęp do danych. Podobnie South Pasadena powołała się na niezamierzone udostępnianie danych jako powód anulowania umowy. O jednym donosił The Guardian, drugi pochodził po prostu z miasta. Ty…

Garrett: Więc klienci kontrolują swoje dane, kontrolują, które pola wyboru są wybierz. Jeśli już, to błędnie zrozumieliśmy nasz obowiązek wobec klientów, aby uniemożliwić im popełnianie błędów. Więc jeśli weźmiesz kogoś takiego jak Kalifornia, ich prawo stanowe mówi, że dane LPR nie powinny opuszczać stanu. Dwa lata temu nie uważaliśmy, że naszym zadaniem jest kodyfikacja tego w naszym produkcie. Teraz, gdy usłyszeliśmy od klientów, którzy niechcący kliknęli przycisk lub ktoś kliknął przycisk i powiedział, hej, właściwie chcemy włączyć National Lookup. Zrobiliśmy to dla nich zbyt łatwym. I tak teraz w stanie Kalifornia, stanie Waszyngton i stanie Wirginia, gdzie obowiązują wyczyść regulacje, że dane LPR nie mogą opuszczać stanu, uniemożliwiamy wystąpienie takiej sytuacji. Nie ma nawet pola wyboru. Więc jeśli już, Richie, opisałbym to w ten sposób, że obowiązek Flocka w tym wątku wzrósł. Uważam naszą odpowiedzialność za większą, dlatego jestem wielkim zwolennikiem regulacje w ogóle. Ponieważ teraz w miejscu takim jak Waszyngton, wiesz, jest projekt ustawy mówiący, że tak naszym zdaniem powinno działać LPR w Waszyngtonie. I kiedy te projekty są dobrze napisane, niekoniecznie pod względem treści, ale w zakresie egzekwowalności, uważam, że to świetna rzecz. Więc w miejscu takim jak Kalifornia zmieniliśmy się i podnieśliśmy nasze standardy tak, że pojawienie się tego jest nawet niemożliwe.