Pada tahun 2017, Flock Safety dimulai sebagai proyek sampingan di sebuah garasi di Atlanta.

Saat ini, perusahaan ini bernilai miliaran dolar dan mengoperasikan lebih dari 120.000(jendela baru) kamera pembaca pelat nomor otomatis (ALPR) di 49 negara bagian AS, dibaca 20 miliar pelat setiap bulan untuk lebih dari 5.000 lembaga penegak hukum.

Flock mengklaim dirinya sebagai penyedia teknologi keselamatan publik. Namun, para kritikus menyebutnya sebagai jaringan pengawasan berdukungan modal ventura yang sarat penyalahgunaan dan pengawasan yang lemah.

Puluhan kota dan lembaga telah menghentikan penggunaan Flock dalam setahun terakhir, Los Angeles membiarkan kontraknya berakhir(jendela baru) karena kekhawatiran hak-hak sipil, dan sebuah departemen kepolisian di California mematikan kameranya(jendela baru) setelah lembaga-lembaga federal akses datanya tanpa pemberitahuan.

Selama pembuatan dokumenter Proton terbaru kami tentang kamera Flock, CEO Flock sendiri, Garrett Langley, menyetujui wawancara dengan pembawa acara kami, Richie Koch.

Di bawah ini adalah transkrip percakapan lengkap, yang di-edit sedikit agar lebih singkat dan jelas.

—

Richie Koch: Pertanyaan pertama. Di seluruh platform Flock, tidak hanya pembaca pelat nomor. Mungkinkah polisi cari seseorang?

Garrett Langley: Jadi kami menjual beberapa produk yang berfokus pada dua hal utama. Menyediakan keselamatan. Menyediakan privasi. Mendorong akuntabilitas. Itulah tujuan kami, bukan? Kami memiliki beberapa produk yang berfokus pada kendaraan, yaitu pembaca pelat nomor kami. Kami memiliki beberapa produk yang berfokus pada audio, deteksi tembakan senjata. Dan kemudian kami menjual apa yang mungkin dikenal pemirsa Anda sebagai kamera Pan, tilt, zoom. Dan kamera-kamera tersebut biasanya menerapkan di tempat-tempat yang dilalui pejalan kaki.

Richie: Oke. Ya. Dan saya pernah mendengar tentang kamera Condor.

Garrett: Itu adalah PTZ.

Richie: Ya. Oke. Dan saya penasaran, saya tidak mendapat jawaban “ya” atau “tidak” yang pasti di sana. Jadi saya penasaran apakah Anda mungkin bisa menjelaskan sedikit lebih detail tentang apa yang dilakukan PTZ Condor tersebut?”

Garrett: Ini contoh yang bagus. Sering kali kamera-kamera ini, baik dari kami maupun dari mungkin beberapa ratus produsen kamera besar secara global yang membuat kamera pan, tilt, zoom. Jadi, baik dari kami atau orang lain. Kota-kota sering kali menerapkan kamera ini di taman. Benar. Kota menghabiskan puluhan juta dolar untuk membangun taman yang indah. Hal terakhir yang mereka inginkan adalah taman itu menjadi tempat transaksi narkoba terjadi, orang terluka, dan sebagainya. Dan lihatlah kota asal saya sendiri, Atlanta, baru lima tahun lalu, ada insiden yang sangat mengerikan. Informasi mengenai hal itu dapat dibaca. Seorang wanita sedang jalan-jalan dengan anjingnya di tengah malam, dibunuh secara sadis, Kasus Mangkrak. Anda tahu mengapa? Ada kamera di sana, tetapi tidak berfungsi. Jika kamera ada di sana dan berfungsi, saya cukup yakin kasus itu tidak akan mangkrak. Jadi lebih sering daripada tidak, pelanggan kami menerapkan produk kami dalam kasus tersebut untuk menjaga keselamatan warga mereka, baik itu di taman atau di jalan umum.

Richie: Bisakah Anda menjelaskan sedikit bagaimana pencarian bekerja? Seperti yang telah kita ketahui bahwa kamera ini ada, bahwa kemampuan itu ada. Seperti apa pencarian itu?

Garrett: Untuk produk yang mana? … Produk-produk itu sangat berbeda, karena kami menarik garis pemisah yang sangat tegas pada kamera ALPR kami. Anda tidak dapat mencari orang. Kamera tersebut dirancang khusus untuk membaca pelat nomor guna mendeteksi atribut kendaraan. Sekarang, kamera pan, tilt, zoom kami berfokus pada orang. Karena orang biasanya pergi ke taman, mereka biasanya pergi ke taman.

Richie: Bisakah Anda menjelaskan bagaimana pan, tilt, zoom; bagaimana cari akan bekerja?

Garrett: Jadi sebenarnya ada dua cara utama untuk cari. Ada yang bisa disebut cari tradisional seperti yang Anda tahu, yang saya miliki di kamera rumah saya. Atau saya cukup melihat linimasa dan maju mundur. Benar. Dan itu adalah penggulung yang lumayan tradisional. Dan kemudian yang kedua adalah kami memiliki produk bernama Freeform. Dan Freeform memungkinkan Anda untuk cari sesuatu dalam teks biasa. Sekarang apa yang ingin saya tambahkan ke hal itu yang mana penting. Dan saya pikir itu tidak hanya unik untuk kami. Ini konsisten di seluruh industri. Anda tidak bisa begitu saja menyediakan jenis cari tersebut tanpa representasi dari apa yang kami sebut Konstitusi, bukan? Kami memiliki hak, kami memiliki pembatasan tertentu. Jadi ada kebijakan moderasi yang terbina dalam cari tersebut untuk mencegah segala jenis cari yang menyalahgunakan.

Richie: Bisakah Flock mengubah kemampuan produk yang diterapkan melalui perbarui perangkat lunak tanpa persetujuan dewan kota atau publik atas kemampuan baru tersebut?

Garrett: Hmmm. Maksud saya, pada inti hubungan bisnis kami, bukan. Baik itu dengan lingkungan perumahan atau bisnis atau kota, seperti yang dapat Anda lihat pada kontrak kami, ini adalah kontrak tahunan, bukan. Dan setiap tahun kami perlu membuktikan nilai kami. Jadi ada ekspektasi dari pelanggan kami bahwa produk ini semakin baik setiap hari.

Richie: Benar. Namun, Anda dapat melihat bagaimana hal ini dapat menyebabkan pergeseran fungsi. Ada laporan terbaru di media 404 yang mana secara singkat, kamera ALPR Anda diubah menjadi kamera siaran langsung. Ada laporan lain di EFF yang mana sistem monitoring tembakan akustik Anda digunakan secara singkat untuk memantau jeritan keputusasaan manusia. Dalam kedua kasus ini, tampaknya fitur-fitur ini ditambahkan tanpa adendum apa pun pada kontrak. Tanpa jenis konsultasi baru apa pun dengan Dewan Kota.

Garrett: Ya, ya. Jadi saya pikir secara lebih luas, jika Anda melihat secara keseluruhan, dua hal yang saya pikir benar. Pertama, benar. Kami harus terus membangun produk yang lebih baik, produk yang lebih baik berarti keselamatan yang lebih besar, privasi yang lebih besar, dan akuntabilitas yang lebih besar. Namun apa yang tidak kami lakukan adalah mewajibkan pelanggan kami tentang apa yang mereka gunakan dan tidak gunakan. Dan so sebagai contoh, Anda tahu, kami meluncurkan alat bantu audit kami sekitar satu setengah bulan yang lalu, benar. Ini adalah fungsionalitas tambahan untuk mendeteksi perilaku yang berpotensi menyalahgunakan atau jahat di sistem kami. Kami tidak mewajibkannya saat ini. Sekarang, lebih dari sepertiga pelanggan kami telah mengaktifkannya dan kami mendorong pelanggan kami. Anda harus menggunakan ini. Anda harus menggunakan ini. Namun saya percaya ini adalah tugas Dewan Kota, tugas Komisaris, untuk mendorong mereka guna akuntabilitas yang lebih besar. Dan saya akan mengatakan hal yang sama dari sisi keselamatan. Jadi agak jarang kami memaksakan sesuatu pada pelanggan kami daripada membangun sesuatu, memberi tahu dunia tentang itu, seperti free form sebagai contoh. Dan kemudian jika suatu kota memilih untuk mengadopsinya, itu terserah mereka untuk membuat keputusan tentang apa yang tepat untuk bagikan dengan dewan kota atau sekadar teruskan.

Richie: Bukan ingin masuk ke detail. Saya tidak ingin tetap luas, tidak masuk ke rincian spesifik, tetapi contoh yang dilaporkan, tampaknya bukan karena ada konsultasi dari perwakilan kota, dewan kota, pemerintah kota, melainkan secara sederhana, departemen kepolisian memutuskan untuk mencentang kotak untuk mengaktifkan fitur tersebut. Ini tampaknya tidak sejalan dengan prinsip tata kelola lokal Anda.

Garrett: Apakah ada pertanyaan?

Richie: Saya ingin mengatakan…

Garrett: Maaf.

Richie: Apakah Anda akan mendukung persetujuan publik secara eksplisit sebelum kemampuan pengawasan yang benar-benar baru dapat aktifkan pada teknologi yang sudah diterapkan di masyarakat?

Garrett: 100%. Saya merasa sangat yakin bahwa departemen kepolisian hanyalah satu bagian dari pemerintah daerah, dan pemerintah daerah tersebut memiliki kebijakan, dan sebagian besar pemerintah daerah tersebut memiliki kebijakan yang tidak hanya mencakup pengawasan tetapi juga item anggaran. Benar. Jadi ketika saya melihatnya, ada sistem yang berlaku, dan kita harus terus mengandalkan pejabat terpilih lokal untuk membuat kompromi tentang bagaimana kita menjaga keselamatan masyarakat.

Richie: Oke. Jadi itu akan, bukan maksud mendikte Anda, tetapi tampaknya Anda setuju. Jika Anda bersedia memberikan dukungan untuk ini, itu berarti berpotensi pergi ke dewan kota sebelum memperkenalkan fitur baru dan tidak sekadar meluncurkannya. Mendorongnya keluar. Apakah itu benar?

Garrett: Begini cara saya memikirkannya. Jika suatu departemen, jika departemen kepolisian memilih untuk menambahkan fitur, saya juga harus mengandalkan pelanggan tersebut untuk memahami nilai-nilai masyarakat mereka, kebijakan mereka, prosedur mereka. Dan Anda tahu, kami memiliki hampir 7000 departemen kepolisian saat ini, kota-kota yang bekerja sama dengan kami. Semuanya sangat unik. Cleveland sangat berbeda dari Cincinnati, dibanding Toledo. Dan kami bahkan belum meninggalkan Ohio. Anda pindah ke negara bagian asal saya, Georgia atau California atau Washington. Dan poin utamanya adalah mereka semua memiliki aturan pengadaan yang berbeda. Mereka memiliki tinjauan kebijakan yang berbeda, semua itu ada di tingkat yang sangat lokal. Jadi secara garis besar, 100%, saya tidak berpikir departemen kepolisian harus mengadopsi kebijakan baru apa pun, hapus baik itu produk saya atau salah satu pesaing saya, atau bahkan perubahan seragam seperti itu, itu harus diserahkan kepada kota untuk memutuskan tingkat peninjauan apa yang diperlukan berdasarkan kota ke kota.

Richie: Ada beberapa kasus di mana petugas polisi diduga menyalahgunakan Flock untuk menguntit orang. Ketika hal itu terjadi, tanggung jawab apa yang diambil oleh Flock sendiri?

Garrett: Tingkat penyalahgunaan apa pun yang lebih besar dari nol tidak dapat diterima dan membuat saya muak. Kami membangun produk. Saya memulai perusahaan untuk membuat orang lebih aman. Saya punya tiga anak kecil. Saya memandangnya sebagai kewajiban utama saya sebagai ayah mereka untuk menjaga keselamatan mereka. Dan jadi ketika saya melihat individu membuat keputusan yang sangat buruk untuk menggunakan produk kami dengan cara yang tidak dimaksudkan. Itu mengecewakan. Dan kami tahu ini adalah risiko sembilan tahun lalu. Itu sebabnya kami, itu sebabnya kami membuat log audit. Anda tahu, jika Anda kembali ke sebelum Flock, mari bicara tentang LPR. LPR sudah ada sejak lama. Tidak ada retensi data.

Richie: Ya.

Garrett: Benar? Itu dijual secara komersial. Masih sampai sekarang. Benar. Truk penarik drive berkeliling dan menjual data komersial tersebut. Dan tidak ada akuntabilitas yang dibangun di dalamnya. Jadi tidak mengejutkan bagi saya bahwa saat kita telah teruskan ini. Benar. Dan saat kita sekarang menambahkan bantuan audit, kita akan terus mendorong lebih keras tentang hal ini. Bagi saya, saya memandangnya sebagai tugas kami untuk membangun produk yang hampir tidak mungkin, sangat sulit digunakan di luar tujuan yang dimaksudkan. Dan saya pikir saya sebenarnya ini mungkin berlawanan dengan intuisi. Saya pikir sangat bagus ketika saya melihat tingkat perhatian media, karena saya ingin para petugas tahu bahwa jika Anda mencoba menggunakan Flock, Anda akan dimintai pertanggungjawaban jika Anda mencoba menggunakannya dengan cara yang menyalahgunakan. Dan ada sistem lain yang Anda tahu tidak dilacak. Dan saya pikir itu buruk.

Richie: Anda tampaknya merasa sangat yakin tentang hal ini. Jadi berapa banyak kontrak dengan departemen kepolisian yang telah ditangguhkan atau dihentikan oleh Flock karena penyalahgunaan sistemis? Penyalahgunaan merajalela oleh petugas dan sistem Anda?

Garrett: Ya, saya pikir itu pertanyaan yang sangat, sangat menarik. Dan itu menarik karena setiap hari, sebagai contoh, saya melihat setidaknya tiga, kalau bukan empat kisah sukses anak yang diculik dikembalikan ke rumah. Saya melihat ratusan hingga ribuan kejahatan terpecahkan. Jika saya tinggal di kota yang memiliki departemen kepolisian yang menyalahgunakan Flock, hal terakhir yang ingin saya lakukan adalah mencabut sistem ini yang begitu efektif dalam menyelesaikan kejahatan. Dan jadi penyalahgunaan yang Anda bicarakan sangat jarang terjadi. Kembali to my point. Apa pun yang lebih besar dari nol tidak dapat diterima. Namun Anda berbicara tentang ratusan ribu petugas polisi yang menggunakan Flock setiap hari dengan jumlah digit tunggal, puluhan yang berpotensi menyalahgunakannya. Saya tidak berpikir Anda harus menuntut pertanggungjawaban seluruh kota hanya karena keputusan buruk sebagian kecil orang.

Richie: Jika saya dapat menyimpulkan dari jawaban tersebut, saya akan mengatakan jumlahnya adalah nol.

Garrett: Saya tidak ingin menyalahartikan jawaban, jadi saya tidak menjawab. Saya tidak ingin memberi tahu Anda satu hal lalu ternyata…

Richie: Oke. Itu adil. Kita akan mencatatnya sebagai kasus yang sangat jarang terjadi dan melanjutkannya.

Richie: Apakah ada tingkat penyalahgunaan yang akan menyebabkan Anda memutuskan suatu lembaga, suatu lembaga tidak boleh lagi memiliki akses ke teknologi Anda. Apakah ada ambang batasnya?

Garrett: Ya. Jadi saya pikir apa yang Anda gambarkan adalah dalam suatu acara di mana, katakanlah, seluruh departemen kepolisian terbukti bersalah melakukan penyalahgunaan dan mungkin bukan hanya Flock, melainkan banyak hal lain. Dan dalam kasus-kasus tersebut, ada proses federal untuk menangani ini. Pemerintah federal biasanya turun tangan, pemerintah negara bagian turun tangan. Dan dalam situasi seperti itu, kecil kemungkinan mereka mempertahankan Flock karena mereka mungkin merombak seluruh departemen kepolisian. Jadi saya tidak berpikir saya akan pernah dihadapkan pada masalah atau keputusan tersebut.

Richie: Oke. Jadi sekali lagi, sekadar menyimpulkan sedikit, untuk menyelesaikannya, itu akan menjadi ambang batas yang sangat tinggi. Ya?

Garrett: Ya. Bagaimana menurut Anda? Saya sebenarnya penasaran? Apakah Anda memiliki sudut pandang tentang kapan sebuah perusahaan teknologi harus…

Richie: Pendapat saya tidak terlalu penting. Anda CEO-nya di sini. Saya ingin sekali memberi tahu Anda sambil minum bir. Anda mengatakan salah satu perlindungan Flock adalah kontrol lokal, tetapi beberapa kota di California mengklaim data mereka bagikan dengan pihak luar, terkadang dengan pemerintah federal, tanpa izin mereka. Bagaimana hal ini konsisten dengan klaim Anda bahwa pelanggan mengontrol data mereka?

Garrett: Saya tidak setuju dengan pernyataan-pernyataan tersebut.

Richie: Oke, saya dapat memberi tahu Anda bahwa saya mendapatkan ini dari klaim dari Mountain View, California. Mereka mengklaim bahwa Flock aktifkan cari nasional dengan departemen kepolisian tanpa izin mereka, dan lembaga-lembaga federal kemudian akses data tersebut. Dan hal serupa, South Pasadena menyebutkan pembagian data secara tidak sengaja sebagai alasan mengapa mereka batalkan kontraknya. Satu dilaporkan di The Guardian, yang lainnya hanya dari kota tersebut. Anda…

Garrett: Jadi, pelanggan mengontrol data mereka, mereka mengontrol kotak centang mana yang pilih. Jika ada, kami salah memahami kewajiban kami kepada pelanggan untuk membuatnya tidak mungkin bagi mereka untuk membuat kesalahan. Dan jika Anda mengambil contoh seperti California, undang-undang negara bagian mereka menyatakan bahwa data LPR tidak boleh keluar dari negara bagian. Kami tidak menganggap tugas kami untuk mengodekan hal itu ke dalam produk kami dua tahun lalu. Sekarang, seperti yang kami dengar dari pelanggan yang secara tidak sengaja mengklik tombol atau seseorang mengklik tombol dan berkata, hei, kami sebenarnya ingin mengaktifkan Pencarian Nasional. Kami membuatnya terlalu mudah bagi mereka. Dan sekarang di negara bagian California dan negara bagian Washington, negara bagian Virginia, tempat terdapat undang-undang bersihkan bahwa data LPR tidak boleh meninggalkan negara bagian, kami membuatnya tidak mungkin hal itu terjadi. Bahkan tidak ada kotak centang. Jadi jika ada, Richie, cara saya mendeskripsikannya adalah kewajiban Flock dalam percakapan ini telah meningkat. Saya melihat tanggung jawab kami lebih besar, itulah sebabnya saya sangat mendukung regulasi secara umum. Karena sekarang di tempat seperti Washington, Anda tahu, ada rancangan undang-undang yang menyatakan begitulah cara kami berpikir LPR harus bekerja di Washington. Dan ketika rancangan undang-undang itu ditulis dengan baik, belum tentu pada substansinya, tetapi pada penegakannya, saya pikir itu hal yang bagus. Dan di tempat seperti California, kami sekarang telah mengubah dan meningkatkan standar kami sedemikian rupa sehingga tidak mungkin hal itu terjadi.