2017 yılında Flock Safety, Atlanta’daki bir garajda yan proje olarak başladı.

Bugün şirket, ABD’nin 49 eyaletinde 120.000’den fazla(yeni pencere) otomatik plaka tanıma (ALPR) kamerası çalıştıran ve 5.000’den fazla kolluk kuvveti için ayda 20 milyar plaka okuyan çok milyar dolarlık bir şirket haline geldi.

Flock kendisini kamu güvenliği teknolojisi sağlayıcısı olarak tanımlıyor. Ancak eleştirmenler, şirketi suistimallerle dolu ve denetimi zayıf, girişim sermayesi destekli bir gözetim ağı olarak adlandırıyor.

Geçtiğimiz yıl onlarca şehir ve kurum Flock kullanmayı bıraktı; Los Angeles, sivil haklar konusundaki endişeler nedeniyle sözleşmesinin süresinin dolmasına izin verdi(yeni pencere) ve bir Kaliforniya polis departmanı, federal kurumların haber vermeksizin verilerine erişim sağlamasının ardından kameralarını kapattı(yeni pencere).

Flock kameraları hakkındaki en son Proton belgeselimizin çekimleri sırasında, Flock’un CEO’su Garrett Langley, sunucumuz Richie Koch ile bir röportaj yapmayı kabul etti.

Aşağıda, uzunluk ve netlik açısından hafifçe düzenlenmiş tüm yazışmanın dökümü yer almaktadır.

—

Richie Koch: İlk sorum şu: Sadece plaka okuyucularda değil, tüm Flock platformu genelinde polisin bir kişiyi araması mümkün müdür?

Garrett Langley: İki şeyi doğru şekilde yapmaya odaklanan birden fazla ürün satıyoruz: Güvenlik sağlamak, gizlilik sağlamak ve hesap verebilirliği yönlendirmek. Bizim için hedef bu, değil mi? Araçlara odaklanan bazı ürünlerimiz var, yani plaka okuyucularımız. Ses ve silah sesi tespitine odaklanan bazı ürünlerimiz var. Bir de izleyicilerinizin aşina olabileceği Pan, tilt, zoom kameraları satıyoruz. Bunlar geleneksel olarak yayaların gittiği yerlerde dağıtılır.

Richie: Anladım. Evet. Condor kameralarını da duymuştum.

Garrett: O bir PTZ.

Richie: Evet. Tamam. Orada net bir “evet” veya “hayır” yanıtı alamadığımı düşünmüştüm. Bu yüzden Condor PTZ’lerin tam olarak ne yaptığını biraz daha açıp açamayacağınızı merak ediyordum.

Garrett: Harika bir örnek vereyim. İster bizden olsun ister küresel ölçekte pan, tilt, zoom kameraları üreten muhtemelen birkaç yüz büyük kamera üreticisinden biri olsun, şehirler bu kameraları genellikle parklara dağıtır. Şehir güzel bir park inşa etmek için on milyonlarca dolar harcar. İsteyecekleri en son şey, o parkın uyuşturucu ticaretinin yapıldığı, insanların zarar gördüğü vb. bir yer haline gelmesidir. Kendi memleketim Atlanta’ya bakarsanız, sadece beş yıl önce korkunç bir olay yaşandı. Hakkında okuyabilirsiniz. Bir kadın gece yarısı köpeğini gezdirirken vahşice öldürüldü, faili meçhul bir dava. Neden biliyor musunuz? Orada kameralar vardı ama çalışmıyordu. Kameralar orada olsaydı ve çalışsaydı, bu davanın çözümsüz kalmayacağına oldukça emin olmak isterim. Bu nedenle müşterilerimiz, ister bir parkta ister kamuya açık bir yolda olsun, insanlarını güvende tutmak için ürünlerimizi çoğunlukla bu tür durumlarda dağıtır.

Richie: Arama işleminin nasıl çalıştığını biraz açıklayabilir misiniz? Bu kameraların var olduğunu, bu yeteneğin bulunduğunu belirttik. Bir arama nasıl görünür?

Garrett: Hangi ürün için? … Çok farklılar, çünkü ALPR kameralarımız arasında çok büyük bir çizgi çekiyoruz. İnsanları arayamazsınız. Bir aracın özelliklerini tespit etmek amacıyla özel olarak bir plakayı okumak için tasarlanmışlardır. Şimdi, pan, tilt, zoom kameralarımız ise insanlara odaklanmıştır. Çünkü insanlar genellikle parklara giderler, genellikle parklara giderler.

Richie: Pan, tilt, zoom kameralarında aramanın nasıl çalışacağını açıklayabilir misiniz?

Garrett: Aslında arama yapmanın iki ana yolu vardır. Evimdeki kameralarda olduğu gibi geleneksel arama diyebileceğimiz bir yöntem var. Bir zaman tüneline bakıp ileri geri gidebilirim. Bu oldukça geleneksel bir kaydırma aracıdır. İkincisi ise Freeform adını verdiğimiz bir ürünümüz var. Freeform, düz metin halinde arama yapmanıza olanak tanır. Buna ekleyeceğim önemli bir husus var. Bunun sadece bize özgü olmadığını, tüm sektörde tutarlı olduğunu düşünüyorum. Anayasa dediğimiz şey temsil edilmeden bu tür bir arama sağlayamazsınız, değil mi? Haklarımız var, belirli kısıtlamalarımız var. Bu nedenle, her türlü suistimal amaçlı aramayı önlemek için bu aramaya yerleştirilmiş bir denetim ilkesi bulunmaktadır.

Richie: Flock, belediye meclisi veya kamuoyu bu yeni yeteneği onaylamadan, bir yazılım güncellemesi aracılığıyla dağıtılmış bir ürünün yeteneğini değiştirebilir mi?

Garrett: Hmmm. Yani ticari ilişkimizin temelinde, ister bir mahalleyle, ister bir işletmeyle, ister bir şehirle olsun, sözleşmelerimize bakabileceğiniz gibi yıllık bir sözleşme yer alıyor, değil mi? Ve her yıl değerimizi kanıtlamamız gerekiyor. Dolayısıyla müşterilerimizin ürünün her geçen gün daha iyiye gittiği yönünde bir beklentisi var.

Richie: Doğru. Ancak bunun görev sınırlarının aşılmasına yol açabileceğini görebilirsiniz. Yakın zamanda 404 Media’da ALPR kameralarınızın kısa süreliğine canlı yayın kameralarına dönüştürüldüğüne dair bir haber çıktı. EFF’te çıkan başka bir haberde de hassas akustik silah sesi izleme sisteminizin kısa süreliğine insan çığlıklarını ve imdat çağrılarını izlemek için kullanıldığı belirtildi. Bu vakaların her ikisinde de sözleşmeye herhangi bir ek yapılmadan ve Belediye Meclisi ile yeni bir danışma süreci yürütülmeden bu özelliklerin eklendiği anlaşılıyor.

Garrett: Evet, evet. Genel olarak bakıldığında iki şeyin doğru olduğunu düşünüyorum. Birincisi, daha fazla güvenlik, daha fazla gizlilik ve daha fazla hesap verebilirlik sunan daha iyi bir ürün oluşturmaya devam etmeliyiz. Ancak yaptığımız iş, müşterilerimize neyi kullanıp neyi kullanmayacaklarını dikte etmek değildir. Örneğin, yaklaşık bir buçuk ay önce denetim destek aracımızı kullanıma sunduk. Sistemimizde potansiyel olarak suistimal içeren veya kötü niyetli davranışları tespit etmeye yönelik ek bir işlevselliktir. Bugün bunu zorunlu kılmıyoruz. Şu anda müşterilerimizin üçte birinden fazlası bunu açtı ve biz müşterilerimizi teşvik ediyoruz: Bunu kullanmalısınız, bunu kullanmalısınız. Ancak daha fazla hesap verebilirlik sağlamak için onları zorlamanın Belediye Meclisinin ve Komiserin görevi olduğuna inanıyorum. Güvenlik tarafında da aynı şeyi söylerdim. Bir şeyi inşa edip dünyayı bilgilendirmek (örneğin Freeform gibi) yerine müşterilerimize zorla kabul ettirmemiz oldukça nadirdir. Bir şehir bunu benimsemeyi seçerse, belediye meclisiyle paylaşmanın mı yoksa sadece bunu iletmenin mi uygun olduğuna karar vermek onlara kalmıştır.

Richie: Konuyu uzatmak veya ayrıntılara girmemek istemiyorum, ancak bildirilen vakalarda, şehir temsilcilerinden, belediye meclisinden, şehir yönetiminden danışmanlık alınmasından ziyade, sadece polis departmanının özelliği açmak için kutuyu işaretlemeye karar verdiği görüldü. Bu durum yerel yönetim ilkenizle pek bağdaşmıyor gibi görünüyor.

Garrett: Bir soru var mıydı?

Richie: Şunu söyleyebilirim…

Garrett: Üzgünüm.

Richie: Toplumda zaten uygulanmakta olan bir teknolojide önemli ölçüde yeni bir gözetim yeteneği açılmadan önce açık bir kamuoyu onayının gerekli kılınmasını destekler misiniz?

Garrett: Yüzde 100. Polis departmanlarının yerel yönetimin sadece bir parçası olduğunu ve bu yerel yönetimlerin ilkeleri bulunduğunu, bu yerel yönetimlerin çoğunun sadece gözetim konusunda değil, bütçe ögeleri konusunda da ilkeleri olduğunu düşünüyorum. Bu yüzden duruma baktığımda, yürürlükte bir sistem olduğunu ve topluluğu nasıl güvende tutacağımız konusunda bu ödünleşimleri yapmak için yerel olarak seçilmiş yetkililerimize güvenmeye devam etmemiz gerektiğini görüyorum.

Richie: Tamam. Sözlerinizi çarptırmak istemem ama öyle görünüyor ki bunu desteklemeye istekliyseniz, bu durum yeni bir özellik sunmadan önce doğrudan uygulamaya koymak yerine belediye meclisine gitmeyi gerektirecektir. Bu doğru mu?

Garrett: Benim düşünce şeklim şöyle: Bir polis departmanı yeni bir özellik eklemeyi seçerse, topluluk değerlerini, ilkelerini ve prosedürlerini anlaması konusunda o müşteriye güvenmek zorundayım. Şu anda birlikte çalıştığımız yaklaşık 7000 polis departmanı ve şehir var. Hepsi birbirinden çok farklı. Cleveland; Cincinnati ve Toledo’dan çok farklı. Üstelik henüz Ohio’dan çıkmadık bile. Memleketim Georgia’ya, Kaliforniya’ya veya Washington’a geçtiğinizde, asıl mesele hepsinin farklı ihale kurallarına sahip olmasıdır. Farklı ilke incelemelerine sahipler, bunların hepsi çok yerel düzeyde mevcut. Dolayısıyla üst düzeyde, yüzde 100 olarak, polis departmanlarının gerçekten yeni bir ilke benimsemesi, ister benim ürünlerim ister rakiplerimden biri olsun, kaldırıp silmesi ya da üniforma değişikliği yapması gerekip gerekmediğine karar vermesinin şehir düzeyinde ne tür bir incelemenin gerekli olduğuna karar verecek şehre bırakılması gerektiğine inanıyorum.

Richie: Polis memurlarının insanları takip etmek için Flock’u suistimal ettiği iddiasıyla ilgili birden fazla vaka yaşandı. Bu durum gerçekleştiğinde Flock’un kendisi nasıl bir sorumluluk üstleniyor?

Garrett: Sıfırdan büyük her türlü suistimal kabul edilemez ve beni rahatsız ediyor. Bir ürün geliştirdik. İnsanları daha güvende tutmak için bir şirket kurdum. Üç küçük çocuğum var. Bir baba olarak birincil yükümlülüğümün onları güvende tutmak olduğunu düşünüyorum. Bireylerin ürünlerimizi amacı dışında kullanmak için çok kötü kararlar aldığını gördüğümde bu çok sinir bozucu oluyor. Dokuz yıl önce bunun bir risk olduğunu biliyorduk. Denetim günlüklerini bu yüzden geliştirdik. Flock’tan öncesine dönecek olursak, LPR’dan bahsedelim. LPR her zaman vardı. Verileri tutma diye bir şey yoktu.

Richie: Evet.

Garrett: Değil mi? Ticari olarak satılıyordu. Hala da satılıyor. Haciz kamyonları dolaşıp ticari verileri satıyor. Ve içine entegre edilmiş hiçbir hesap verebilirlik yoktu. Dolayısıyla bunu ileriye taşıdıkça benim için sürpriz olmadı. Ve şimdi denetim desteği eklediğimiz için bu konuda daha da zorlamaya devam edeceğiz. Benim için amacımız, kullanım amacı dışında kullanılmasının neredeyse imkansız, son derece zor olduğu bir ürün inşa etmektir. Mantığa aykırı gelebilir ama medyadaki bu ilgi düzeyini görmek bence harika. Çünkü polis memurlarının Flock’u suistimal edecek şekilde kullanmaya çalışırlarsa hesap vereceklerini bilmelerini istiyorum. Takip edilmeyen başka sistemler de var ve bence bu kötü bir şey.

Richie: Bu konuda çok kararlı görünüyorsunuz. Peki, sisteminizdeki memurlar tarafından yapılan yaygın ve sistematik suistimaller nedeniyle Flock polis departmanlarıyla yaptığı kaç sözleşmeyi askıya aldı veya feshetti?

Garrett: Evet, bunun gerçekten çok ilginç bir soru olduğunu düşünüyorum. İlginç çünkü her gün, örneğin kaçırılan bir çocuğun evine döndüğüne dair en az üç hatta dört başarı hikayesi görüyorum. Yüzlerce, binlerce suçun çözüldüğünü görüyorum. Flock’u suistimal eden bir polis departmanına sahip bir şehirde yaşasaydım, yapacağım en son şey suçları çözmede bu kadar etkili olan bir sistemi söküp atmak olurdu. Dolayısıyla bahsettiğiniz suistimal son derece nadirdir. Söylemek istediğim noktaya gelirsek: Sıfırdan büyük her şey kabul edilemez. Ancak her gün Flock kullanan yüz binlerce polis memurundan ve bunu potansiyel olarak suistimal eden tek haneli veya onlarca kişiden bahsediyorsunuz. Sadece birkaç kişinin kötü kararları yüzünden tüm şehrin sorumlu tutulmaması gerektiğini düşünüyorum.

Richie: Bu cevaptan bir çıkarım yapacak olursam sayının sıfır olduğunu söylerdim.

Garrett: Bir yanıtı yanlış aktarmak istemiyorum, bu yüzden yanıt vermedim. Size bir şey söyleyip sonra bunun…

Richie: Tamam. Bu adil. Bunu son derece nadir görülen bir durum olarak kaydedip devam edeceğiz.

Richie: Bir kurumun teknolojinize artık erişim hakkı olmamasına karar vermenize neden olacak bir suistimal seviyesi var mı? Bir eşik var mı?

Garrett: Evet. Bence tanımladığınız durum, tüm polis departmanının sadece Flock değil, muhtemelen diğer birçok konuda da suistimal yapmaktan suçlu bulunduğunun kanıtlandığı bir durumdur. Bu tür durumlarda, bunu ele almak için federal bir süreç vardır. Genellikle federal hükümet ve eyalet hükümeti devreye girer. Bu durumlarda Flock’u ellerinde tutmaları pek olası değildir çünkü muhtemelen tüm polis departmanını lağvediyorlardır. Bu yüzden böyle bir sorunla veya kararla karşılaşacağımı sanmıyorum.

Richie: Tamam. Yine kısaca bir çıkarımda bulunmak ve son noktayı koymak gerekirse, bu son derece yüksek bir eşik olurdu, değil mi?

Garrett: Evet. Siz ne düşünüyorsunuz? Aslında merak ediyorum. Bir teknoloji şirketinin ne zaman… yapması gerektiği konusunda bir görüşünüz var mı?

Richie: Benim fikrimin pek bir önemi yok. Burada CEO sizsiniz. Bira içerken anlatmayı çok isterim. Flock’un güvencelerinden birinin yerel denetim olduğunu söylüyorsunuz, ancak Kaliforniya’daki birkaç kasaba verilerinin izinleri olmadan üçüncü taraflarla, bazen de federal hükümetle paylaşıldığını iddia ediyor. Bu durum, müşterilerin kendi verilerini kontrol ettiği yönündeki iddianızla nasıl bağdaşmaktadır?

Garrett: Bu ifadelere katılmıyorum.

Richie: Tamam, bunu Mountain View, Kaliforniya’dan gelen bir iddiadan aldığımı söyleyebilirim. Flock’un izinleri olmadan polis departmanlarıyla ülke çapında arama özelliğini açtığını ve federal kurumların daha sonra verilere erişim sağladığını iddia ediyorlar. Benzer şekilde South Pasadena da sözleşmesini iptal etme nedeni olarak kazara veri paylaşımını gösterdi. Biri The Guardian’da yer aldı, diğeri ise sadece şehirden geldi. Siz…

Garrett: Yani müşteriler kendi verilerini kontrol eder, hangi onay kutularının seçildiğini kontrol ederler. Biz sadece müşterilerimizin hata yapmasını imkansız kılma yükümlülüğümüzü yanlış anladık. Kaliforniya gibi bir eyaleti ele alırsak, eyalet mevzuatına göre LPR verileri eyalet dışına çıkmamalıdır. İki yıl önce bunu ürünümüzde kodlamayı görevimiz olarak görmüyorduk. Şimdiyse, yanlışlıkla bir düğmeye tıklayan veya birisi düğmeye tıklayıp ‘hey, aslında Ulusal Aramayı açmak istiyoruz’ diyen müşterilerden haber aldığımızda, bunu onlar için çok kolay hale getirdiğimizi fark ettik. Bu nedenle, LPR verilerinin eyaletten ayrılamayacağına dair net bir mevzuatın bulunduğu Kaliforniya, Washington ve Virginia eyaletlerinde bunun gerçekleşmesini imkansız hale getiriyoruz. Bir onay kutusu bile yok. Dolayısıyla Richie, bunu tanımlama şeklim, Flock’un bu yazışmadaki yükümlülüğünün arttığı yönündedir. Sorumluluğumuzu daha büyük görüyorum, genel olarak düzenlemelerin büyük bir hayranı olmamın nedeni de bu. Çünkü artık Washington gibi bir yerde, LPR’ın Washington’da bu şekilde çalışması gerektiğini söyleyen bir yasa tasarısı var. Bu tasarılar esas açısından olmasa da uygulanabilirlik açısından iyi yazıldığında, bunun harika bir şey olduğunu düşünüyorum. Dolayısıyla Kaliforniya gibi bir yerde, konumumuzu bunun gerçekleşmesinin bile imkansız olacağı şekilde değiştirdik ve yükselttik.