Đã phỏng vấn CEO của Flock về hành vi lạm dụng giám sát. Dưới đây là những gì ông ấy chia sẻ.

Năm 2017, Flock Safety bắt đầu như một dự án phụ trong một gara ở Atlanta.

Ngày nay, đây là công ty trị giá hàng tỷ đô la đang vận hành hơn 120.000(cửa sổ mới) camera nhận dạng biển số xe tự động (ALPR) trên khắp 49 bang của Mỹ, đọc 20 tỷ biển số mỗi tháng cho hơn 5.000 cơ quan hành pháp.

Flock tự giới thiệu là nhà cung cấp công nghệ an toàn công cộng. Tuy nhiên, các nhà chỉ trích gọi đây là một mạng lưới giám sát do các quỹ đầu tư mạo hiểm chống lưng, tràn ngập lạm dụng và thiếu giám sát.

Hàng chục thành phố và cơ quan đã ngừng sử dụng Flock trong năm qua, Los Angeles để hợp đồng hết hạn(cửa sổ mới) do những lo ngại về quyền công dân, và một sở cảnh sát ở California đã tắt các camera(cửa sổ mới) sau khi các cơ quan liên bang truy cập dữ liệu mà không báo trước.

Trong quá trình sản xuất bộ phim tài liệu Proton mới nhất về camera Flock, chính CEO của Flock, Garrett Langley, đã đồng ý tham gia phỏng vấn với người dẫn chương trình Richie Koch.

Dưới đây là bản ghi chép lại toàn bộ cuộc hội thoại, đã được chỉnh sửa nhẹ về độ dài và độ rõ ràng.

—

Richie Koch: Cụ thể là câu hỏi đầu tiên. Trên toàn bộ nền tảng Flock, không chỉ riêng thiết bị đọc biển số xe. Cảnh sát có thể tìm kiếm một người không?

Garrett Langley: Chúng tôi bán nhiều sản phẩm tập trung vào việc thực hiện đúng hai điều. Cung cấp sự an toàn. Cung cấp quyền riêng tư. Thúc đẩy trách nhiệm giải trình. Đó là mục tiêu của chúng tôi. Chúng tôi có một số sản phẩm tập trung vào phương tiện, đó là thiết bị đọc biển số xe. Chúng tôi có các sản phẩm tập trung vào âm thanh, phát hiện tiếng súng. Và sau đó chúng tôi bán những sản phẩm mà người xem có thể quen thuộc gọi là camera Pan, Tilt, Zoom (xoay, nghiêng, phóng to). Những camera này theo truyền thống được triển khai ở những nơi có người đi bộ.

Richie: Vâng. Và tôi có nghe nói về camera Condor.

Garrett: Đó là camera PTZ.

Richie: Vâng. Tôi đang thắc mắc vì chưa nhận được câu trả lời “có” hoặc “không” dứt khoát. Vậy liệu ông có thể giải thích rõ hơn một chút về chức năng của camera Condor PTZ không?

Garrett: Đây là một ví dụ tuyệt vời. Thường thì những camera này, dù từ chúng tôi hay từ vài trăm nhà sản xuất camera lớn khác trên toàn cầu chế tạo camera xoay, nghiêng, phóng to. Vì vậy, dù là chúng tôi hay ai khác. Các thành phố thường triển khai chúng tại các công viên. Thành phố chi hàng chục triệu đô la để xây dựng một công viên đẹp. Điều cuối cùng họ muốn là công viên đó trở thành nơi diễn ra các giao dịch ma túy, con người bị hại, v.v. Và hãy nhìn vào quê hương tôi, Atlanta, chỉ 5 năm trước, đã xảy ra một sự cố vô cùng khủng khiếp. Có thể đọc về vụ việc này. Một phụ nữ đang dắt chó đi dạo vào giữa đêm thì bị sát hại dã man, trở thành án bế tắc. Bạn biết tại sao không? Có camera ở đó nhưng chúng không hoạt động. Nếu camera ở đó và hoạt động, tôi tin tưởng rằng vụ án đó sẽ không bị bế tắc. Vì vậy, phần lớn khách hàng của chúng tôi triển khai sản phẩm trong trường hợp đó để giữ an toàn cho người dân, dù là ở công viên hay trên đường công cộng.

Richie: Ông có thể giải thích một chút về cách thức tìm kiếm hoạt động không? Chúng ta đã xác nhận rằng những camera này tồn tại và khả năng đó tồn tại. Một lượt tìm kiếm diễn ra như thế nào?

Garrett: Dành cho sản phẩm nào? … Chúng rất khác nhau, bởi vì chúng tôi vạch ra ranh giới rất rõ ràng giữa các camera ALPR. Không thể tìm kiếm con người bằng ALPR. Chúng được thiết kế đặc biệt để đọc biển số xe nhằm phát hiện các đặc tính của phương tiện. Còn các camera xoay, nghiêng, phóng to của chúng tôi thì tập trung vào con người. Bởi vì mọi người thường đến công viên.

Richie: Ông có thể giải thích cách thức tìm kiếm của camera xoay, nghiêng, phóng to hoạt động như thế nào không?

Garrett: Thực ra có hai cách tìm kiếm chính. Một là tìm kiếm truyền thống, giống như trên các camera ở nhà. Có thể xem mốc thời gian và tua đi tua lại. Đó là thanh cuộn khá truyền thống. Và cách thứ hai là sản phẩm Freeform. Freeform cho phép tìm kiếm các nội dung bằng văn bản thuần túy. Điều quan trọng cần bổ sung là đây không phải điều duy nhất ở chúng tôi, mà đồng nhất trên toàn ngành. Không thể cung cấp kiểu tìm kiếm đó mà không đại diện cho những gì chúng ta gọi là Hiến pháp. Chúng ta có các quyền, có các hạn chế nhất định. Do đó, có một chính sách kiểm duyệt được tích hợp vào tính năng tìm kiếm đó để ngăn chặn mọi loại hình tìm kiếm lạm dụng.

Richie: Flock có thể thay đổi khả năng của một sản phẩm đã triển khai thông qua bản cập nhật phần mềm mà không cần hội đồng thành phố hoặc công chúng phê duyệt khả năng mới đó không?

Garrett: Hmmm. Ý tôi là, cốt lõi trong mối quan hệ kinh doanh, dù là với một khu dân cư, doanh nghiệp hay thành phố, khi nhìn vào hợp đồng, đó là hợp đồng hàng năm. Và mỗi năm chúng tôi cần chứng minh giá trị của mình. Vì vậy, khách hàng kỳ vọng sản phẩm sẽ tốt hơn mỗi ngày.

Richie: Đúng vậy. Tuy nhiên, có thể thấy điều này sẽ dẫn đến việc mở rộng mục tiêu ban đầu (mission creep). Một báo cáo gần đây trên 404 Media cho thấy trong một thời gian ngắn, các camera ALPR đã biến thành camera phát trực tiếp. Một báo cáo khác của EFF cho biết hệ thống giám sát tiếng súng âm thanh chính xác đã được sử dụng ngắn hạn để giám sát tiếng kêu cứu của con người. Trong cả hai trường hợp, có vẻ như các tính năng này đã được thêm vào mà không có bất kỳ phụ lục hợp đồng nào, cũng như không có sự tham vấn mới nào với Hội đồng Thành phố.

Garrett: Vâng. Nếu nhìn rộng ra, có hai điều đúng. Thứ nhất, chúng tôi phải tiếp tục xây dựng sản phẩm tốt hơn, nghĩa là an toàn hơn, bảo vệ quyền riêng tư tốt hơn và có trách nhiệm giải trình cao hơn. Tuy nhiên, chúng tôi không bắt buộc khách hàng phải dùng hay không dùng tính năng nào. Ví dụ, chúng tôi đã ra mắt công cụ hỗ trợ kiểm toán khoảng một tháng rưỡi trước. Đó là một chức năng bổ sung nhằm phát hiện hành vi có khả năng lạm dụng hoặc bất chính trong hệ thống. Chúng tôi không bắt buộc điều đó. Hiện tại, hơn một phần ba khách hàng đã bật nó và chúng tôi khuyến khích khách hàng nên sử dụng. Nhưng tôi tin rằng công việc của Hội đồng Thành phố, của Ủy viên là thúc đẩy trách nhiệm giải trình cao hơn. Rất hiếm khi chúng tôi ép buộc điều gì đó lên khách hàng thay vì phát triển tính năng, thông báo cho công chúng, ví dụ như Freeform. Sau đó, nếu thành phố chọn áp dụng, đó là quyết định của họ về việc điều gì là phù hợp để chia sẻ với hội đồng thành phố hoặc tiến hành tiếp.

Richie: Đi vào chi tiết các trường hợp được báo cáo, có vẻ không phải do sự tham vấn từ đại diện thành phố, hội đồng thành phố hay chính quyền thành phố, mà đơn giản là sở cảnh sát tự tích chọn để bật tính năng đó. Điều này dường như không phù hợp với nguyên tắc quản trị địa phương của ông.

Garrett: Đó có phải là một câu hỏi không?

Richie: Tôi muốn nói là…

Garrett: Xin lỗi.

Richie: Ông có hỗ trợ yêu cầu phải có sự phê duyệt rõ ràng từ công chúng trước khi một khả năng giám sát mới quan trọng có thể được kích hoạt trên một công nghệ đã được triển khai trong cộng đồng không?

Garrett: 100%. Tôi tin chắc rằng các sở cảnh sát chỉ là một phần của chính quyền địa phương, và các chính quyền địa phương đó có những chính sách, không chỉ về giám sát mà còn về các mục ngân sách. Vì vậy, hệ thống đã sẵn có và chúng ta nên tiếp tục dựa vào các quan chức do địa phương bầu ra để đưa ra các đánh đổi về việc giữ an toàn cho cộng đồng.

Richie: Được rồi. Nếu hỗ trợ điều này, có nghĩa là có thể phải trình hội đồng thành phố trước khi giới thiệu một tính năng mới chứ không chỉ đơn thuần là triển khai tính năng đó. Có đúng vậy không?

Garrett: Đây là cách tôi suy nghĩ. Nếu một sở cảnh sát chọn thêm một tính năng, tôi cũng phải dựa vào khách hàng đó để hiểu các giá trị cộng đồng, chính sách và quy trình của họ. Hiện tại, chúng tôi làm việc với gần 7.000 sở cảnh sát và thành phố. Tất cả họ đều rất độc đáo. Cleveland rất khác với Cincinnati hay Toledo. Và đó mới chỉ ở bang Ohio. Nếu chuyển sang bang Georgia, California hay Washington, điểm mấu chốt là tất cả đều có các quy tắc thu mua khác nhau. Họ có các đợt xem xét chính sách khác nhau, tất cả đều tồn tại ở cấp địa phương. Do đó, về mặt tổng thể, 100% tôi không nghĩ các sở cảnh sát nên áp dụng bất kỳ chính sách mới nào, xóa sản phẩm của tôi hay đối thủ, hoặc thậm chí là thay đổi đồng phục mà không do thành phố tự quyết định mức độ xem xét cần thiết cho từng thành phố.

Richie: Đã có nhiều trường hợp sĩ quan cảnh sát bị cáo buộc lạm dụng Flock để theo dõi người khác. Khi điều đó xảy ra, Flock nhận trách nhiệm gì?

Garrett: Bất kỳ mức độ lạm dụng nào lớn hơn không đều không thể chấp nhận được. Chúng tôi tạo ra sản phẩm và tôi thành lập công ty để giúp mọi người an toàn hơn. Tôi có ba đứa con nhỏ, nghĩa vụ chính của một người cha là giữ cho các con an toàn. Vì vậy, khi thấy các cá nhân đưa ra quyết định rất tồi tệ để sử dụng sản phẩm không đúng mục đích, tôi rất thất vọng. Chúng tôi đã biết đây là rủi ro từ 9 năm trước. Đó là lý do tại sao chúng tôi đưa ra nhật ký kiểm toán. Trước Flock, LPR đã tồn tại từ lâu mà không hề có việc lưu giữ dữ liệu.

Richie: Vâng.

Garrett: Đúng vậy? Nó từng được bán thương mại và hiện vẫn vậy. Xe thu hồi nợ chạy quanh và bán dữ liệu thương mại. Không có trách nhiệm giải trình nào được tích hợp vào đó. Do đó, không có gì ngạc nhiên khi chúng tôi đẩy mạnh điều này. Với việc thêm hỗ trợ kiểm toán, chúng tôi sẽ tiếp tục đẩy mạnh hơn nữa. Nhiệm vụ của chúng tôi là xây dựng một sản phẩm gần như không thể hoặc rất khó sử dụng ngoài mục đích ban đầu. Điều này có vẻ trái ngược với thông lệ, nhưng sự chú ý của truyền thông là điều tốt, vì các sĩ quan sẽ biết rằng nếu cố tình sử dụng Flock một cách lạm dụng, họ sẽ phải chịu trách nhiệm. Có những hệ thống khác không bị theo dõi, và điều đó thật tồi tệ.

Richie: Ông dường như thể hiện quan điểm rất mạnh mẽ về điều này. Vậy Flock đã tạm dừng hoặc chấm dứt bao nhiêu hợp đồng với các sở cảnh sát vì hành vi lạm dụng có hệ thống hoặc lạm dụng tràn lan của các sĩ quan đối với hệ thống?

Garrett: Đó là câu hỏi rất thú vị. Hàng ngày, tôi thấy ít nhất ba đến bốn câu chuyện thành công về việc đưa trẻ em bị bắt cóc về nhà. Hàng trăm đến hàng nghìn vụ án được phá. Nếu sống ở một thị trấn có sở cảnh sát lạm dụng Flock, điều cuối cùng tôi muốn làm là dỡ bỏ hệ thống đang hoạt động rất hiệu quả trong việc phá án. Vì vậy, hành vi lạm dụng mà ông đề cập là cực kỳ hiếm. Bất kỳ mức độ nào lớn hơn không đều không thể chấp nhận được, nhưng chúng ta đang nói về hàng trăm nghìn sĩ quan cảnh sát sử dụng Flock mỗi ngày so với con số vài người hoặc vài chục người có khả năng lạm dụng. Không nên bắt cả thành phố chịu trách nhiệm chỉ vì quyết định tồi tệ của một vài cá nhân.

Richie: Nếu có thể suy ra từ câu trả lời đó, con số sẽ là không.

Garrett: Tôi không muốn đưa ra câu trả lời sai lệch, nên tôi không trả lời. Tôi không muốn nói một đằng rồi sau đó lại…

Richie: Được rồi. Điều đó hợp lý. Chúng ta sẽ ghi nhận đây là trường hợp cực kỳ hiếm hoi và chuyển sang phần tiếp theo.

Richie: Có mức độ lạm dụng nào khiến ông quyết định một cơ quan không còn quyền truy cập vào công nghệ của mình nữa không? Có ngưỡng nào không?

Garrett: Những gì ông mô tả là trong một sự kiện mà toàn bộ sở cảnh sát bị chứng minh là vi phạm, không chỉ với Flock mà còn nhiều thứ khác. Trong những trường hợp đó, có một quy trình liên bang để xử lý. Chính quyền liên bang và chính quyền bang sẽ can thiệp. Trong tình huống đó, họ khó có thể giữ lại Flock vì có lẽ toàn bộ sở cảnh sát đã bị giải thể. Vì vậy, tôi không nghĩ mình sẽ phải đối mặt với vấn đề hoặc quyết định đó.

Richie: Được rồi. Tóm lại, đó sẽ là một ngưỡng cực kỳ cao, đúng không?

Garrett: Vâng. Ông nghĩ sao? Tôi thực sự tò mò đấy. Ông có quan điểm gì về việc khi nào một công ty công nghệ nên…

Richie: Ý kiến của tôi không thực sự quan trọng. Ông mới là CEO ở đây. Tôi rất vui được chia sẻ khi uống bia. Ông nói một trong những biện pháp bảo vệ của Flock là quyền kiểm soát địa phương, nhưng nhiều thị trấn ở California khẳng định dữ liệu của họ đã được chia sẻ với các bên bên ngoài, đôi khi với chính quyền liên bang mà không có sự cho phép của họ. Điều này nhất quán ra sao với tuyên bố rằng khách hàng kiểm soát dữ liệu của họ?

Garrett: Tôi không đồng ý với những tuyên bố đó.

Richie: Được rồi, tuyên bố này đến từ Mountain View, California. Họ cho rằng Flock đã kích hoạt tính năng tìm kiếm trên toàn quốc với các sở cảnh sát mà không có sự cho phép của họ, và các cơ quan liên bang sau đó đã truy cập dữ liệu. Tương tự, South Pasadena nêu lý do chia sẻ dữ liệu vô tình là nguyên nhân họ hủy hợp đồng. Một vụ được đưa tin trên The Guardian, vụ còn lại đến từ phía thành phố. Ông…

Garrett: Khách hàng kiểm soát dữ liệu của họ, họ kiểm soát ô nào được chọn. Nếu có gì sơ suất, đó là chúng tôi đã hiểu sai nghĩa vụ đối với khách hàng trong việc làm cho họ không thể mắc sai lầm. Ở California, luật pháp tiểu bang quy định dữ liệu LPR không được rời khỏi tiểu bang. Hai năm trước, chúng tôi không coi việc mã hóa điều đó vào sản phẩm là nhiệm vụ của mình. Giờ đây, khi nghe phản hồi từ những khách hàng vô tình nhấp vào nút “Bật tra cứu toàn quốc”, chúng tôi nhận ra mình đã làm điều đó quá dễ dàng với họ. Vì vậy, hiện nay ở bang California, Washington, Virginia, nơi có quy định pháp luật rõ ràng rằng dữ liệu LPR không thể rời khỏi bang, chúng tôi làm cho điều đó trở nên không thể xảy ra. Thậm chí không còn ô tích chọn nào. Trách nhiệm của Flock đã tăng lên. Tôi coi trách nhiệm của chúng tôi là lớn hơn, đó là lý do tại sao tôi ủng hộ quy định nói chung. Bởi vì hiện tại ở một nơi như Washington, có một dự luật nêu rõ cách LPR nên hoạt động. Khi các dự luật được soạn thảo tốt về tính thực thi, tôi nghĩ đó là điều tuyệt vời. Vì vậy, tại một nơi như California, chúng tôi đã thay đổi để điều đó hoàn toàn không thể xảy ra.