2017年、Flock Safetyはアトランタのガレージでのサイドプロジェクトとしてスタートしました。
現在、同社は全米49州で120,000台以上(新しいウィンドウ)の自動ナンバープレート識別（ALPR）カメラを運用し、5,000以上の執法機関向けに月に200億枚のナンバープレートを既読する数十億ドル規模の企業となっています。
Flockは自社を公共安全技術のプロバイダーであると称しています。しかし批評家は、同社が悪用や甘い監視体制に満ちた、ベンチャー資金で支えられた監視ネットワークであると呼んでいます。
過去一年間で何十もの都市や機関がFlockの利用を停止しました。ロサンゼルスは市民権への懸念から契約更新を見送り(新しいウィンドウ)、カリフォルニア州のある警察署は連邦機関が事前通知なくデータにアクセスしたことを受け、カメラを停止(新しいウィンドウ)しました。
Flockカメラに関するProtonの最新ドキュメンタリー制作中、FlockのCEOであるGarrett Langley氏が、当社のホストであるRichie Kochとのインタビューに応じました。
以下は会話の全容の記録であり、長さと分かりやすさのために軽微な編集を加えています。
—
Richie Koch: では最初の質問です。ナンバープレート読取装置だけでなく、Flockプラットフォーム全体で、警察が人物を検索することは可能ですか？
Garrett Langley: 当社は二つのことを正しく行うことに焦点を当てた複数の製品を販売しています。安全を提供すること、プライバシーを提供すること、そして説明責任を果たすことです。それが当社の目標です。ナンバープレート読取装置のように車両に焦点を当てた製品もあれば、銃声検知のような音声に焦焦点当てた製品もあります。そして、視聴者の皆様にも馴染みがあるかもしれないパン・チルト・ズームカメラと呼ばれる製品も販売しています。これらは従来、歩行者が行き交う場所にデプロイされています。
Richie: なるほど。ええ、Condorカメラについて聞いたことがあります
Garrett: それはPTZカメラですね
Richie: ええ、分かりました。明確な「はい」か「いいえ」の回答が得られなかったように思いますので、Condor PTZカメラが何を行うのかについて少し詳しく説明していただけますでしょうか
Garrett: 良い例があります。当社製品であれ他社製品であれ、都市は公園などにこれらのパン・チルト・ズームカメラをデプロイすることがよくあります。都市は美しい公園を作るために数千万ドルを費やします。公園が薬物取引の場所になったり、人々が傷つけられたりすることは絶対に避けたいのです。私の故郷であるアトランタでは、ほんの五前に恐ろしい事件がありました。それについて既読できます。夜中に女性が犬の散歩中に惨殺され、未解決事件となりました。カメラはあったものの作動していなかったからです。もし作動していれば未解決事件にはならなかったはずです。そのため、公園であれ公道であれ、多くの場合、お客様は市民の安全を守るために製品をデプロイしています
Richie: 検索がどのように機能するか説明していただけますか？これらのカメラが存在し、機能が存在することは分かりました。検索とはどのようなものでしょうか
Garrett: どの製品についてでしょうか？… 製品によって大きく異なります。ALPRカメラでは人物を検索することはできません。これらはナンバープレートを既読し、車両の属性を検出するために特別に設計されています。一方、パン・チルト・ズームカメラは人物に焦点を当てています。人は通常、公園に行くからです
Richie: パン・チルト・ズームでの検索がどのように機能するのか説明していただけますか？
Garrett: 主な検索方法は二つあります。一つは自宅のカメラにあるような従来の検索で、タイムラインを前後させて確認するスクロール方式です。二つ目はFreeformという製品で、プレーンテキストで検索できます。ここで重要なのは、憲法による権利と制限を考慮せずにそのような検索を提供することはできないということです。そのため、不適切な検索を防ぐためのモデレーションポリシーが組み込まれています。
Richie: Flockは市議会や市民の承認を得ることなく、ソフトウェア更新を通じてデプロイ済みの製品機能を変更できますか？
Garrett: ビジネス関係の根幹として、契約は年次契約です。毎年、当社の価値を証明する必要があり、お客様からは日々改善されているという期待があります。
Richie: なるほど。しかし、これが目的の逸脱につながる可能性はお分かりでしょう。404 mediaの最近の報道では、ALPRカメラが一時的にライブ配信カメラに変更されたとありました。またEFFの報道では、音響銃声監視システムが人の悲鳴を監視するために一時的に使用されたとされています。どちらのケースでも、契約の追加や市議会との協議なしに機能が追加されたように見えます。
Garrett: 大まかに言えば、二つのことが言えます。一つ目として、安全性、プライバシー、説明責任を向上させたより優れた製品を作り続ける必要があります。しかし、お客様に使用するものを義務付けることはしていません。たとえば、約一か月半前に監査支援ツールを開始しました。不適切または悪質な動作を検出する追加機能です。現在これを必須とはしていませんが、お客様の三分の一以上が有効にしています。市議会や委員の仕事は、より多くの説明責任をドライブすることだと考えています。製品を構築して公開し、市議会と共有するか、単に転送して進めるか、それを採用するかどうかを判断するのは都市側の責任です。
Richie: 具体的な話に入り込みたくはありませんが、報道された事例では、市の代表者や市議会との協議があったというよりも、警察署がチェックボックスをオンにして機能を有効にすることを決定しただけのように見えます。これはローカルガバナンスの原則と一致しないように思われます。
Garrett: 質問でしょうか
Richie: つまり…
Garrett: すみません
Richie: 地域社会にすでに導入されている技術に対して、実質的に新しい監視機能を有効にする前に、明確な公的承認を義務付けることをサポートしますか
Garrett: 100%サポートします。警察署は地方政府の一部であり、地方政府には監視や予算アイテムに関するポリシーが存在します。既存のシステムが存在する以上、地域社会の安全を保つためのトレードオフについては地元の選出議員に委ねるべきです
Richie: なるほど。新機能を導入する前には、単に押し出すのではなく市議会に相談することをサポートされるということでしょうか？
Garrett: 警察署が機能の追加を選択する場合、顧客が自らの地域の価値観、ポリシー、手続を理解していることに依存する必要があります。当社は7000近くの警察署や都市と協働していますが、それぞれ異なります。調達規則やポリシー審査はすべてローカルレベルで存在するため、私の製品や競合製品の削除であれ新ポリシーの採用であれ、都市ごとに必要なレビューレベルが決定されるべきです
Richie: 警察官が人物をストーキングするためにFlockを悪用したとされる事例が複数発生しています。そのような事態が発生した場合、Flock自体はどのような責任を負うのでしょうか？
Garrett: ゼロを超えるいかなるレベルの悪用も受け入れられません。私は人々をより安全にするために会社を設立しました。三人の子供の父親としてのプライマリーな義務は子供たちの安全を守ることです。意図しない方法で製品が悪用されるのは非常に苛立たしいことです。だからこそ当社は監査ログを開発しました。Flock以前のLPRにはデータ保持が存在しませんでした
Richie: ええ
Garrett: 以前は商業的にデータが売られ、説明責任が組み込まれていませんでした。当社は意図された目的以外での使用を極めて困難にする製品を構築することが役割だと考えています。悪用しようとすれば説明責任を問われることを警察官に知ってもらいたいです。
Richie: この件について強い思いをお持ちのようですね。では、警察官による横行的な悪用を理由に、Flockが警察署との契約を一時停止または解除したケースは何件ありますか
Garrett: 毎日、犯罪解決や子供の救出などの成功事例が何件もあります。効果的なシステムを撤去することは望ましくありません。言及されている悪用は非常に稀であり、数人の誤った決定のために都市全体に責任を負わせるべきではないと考えています
Richie: その回答から推測すると、件数はゼロということですね。
Garrett: 誤解を招く回答はしたくないため、具体的な数字はお答えしていません…
Richie: 分かりました。極めて稀な事例として捉え、次に進みましょう
Richie: 機関が貴社の技術にアクセスする権利を失うと判断するような悪用の閾値は存在しますか？
Garrett: 警察署全体が悪用を行っていると証明されるような予定・事態が発生した場合、通常は連邦政府や州政府が介入します。その場合、警察署自体が解体される可能性が高いため、Flockを保持し続けることはないでしょう。したがって、そのような判断を迫られることはないと考えています
Richie: つまり推測すると、その閾値は非常に高いということですね？
Garrett: ええ。お客様はどう思われますか？テクノロジー企業がいつ判断すべきかについて意見はお持ちですか…
Richie: 私の意見は重要ではありません。あなたがCEOなのですから。ビールでも飲みながらお話ししたいですね。Flockのセーフガードの一つの特徴はローカルコントロールであるとおっしゃいますが、カリフォルニア州の複数の町では、許可なく外部や連邦政府とデータが共有されたと主張しています。これは、お客様がデータを管理しているという主張とどのように整合するのでしょうか
Garrett: 私はそれらの主張には同意しません
Richie: カリフォルニア州マウンテンビューの主張から得た情報をお伝えできます。彼らは、Flockが許可なく他の警察署との全米検索を有効にし、連邦機関がデータにアクセスしたと主張しています。同様にサウスパサデナも、意図しないデータ共有を理由に契約をキャンセルしたと述べています…
Garrett: お客様はご自身のデータを管理し、どのチェックボックスが選択されるかも管理しています。むしろ当社がお客さまの誤操作を防ぐ義務を十分に認識していませんでした。カリフォルニア州、ワシントン州、バージニア州などクリアな規則・法規制がある州では、LPRデータが州外に出ないよう設定を更新し、不可能な仕組みにしました。今回の会話を通じ、Flockの責任範囲は広がったと認識しています
