В 2017 году компания Flock Safety начиналась как сторонний проект в гараже в Атланте.

Сегодня это многомиллиардная компания, считывающая данные с более чем 120 000(новое окно) камер автоматического распознавания номерных знаков (ALPR) в 49 штатах США, где прочитано 20 миллиардов номеров в месяц для более чем 5000 правоохранительных органов.

Flock позиционирует себя как поставщика технологий для обеспечения общественной безопасности. Однако критики называют её венчурной сетью наблюдения, полной злоупотребей и с полным отсутствием надлежащего контроля.

За последний год десятки городов и ведомств отказались от Flock: Лос-Анджелес не стал продлевать контракт(новое окно) из-за опасений по поводу гражданских прав, а полицейское управление в Калифорнии отключило свои камеры(новое окно) после того, как федеральные агентства получили доступ к его данным без предупреждения.

Во время съёмок нашего последнего документального фильма Proton о камерах Flock генеральный директор Flock Гарретт Лэнгли согласился дать интервью нашему ведущему Ричи Коху.

Ниже приведена стенограмма всей цепочки писем, слегка изменённая для сокращения и ясности.

—

Ричи Кох: Итак, первый вопрос. В рамках всей платформы Flock, не только считывателей номерных знаков. Могут ли полицейские искать человека?

Garrett Langley: So we sell multiple products focused on doing two things right. Providing safety. Providing privacy. Driving accountability. That’s like that’s the goal for us, right? We have some products that are focused on vehicles, our license plate readers. We have some products that are focused on audio, gunshot detection. And then we sell what your viewers might be familiar with called Pan, tilt, zoom cameras. And those are traditionally deployed in places where pedestrians go.

Ричи: Хорошо. Да. И я слышал о камерах Condor.

Гарретт: Это PTZ.

Ричи: Да. Хорошо. И тогда мне стало интересно: я не получил здесь твёрдого «да» или «нет». Поэтому хотел бы спросить, не могли бы вы подробнее рассказать о том, что делают PTZ-камеры Condor?

Гарретт: Вот отличный пример. Часто эти камеры — будь то наши или произведённые пару сотен крупных мировых производителей поворотных камер… Так вот, будь то наши или чужие камеры, города часто решение применить их в парках. Верно. Город тратит десятки миллионов долларов на создание прекрасного парка. И меньше всего властям хочется, чтобы этот парк стал местом, где торгуют наркотиками, калечат людей и так далее. Посмотрите на мой родной город, Атланту: всего пять лет назад там произошёл ужасный, ужасный случай. Об этом прочитано в новостях. Женщина гуляла с собакой посреди ночи, была жестоко убита, нераскрытое дело. Знаете почему? Камеры там были, но они не работали. Если бы камеры там были и работали, я с достаточной уверенностью думал бы, что это дело не стало бы нераскрытым. И поэтому чаще всего наши клиенты применить наши продукты в подобных случаях для обеспечения безопасности людей — будь то в парке или на дорогах общего пользования.

Ричи: Не могли бы вы немного объяснить, как искать работает? Мы выяснили, что эти камеры существуют, что такая возможность есть. Как выглядит искать?

Гарретт: Для какого продукта? … Они очень разные, потому что мы проводим чёткую грань между нашими камерами ALPR. Вы не можете искать людей с их помощью. Они предназначены исключительно для того, чтобы прочитано номерной знак и определять характеристики транспортного средства. А вот наши поворотные камеры ориентированы на людей. Потому что люди обычно ходят в парки, они обычно ходят в парки.

Ричи: Не могли бы вы просто объяснить, как в случае с поворотной камерой работала бы функция искать?

Гарретт: На самом деле есть два основных способа искать. Первый — так называемый традиционный поиск, который, знаете, есть у меня на домашних камерах. Когда я могу просто смотреть временную шкалу и прокручивать её назад и вперёд. Верно. И это довольно традиционная прокрутка. А второй — у нас есть продукт под названием Freeform. И Freeform позволяет искать объекты, используя простой текст. И вот что я хотел бы добавить, что очень важно. И я думаю, это характерно не только для нас, это общепринято в отрасли. Нельзя просто так предоставить такой тип поиска без учета того, что мы называем Конституцией, верно? У нас есть права, у нас есть определённые ограничения. И поэтому в этот поиск встроена политика модерации, чтобы предотвратить любые злоупотребления.

Ричи: Может ли Flock изменять возможности применённого продукта с помощью обновления программного обеспечения без одобрения этих новых возможностей городским советом или общественностью?

Гарретт: Хм-м. Я имею в виду, в основе наших деловых отношений, будь то с жилым районом, бизнесом или городом — если вы посмотрите наши контракты, — лежит годовой контракт, верно. И каждый год мы должны доказывать свою ценность. Поэтому наши клиенты ждут, что сервис становится лучше с каждым днём.

Ричи: Понятно. Однако вы видите, как это может привести к выходу за рамки изначальных задач. В недавнем отчёте 404 Media сообщалось, что на короткое время ваши камеры ALPR были превращены в камеры прямой трансляции. В другом отчёте EFF говорилось, что ваша система акустического мониторинга выстрелов ненадолго использовалась для мониторинга криков о помощи. В обоих случаях создаётся впечатление, что эти функции были добавлены без какого-либо дополнительного соглашения к контракту. Без каких-либо новых консультаций с городским советом.

Гарретт: Да, да. Если посмотреть шире, я считаю верными две вещи. Первое: мы действительно должны продолжать создавать более качественный продукт, где под более качественным понимается одновременно большая безопасность, больше конфиденциальности и большая подотчётность. Но мы не занимаемся тем, чтобы навязывать нашим клиентам, что им использовать, а что нет. Например, около полутора месяцев назад мы запустили наш инструмент аудита, верно. Это дополнительная функциональность для обнаружения потенциально неправомерного или злонамеренного поведения в нашей системе. Сегодня мы этого не требуем. Сейчас более трети наших клиентов включили его, и мы подталкиваем наших клиентов: вы должны использовать это, вы должны использовать это. Но я считаю, что задача городского совета, задача комиссара — побуждать их направлять в хранилище большей подотчётности. И то же самое я скажу о безопасности. Так что мы довольно редко что-то навязываем нашим клиентам, вместо этого мы что-то создаём, рассказываем об этом миру — например, Freeform — и если город решает это внедрить, то только им принимать решение о том, чем уместно поделиться с городским советом или переслать дальше.

Ричи: Не хочу вдаваться в детали, но в описанных случаях казалось не столько, что проводились консультации с представителями города, городским советом или городскими властями, сколько что полицейский участок просто решил поставить галочку, чтобы включить функцию. Похоже, это не совсем согласуется с вашим принципом местного самоуправления.

Гарретт: А вопрос был?

Ричи: Я бы сказал…

Гарретт: Извините.

Ричи: Была бы у вас поддержка требованию явного, однозначного одобрения общественности перед тем, как включить принципиально новую функцию наблюдения в технологии, которая уже внедрена в сообществе?

Гарретт: На 100%. Я глубоко убеждён, что полицейские управления — это всего лишь одна из частей местного самоуправления, и у этих местных властей есть своя политика, причем у большинства из них политика касается не только наблюдения, но и бюджетный элемент тоже. Верно. И поэтому, когда я смотрю на это, я понимаю: система существует, и мы должны продолжать полагаться на наших местно избранных должностных лиц, чтобы идти на эти компромиссы ради безопасности сообщества.

Ричи: Хорошо. То есть, не желая вкладывать свои слова в ваши уста, всё выглядит так, будто вы «за». Если вы готовы поддержка это, это означало бы потенциальное обращение в городской совет перед внедрением новой функции, а не просто её развёртывание. Верно?

Гарретт: Вот как я об этом думаю. Если управление, если полицейское управление решает добавить функция, я также должен полагаться на то, что этот клиент понимает ценности своего сообщества, свою политика и свои процедуры. И, знаете, на данный момент у нас почти 7000 полицейских управлений и городов, с которыми мы работаем. Все они очень уникальны. Кливленд сильно отличается от Цинциннати или Толедо. И это мы ещё даже не выехали из Огайо. Переедьте в мой родной штат Джорджия, в Калифорнию или Вашингтон. Суть в том, что везде разные правила закупок. У них разная проверка политика, и всё это существует на сугубо местном уровне. Так что в целом, на 100%, я не думаю, что полицейские управления должны принимать какую-либо новую политика, удалить — будь то мои продукты или продукты моих конкурентов — или даже менять форму одежды без решения города о том, какой уровень проверки необходим в каждом отдельном городе.

Ричи: Было несколько случаев, когда полицейские якобы злоупотребляли Flock для преследования людей. Когда такое происходит, какую ответственность несёт сама компания Flock?

Гарретт: Любой уровень злоупотреблений превышающий ноль неприемлем, и меня от этого тошнит. Мы создали продукт, я основал компанию, чтобы сделать людей более защищёнными. У меня трое маленьких детей. Я считаю своей основной обязанностью как отца обеспечивать их безопасность. И когда я вижу, как отдельные люди принимают очень плохие решения и используют наши продукты не по назначению, это разочаровывает. И мы знали об этом риске девять лет назад. Вот почему мы создали журнал аудита. Знаете, если вернуться во времена до Flock, давайте поговорим об LPR. LPR существовала всегда. Там не было никакого хранение данных.

Ричи: Да.

Гарретт: Верно? Она продавалась на коммерческой основе. И до сих пор продаётся. Верно. Эвакуаторы хранилище ездят и продают коммерческие данные. И в этом не было никакой заложенной подотчётности. Так что для меня не сюрприз, что по мере того, как мы продвигаемся переслать. И теперь, когда мы добавили содействие в аудите, мы продолжим ещё сильнее давить на это. Я вижу нашу работу в том, чтобы создать продукт, который почти невозможно, настолько сложно использовать не по назначению. И мне кажется, это может звучать нетривиально, но я считаю отличным то, что вижу такое внимание СМИ. Потому что я хочу, чтобы офицеры знали: если вы попытаетесь использовать Flock, вы будете привлечены к ответственности, если попытаетесь использовать его ненадлежащим образом. А ведь есть и другие системы, о которых вы знаете, которые не отслеживаются. И я считаю, что это плохо.

Ричи: Похоже, вы принимаете это близко к сердцу. Так сколько контрактов с полицейскими управлениями Flock приостановила или расторгла из-за системных злоупотреблений? Из-за массовых злоупотреблений со стороны офицеров с использованием вашей системы?

Гарретт: Да, я думаю, это очень, очень интересный вопрос. И он интересен тем, что каждый день, например, я вижу минимум три, если не четыре истории успеха, когда похищенного ребёнка возвращают домой. Я вижу сотни и тысячи раскрываемых преступлений. Если бы я жил в городке с полицейским управлением, которое злоупотребляет Flock, последнее, чего бы я хотел, — это демонтировать систему, которая настолько эффективна для раскрытия преступлений. Поэтому злоупотребления, о которых вы говорите, чрезвычайно редки. Опять же, возвращаясь к моей мысли: всё, что больше нуля, неприемлемо. Но вы говорите о сотнях тысяч полицейских, которые используют Flock каждый день, при единицах или десятках тех, кто потенциально этим злоупотребляет. Я не думаю, что стоит привлекать к ответственности весь город из-за плохих решений единиц.

Ричи: Если судить по этому ответу, я бы сказал, что это число равно нулю.

Гарретт: Я не хочу искажать ответ, поэтому я и не ответил. Не хочу говорить вам одно, когда потом окажется…

Ричи: Хорошо. Справедливо. Зафиксируем это как исключительно редкий случай и пойдём дальше.

Ричи: Существует ли уровень злоупотреблений, при котором вы решите, что ведомство больше не должно получить доступ к вашей технологии? Существует ли какой-то порог?

Гарретт: Да. Полагаю, вы описываете событие, при котором, скажем так, всё полицейское управление признано виновным в злоупотреблениях — и, вероятно, не только с Flock, но и с чем-то ещё. В таких случаях есть федеральный процесс решения проблемы. Обычно вмешиваются федеральные власти или власти штата. И в подобных ситуациях вряд ли они сохранят Flock, потому что они, скорей всего, расформируют всё полицейское управление. Так что не думаю, что передо мной когда-либо встанет эта проблема или это решение.

Ричи: Понятно. То есть, опять же, подводя итог, порог должен быть исключительно высоким. Да?

Гарретт: Да. А вы как думаете? Мне правда интересно. Есть ли у вас точка зрения на то, когда технологическая компания должна…

Ричи: Моё мнение не имеет значения. Вы здесь генеральный директор. Я с удовольствием рассказал бы вам за бокалом пива. Вы говорите, что одна из мер защиты Flock — это местный контроль, но несколько городов в Калифорнии утверждают, что их данными успели поделиться со сторонними организациями, а иногда и с федеральным правительством без их разрешения. Как это согласуется с вашим заявлением о том, что клиенты контролируют свои данные?

Гарретт: Я не согласен с этими заявлениями.

Ричи: Хорошо, могу сказать вам, что я взял это из заявления города Маунтин-Вью, Калифорния. Они утверждают, что Flock позволил включить общенациональный искать для полицейских управлений без их разрешения, и федеральные агентства смогли получить доступ к данным. Аналогично, Южная Пасадена сослалась на непреднамеренный обмен данными как на причину, по которой они решили отменить контракт. Об одном случае сообщалось в The Guardian, другой был просто заявлением города. Вы…

Гарретт: Итак, клиенты контролируют свои данные, они контролируют, какие флажки выбрать. Если уж на то пошло, мы недооценили наше обязательство перед клиентами сделать так, чтобы им было невозможно совершить ошибку. Если взять, к примеру, Калифорнию, то в законах этого штата прописано, что данные LPR не должны покидать штат. Два года назад мы не считали своей задачей закрепить это в продукте. Теперь, услышав от клиентов, которые случайно нажали кнопку или кто-то нажал кнопку и сказал, мол, мы хотим включить национальный поиск, мы поняли, что сделали эту функцию слишком простой для них. И теперь в штатах Калифорния, Вашингтон и Виргиния, где существует очистить правовые нормы о том, что данные LPR не могут покидать штат, мы делаем это невозможным. Там нет даже флажка для выбора. И если уж на то пошло, Ричи, я бы описал это так: обязательства Flock в этой цепочка писем выросли. Я считаю нашу ответственность большей, вот почему я такой большой поклонник правовые нормы в целом. Потому что теперь в таком месте, как Вашингтон, есть законопроект, в котором говорится, как, по их мнению, должна работать LPR. И когда эти законопроекты хорошо написаны — не обязательно по сути, но с точки зрения правоприменения, — я считаю, что это здорово. Так что в таком месте, как Калифорния, мы изменили структуру системы так, что подобное просто невозможно.