Flock Safety 最新的搜尋工具讓警方能以多種方式透過攝影機尋找特定人物，而不僅限於車牌。這些功能包含在一套軟體中，目前已成為數十起警方跟蹤案件的核心。WIRED 收集並分析了該軟體，並模擬了警員與系統互動時所看到的介面。

這些工具中包含一個 AI 驅動的監控名單。警員可以劃定城市中的一個區域，讓該區域內的攝影機持續自動搜尋符合文字描述的任何人。

過去一年，Flock 的技術面臨強烈反彈。全國各地的警察部門取消了合約，曾批准 Flock 的市議會也悄悄投票將攝影機撤除。在德州一名副警長為追查一名墮胎婦女而搜尋了超過 83,000 個攝影機後，兩位國會議員致函執行長 Garrett Langley。此外，伊利諾州發現該公司允許聯邦移民局探員存取州級攝影機資料，違反了州法律。

Flock 在八月提出了一系列變革，包括縮短資料預設保留期限、每次搜尋都需案件代碼，並增加自動稽核以捕捉警員濫用工具的行為。Flock 表示所有這些措施將在年底前強制實施。WIRED 審查了這些承諾所依據的程式碼，但許多控制搜尋的機制發生在 Flock 的伺服器上。關鍵分析發現，Flock 的防護措施或許能阻止部分濫用行為，並會記錄下來，但無法完全阻止。

研究自動篩選和警用科技的專家表示，Flock 賦予其 AI 一項任何技術都無法可靠完成的任務。Flock 的系統在使用者部門不知情的情況下，決定警員可以搜尋哪些人物描述，而專家指出，如此大規模運作的篩選系統不可能準確。此外，除了該公司之外，沒有人能衡量其錯誤的頻率或方向。這讓使用者陷入困境：公司本身警告警員結果可能不準確或不完整，不應單獨依賴，但卻將「任何不準確的風險」轉嫁給執行搜尋的警員。

專家認為，其中一些決策比其他決策更難以辯護。Flock 的系統會根據多個敏感內容類別（包括種族、宗教以及「政治、社會和文化表達」）對警員的文字描述進行評分，而「政治、社會和文化表達」是唯一不會停止搜尋的類別。

民主與科技中心安全監控專案的政策顧問 Tom Bowman 表示，Flock 唯一以「減速帶」而非「停止」來防護的敏感類別，恰恰是法院最嚴格保護的領域。他指出，政治和文化表達是美國憲法第一修正案下「最受保護的領域之一」，而這「似乎是警方最不關心的部分」。

WIRED 向 Flock 發送了其所有發現的詳細描述以及 16 個問題。該公司以書面聲明回應，稱其搜尋工具旨在幫助警方找到相關資訊，「同時對技術的使用方式保持明確的保障」。聲明指出，查詢會根據其內容政策進行評估。然而，聲明並未描述其 AI 模型是如何建立的、其運作指令為何，或者如何區分不同的判斷結果。

資料是雙向流動的。當軟體標記某次搜尋時，它會將警員使用的語言、模型分配的類別和信賴分數，以及警員接下來的動作（無論是繼續、駁回還是質疑警告）發送給 Flock。Flock 的聲明並未說明這些記錄會保留多久、公司內部誰可以查看，以及這些記錄是否用於評估或改進審核系統。

Flock 的介面包含多種工具，每種工具的運作方式都不同。例如，使用文字搜尋圖像的功能會產生一個統計排名，顯示哪些影像最符合文字描述。攝影機捕捉到的每個圖像都以一組描述其內容的數字儲存，輸入搜尋框的任何描述也以相同方式轉換為數字。然後，模型會比較兩者，將最接近的影像排在最前面。任何可能影響排名的因素，額外的篩選器、閾值或提供給 Flock 模型的指令，都保留在公司伺服器上，不對外公開。

一項名為「智慧排序」（Smart Sort）的功能允許警員批准或拒絕每個返回的圖像。少數幾次投票就能重新排列排名，將與已批准圖像相似的影像移至頂部。工具提示會詢問：「結果太多？對幾個結果進行投票以快速精煉。」

警員搜尋車輛時，可以從顏色、車身類型、品牌、型號以及車頂架和保險桿貼紙等功能選單中選擇；相比之下，人物搜尋不包含任何篩選，只接受文字描述。系統提供的一個範例是：「穿著手術服的人」。Flock 將這種自然語言搜尋稱為 FreeForm，並表示已銷售多年。404 Media 在七月報導，警員正在使用 FreeForm 搜尋穿著和紋身描述的人物。

Flock 表示，標準車輛搜尋和 FreeForm 是獨立的功能，標準搜尋基於定義的車輛屬性運行，而 FreeForm 則基於自然語言描述。該公司表示，在錄影攝影機上，FreeForm 搜尋「衣著、顏色、物體或其他與案件相關的細節」。在車牌攝影機上，它僅限於車輛，完全無法搜尋人物屬性。

WIRED 使用自訂軟體收集了 Flock 在使用者登入前發送到其瀏覽器的檔案，這些程式碼規定了警員可以執行哪些搜尋、他們會看到哪些控制和警告，以及一個結果如何成為下一個結果的基礎。實際的搜尋結果、攝影機畫面或部門設定，以及回應警方提示的 AI 模型，都無法在公司伺服器上取得。

WIRED 收集的程式碼包含了 Flock 的使用者介面，並顯示了它發出的網路呼叫及其預期的回應。它顯示，目前各部門可以配置該工具進行某些搜尋，而無需理由或與實際調查相關的案件編號，並且可以關閉標記可疑使用的自動化系統；Flock 表示這些控制將在年底前強制實施。

Flock 表示，搜尋活動會記錄在稽核日誌中，並且必要的搜尋限制適用於其所有搜尋工具。該公司並未說明其伺服器上的任何機制是否會阻止未經理由或案件編號提交的搜尋。

根據《華盛頓郵報》報導，至少有 50 名美國警員最近被指控或被控濫用車牌辨識系統，原因與警務工作無關。其中 46 起案件涉及 Flock。超過一半的案件中，被指控的目標是妻子、女友、前伴侶、前伴侶的新男友，或警員想認識的女性。

警方資料庫如何被濫用的細節屢次出現在警員不當行為的報告中：一名密爾瓦基警員搜尋他約會的女性 124 次，搜尋她的前伴侶 55 次，並將每次搜尋都記錄為「調查」。一名喬治亞州警察局長搜尋他的前女友和她的女兒 600 次，被起訴後於五個月後自殺。

一名堪薩斯州局長（從未被起訴）搜尋他的前任 164 次，搜尋她的男友 64 次，並因此丟失了警徽。一名北卡羅來納州警員搜尋她男友的前妻 31 次，其中 29 次記錄為交通違規。

警方濫用調查工具並非新鮮事。2016 年美聯社的一項調查發現，警員對前任和他們認為有吸引力的人進行資料庫搜尋，2013 年至 2015 年間，州機構和全國數十個最大部門的警務人員因此被解僱、停職或被迫辭職超過 325 次。WIRED 在 2023 年報導，自 2016 年以來，移民與海關執法局的員工和承包商至少被調查了 414 次，原因是濫用敏感政府資料庫，今年還發現了數百起針對海關與邊境保護局員工的更多指控，其中包括警員查詢資料庫以追蹤他們想約會的女性、監控家庭成員和追蹤同事的手機。

Flock 軟體中的兩個通知系統是針對人類設計的。其中一個是基於警方搜尋查詢的監控名單。它根據警員自己的文字描述運行：警員在地圖上畫一個形狀，警報會針對該區域內的所有攝影機運行，任何被模型判定為匹配的人都會觸發通知。警報的頻率可以調整。

另一個名為「人員偵測警報」（People Detection Alert）則完全不需要描述。警員在單一攝影機的視野範圍內畫一個方框，例如一個門口、一段人行道，當有人進入該區域時就會收到通知。一個人就足以觸發它。該軟體不接受低於 75% 確定性（即攝影機所見為人）的警報設定。

Flock 在四月描述了其審核系統，稱其旨在確保「內建」憲法第一修正案的保護。WIRED 重建的程式碼顯示，Flock 伺服器上的 AI 模型在對儲存的影像進行比對之前，會根據八個敏感內容類別對警員的人物描述進行評分，然後返回三種判斷結果之一：允許、阻止或警告。該模型依賴於信賴分數來做出判斷。由於模型在 Flock 的伺服器上運行，部門永遠看不到該分數。他們只會收到制式警告或阻止訊息。

被阻止的搜尋類別包括種族或民族、宗教、國籍、「主觀或帶有偏見的術語」以及「冒犯性內容」，程式碼將後者描述為性內容、暗示、冒犯性詞語和短語以及誹謗。在車輛模式下，該工具會阻止任何使用與人物相關的術語，包括性別、衣著和行為的搜尋。

宗教和國籍是唯一兩個以兩種方式編寫的類別，既有阻止的措辭，也有允許警員繼續的警告措辭。政治、社會和文化表達僅以警告形式出現。Flock 告訴 WIRED，警員不能使用包括宗教和國籍在內的禁用屬性進行搜尋，並且嘗試搜尋禁用術語「將被阻止」。當被問及在哪些情況下這兩個類別會產生警告而非阻止時，該公司沒有說明。

當 T 恤或保險桿貼紙因其文字包含「受憲法保護的言論」而觸發警告時，警員會被告知該搜尋將被記錄，並且管理員將收到通知。警員必須勾選確認框並留下評論，然後才能點擊「無論如何繼續搜尋」。

Flock 表示，該警告為合法工作留下了空間，並舉例說明受害者描述一名穿著「帶有特定幫派標誌或徽章（包含旗幟或其他標誌）的幫派夾克」的嫌疑人。繼續搜尋的警員將被報告給其部門的管理員進行審查。民主與科技中心言論自由專案主任 Kate Ruane 多年來一直在研究自動審核系統的運作方式。

她表示，政治、社會和文化表達是一個「極其模糊的類別」，警員搜尋中包含此類語言的一個原因可能是為了查看誰參加了抗議活動。這種情況已經發生過。她指出，這個類別足以讓 Flock 的系統返回警告，「但你仍然可以得到結果」。