Flock 的監控攝影機早已引發眾怒。WIRED 重建了其下一代 AI 系統，該系統已被部分警方使用，證實其功能遠不止追蹤車牌。

車輛監控巨頭 Flock Safety 多年來一直向公眾宣稱其技術「無法識別、辨識或追蹤個人」。然而，WIRED 獲悉，該公司現已開發出一套能同時執行這兩項任務的系統，這是一款專為警方設計的人工智慧工具，僅憑車輛的移動模式即可識別駕駛並追蹤車輛。

這項工具利用遍布 6,000 多個社區的攝影機網路，記錄駕駛的移動軌跡。它能根據車輛在某個社區的通行頻率找出潛在證人，或從共同經過的攝影機畫面中找出駕駛的「關係人」。

由於該系統還能存取警方案件檔案、911 報案紀錄和商業身份資料，這些車牌資訊可以轉換為姓名、住家地址和親屬關係。它甚至能僅憑物理描述，在地圖上劃定的區域內搜尋特定人物。

這款軟體最初名為 Nightshift，最近更名為 OS Investigate，內建 69 個預設提示詞，警員可以選擇、審閱或編輯後提交給 AI。警員也能自行輸入提示詞。

WIRED 在 Flock 自己的網站上發現了超過 450 個檔案的快取，這些檔案透過其登入頁面提供給任何載入它們的人，其中包含了這些建議的提示詞。該程式碼描述了 AI 可使用的 45 種工具，賦予它存取車牌掃描資料、攝影機中繼資料、逮捕紀錄、案件檔案、派遣紀錄、彈道分析結果，以及包含社會安全碼、出生日期、電話號碼、電子郵件地址、親屬和關係人等資訊的商業資料庫。

Flock 表示，他們正在與一小部分執法夥伴測試這款產品，並稱其仍在開發中，最終銷售的功能可能與目前有所不同。

該公司目前面臨兩黨的政治壓力，警員濫用其平台的紀錄不斷增加，以及全國各地城市出現攝影機被鋸斷或鏡頭被塗漆的破壞浪潮。

隱私和法律專家指出，Flock 的工具已經引發嚴重的憲法疑慮，因為它賦予警方廣泛且通常無需搜查令即可存取大量個人移動紀錄的權限。

然而，WIRED 審查的提示詞更進一步，將一個用於尋找已知車輛的工具，轉變為一個根據駕駛地點和頻率來懷疑駕駛的工具，無論他們是否因犯罪而被通緝。

Flock 的業務建立在一個簡單的交易模式上：攝影機拍攝經過的車輛，將車牌轉換為文字，然後與警方正在尋找的車輛清單進行比對。不在清單上的車輛會被記錄下來，但通常會被忽略。

然而，OS Investigate 的預載提示詞描述了這種模式的顛覆。警員不再需要車牌、姓名或犯罪行為即可開始調查。他們只需提供地點、時間範圍和行為模式，系統就會回報符合條件的人員。

所有 69 個提示詞都以預設搜尋選單的形式提供給警員。選擇其中一個會將其貼到聊天框中，警員可以在點擊提交前進行審閱或編輯。

Flock 預載到系統中的一個提示詞寫道：「根據過去 14 天內在 [社區] [每日時間範圍] 內最常出現的車輛，找出目擊者。（*不包括白名單車輛）。」警員會填寫空白處並提交。輸出結果是一份車牌清單，產品中的其他工具隨後會將其轉換為姓名和住家地址。

另一個提示詞指示系統列出兩年內因「任何罪行」（僅毒品相關逮捕除外）被捕超過兩次的所有人，然後繪製這些人的居住地圖，檢索他們住家附近的報案紀錄，並「對前三名個人進行背景調查」。這個提示詞從該地區所有有逮捕紀錄的人開始，最終提供由軟體選出的三個人的檔案。

在 Flock 的術語中，「背景調查」（workup）是一項一鍵式背景檢查。它以姓名和出生日期開始，然後回傳部門紀錄和商業資料中包含的資訊：車輛、先前的嫌疑人紀錄，以及在第二個螢幕上顯示親屬、電話號碼和線上帳戶。

其中 19 個提示詞描述的是尋找模式，而非查詢紀錄。有 14 個提示詞不需要車牌、姓名或描述。警員只需提供地點、時間範圍和行為模式。

其中一組請求是尋找在三天內造訪城市中三個或更多零售地點、或在一週內造訪多家銀行、或在午夜至凌晨 5 點之間造訪多家加油站的車輛。這五個請求都沒有指定目標或事件。

這些搜尋背後的工具帶有一個篩選器，會排除巴士、半掛卡車、工作廂型車和拖車，因此造訪五家商店的送貨司機將會從清單中移除，而進行相同路線的普通駕駛則會保留。

相同類型的搜尋也適用於城市間的旅行：例如在一週內從一個城市前往另一個城市並返回的車輛、在 14 天內多次往返的車輛，或依序經過三個區域的車輛。

Flock 沒有回應關於該產品的一系列問題，也沒有反駁我們報導中描述的功能。相反地，發言人 Paris Lewbel 在一份聲明中將 OS Investigate 定義為獨立於 Flock 車牌辨識技術的產品，旨在幫助調查人員整合其機構已有的資訊。他表示，該工具的功能和工作流程在廣泛發布之前可能會發生重大變化。

在警方如何使用和濫用其攝影機的爭議日益加劇之際，Flock 長期以來的立場是其技術記錄的是車牌而非駕駛。其公開信任頁面告訴客戶，其技術是為特定、基於案件的調查而建，而非「監控人員」。

然而，為 WIRED 審查這款 AI 工具的專家表示，這些保證很難與他們在程式碼中發現的內容相符。

美國公民自由聯盟 (ACLU) 言論、隱私與科技計畫資深政策分析師 Jay Stanley 表示：「我認為大多數人想像車牌辨識器是在檢查車牌，並查看車輛是否被通緝。如果沒有，警方就會放行。」

他補充說：「但我們越來越看到 Flock 大規模部署 AI。在某些方面，就像中國一樣，能做什麼和正在做什麼之間幾乎沒有區別。」

舉例來說，其中一個功能是輸入一個車牌，要求系統繪製該車及其「前三名關係人」的行駛軌跡。程式碼明確描述了排名機制：它預設計算其他車牌在目標車輛出現的兩分鐘內，在相同攝影機處出現的頻率。

任何在「信心閾值」（預設為 0.75）內與目標車輛同時出現三次或更多次的車輛都會被回報。警員只需提供一輛車，軟體就能找出多達 20 輛相關車輛。

有線索嗎？您是現任或前任警員、政府官員或 Flock Safety 員工，想談談這家公司嗎？我們很樂意聽取您的意見。請使用非工作手機或電腦，透過 Signal 安全地聯繫記者：dmehro.89 和 dell.3030。

羅德島州波塔基特市前警員 Noel Pichardo 在擔任警員期間曾參與 Flock 技術的試點計畫並審閱了 WIRED 的提示詞，他表示：「我不知道該怎麼說，但這聽起來完全是瘋狂的。」

他補充道：「我不知道有誰能反駁 Flock 確實追蹤人員的說法。」

Pichardo 在 2024 年羅德島州議員面前公開反對這項技術，此前幾週他因在當地報紙上批評 Flock 和部門領導層而受到 30 天停職處分。幾天後，州警察局長協會公開譴責他。

隨後進行的調查和紀律處分，他認為是報復行為，並在部門準備解僱他時辭職。

加州某執法機構的一名偵探，因未獲授權公開發言而匿名受訪，他認為 OS Investigate 是他們部門會使用的工具。他表示，Flock 已經為他們解決了許多車輛竊盜案件，而且警員們多年來一直使用類似的技術。

他說：「我不知道有這款 AI 產品，但這不會改變我的看法。我們會使用任何可用的工具來解決犯罪。這沒有爭議。」

這位偵探表示，尋找目擊者的提示詞讓他有些不安，但他補充道：「作為執法部門，我們需要使用所有可用的工具，儘管『削減警察預算』的人會說什麼。」

WIRED 透過檢查 Flock 從其登入入口網站提供的程式碼來分析該軟體。載入這些頁面會回傳通常只有在警察用戶登入後才會出現的螢幕使用者介面，讓記者無需實際存取即可重建部分已驗證的應用程式、其提示詞、搜尋欄位、工具和控制項。

這些檔案似乎包含了從頭重建介面所需的一切。

在警員執行搜尋之前，軟體可以要求提供理由。程式碼顯示，預設情況下，警員必須輸入搜尋原因；然而，該表格似乎對原因的內容或長度沒有任何要求。

如果部門還要求提供案件編號，表格只會檢查其是否包含至少三個字元。WIRED 無法確定 Flock 在資訊提交後是否在其伺服器上應用額外的檢查。

WIRED 與 Buchodi 分享了其發現，Buchodi 是一位匿名獨立安全與隱私研究員，他已投入十多年時間逆向工程消費軟體和監控技術。Buchodi 單獨檢查了 Flock 的程式碼，並重現了分析的關鍵部分。

WIRED 審查的程式碼中固定記載了 Flock 提供的工具、它們顯然可以存取的資料，以及 Flock 為警方編寫的建議提示詞。然而，該程式碼無法顯示系統在實際使用中的行為。

它不包含給模型本身的任何指令，也未揭示 Flock 的伺服器在收到請求後會做什麼、回傳什麼，或者是否拒絕任何指令。

Flock 公開對這款工具鮮少提及，但其執行長 Garrett Langley 曾將其比作一位犯罪分析師，用他的話來說，這位分析師「永遠清醒，永遠為你守望」。

去年在丹佛為警察局長們進行的演示中，Langley 描述了在不到一分鐘的時間內，搜尋城市中所有攝影機，找出跟蹤運鈔車的車輛，並調出這些車輛的註冊車主並檢查其逮捕紀錄的能力。

他表示，嘗試過的調查人員會「上癮」。

Langley 在亞特蘭大創立了這家公司，他的第一台攝影機只是一個裝在防水盒裡的手機，如今每月記錄 200 億次車牌掃描。Andreessen Horowitz、Founders Fund 和其他創投公司已向這家公司投入大量資金，其最新一輪融資估值達到 75 億美元。

該公司最初的標語是「第一個消除犯罪的公共安全作業系統」；Langley 最近告訴《浮華世界》，如果其攝影機部署在 Savannah Guthrie 母親 Nancy Guthrie 失蹤的地點，Flock 就能解決她的失蹤案。

Flock 大約有 14 萬月活躍用戶。在公司位於亞特蘭大的新總部，一台塗成金色的攝影機上佈滿簽名，紀念著早期每增加 100 萬美元收入就用一台新攝影機做標記的儀式。

Langley 最近告訴《浮華世界》：「現在我們每天的收入更像是 100 萬美元。」

喬治華盛頓大學法學教授 Andrew Guthrie Ferguson 表示，像這樣的系統是不可避免的。