對對於伊朗一所學校遭到飛彈襲擊的調查,揭露了美國軍方目標選定基礎設施的嚴重漏洞。而人工智慧(AI)原本被寄予厚望,能彌補這些缺陷。

根據《洛杉磯時報》報導,情報分析師的一份備註被忽略,加上各系統之間無法互通,是調查人員在追查伊朗一所學校遭飛彈襲擊事件時發現的兩大主要失誤。這起二月底的襲擊造成約 120 名兒童死亡。據先前報導,這次襲擊發生在一場戰爭中,美國軍方首次大規模使用 AI 進行目標選擇;其中 Anthropic 的 Claude 模型被整合到 Palantir 的 Maven Smart System 中,並在第一天就建議了約 1,000 個目標。

在這次襲擊發生數年前,一名分析師注意到伊朗東南部米納卜市某地點的變化。美國先前將該建築物歸類為伊朗海軍軍事設施,但當時它已變成一所小學。

根據《洛杉磯時報》報導,這名分析師在 2019 年使用數位情報工具標記了這些變化,但關鍵問題在於該工具並未與美國軍方用於制定打擊目標的官方目標資料庫連結。這項資訊從未傳達給指揮官。該建築物曾被多次審查,但沒有人更新資料庫。根據《紐約時報》的報導,當時使用的影像資料已經是七年前的了。

《洛杉磯時報》指出,至少有兩個情報資料庫從未與權威的目標資料庫連結。在敘利亞,2010 年代中期的目標資料有時已是 10 或 20 年前的舊資料。核心是一個名為 MIDB 的資料庫,它建於 1980 年代,至今仍高度依賴人工輸入。該資料庫本應被名為 MARS 的自動化系統取代,但過渡期已延遲數年。美國政府問責局早在 2020 年就指出了該系統長期存在的缺陷。

這種老舊的基礎設施與其他領域 AI 的發展速度形成鮮明對比。《華爾街日報》的一份報告指出,戰爭初期被擊中的目標數量超過 3,000 個,並警告說對致命決策進行人工審查的監督機制資金不足。即便如此,美國調查人員當時就認為美軍可能對學校襲擊負責,而《洛杉磯時報》的報告現在以具體的技術故障來支持這一結論。

《洛杉磯時報》報導,一些目標選定專家希望透過連結數位系統並導入更多 AI,能減少未來的錯誤。例如,自動化地與 Google Maps 等公共服務進行交叉比對,可以標記異常情況供人工審查。五角大廈在報告發布後也朝著這個方向發展,推出了一項代理式 AI 計畫。

當彭博社聯繫負責監督 MIDB 和 MARS 的國防情報局時,該機構並未直接回應這些缺陷或延遲的過渡問題。一位發言人僅籠統地指出,指定分析師會進行徹底的分析。

五角大廈自己的 AI 先驅也敲響了警鐘。根據美國目前的目標選定原則,軍事指揮官決定是否優先打擊某個目標,他們必須區分軍事目標與民用物體。此外,還有一個可選的「目標審查」(target vetting)程序,用於檢查基礎情報的準確性。一名前高級情報官員告訴《洛杉磯時報》,在新的戰役第一天進行打擊時,指揮官跳過這一步是不可想像的。

美國中央司令部(Centcom)在對伊朗的行動前審查了目標,但是否啟動了可選的審查程序仍不清楚。

報告中最尖銳的批評來自一個引人注目的來源。退役空軍三星上將 Jack Shanahan 是 2018 年成立的聯合人工智慧中心(Joint Artificial Intelligence Center)的首任主任。在此之前,他曾領導 AI 計畫 Project Maven。

這使他成為美國軍方採用 AI 的主要推動者之一,而現在美軍正依賴著這個 Maven 系統。當時,Shanahan 預測 AI 將在中美之間任何潛在衝突中扮演核心角色,並在 20 年內,演算法將相互競爭。

Shanahan 告訴《洛杉磯時報》,指揮部未能驗證情報準確性是沒有藉口的。他形容目標選定本身是一個垂死的職業領域,在軍方專注於反恐的二十年間逐漸萎縮。他說,早在 2017 年,他幾乎找不到人來擔任這些職位。