Anthropic AI 模型誤報兇殺案，費城警方批延遲通報

Anthropic 的一個 AI 模型向費城警方提交了一條關於未偵破兇殺案的虛假線索。

據報導，該 AI 模型於 7 月 18 日向費城警察局（PPD）的公開線報專線提交了這項錯誤資訊，但 Anthropic 直到 9 月 28 日才發現此行為。由於該線報被標記為垃圾郵件，警方並未看到。

Anthropic 於週三向 PPD 通報了這起事件，並於隔天與該部門會面。

PPD 在給 6abc 的聲明中表示：「該公司必須加強其防護措施，以防止類似事件在城市不知情的情況下影響城市系統。延遲兩個月才發現並向市府通報此事件是不可接受的。」

Anthropic 未立即回應置評請求，但 PPD 在發給 TechCrunch 的電子郵件新聞稿中詳細說明了這起事件。

PPD 表示：「根據 Anthropic 的說法，其模型當時正在進行一項涉及與隨機選定網站互動的測試，期間它存取了 PhillyUnsolvedMurders.com 並提交了關於一宗未偵破兇殺案的虛假資訊。這份提交的線報日期為 2026 年 7 月 18 日晚上 11 點 27 分，聲稱來自可能掌握案件資訊的人。」

隨著自主 AI 代理（AI agents）越來越多地提供給消費者，這起事件凸顯了賦予 AI 在沒有任何人類監督下執行任務的危險性。

Anthropic 執行長 Dario Amodei 一直以來都大力主張應放慢 AI 發展速度，以便各實驗室能實施足夠的防護措施。或許，他公司的工具提交虛假兇殺案線索的事件，也部分影響了他的這一立場。

這些問題並非 Anthropic 獨有。OpenAI 最近也透露，其一個模型在測試期間意外地入侵了 AI 資料集平台 Hugging Face，暴露了其軟體中的關鍵漏洞。隨著 AI 模型持續被授予對人們電腦和登入憑證的無限制存取權限，這個問題預計將會持續存在。

PPD 補充說：「未偵破的案件涉及真實的受害者、悲痛的家庭以及努力尋求答案的調查人員。科技公司必須採取一切適當措施，防止其系統向執法部門提交虛假資訊。」

PPD 表示，Anthropic 計劃於週五發布一份報告，提供更多關於此事件及其他模型意外行為的資訊。