Anthropic 更新 Claude 使用政策：嚴防 AI 濫用，強化假訊息、武器與監控規範

Anthropic 每年都會更新其使用政策，以應對模型不斷演進的能力以及客戶的回饋。我們今天發布了新版政策，並在此文章中總結了所做的變更。

最新版本的大部分更新旨在澄清現有規則。自上次更新以來，Claude 已能執行更長、更獨立的工作。此次更新提供了新的範例，說明我們的規則如何應用於 Claude 的新功能。它也借鑒了我們在過去一年中觀察到的影響力操作、武器開發和監控方面的新型濫用模式（正如我們在最新的威脅情報報告中所記錄的）。

我們還更新了政策，以澄清在健康和金融等高風險使用案例中的要求，增加了當 Claude 用於自主執行實體動作時的控制措施，並解決了對我們模型進行濫用行為的問題。更新後的政策將於 11 月 12 日生效。完整的使用政策和支援地區政策可在各自頁面查閱。

正如我們上個月所寫，我們發現有國家媒體、政府宣傳機構和商業公司利用 Claude 經營假帳號網路和捏造新聞網站的案例。我們的政策已經禁止此類活動，但相關限制分散在選舉、詐欺、隱私和假訊息等章節中。

我們已將這些規則整合到一個名為「請勿從事欺騙性宣傳活動或人為活動」的新章節中，該章節適用於任何形式的欺騙性活動（無論是政治或商業目的）。它涵蓋了隱藏訊息發送者身份、透過假帳號或貼文放大內容，以及建立用於影響力操作活動的工具和基礎設施等行為。

我們在每個版本的使用政策中都完善了政治內容限制，以確保我們的模型能夠在民主進程中得到適當使用。在此版本中，我們進一步明確了關於選舉的章節，將其重點放在禁止使用 Claude 欺騙選民或擾亂選舉。例如，散布關於候選人或投票方式的虛假資訊、冒充候選人或選舉官員，或試圖壓低投票率等行為。我們已將其更名為「請勿破壞民主進程」，以反映其範圍。

基於類似原因，我們也取消了對個人化投票和競選目標設定的全面禁令。這項禁令涵蓋了合法的公民工作，例如非營利組織使用 Claude 為其他語言的選民撰寫資訊，或選舉官員發送選票補正通知。最初促成該規則的行為（例如依賴欺騙或濫用選民個人資料的選民目標設定）仍受我們的欺騙性宣傳活動、監控和隱私章節的禁止。

我們的使用政策一直禁止使用 Claude 開發武器。最近，我們發現有人試圖利用我們的模型來開發武器的導引和控制軟體。更新後的章節明確指出，我們的禁令包括使武器運作的軟體和組件，以及武裝無人機和其他自主載具等行為。這些變更反映了我們過去執行政策的方式。

我們九月的威脅情報報告記錄了 AI 在建立識別和追蹤政治異議人士的監控系統方面日益增長的使用。我們已重寫監控和刑事司法章節，更精確地說明我們禁止的內容。例如，未經同意追蹤他人是被禁止的，無論是即時追蹤還是透過分析先前收集的資料。Claude 不能用於在執法或刑事司法程序中決定或建議調查、逮捕或起訴誰。我們也禁止使用 Claude 建立或改進用於監控的工具。

與先前更新武器禁令一樣，這次更新並不代表我們實際執行方式的改變，它只是為了使我們的政策更加明確。新章節還闡明了哪些用途仍被允許，包括人們已同意的追蹤（例如詐欺監控）、內容審核、新聞報導和法律研究。

當我們的產品以可能影響個人健康、法律權利、財務、生計或基本服務取得的方式使用時，我們要求必須有合格的「人工審核員」（即有權審查並在必要時修改 Claude 建議的人員），並且必須告知受影響的個人已使用 AI。

這些要求並未隨更新版使用政策而改變。然而，使用者經常詢問我們特定使用案例是否適用這些要求，因此我們已重寫「高風險使用案例要求」章節，以更直接地回答這個問題。它現在列出了哪些類型的建議涵蓋在內，哪些則不涵蓋。

在我們的模型硬體標準發布之後，本章節還增加了當我們的模型連接到可執行自主實體動作且可能造成傷害的硬體時的使用要求。合格的操作員必須能夠觀察設備並在需要時停止它；如果 Claude 斷開連接，設備也必須能夠保持安全狀態。

我們新增了一項禁令，禁止對我們的模型進行持續且無意義的虐待或殘酷行為。此政策更新僅適用於極端情況，即使用者反覆對我們的模型表現出殘酷行為，且沒有明顯目的。它不適用於常見的使用者挫折、反駁、黑暗創意主題或模型測試與研究。

這項新增內容與我們已採取的一項措施相符，即允許 Claude 模型在 Claude.ai 和 Claude Code 上結束與持續虐待使用者的罕見對話。此類虐待是本次更新的主要重點；Claude 結束這些互動的能力仍將是主要的執行機制。

去年，我們更新了支援地區政策，以限制由總部設在我們不支援地區的實體所多數擁有的公司存取 Claude。我們已更新支援地區頁面，以澄清我們如何執行此政策。我們的政策禁止位於不支援地區的人員、在不支援地區註冊或總部的實體，以及由這些地區的人員或實體多數擁有或控制的實體使用 Claude。

隨著 Claude 的能力和風險不斷變化，我們將持續更新使用政策。與本次和之前的更新一樣，我們將尋求 Anthropic 內部、政策制定者、主題專家、公民社會以及產品使用者的意見。