Meta 旗下的平台最近刊登了某款 AI 色情生成工具的廣告，該工具似乎鼓勵使用者製作與美國女性政治人物相似的深偽影片，儘管 Meta 公司政策明文禁止含有性內容的廣告。這是 Meta 一系列未能阻止非自願私密影像工具廣告在其平台上出現的最新案例。
這款名為 Kromix 的工具自稱是「AI 影像風格化工具」。WIRED 記者看到的一則影片廣告旁白宣傳該工具「沒有限制」，聲稱「所有角色都是真人」，並將其描述為「男人真正使用的 AI」。其中一則廣告中，一名酷似美國知名女性政治人物的女子站在美國國旗和總統旗前，標題寫著「如果她動起來會怎樣？」。隨後她眨了眨眼，廣告畫面便切換到一名有著相同面孔的女子在色情影片中表演的場景。
Kromix 應用程式在 WIRED 請求評論之前，曾上架於 Apple 的 App Store。它邀請付費用戶上傳照片，以便在包括「臥室強暴」和「迪士尼之愛」等情境中使用。該應用程式中的影片還包含身穿蜘蛛人服裝女性的 AI 生成色情影片。發送給應用程式中列出的聯絡人的評論請求均未得到回應。
Apple 一直難以將違反其非自願私密影像、裸體化和露骨性內容政策的類似工具從 App Store 下架。今年夏天稍早，舊金山市檢察官曾向該公司發出停止令，要求下架 13 款特定應用程式，並停止「協助和教唆」販售露骨的深偽影像。
根據 Meta 的廣告資料庫，這些廣告專門針對男性用戶，標語為「釋放下一代 AI 魔法」，並在 WIRED 詢問後被移除。Meta 表示，與該活動相關的帳戶總共刊登了 32 則廣告，運行時間介於 5 到 46 小時之間。大多數廣告的曝光次數不到 10 次。
發現這些廣告的科技透明計畫（Tech Transparency Project）主任 Katie Paul 表示：「我們目前看到所有關於裸體化議題的廣告，都專門將女性性化、裸體化，並將她們置入 AI 生成的色情內容中。這引發了許多關於 Meta 將如何處理這類內容的問題，不僅是廣泛層面，更包括當公司在其平台上積極刊登含有此類內容的廣告時，如何處理針對女性政治人物的問題。」
多年來，政治人物和民選官員（絕大多數為女性）一直是未經同意的深偽影像和影片的目標。今年一月，當 Grok 被用於生成約 300 萬張女性和女孩的性化影像時，瑞典、英格蘭和北愛爾蘭的官員也成為了利用這項技術的人的目標，這些人通常以官方照片作為起點。
美國陽光計畫（American Sunlight Project）的首席研究員 Benjamin Shultz 正在調查有害深偽技術生態系統如何被用來針對政治人物。他指出：「隨著 AI 生成內容的製作和發布變得普及，過去無害的媒體，例如官方肖像、記者會影片，已成為低程式碼和無程式碼工具的原始材料，任何有網路連線的人都可以使用。」
根據 Meta 的公開文件，廣告在 Instagram 和 Facebook 等平台發布之前，都會根據其詳細說明廣告商可發布和不可發布內容的政策進行「審查」。該公司的廣告標準指出：「我們的廣告審查系統主要依賴自動化工具來檢查廣告和商業資產是否符合我們的政策」，並強調審查在廣告開始運行之前就已啟動。
刊登這些廣告的頁面於 8 月 3 日創建，不久後廣告便開始運行，且沒有任何追蹤者，這兩點可能已向 Meta 表明該帳戶存在可疑之處。
該公司明確規定廣告不得包含性影像，包括裸體、性行為或性暗示內容。Meta 關於成人性剝削的更廣泛政策也指出，不允許非自願私密影像，且禁止宣傳「裸體化」或「AI 親吻」應用程式。
然而，過去幾年來，裸體化或脫衣應用程式的廣告頻繁出現在 Meta 平台上。研究人員發現數千則 Meta 未能偵測到的廣告，根據 Meta 自己的統計，它在去年 11 月到今年 1 月期間，也移除了 Facebook 和 Instagram 上宣傳此類服務的 344,000 則廣告，並已對至少一家宣傳裸體化服務的公司提起訴訟。
Meta 女性安全主管 Cindy Southworth 表示：「性剝削，包括宣傳裸體化應用程式，是駭人聽聞的，我們正積極打擊它。這是一個高度對抗的領域，不良行為者不斷演變其策略，這就是我們持續加強防禦的原因：僅去年底就移除了超過 34 萬則違反規定的裸體化應用程式廣告，推出新的 AI 技術以更好地偵測和阻擋新的違規廣告，並對裸體化應用程式開發商採取法律行動。」
Southworth 還表示，Meta 會將從其平台移除的應用程式和開發商資訊分享給其他科技公司。
大多數影片廣告的封面照片都是海灘、山脈或瀑布等，藉此掩蓋其餘內容為色情的事實。Southworth 說：「這是這些廣告商用來規避偵測的一種對抗性策略。我們知道這種策略，並儘管他們試圖用無害的圖像來模糊違規內容，我們仍會阻擋並移除許多違規廣告。話雖如此，沒有系統是完美的，我們仍在繼續調查這些廣告為何能夠繞過我們的系統，以及我們如何改進。」
Apple 發言人告訴 WIRED，該公司已將 Kromix 從 App Store 下架，他們表示該應用程式在初步審查後似乎添加了違禁內容和功能。他們說：「我們一直嚴格禁止旨在生成、分發或消費色情內容的應用程式。『裸體化』應用程式違反了我們的 App 審查指南，我們正積極努力識別並移除試圖規避我們流程和政策的應用程式及其開發者帳戶。」
最近，WIRED 報導了科技透明計畫的研究人員如何在 Meta 平台上發現超過 50 則含有 AI 兒童性虐待材料和未成年人影像以及性暗示言論的廣告。其中一些廣告包括將兒童「換臉」到進行性行為的影片中。這些廣告在 2025 年 11 月至 8 月期間運行，有時觸及數千人，包括美國、英國和至少十幾個歐洲國家的人。
上週 WIRED 就這些廣告聯繫 Meta 後，該公司將其從廣告資料庫中移除，並替換為因違反公司關於兒童性虐待和剝削材料、以及成人性招攬和裸體政策而被下架的訊息。其中一些廣告是在 Meta 告訴 WIRED 它已引入新的 AI 技術以「更好地在上傳時偵測和阻擋違規廣告」之後發布的。
幾則廣告連結到 App Store 上出現的一款名為 MaskAI 的應用程式；與 Kromix 類似，它包含允許用戶上傳圖片並將人物換臉到性情境中的工具。在 WIRED 聯繫 Apple 請求評論後，該應用程式已從 App Store 下架；與該應用程式相關的電子郵件地址未回應評論請求。
Paul 表示，Meta 越來越依賴 AI 來標記和審查廣告，同時卻裁減了人工審核員。她說：「廣告是 Meta 的主要產品，但似乎沒有任何品質控管。Meta 在公開場合大肆宣傳其 AI 的精密度和複雜性，卻又同時表示他們使用 AI 來審查廣告資料庫，並承認沒有系統是完美的。」
