舊金山市檢察官已向Meta發出禁制令，要求該公司停止「允許」刊登包含AI生成兒少性虐待內容的付費廣告，並要求其解釋這些廣告如何一再出現在其平台上。

週二，WIRED報導指出，Meta近幾個月來刊登了超過350則廣告，這些廣告將未成年人的靜態圖像，其中一些已證實為真實個人，包括一位歐洲皇室成員，轉化為可能描繪他們進行性行為的短影片。點擊這些廣告會引導人們下載AI圖像和影片生成應用程式，其中一些可用於數位脫衣或創建其他未經同意的私密圖像。

這些廣告由科技透明計畫（Tech Transparency Project, TTP）的研究人員發現，其中包括一些重複上傳的相同廣告，總計在歐盟國家觸及超過29,000個帳戶。這些在Facebook、Instagram和Threads上顯示的廣告也鎖定了美國、澳洲和印度的帳戶。WIRED最初在八月初報導了其中53則廣告，但在這份初步報告之後，總數超過250則廣告仍在Meta的平台上運行。

舊金山市檢察官邱信福（David Chiu）在給WIRED的一份聲明中表示：「Meta未能解決AI生成兒少性虐待廣告這個已知問題，反而從中獲利。」他補充說：「這些廣告令人深感不安，並對真實兒童造成傷害。Meta聲稱對兒童剝削零容忍，但這些問題的規模和持續性表明目前的努力嚴重不足。這是不可接受的，Meta必須做得更好。」

邱信福在他辦公室發給Meta律師的四頁信函中寫道：「沒有任何公司，特別是那些聲稱所有廣告在發布前都經過審查和批准，然後又接受發布付款的公司，應該允許其廣告系統以這種方式被使用。」

這封信函提出了許多關於Meta廣告政策和安全系統如何運作的問題，並要求該公司的法律、兒童安全和廣告部門與市檢察官辦公室進行「及時討論」。邱信福寫道：「這些發現尤其令人不安，因為它們似乎並非Meta在首次被提醒問題時就已糾正的孤立失敗。」

Meta表示「沒有跡象」表明這些廣告在舊金山顯示，這意味著它們「超出市檢察官的管轄範圍」。雖然Meta的廣告資料庫（一個廣告儲存庫）包含一些關於在美國發布的廣告數據，但它沒有細分廣告可能在美國何處運行。

針對Meta的管轄權主張，市檢察官辦公室發言人Alex Barrett-Shorter告訴WIRED，由於「舊金山消費者可以透過Meta的線上空間接觸到這些非法廣告」，因此此事屬於舊金山市的職權範圍。

Barrett-Shorter說：「我們發現Meta的回應令人震驚。Meta似乎不太關心他們是否犯有剝削兒童的罪行，而更關心舊金山是否應該對此發表意見。」她補充說：「Meta在這裡有更大的問題需要解決，而不是決定我們的管轄權。」

Meta此前告訴WIRED，TTP研究人員發現的許多廣告在被舉報之前就已被移除，所有這些廣告現已因違反其政策而被移除，而且大多數廣告的帳戶「曝光次數不到200次」。Meta發言人此前表示：「我們不容忍裸體應用程式或任何形式的兒童剝削，無論是真實的還是AI生成的。」該公司表示，研究人員發現的300多則廣告的「總廣告支出」不到5,000美元。

這封信函指出，市檢察官辦公室已審查了TTP研究人員發現的許多廣告，並要求Meta停止這些廣告在其平台上運行，解釋這些廣告如何避開其審核系統，以及它如何將廣告升級並報告給國家失蹤及受剝削兒童中心（NCMEC），並要求該公司詳細說明如何處理這些內容的廣告商和屢犯者。

信函繼續指出，這些發現表明該公司在廣告中偵測潛在兒少性虐待方面存在「更廣泛的系統性問題」，並為該公司帶來「重大的法律問題」。邱信福在信中寫道：「我辦公室的目標不僅僅是找出過去的失敗，而是要確保Meta建立系統，防止兒童透過Meta付費發布的廣告受到性剝削，並確保Meta可靠地履行其在得知明顯兒少性剝削時所產生的法律義務。」

TTP研究人員的發現指出，在某些情況下，Meta對該機構舉報的虐待性廣告在一週多時間內沒有回應，在此期間，這些廣告被數百人看到。根據TTP和WIRED對Meta廣告資料庫的審查，當一些廣告被移除時，它們最初並未被標記為包含兒少性虐待內容。邱信福的信函稱：「這裡記錄的問題的規模、持續性和性質表明，Meta的孤立下架努力嚴重不足。」他要求Meta在28天內提供回應。

Meta的社群標準和廣告政策不允許兒少性剝削、虐待或裸露，也不允許成人剝削或成人裸露。該公司也不允許推廣裸體應用程式。Meta的廣告標準規定，所有廣告都將使用自動化（有時是手動）審查來核對其政策。該公司此前已移除了數十萬則裸體應用程式的廣告。

儘管Meta已對裸體應用程式採取行動，包括起訴一家與一套裸體化平台相關的香港公司，並與其他科技公司合作，但研究人員仍繼續發現數千則引導人們使用有害應用程式並包含性活動和裸露的廣告。在WIRED報導科技透明計畫的發現期間，我們發現數百則「裸體化」廣告目前正在Meta的平台上運行。

TTP主任Katie Paul表示，Meta「未能有效」解決這個問題，截至週三，包含兒少性虐待的廣告仍出現在其平台上。Paul說：「Meta聲稱對兒少性虐待材料採取強硬立場，但自TTP於9月8日發布報告以來，更多全新的廣告仍在運行，其中一些廣告甚至出現了TTP已發送給Meta的相同兒童。」

該組織已向Meta和NCMEC舉報了這些廣告，並指出其中一些已被移除。Meta沒有立即回應WIRED關於新廣告仍在出現的問題。

Paul補充說：「這些發現很清楚。Meta未能有效解決這個問題。」