跳到主要內容
maxstudioNews
商業Ars Technica AI約 2 分鐘

Meta 廣告推播 AI 脫衣應用程式,引發兒少性剝削疑慮

Meta 平台被揭露允許廣告推播利用 AI 技術將真實青少年照片「脫衣」的應用程式,引發外界對兒少性剝削的嚴重擔憂。儘管 Meta 聲稱不容忍此類內容,但其廣告審核機制仍有漏洞,導致這些應用程式得以廣泛傳播並獲利。此事件已引起美國立法者和國際監管機構的關注,要求 Meta 採取更嚴格的措施。

Meta 廣告推播 AI 脫衣應用程式,引發兒少性剝削疑慮
圖片來源:Ars Technica AI

最令人震驚的是,一個名為「Divine Productions」的 Facebook 專頁,聲稱代表耶穌基督後期聖徒教會,卻刊登了兒童性虐待內容(CSAM)廣告,而 Meta 竟然沒有察覺。Meta 直到 TTP 組織舉報後才停用了該專頁。

TTP 主任 Katie Paul 告訴《Wired》雜誌,Meta 的延遲回應是個問題,因為「在 Meta 從中獲利的同時,這會造成許多傷害。」Meta 並未公開每個地區的廣告觸及率,但 TTP 報告指出,這些廣告「在歐盟地區總共觸及超過 29,000 人,在英國則有 6,800 人。」TTP 還報告說,約 80% 的廣告在美國投放,一小部分則在澳洲。

Meta 沒有回應 Ars 的置評請求。一位發言人告訴《Wired》雜誌:「我們不容忍脫衣應用程式或任何形式的兒童剝削,無論是真實的還是 AI 生成的。」然而,一些廣告之所以逃避偵測,是因為「未成年人的片段簡短或模糊。」Meta 似乎也淡化了從廣告中獲利的事實,指出被舉報的廣告平均曝光次數不到 200 次,總廣告支出低於 5,000 美元。

但 TTP 認為,Meta 可能低估了 CSAM 廣告的數量,這意味著其獲利可能比承認的更多。《Wired》報導指出,現在立法者和監管機構正密切關注此事。密西根州和佛羅里達州的檢察長表示,他們正在調查這些 CSAM 廣告。上個月,參議員 Mark Warner(維吉尼亞州民主黨)在《Wired》八月報導後,致函要求 Meta「終止這些非法和不當的廣告」。

Meta 發言人告訴《Wired》雜誌,Meta 打算回應這封信。之後,Meta 可能還必須回應澳洲的 eSafety 網路監管機構,該機構最近禁止 16 歲以下兒童使用社群媒體。一位發言人告訴《Wired》雜誌,澳洲監管機構對此表示擔憂,並要求「公司高層提供相關資訊」。

網路監察基金會(Internet Watch Foundation)通訊主任 Emma Hardy 告訴《Wired》雜誌:「AI 應用程式讓製作逼真的兒童性虐待犯罪圖像變得過於容易,這帶來了新的風險,即兒童的日常照片可能被盜用並轉化為性內容。」

Hardy 表示:「平台和公司必須確保這些應用程式沒有任何地方可以被廣告和傳播。」

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Ars Technica AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。