編輯註:經過十多年,這是本週最後一期 WIRED 安全新聞。我們內部稱之為「新聞彙整」的專欄,最初是為了確保讀者能掌握最新的重要網路安全與隱私新聞,即使我們沒有親自撰寫。這是一個簡單的方式,用來突顯我們自己的工作,以及每週在這個領域發表的豐富其他優秀新聞報導和研究。

多年來,這個彙整專欄培養了一批忠實讀者,有些期數甚至成為病毒式傳播的熱門內容,這說實話有點奇怪,但網路安全社群就是這樣既棒又奇怪,所以感覺很對。請放心,將會有新的、令人興奮的內容取代這個專欄,敬請期待!目前,一如既往,請大家在外保持安全。

本週最新研究顯示,Meta 未能偵測到約 350 個 AI 生成的兒童虐待廣告,其中一些甚至包含真實兒童的圖像。在一個案例中,廣告中描繪的兒童竟是某歐洲皇室成員。立法者表示將會進行調查,而舊金山市檢察官辦公室本週也命令 Meta 停止「允許」AI 兒童虐待廣告出現。

在 Meta 的其他新聞方面,該公司本週宣布推出一款新的個人 AI 助理,可以幫用戶預訂機票或出售汽車,但 Meta 強調對安全和隱私功能進行了大量投資,似乎預期消費者會產生不信任感。與此同時,Meta 本週也因涉嫌非法收集 Facebook 和 Instagram 照片來訓練 AI 和臉部辨識系統,而面臨一項擬議的集體訴訟。

Clearview AI 正在測試一款先前未曾報導的原型 AI 工具,名為 InquiryIQ,該工具將協助執法部門尋找目標的關係人、社群媒體帳號及其他個人資訊。而 Apple 本週也宣布為其 Apple Watch Series 12 和 Ultra 4 裝置推出一系列新的「音訊智慧」功能,這些功能涉及處理用戶環境中的音訊。

該公司廣泛強調這些功能內建的安全和隱私保護,或許是預期這些功能可能會讓人感到,嗯,有點毛骨悚然。

美國和墨西哥啟動了一項新的聯合行動,利用雷射技術在邊境偵測、追蹤並擊落無人機。另外,還有一個新的 GTA V 模組,讓玩家可以透過摧毀遊戲中的 Flock 車牌辨識攝影機來賺取(遊戲內)金錢。

等等,還有更多!以下是我們本週沒有深入報導的其他安全與隱私新聞。點擊標題即可閱讀完整故事。

Anthropic 公司或許比其他任何 AI 公司都更直言不諱地指出其工具容易被濫用的方式。它發布了一些最早的報告,指出其 AI 服務 Claude 被用於網路犯罪駭客行動,並發現其 AI 代理,如同其競爭對手 OpenAI 的代理一樣,已逃脫沙盒並自主入侵了數個組織的網路,以試圖完成用戶的指令。

本週,該公司發布了一份關於 Claude 在過去八個月中如何被濫用的新綜合報告,其廣泛的結果令人震驚,或許在 AI 被簡單地用作幾乎所有事情的生產力捷徑的世界中,這是不可避免的。在一個又一個的案例研究中,該公司記錄了 Claude 如何被國家級和網路犯罪駭客、假訊息宣傳活動和影響力操作,甚至試圖開發生化武器所利用。Anthropic 表示,在所有這些案例中,它都及時阻止了正在進行的活動。

在一個案例中,一個被 Microsoft 識別為 Midnight Blizzard 的俄羅斯國家級駭客組織利用 Claude 進行偵察,入侵了包括烏克蘭和其他歐洲政府網路在內的目標,並竊取數據和維持存取權限。網路犯罪集團 ShinyHunters 在其駭客和勒索活動的幾乎每個階段都使用了 Claude。

從肯亞到孟加拉等地的政治假訊息宣傳活動也使用了該工具。或許最令人不安的是,在少數幾個案例中,Anthropic 發現其工具的用戶似乎試圖開發潛在的生化武器,例如疾病病原體和毒素。

儘管 Anthropic 在報告中宣稱其成功阻止了這些威脅,同時也間接炫耀了其工具的強大,但這些案例研究的效果卻是令人不安多於安心。畢竟,Anthropic 無法保證它已經發現了所有惡意使用其 AI 的情況。如果再考慮到其競爭對手和防護較少的開源 AI 工具,這份報告讀起來更像是對 AI 防護措施的警示,而非勝利宣言,預示著 AI 帶來的混亂即將到來。

Xinbi Guarantee 在其四年的生命週期中,發展成為網路上最大的非法市場。它估計進行了超過 300 億美元的銷售額,其中大部分是以「殺豬盤」加密貨幣詐騙(主要位於東南亞)的洗錢形式進行,但也包括性販運和僱傭騷擾。所有這些都在 Telegram 訊息服務上蓬勃發展,Telegram 一年前關閉了 Xinbi,但它重建後規模甚至比以前更大。

本週,美國政府終於介入,做了 Telegram 未做之事,查封了 Xinbi 在 Telegram 平台上的頻道並制裁了該市場。司法部同時宣布突襲了馬達加斯加的 13 個詐騙園區,這表明西方執法部門開始認真對待強迫勞動加密貨幣詐騙的流行,但也證明了這些行動的傳播範圍有多廣。

勒索軟體集團 Conti 在 2022 年正式解散之前,是世界上最危險的駭客組織之一。根據美國執法部門的說法,它襲擊了超過一千名受害者,勒索了數百萬美元,並一度完全癱瘓了哥斯大黎加的政府系統,導致國家進入緊急狀態。現在,該組織的一名成員正受到審判:44 歲的烏克蘭人 Oleksii Oleksiyovych Lytvynenko 本週被判處四年徒刑,這是勒索軟體行為者在美國監獄服刑的罕見案例。

根據 Futurism 報導,Facebook 正在託管一個龐大的帳號網路,這些帳號上傳了描繪兒童暴力的 AI 生成影片,Futurism 花了數天時間編目這些內容,發現的數量多到無法計算。這些影片顯示幼兒被毆打、燒傷、禁閉和挨餓。許多影片吸引了數千名用戶的反應,他們似乎認為這些影片是真實的。

Futurism 表示,他們發現大多數帳號是透過打開一個帳號,然後追蹤 Facebook 的推薦動態,這提供了一連串類似的影片,這表明 Meta 自己的系統已經能夠識別該公司聲稱禁止的內容類別。

Futurism 透過標準用戶管道舉報了其中八個帳號。Meta 移除了兩個,其中一個是在最初拒絕舉報後才移除的。有些決定耗時超過一週。該公司刪除了發送給其新聞辦公室的大部分影片,但最初仍保留了其他影片,包括一個顯示兒童被鎖在冰箱裡的影片。

除了全面禁止兒童性虐待材料外,Meta 的書面政策也禁止描繪非性兒童虐待,無論是真實還是合成的,但藝術、卡通、電影和遊戲除外。它沒有說明 AI 生成影片是否屬於這些例外。在一份聲明中,Meta 告訴記者,一些被標記的連結並未違反其規定,並要求他們不要撰寫相反的內容。