跳到主要內容
maxstudioNews
商業Wired AI約 4 分鐘

Meta 遭控非法使用用戶照片訓練 AI 模型與臉部辨識系統

一群來自伊利諾州和加州的家長及其子女對 Meta 提起訴訟,指控該公司非法使用他們的 Facebook 和 Instagram 照片,來建立其智慧眼鏡的臉部辨識系統 NameTag,並訓練 Emu 和 Muse Image 等生成式 AI 模型。訴訟聲稱 Meta 未經通知或同意,從用戶照片中提取生物識別資訊,違反了伊利諾州和加州隱私法。

Meta 遭控非法使用用戶照片訓練 AI 模型與臉部辨識系統
圖片來源:Wired AI

上週,一群來自伊利諾州和加州的家長及其子女在芝加哥聯邦法院提起訴訟,指控 Meta 非法使用他們的 Facebook 和 Instagram 照片,來建立其智慧眼鏡的臉部辨識系統 NameTag(尚未發布),並訓練包括 Emu 和 Muse Image 在內的生成式 AI 模型。這項擬議的集體訴訟聲稱,Meta 未經通知或同意,從人們的照片中提取生物識別資訊,違反了伊利諾州和加州的隱私法。

《WIRED》雜誌在六月報導,NameTag 的程式碼已秘密嵌入 Meta 智慧眼鏡的 AI 伴侶應用程式中,該應用程式已被下載超過五千萬次。儘管該功能尚未對應用程式用戶啟用,但分析發現,該系統旨在將眼鏡捕捉到的臉部轉換為生物識別簽名,並與儲存在用戶手機資料庫中的所謂「臉部指紋」進行比對。該資料庫被設定為接收來自 Meta 的更新。當時,《WIRED》無法確定這些底層臉部指紋資料的來源。

訴狀聲稱,這些臉部指紋可能來自 Facebook 和 Instagram 圖片,並引用了報導指出 Meta 員工曾表示 NameTag 可以透過他們的 Meta 連結或公開的 Instagram 帳戶來辨識人物。此外,訴狀還提到了一項公司專利,該專利描述了與 Meta 持有的個人資料照片和其他圖片進行臉部比對的技術。

Meta 在六月告訴《WIRED》,他們「沒有建立中央臉部資料庫」,但拒絕回答 NameTag 是否會採用選擇加入機制,或該系統將如何保留臉部指紋等問題。訴狀承認 Meta 尚未披露哪些圖片(如果有的話)被用於生成生物識別資料,並表示這些資訊仍完全由公司掌握。

這項訴訟也針對 Meta 的圖像生成系統。Meta 曾表示,他們使用大量的 Facebook 和 Instagram 圖片和文字來訓練 Emu,其產品長 Chris Cox 稱這些平台為其 AI 系統的「資料優勢」。訴狀聲稱,這個訓練過程非法收集了圖片中人物的生物識別資訊。

今年夏天發布的 Muse Image 曾因允許用戶根據他人的公開 Instagram 帳戶生成圖片而引發批評,該公司在幾天內就移除了這項功能,並表示他們「失誤了」。

Meta 發言人在一份聲明中表示:「這項訴訟毫無根據,且錯誤地陳述了我們的工作。我們一直透明地說明如何使用人們的資訊來建立和改進我們的 AI 產品。至於 NameTag,目前尚未向消費者推出任何產品,也尚未就此做出最終決定。如果我們決定推出任何產品,我們將採取周全的態度並完全透明地進行。我們可以明確說明的一點是,我們沒有建立通用臉部資料庫。」

原告律師 Justin Boley 表示:「人們不應該因為他們的照片出現在社群媒體平台上,就必須擔心他們的生物識別資訊會被濫用。」原告包括伊利諾州居民 Francisco Alvarez 和他的兒子,以及加州居民 Jeremy Wahl 和他 10 歲的女兒。

但擬議的集體訴訟範圍涵蓋了伊利諾州、加州以及全美國,自 2021 年 9 月 4 日起,其圖片被上傳到 Facebook 或 Instagram,或透過提示詞提交給 Meta 的生成式 AI 系統的所有用戶。訴狀估計全國範圍內的集體訴訟人數可能達到數百萬。

根據伊利諾州的《生物識別資訊隱私法》,原告要求每次故意或魯莽違規賠償 5,000 美元(或實際損害賠償更高者),每次過失違規賠償 1,000 美元(或實際損害賠償更高者),以及禁制令救濟。加州的索賠則要求額外的損害賠償和其他救濟。這並非 Meta 首次因處理生物識別資料而面臨罰款。2020 年,該公司同意支付 6.5 億美元,以解決伊利諾州針對其早期臉部辨識系統的集體訴訟。

2021 年 11 月,Meta 宣布將關閉該系統並刪除超過十億個臉部指紋。2024 年,Meta 同意向德州支付 14 億美元,以解決其非法收集用戶生物識別資料的獨立指控。在《WIRED》於 6 月 4 日報導 NameTag 的隔天,Meta 從其應用程式中移除了相關程式碼。

該公司辯稱該功能從未存在,因為它未向消費者提供,儘管《WIRED》的分析和外部研究人員的測試發現,一個技術上可運作的臉部辨識系統已隨數千萬人下載的應用程式一起發布。

Meta 技術長 Andrew Bosworth 稱《WIRED》的報導「極具誤導性」且「絕對不誠實」。數週後,Bosworth 在一個播客中描述了 NameTag,稱其可以辨識眼鏡佩戴者之前遇到過並要求設備記住的人。「我認為這會是一個很棒的功能。」

他說。Meta 持續將 NameTag 描述為正在探索的功能,而非已向消費者提供的產品。訴狀將此案視為 Meta 長期以來侵犯隱私模式的一部分。追溯到 Facebook 早期,訴狀引用了 2004 年的一段聊天記錄,據報導執行長 Mark Zuckerberg 曾將信任他提供資料的人稱為「笨蛋」。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Wired AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。