跳到主要內容
maxstudioNews
觀點Ars Technica AI約 2 分鐘

Google Earth AI 假圖工具引發信任危機,緊急下架止血

Google Earth 曾推出一項 AI 圖像生成功能,允許用戶創造修改過的衛星影像,但此功能因可能被用於生成有害內容並破壞 Google Earth 的公信力而緊急下架。儘管 Google 的 SynthID 數位浮水印技術能追蹤 AI 影像,但專家質疑其在影像經過多重轉傳後的有效性,並擔憂此工具恐助長假訊息傳播。Google 表示未來可能在加強防護措施後重新推出此功能。

Google Earth AI 假圖工具引發信任危機,緊急下架止血
圖片來源:Ars Technica AI

Ars Technica 先前對 Google 的 SynthID 系統進行測試,結果顯示 Google 的數位浮水印即使在影像經過大量編輯和資料遺失後仍能保留。然而,Ars 也發現 SynthID 每天的影像檢查次數限制約為 10 次。

在 Google 移除 Google Earth 的 AI 功能之前,Ars 曾要求 Google 的 Gemini 應用程式對幾張在 Google Earth 內生成的 AI 修改影像進行 SynthID 檢查。Gemini 回應稱「已偵測到數位浮水印,表明此影像部分或全部是使用 Google AI 工具生成或編輯的」。

但 Ess 質疑,Google 防止生成有害主題 AI 影像的政策,為何未能阻止他描繪諸如加薩醫院被炸彈炸出彈坑的場景。他也對主要依賴 Google 的 SynthID 浮水印系統和 Google AI 工具來驗證影像是否由 AI 生成表示懷疑。

Ess 寫道:「假影像不會以完整憑證的乾淨檔案形式傳播。」「它們會以螢幕錄影、重新編碼、螢幕截圖的截圖,或是匆忙用手機拍攝的形式流傳。」

事實上,當 Ars 使用智慧型手機相機拍攝一張透過 Google Earth 功能製作的 AI 修改影像時,Google 的 SynthID 無法提供任何影像驗證。

破壞信任

Ess 表示,Google 將 AI 影像生成器作為 Google Earth 的一項功能推出,恐危及大眾對 Google Earth 作為提供真實世界影像可靠參考的信任。這也可能為政府官員或任何想否認真實衛星照片的人,提供額外藉口,聲稱這些照片是經過 AI 工具修改或完全生成的。

讓任何人都能輕易使用工具來創建 AI 修改的衛星影像,也可能使記者和研究人員在查核錯誤資訊和假訊息時變得更加困難。Ess 建議使用多個來源來驗證衛星影像,並依賴歐洲 Copernicus Sentinel-2 等持續更新的衛星影像來源。

Google 決定迅速移除 Google Earth 內的 AI 工具,可能緩解了眼前的擔憂,但其聲明暗示該公司未來仍可能重新推出這項功能。

Google 的聲明指出:「我們看到地理空間專業人士將此功能用於一系列有益的用途,然而我們也發現有人分享的生成影像截圖似乎違反了我們的政策。」「因此,我們正在 Google Earth 中撤回此功能,同時努力實施更強大的防護措施。」

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Ars Technica AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。