當人工智慧圖像生成器創造出一幅肖像時，究竟是誰的作品貢獻了它？這個問題是全球訴訟、授權協議和擬議法規的核心。藝術家要求署名，公司尋求明確性，政策制定者則希望找到一種歸屬責任的方法。

麻省理工學院電腦科學與人工智慧實驗室（CSAIL）研究團隊的新研究指出，對於在大型資料集上訓練的模型而言，這個問題往往沒有答案。這並非因為尋找工具不足，而是連接本身已經消失。

科學家們發現了一種他們稱之為「歸因衰減」（attribution decay）的現象：生成模型訓練的資料越多，任何單一訓練範例對特定輸出的重要性就越低。這感覺違反直覺，但他們發現，在足夠大的規模下，你通常可以從訓練資料中移除任何單一圖像，或移除某位藝術家的所有圖像，甚至移除某個特定人物的所有照片，而生成的樣本卻不會改變。

研究人員認為，如果移除某物卻沒有任何改變，那麼就不能說它對任何事物負責。「如果你移除一塊資料，模型的輸出沒有改變，那麼這塊資料就沒有影響輸出。」前麻省理工 CSAIL 研究員兼該論文主要作者鄭戴（Zheng Dai）表示。

他補充道：「因此，將輸出歸因於那塊資料沒有太大意義。如果你對其他每一塊資料都這樣做，發現輸出也沒有改變，那麼將輸出歸因於其中任何一塊資料都沒有太大意義。」

麻省理工學院教授兼 CSAIL 首席研究員 David Gifford 表示：「所有先前的方法都是近似的。它們無法絕對證明刪除個別項目不會改變輸出。這篇論文介紹了第一個絕對的方法。你實際上是刪除了輸入並刪除了輸入的所有影響。這是第一個有效且大規模刪除並證明結果不變的精確方法。」

鄭戴和 Gifford 的研究專案已於今日發表在《自然通訊》（Nature Communications）期刊上，並以開放取用論文形式提供。

直接測試這個想法意味著要回答一個「如果…會怎樣」的問題：如果這個模型從未見過這張特定圖像，它會產生什麼？誠實地回答這個問題，意味著要從頭開始重新訓練模型，不包含那張圖像，然後再對下一張圖像重複這個過程。由於有數百萬個訓練範例，計算量很快變得難以承受，這也是為什麼歸因領域的先前研究都依賴於估計訓練範例影響的近似方法，而不是實際移除它。

他們的解決方案是自行建構的一種架構，稱為「擴散集成」（diffusion ensemble）。它不是一個單一的龐大模型，而是由許多較小的組件組成，每個組件都在不同的資料片段上進行訓練。想知道模型在沒有特定圖像的情況下會做什麼？只需關閉看到該圖像的組件即可。無需重新訓練，也無需近似。剩下的就是一個真實的反事實模型，而不是一個估計值。

當然，一個巧妙的架構只有在它仍然能作為生成器運作時才有意義。因此，團隊將這些集成模型與 24 個在完全相同資料上訓練的傳統擴散模型進行了比較。結果顯示，生成的圖像在標準衡量下表現得同樣出色。

數據中一個令人驚喜的發現是：訓練資料越多，集成模型與單一模型對比的表現越好，這暗示它們實際上可能更具資料效率。「當資料量較少時，它們的表現非常差。」鄭戴說。

他補充：「但如果你有更多的資料，它實際上比普通的擴散模型擴展得更好。」

隨著消融（ablation）技術的運作，研究人員終於能夠大規模地提出他們的問題。取一張生成的圖像，然後想像它的每一個替代版本，每個版本都是透過移除不同的訓練資料片段而產生。團隊將此稱為圖像的「反事實宇宙」（counterfactual universe）。

原始圖像與其最不同的替代版本之間的距離，即「反事實半徑」（counterfactual radius），捕捉了任何單一訓練資料可能產生的最大影響。

他們在從 256 張圖像到超過 16 萬張圖像的資料集上訓練了 24 個集成模型，這些資料來自 CIFAR-10、CelebA、MetFaces 和 ArtBench 等七個公共集合。模式是一致的：訓練集越大，半徑越小，並沿著反冪定律（inverse power law）縮小。無論是逐像素測量還是透過語義意義測量差異，這種趨勢都具有統計學意義。

團隊也對他們的結果進行了壓力測試。或許消融本身就是罪魁禍首？他們在小規模下以暴力破解法（brute-force way）重新進行實驗，訓練了 1,282 個獨立模型，結果衰減現象仍然出現。或許更大的資料集只是讓每次移除的比例變小？他們固定了移除的比例，現象依然存在。固定的訓練週期、文字提示模型、類別條件模型、四種相似性指標，這項發現經受住了所有考驗。

這項研究的影響出乎研究人員自己的意料。Gifford 認為這項發現直接關係到模型輸出是否為衍生作品的法律問題。

「一種思考方式是，這些模型是具有創造性的。它們不僅僅是複製所輸入的內容，而是創造全新的輸出。如果這些輸出與任何單一訓練資料沒有關係，那麼這就引發了關於合理使用、輸出本身是否可作為原創作品受版權保護，以及當模型產生的內容無法歸因於網路上任何事物時，作者如何獲得報酬的問題。」

Gifford 也指出，這項工作展示了如何產生保證無法歸因的輸出，他將這種能力視為業界的義務，而非漏洞。「為了讓這些公司聲稱其輸出不是以侵犯版權的方式衍生自網路，他們需要修改其模型以利用這項工作的進展，這樣他們才能證明他們沒有創造個別人物或物品的衍生品。」

這項工作著眼於擴散模型，該模型目前在生成影音媒體方面佔主導地位，並廣泛應用於蛋白質結構建模和治療發現等科學領域。同樣的衰減現象是否適用於目前版權訴訟焦點的大型語言模型，仍是一個懸而未決的問題。

康乃爾大學法學院和康乃爾科技學院的法學教授 James Grimmelmann 表示：「如果歸因有效，它將可靠地告訴我們模型輸出與受版權保護作品之間的相似性是源於複製還是巧合。但這篇論文提供了理由，讓人們認為歸因對於有趣的模型將會失敗。相反，技術人員和法院將需要訴諸其他方法來評估複製行為。」

鄭戴和 Gifford 的研究工作得到了 Schmidt Futures 的支持。