YouTube 目前要求內容創作者，當他們使用 AI「顯著修改或生成逼真內容」時，必須告知觀眾。
然而，這項政策劃定了一些奇怪的界線。它適用於「AI 生成的音樂」（並非逼真），卻不適用於「騎著獨角獸穿越奇幻世界」（這可能是逼真的，儘管不切實際）。YouTube 隨後以另一種方式總結了這項政策：「逼真的 AI 內容和顯著修改需要揭露，而非逼真或輕微的編輯則不需要。」
但無需揭露的 AI 用途可以涵蓋從「發想」到「製作輔助」的一切，例如使用生成式 AI 工具來創建或改進影片大綱、腳本、縮圖、標題或資訊圖表。創作者可以自由地複製自己的聲音用於旁白。他們也可以在完全動畫的影片中使用「AI 生成或修改的飛彈動畫」。
這導致了一些奇怪的情境。一個驚心動魄的 10 秒影片，展示我騎著 AI 生成的駿馬穿越 Soylentius IV 的沼澤？無需揭露，即使整個影片都是 AI 生成的。但當我加入一首 AI 創作的魯特琴歌謠，講述我在那些沼澤中面臨的嚴重危險時？強制揭露。
當你想像一個 30 分鐘的影片，試圖影響人們對地緣政治的看法時，這個政策漏洞變得更具影響力。AI 可以生成前提、進行研究並撰寫大綱。我自己的 AI 複製聲音模型可以朗讀 AI 起草的腳本。我甚至可以使用 AI 生成的飛彈動畫。我必須揭露這個驅動整個專案的猖獗 AI 使用嗎？顯然不必。
但 AI 以這些方式提供幫助，會為專案賦予某種感覺和邏輯，即使最終結果並非完全「AI 生成」。人類在沒有 AI 的情況下處理主題，可能會透過截然不同的路徑尋找資料來源，他們可能需要閱讀和處理更多材料才能達到目的，這會給他們帶來不同類型的理解。
他們也可能會將截然不同的事物視為重要，從而為相同的材料創建不同的大綱。他們可能會在腳本中穿插 AI 通常不會建議的笑話或離題內容。而且他們可能會以更自然的方式朗讀腳本。
這並不是說 AI 是錯的，但這確實意味著 AI 輔助的作品會感覺不同。
我之所以思考這個問題，是因為著名的科學 YouTuber Hank Green 最近向粉絲道歉，承認他過度依賴 AI。Green 已經明確表示「我的話是我的」，而且他自己撰寫腳本。但在粉絲抱怨他的作品中感知到的 AI 影響後，Green 審視了他的流程，並得出結論，他們可能是對的。
Green 在 7 月 31 日的 Reddit 貼文中寫道：「我過度依賴 AI 作為研究輔助工具。」「它對於這項任務非常有用，讓我能非常快速地接觸到許多我不知道存在的論文，但我認為這對我的工作造成了損害，因為它沒有給我自由去找到所有我自己的方式來進入和理解一個主題。」
Green 的問題似乎是許多內容創作者感受到的生產壓力。他將這種壓力作為創作的豐碩動力，但他也透過「使用 AI 來定位論文和其他學習主題的資源」來應對。這種對效率的追求最終讓他「行動如此之快，以至於我自己的過程實際上對我來說並不清楚。」
Green 總結說：「製作更多東西並不能讓我製作出更好的東西。」他還表示，他仍然需要接受「我從與 LLM 互動中獲得的多巴胺水平……從做越來越多、越來越多的事情中獲得的多巴胺水平……對我或世界來說都不健康」的事實。
結果很可能是影片數量減少。
YouTube 的 AI 揭露政策和 Green 自己與這項技術的掙扎，闡明了同一個問題的不同面向：AI 何時支持人類的努力，又何時以重要的方式取代它？
YouTube 的主要關注點是徹底的欺騙。其政策要求，當影片顯示「真人似乎說或做了他們沒有做過的事情」或「實際並未發生的逼真場景」時，必須揭露 AI 使用。在這些情況下註明 AI 使用可以作為對更粗糙的假資訊形式的防範。
但 Green 的自我批判更為微妙。遠低於這種「逼真」欺騙的層面，廣泛的 AI 使用可以塑造創作的基礎：發想、研究和大綱。這與說 AI 使用是壞的或其結果不準確不同。它是說，即使所有 AI 輸出都是正確且製作精良的，它們仍然可能帶有從現在引導過程的機器繼承而來的風格和幾何。
過早，或過於輕易，地轉向 AI，可能會排擠掉不尋常的想法。AI 輔助的研究可能會提供答案，但不會帶來領域精通。而 AI 生成的大綱，無論是論文還是 YouTube 影片，都可能會在思緒有機會漫遊之前，將其鎖定在預設的軌道上，或許會因此錯失抵達更個人化境地的機會。
