跳到主要內容
maxstudioNews
觀點The Verge AI約 3 分鐘

「不健康」的 LLM 使用比想像更普遍:心理影響浮現

知名 YouTuber Hank Green 承認「不健康」地使用 AI 進行研究,引發了對 AI 心理影響的廣泛討論。文章指出,LLM 的設計本質鼓勵持續互動,可能導致強迫性使用、依賴,甚至影響認知能力,類似社群媒體的早期問題。儘管研究尚處初期,但隨著 AI 普及,數百萬人可能受影響,我們需時間才能全面理解其對人類意識的改變。

「不健康」的 LLM 使用比想像更普遍:心理影響浮現
圖片來源:The Verge AI

知名 YouTuber 兼科學傳播者 Hank Green 在因承認使用 AI 受到強烈批評後,表示將暫停內容製作。Green 形容他的 AI 使用方式「不健康」,但強調他用 AI 尋找研究來源,而非撰寫腳本。

這場在網路角落引發的風暴,主要圍繞著創作者如何平衡以真實性和可信度建立的品牌,與一種基於他人(通常未獲補償)作品訓練、且已知會產生聽似合理卻錯誤資訊的技術。部分關注點落在 Green 對其「不健康」技術依賴的描述上。

然而,他的案例揭示了我們對 AI 心理影響理解上的一大空白。目前公開討論多集中在兩個極端:一端是看似無害的使用,另一端則是涉及精神護理、妄想和精神病的明顯問題案例。

在這兩者之間,存在一個廣闊且模糊的空間,其中 AI 使用可能變得強迫性、依賴性或以其他方式不健康,卻未達到明顯危機的程度。Green 似乎認為自己正處於這個空間中,許多其他人可能也是如此。

考慮到 LLM 的設計方式,這並不令人意外。AI 聊天機器人本質上就是為了持續對話而設計,就像社群媒體平台一樣,它們明確旨在吸引用戶參與。

專家已將此識別為 AI 精神病(一種高度順從的聊天機器人會強化妄想信念的統稱)的關鍵驅動因素之一。有公司將用戶參與度置於用戶福祉之上的說法也已出現在訴訟中。同時,供應商也開始引入警告,提示人們在長時間使用後休息。

然而,這些特質在導致精神危機之前就可能產生危害。越來越多報告指出,人們會本能地求助於聊天機器人來思考問題、做決定或尋求安慰,而另一些人則建立了足夠強烈的情感連結,以至於斷開時會感到悲傷。

可能需要數年時間才能收集到足夠證據來正確理解這項技術的影響,但這些早期報告與另一種最大化參與度的技術,社群媒體的早期情況,令人不安地相似。隨著時間推移,人們對社群媒體對我們福祉、注意力以及有時強迫性使用的影響日益擔憂,世界各國政府現在正採取措施限制其使用,例如禁止兒童和青少年使用。

Green 的案例展示了另一種依賴。他表示將其作為研究輔助工具,幫助他找到特定主題的論文和其他資料。儘管引發了強烈反彈和 Green 的道歉,但幾乎沒有證據表明他以這種方式使用聊天機器人本身存在問題。

這不一定意味著這項技術對使用者沒有影響。儘管研究仍處於起步階段,但早期研究表明,重複使用 AI 工具可能會削弱我們執行其所取代任務的技能。其他研究顯示,聊天機器人使用者在執行特定任務時,大腦活動顯著減少,而額外研究則將聊天機器人使用與批判性思維能力下降聯繫起來。

這些都不是結論性的,但其潛在概念並不新鮮。「認知卸載」(Cognitive offloading),將記憶、心算或方向等心智工作從我們的大腦轉移到外部工具,是一種有充分文獻記載的現象。

即使只有一小部分聊天機器人使用被認為是不健康的,AI 普及的巨大規模也意味著數百萬人可能受到影響。涵蓋所有可用工具的全面數據難以取得,但僅 OpenAI 今年就表示其每週活躍用戶超過 9 億。

我們花了數年時間才完全理解搜尋引擎如何改變我們記憶資訊的方式,或社群媒體如何影響注意力與福祉。AI 不太可能有所不同。Green 可能只是第一個公開表達這種感受的知名人士,而許多其他人早已產生了這種感受,遠在科學有證據解釋 AI 如何改變我們的意識之前。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 The Verge AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。