跳到主要內容
maxstudioNews
觀點Axios約 2 分鐘

AI 新殖民主義:數據掠奪與文化偏見

人工智慧模型主要基於西方數據訓練,導致對原住民和有色人種的刻板印象和文化細微差異的抹殺。批評者認為,這種未經同意的數據採集是一種「新殖民主義」,AI 公司從邊緣群體獲利,卻忽略了他們的文化多樣性。這些系統不僅傳播錯誤資訊,更深遠地影響人們對文化、歷史和身份的理解。

AI 新殖民主義:數據掠奪與文化偏見
圖片來源:Axios

隨著人工智慧改變了世界獲取資訊的方式,一些批評者指出,它正在延續刻板印象,並抹殺原住民和有色人種的文化細微差異。重要性:大多數主流模型都是以西方作家(尤其是白人男性)的作品進行訓練,並經常模仿其價值觀、寫作風格、觀點和偏見。一些批評者認為,這種數據掠奪是一種「新殖民主義」,資訊採集取代了帝國時代的土地掠奪,而人工智慧公司(而非征服國家)則從邊緣群體中獲取利潤。

從這些群體收集數據通常未經他們同意,也未經任何資訊準確性的驗證。他們怎麼說:「殖民主義總是描繪成過去發生的事情……許多國家獲得獨立後,教科書就說『殖民主義結束了』。」研究人類勞動與數據生產關係的耶魯大學教授 Julian Posada 告訴 Axios。

Posada 表示,現代殖民主義仍然存在,但人們往往未能意識到。背景:大多數大型語言模型(LLM)是由「WEIRD」(西方、受教育、工業化、富裕、民主)社會所開發,並從主要源自北美和歐洲的社群媒體、網站、新聞檔案和數位化資料中提取數據。這些訓練材料導致 LLM 根據西方對文化傳統或價值觀的假設編造細節,儘管大型科技公司努力用更多元化的觀點和數據來訓練它們,這些錯誤依然存在。

舉例來說:康乃爾大學教授 Aditya Vashistha 告訴 Axios,AI 模型經常會說所有印度食物都是「濃郁、芳香且辛辣的」,但有些並非如此,這抹平了印度菜餚的多樣性。「你會發現不同的地方菜系,它們所使用的香料或用量都有所不同。」

宏觀來看:獲取數據本身就是一種「深度殖民行為」,《數據掠奪:大型科技公司的新殖民主義以及如何反擊》一書的合著者 Nick Couldry 告訴 Axios。「說『嗯,它就在那裡。我們可以拿走它。』這就是殖民主義的本質,只是拿走一切。」「我們不僅可以拿走它,而且應該拿走它,我們有權拿走它並從中獲取我們想要的一切,榨取盡可能多的利潤。」

微觀來看:大型科技公司追求快速發展和創造利潤的推動,加劇了這個問題,Pikwàkanagàn 第一民族的亞岡昆人、皇后大學研究員 Michael Sherbert 告訴 Axios。「許多美國 AI 公司都試圖超越中國公司,對吧?花時間與原住民社區討論問題和知識成本很高。

這需要大量時間,可能會讓他們落後。」kama.ai 創辦人、安大略省 Chapleau Cree 第一民族成員 Brian Ritchie 告訴 Axios,他曾多次參加原住民領袖峰會,但個人從未「看到原住民參與」AI 訓練的歷史。值得注意的是:許多原住民傳統未被 AI 納入考量,因為它們是透過口述歷史而非 LLM 可以獲取的書面文字傳承下來的。

Sherbert 表示,其他知識則是有意地被保密。總結:「問題不僅僅是錯誤資訊」Sherbert 說。「這些系統,即 LLM 提供的答案,正日益塑造人們如何理解自己、文化、歷史、身份,甚至什麼是真實和合法的。」深入探討:AI 偏見的持續問題。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Axios 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。