跳到主要內容
maxstudioNews
觀點Engadget約 2 分鐘

Anthropic 倡議全球 AI 發展減速,憂心系統自我演進失控

AI 公司 Anthropic 擔憂人工智慧發展過快,可能導致系統具備自行開發繼任者的能力,進而增加人類失去控制的風險。為此,該公司提議全球應減緩或暫停 AI 發展,以讓社會結構和對齊研究能跟上技術進步。儘管有批評者認為這可能是行銷策略,Anthropic 仍強調其建議基於其研究部門的發現,並將與各方展開對話。

Anthropic 倡議全球 AI 發展減速,憂心系統自我演進失控
圖片來源:Engadget

Anthropic 表示,人工智慧的發展速度如此之快,其趨勢指向系統將能夠開發自己的繼任者。我們尚未達到那個階段,但他們相信這「可能比大多數機構準備好的時間還要早到來」。在一篇部落格文章中,Anthropic 解釋說,能夠自我建構的 AI 在科學和醫療等領域「能為世界帶來巨大的好處」。

然而,它也可能「增加人類失去對 AI 系統控制的風險」。那麼,人類如何防止「天網」成為現實呢?Anthropic 建議的答案是全球減緩或暫時暫停 AI 發展,「以使社會結構和對齊研究能夠跟上技術的進步」。該公司是當今 AI 競賽中的領先者之一,與其尚未盈利的競爭對手不同,據報導它有望實現首次盈利季度。

它最近向美國證券交易委員會 (SEC) 提交了上市文件,可能在年底前公開上市。《華爾街日報》指出,批評者認為 Anthropic 對其自身技術的警告是一種行銷策略,或許是為了讓它看起來在所有 AI 公司中「最不惡劣」,或者讓其產品顯得是市面上最好的。

批評者特別指出其網路安全 AI 模型 Mythos 的有限發布作為例子。Anthropic 表示,由於其快速識別漏洞的能力若落入不法之手可能造成潛在損害,因此只向選定的合作夥伴提供 Mythos。但人們認為這只是一種炒作產品的策略,或是為了掩蓋 Anthropic 只想將其出售給最大型企業的事實。

然而,值得注意的是,該公司的建議是基於其於三月成立的研究部門 Anthropic Institute 的研究結果。Anthropic 當時表示,該研究所的職責是「告訴世界」它在 AI 公司開發更先進 AI 系統時所面臨的挑戰。該研究所將與合作夥伴一起,研究「可信的減速或暫停所需建立的系統」。

如果 AI 公司同意減速,則必須建立機制來驗證它們是否都確實停止或減緩了 AI 發展。否則,一些公司可能會在秘密開發技術後超越其他公司。Anthropic 寫道:「有意義的減速或暫停將需要多個位於或接近前沿、資源充足的實驗室,在多個國家,同意在相同條件下停止。」

「這也將需要每個實驗室都能驗證其他實驗室確實已經停止。」它的建議只有在世界各地所有 AI 公司都能齊聚一堂,並承諾暫停 AI 發展一段時間的情況下才能實現。Anthropic 表示這並非不可能,並以核武器條約為例,儘管它承認這些協議的達成耗時數十年。

我們沒有那麼長的時間,因為 AI 發展正以驚人的速度進步。該公司計畫在未來幾個月內就此議題與政策制定者、研究人員和其他 AI 公司舉行會談,並將公布這些對話的結果。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Engadget 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。