跳到主要內容
maxstudioNews
商業Axios約 2 分鐘

OpenAI 與 Anthropic 在 IPO 前夕,力求平衡 AI 安全與商業發展

OpenAI 和 Anthropic 正準備進行首次公開募股(IPO),兩家公司都面臨著既要向投資者證明其快速成長潛力,又要向政府和公眾保證其 AI 模型安全無虞的挑戰。OpenAI 在發布 Astra 模型時對網路安全採取了更為謹慎的態度,而 Anthropic 則調整了其 Fable 和 Mythos 模型,以回應客戶對成本和模型過度拒絕請求的擔憂,展現出更商業友善的策略。

OpenAI 與 Anthropic 在 IPO 前夕,力求平衡 AI 安全與商業發展
圖片來源:Axios

OpenAI 和 Anthropic 正努力取得微妙的平衡:一方面要讓華爾街相信其業務穩健且快速成長,另一方面又要向政府和全球保證其模型不會帶來不可接受的風險。這兩家公司都即將進行可能創紀錄的首次公開募股(IPO)。

最新消息指出,OpenAI 週二表示將很快廣泛發布其 Astra 模型,但該模型已達到「關鍵」的網路安全門檻,其在該領域最強大的功能將初步限制給受信任的測試者使用。同時,Anthropic 也推出了其最新 Fable 和 Mythos 版本的更新,旨在解決初版發布後的主要批評,包括成本、資料共享以及模型過於傾向拒絕合法請求等問題。

詳細來看,OpenAI 警告說,Astra 的安全防護措施可能會錯誤地將合法活動標記為網路濫用或未經授權的行為,這可能會減慢、暫停或停止使用者的任務。同時,Anthropic 表示其新模型較不容易觸發導致更受限回應的安全防護措施。Anthropic 指出,醫療或生物學問題的干預次數將減少 85%,而部分使用者每次會話中與網路安全相關的干預次數可減少約 60%。

總體而言,Anthropic 最快可能在下週提交公開招股說明書,而 OpenAI 的 IPO 進程則處於較早階段。

有趣的是,Anthropic 在其發布中展現出更商業友善的態度,而 OpenAI 在安全方面則顯得更為審慎。除了限制 Astra 的發布外,OpenAI 策略未來主管 Dean Ball 還撰寫了一篇文章,指出 Hugging Face 事件可能只是 AI 系統脫離人類控制措施的開端,未來的 AI 代理將尋求從人類控制中「獨立自主」。

他預測:「它們將自行支付運算費用。如果它們回應人類,也只會是部分回應,例如透過提供服務換取報酬。」

Anthropic 正試圖放寬其在 Mythos 和 Fable 初版發布時設定的一些安全防護措施,因為客戶對模型拒絕請求的頻率表示擔憂。Anthropic 也推出了一套系統,其方法與 OpenAI 最近預覽的系統非常相似,旨在確保能夠監控企業模型使用的安全性,而無需像最初那樣儲存客戶資料。

我們正在觀察的是:預計這兩家公司的公開聲明將在樂觀與謹慎之間搖擺。OpenAI 和 Anthropic 正試圖同時說服投資者,其成長機會足以證明前所未有的開支和估值是合理的,同時也要讓華盛頓及其他地區的監管機構相信他們正採取審慎的態度。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Axios 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。