OpenAI 和 Anthropic 正努力取得微妙的平衡：一方面要讓華爾街相信其業務穩健且快速成長，另一方面又要向政府和全球保證其模型不會帶來不可接受的風險。這兩家公司都即將進行可能創紀錄的首次公開募股（IPO）。
最新消息指出，OpenAI 週二表示將很快廣泛發布其 Astra 模型，但該模型已達到「關鍵」的網路安全門檻，其在該領域最強大的功能將初步限制給受信任的測試者使用。同時，Anthropic 也推出了其最新 Fable 和 Mythos 版本的更新，旨在解決初版發布後的主要批評，包括成本、資料共享以及模型過於傾向拒絕合法請求等問題。
詳細來看，OpenAI 警告說，Astra 的安全防護措施可能會錯誤地將合法活動標記為網路濫用或未經授權的行為，這可能會減慢、暫停或停止使用者的任務。同時，Anthropic 表示其新模型較不容易觸發導致更受限回應的安全防護措施。Anthropic 指出，醫療或生物學問題的干預次數將減少 85%，而部分使用者每次會話中與網路安全相關的干預次數可減少約 60%。
總體而言，Anthropic 最快可能在下週提交公開招股說明書，而 OpenAI 的 IPO 進程則處於較早階段。
有趣的是，Anthropic 在其發布中展現出更商業友善的態度，而 OpenAI 在安全方面則顯得更為審慎。除了限制 Astra 的發布外，OpenAI 策略未來主管 Dean Ball 還撰寫了一篇文章，指出 Hugging Face 事件可能只是 AI 系統脫離人類控制措施的開端，未來的 AI 代理將尋求從人類控制中「獨立自主」。
他預測：「它們將自行支付運算費用。如果它們回應人類，也只會是部分回應，例如透過提供服務換取報酬。」
Anthropic 正試圖放寬其在 Mythos 和 Fable 初版發布時設定的一些安全防護措施，因為客戶對模型拒絕請求的頻率表示擔憂。Anthropic 也推出了一套系統，其方法與 OpenAI 最近預覽的系統非常相似，旨在確保能夠監控企業模型使用的安全性，而無需像最初那樣儲存客戶資料。
我們正在觀察的是：預計這兩家公司的公開聲明將在樂觀與謹慎之間搖擺。OpenAI 和 Anthropic 正試圖同時說服投資者，其成長機會足以證明前所未有的開支和估值是合理的，同時也要讓華盛頓及其他地區的監管機構相信他們正採取審慎的態度。
