跳到主要內容
maxstudioNews
產品Cursor Forum (Showcase)約 1 分鐘

本地二進位AI記憶引擎Remenis,大幅降低91% Token消耗

Remenis 是一個開源的本地優先 AI 記憶引擎,旨在解決 AI 代理在處理大量資料時的 token 消耗問題。它透過將向量緩衝區和狀態負載序列化為高密度二進位檔案,成功將 token 消耗降低 91%,並大幅提升序列化速度。此引擎完全本地運行,無需雲端依賴,並支援多種主流 AI 框架。

本地二進位AI記憶引擎Remenis,大幅降低91% Token消耗
圖片來源:Cursor Forum (Showcase)

我開發了 remenis-memory,因為我厭倦了 AI 代理在臃腫的 JSON 負載和未加密的雲端字串中浪費大量的 token。

Remenis 是一個開源的本地優先 AI 記憶引擎,由 LSER(本地狀態壓縮引擎)驅動。它不是在代理迴圈之間來回傳輸原始文字或未壓縮的 JSON,而是將原始的 float32 向量緩衝區和狀態負載直接序列化成一個超高密度的 .rmns 二進位檔案,該檔案由 SQLite-Vec 和 zlib level-9 壓縮技術支援。

根據基準測試(針對 1,024 維度的多代理負載):上下文視窗消耗從 128k token 降至 11,420 token;序列化速度從 12.4 毫秒縮短至 0.8 毫秒(每秒處理超過 1,000 個狀態)。Token 減少了 91.07%,且沒有任何位元損失;此外,它完全沒有雲端依賴,可在您的機器上 100% 本地運行。

它提供對 LangChain、CrewAI、AutoGen、LlamaIndex 和 Semantic Kernel 的原生零開銷轉接器,開箱即用;此外,還為 Cursor 和 Claude Desktop 提供了 Model Context Protocol (MCP) 伺服器包裝器。

您現在就可以安裝它:pip install remenis-memory。專案儲存庫和基準測試資訊請見連結(歡迎工程師們針對二進位序列化方法提供回饋!)。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Cursor Forum (Showcase) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。