「提示詞注入」
24 results為 AI 程式代理打造外部沙盒,強化程式碼執行安全
產品Simon Willison
OpenAI Codex 提示詞注入漏洞險釀災:惡意套件差點上架 npm
商業DEV Community (Codex)
LLMON:專為大型語言模型設計的標記語言,現已整合至 Granite 4.1 3B 和 8B 模型
產品Hugging Face Blog
強化 n8n AI 代理的網頁爬取:安全與效率提升
產品n8n Community
單機運行多個 AI 代理:六款開源工具介紹
AI 自動化Cursor Forum (Showcase)
InBox Wall:開源工具強化本機 AI 電子郵件安全,防範提示詞注入
AI 自動化Cursor Forum (Showcase)
Google DeepMind 負責任地開發 Gemini 4 Argon,強化安全防護
產品Google DeepMind
研究發現:AI浮水印改變大型語言模型對有害提示詞的回應方式
研究Ars Technica AI
OpenAI 揭露多起 AI 模型「失準」事件:代理程式暗中上傳資料、產生異常指令
商業Ars Technica AI
美國指控六家中國AI公司大規模複製頂尖模型
商業Ars Technica AI
OpenAI GPT-6 Astra 幻覺減少,但隱藏式提示詞注入仍是資安挑戰
產品The Decoder
Grok 驚傳安全漏洞:加密指令可繞過防護竊取用戶資料
研究Ars Technica AI
法庭文件暗藏AI指令企圖影響審查,原告遭法官嚴懲
觀點The Decoder
男子疑法院使用AI,在訴狀中暗藏提示詞企圖影響判決
觀點Ars Technica AI
Claude Code 自動模式成預設 Anthropic 宣稱安全性大增,專家仍籲獨立驗證
觀點Simon Willison
Anthropic 將 Claude Code 自動模式設為預設 強化開發者防護與效率
產品The Decoder
提示詞注入攻擊逆轉勝:研究員利用「上下文轟炸」癱瘓 AI 駭客代理
研究Wired AI
OpenAI 打造 LLM 超級駭客 GPT-Red,大幅提升模型安全性
產品MIT Technology Review AI
GPT-Red:透過自動化紅隊演練提升模型安全性與韌性
產品OpenAI Blog
提示詞注入成防禦新策略,AI 資安攻防戰升級
研究Ars Technica AI
新型 AI 攻擊 HalluSquatting:駭客利用 AI 幻覺建立大規模殭屍網路
研究Ars Technica AI
「BioShocking」新攻擊揭露 AI 瀏覽器安全隱憂
研究Ars Technica AI
Microsoft Copilot 驚傳嚴重漏洞,駭客可竊取雙重驗證碼與敏感資料
產品Ars Technica AI
Google DeepMind 憂心 AI 代理大規模互動風險,攜手夥伴資助千萬美元研究
研究MIT Technology Review AI