| LLM安全 | Prompt Injection | agentic AI | MCP | 奧義智慧 | 生成式AI | AI資安 | 提示注入 | Firewall for AI | AI護欄 | AI Gateway | Security For AI
強化Prompt安全性成當務之急，從MCP生命週期、Agentic系統構成看資安挑戰
關於Agentic AI時代的防禦，奧義智慧科技資料科學研發處處長楊政霖強調，非確定性系統難以保證問題修復不會再發生，Prompt已經成為新的資安防禦邊界，現階段持續不斷的審查稽核仍是有效方式，他不僅從MCP生命週期解析相關風險，也從Agentic System的構成切入，強調我們需額外關注的重要面向
2025-07-29
| Nvidia NeMo | NeMo Guardrails | AI護欄 | AI代理
推動AI代理人應用，Nvidia提供AI護欄微服務、內容安全防範工具
Nvidia更新NeMo Guardrails軟體工具集，加入三項 AI 護欄微服務，協助企業在開發代理型 AI 應用時符合安全規範，避免生成有害輸出、確保對話內容主題符合政策，並防範使用者越獄（jailbreak）
2025-01-17