螞蟻集團大模型安全解決方案“蟻天鑒”新增AI Agent安全工具

7月28日，世界人工智能大會（WAIC）期間，在由中國信息通信研究院舉辦的“大模型智塑全球產業新秩序論壇”上，螞蟻集團大模型安全解決方案“蟻天鑒”宣布升級，新增智能體（AI Agent）安全評測工具，具備Agent對齊、mcp安全掃描、智能體安全掃描及零信任防御等四大核心功能。

其中，MCP安全掃描功能，則為行業內首個對外發布的MCP安全掃描工具，可自動化識別AI工具集成與數據交換鏈路中的安全漏洞及風險行為，覆蓋工具投毒攻擊、間接提示詞注入、惡意代碼注入等3大類共10項子類風險。

其Agent對齊功能，集成了高效工具調用、敏感雙重驗證、多通道惡意識別及沙盒環境訓練，確保智能體的決策、行為與開發者預設目標、價值觀及倫理道德保持一致；通過深度理解智能體服務上下文與風險情境，“蟻天鑒”還可對每一次調用進行內容、鏈路、行為、權限、組件、來源、身份七層校驗，并依據策略引擎動態決策放行、降級或阻斷。螞蟻方面，稱其為 “永不信任，始終驗證”的零信任動態防御。

目前，據螞蟻方面披露，“蟻天鑒”的風險研判Agent準確率可以達到96%以上，并可支持11個行業的智能體測試。

（雷峰網(公眾號：雷峰網)）

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。