转自：新华财经

新华财经上海7月28日电（记者 王淑娟）随着AI技术的不断进步，AI领域正从大模型时代迈向智能体时代。28日，在世界人工智能大会（WAIC）论坛上，蚂蚁集团大模型安全解决方案“蚁天鉴”宣布升级，新增智能体（AI Agent）安全评测工具，具备Agent对齐、mcp安全扫描、智能体安全扫描及零信任防御等四大核心功能。

据悉，智能体不仅具备对话生成能力，还拥有自主规划、跨领域推理，甚至能做出超越人类理解的决策，AI已进入“行动”阶段。然而，智能体的越权、过度代理等问题也带来了安全挑战。

数据显示，超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题，因为AI生成的内容往往包含事实错误，或者对指令产生误解。

世界数字科学院（WDTA）最新发布《AI智能体运行安全测试标准》提出将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来，分析智能体全链路风险。

据悉，“蚁天鉴”为蚂蚁集团联合清华大学共同研发推出的大模型安全一体化解决方案，确保大模型技术在安全可靠的环境中发挥效能，打造AI大模型的“安全铠甲”。“蚁天鉴”新增的智能体安全评测功能，正与WDTA标准框架契合。目前，“蚁天鉴”的风险研判Agent准确率可以达到96%以上，并可支持11个行业的智能体测试。

蚂蚁集团机器智能部总经理、安全实验室首席科学家王维强表示，“升级的‘蚁天鉴’基于‘以攻促防’的安全理念，通过构建‘对齐-扫描-防御’技术栈，形成全流程防护体系，从而为智能体提供风险扫描与实时防御能力，我们也将与行业共建，未来逐步开源开放安全工具。”

编辑：谈瑞