安恒信息王欣：MCP带来新应用但也可能出现新风险_资讯

安恒信息王欣：MCP带来新应用但也可能出现新风险

创始人

2025-05-11 10:16:06

新京报贝壳财经讯（记者罗亦丹）5月10日，2025中国数谷·西湖论剑大会上，安恒信息高级副总裁、研究院院长王欣发布了《安全智能体魔方：成熟度模型评价研究报告》。

对于近期各个大厂纷纷接入MCP（Model Context Protocol，模型上下文协议）这一现象，以及其背后可能蕴藏的安全问题，王欣告诉新京报贝壳财经记者，相对于聊天对话等简单模式的大模型产业应用，很多安全场景中大模型需要和安全防御体系相融合。MCP等规范出现后形成了一定生态，这类生态会让大模型、智能体、软件世界的安全防御体系做出更好的融合。

“MCP是一种协议，过去计算机发展的过程中，许多协议最初并没有安全设计，MCP也是如此。因此会产生一些风险，例如当MCP+大模型组合使用时，如果存在配置不当，可能会导致正常大模型的价值观对齐防御体系失效，从而变成恶意大模型。”王欣说。

王欣表示，随着MCP的出现，大模型和物理软件世界连接增多，可能带来各种各样新的场景应用，但也可能出现新的安全问题，“在这个过程中我们会不断地持续研究这个方向，尽量保证用户在使用大模型时尽可能地安全。”

（文章来源：新京报）

上一篇：祝妈妈健康快乐，把自己放在与孩子同样重要的位置丨母亲节书单

下一篇：当出行“邂逅”高科技 “一机畅行”智慧服务解锁游客“丝滑体验”

安恒信息王欣：MCP带来新应用但也可能出现新风险

相关内容

热门资讯