财联社3月5日讯(记者郭松峤)“虽然我国已出台《生成式人工智能服务管理暂行办法》,但该办法仅针对生成式人工智能,无法全面涵盖人工智能领域的各类问题和应用场景,启动立法研究并制定专门的综合性法律势在必行。”
在近日召开全国两会上,人工智能成为最受瞩目的话题之一,财联社记者也就此采访了多位代表委员,全国人大代表,天能控股集团党委书记、董事长张天任如是称。
今年两会,张天任计划提交了多项议案和建议,其中包括建议制订《人工智能管理法》。他建议,要建立健全数据保护与安全机制,规范人工智能所收集数据的使用范围,仅限于在授权范围内用于特定的人工智能研发、优化和应用场景;建立数据共享审批机制,明确数据共享的条件和流程,确保数据接收方具备相应的数据保护能力,并签订严格的数据保护协议。
相比于张天任,全国政协委员、新希望集团董事长刘永好则分享了大模型提升办公效率的体验。他对财联社记者表示,公司已要求部分业务接入AI系统DeepSeek,以提高管理精细化和企业效率。此外,集团还投资了多家机器人公司,探索机器人与传统产业场景的结合应用。
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东聚焦安全层面,提出建立适配大模型纵深防御体系的紧迫需求。他对记者表示,要明确大模型安全的组织架构,界定安全主体责任,对基础安全、数据安全、应用系统开发安全、运行安全等方面提出清晰的技术保障要求。
可以借鉴“框架立法+动态调整”模式,设定基础法律框架
财联社:目前,人工智能领域的创新速度远超传统行业,在制定《人工智能管理法》时,如何确保法律具有足够的前瞻性和灵活性,既能有效规范当下的行业行为,又能适应未来技术的快速发展?
张天任:可以借鉴“框架立法+动态调整”模式,设定基础法律框架,同时辅以行政法规、行业标准、伦理准则等层级性规范,使其能够根据技术演进动态调整。此外,建立跨部门、跨行业的AI治理机构,推动立法与科技同步演进,确保法律既能有效规范当下行业行为,又能适应未来技术发展。
数据是人工智能的核心要素,健全数据保护机制需从立法、技术、治理三个层面入手。首先,在现有《数据安全法》《个人信息保护法》等法律基础上持续完善法律法规体系,明确数据分类分级标准以及在采集、存储、处理、流通等环节的合规要求,细化个人信息保护与企业数据安全责任边界,强化跨境数据流动监管,确保数据使用透明可控。其次,推动企业采用隐私计算、区块链等技术,构建主动防御体系,建立数据安全风险评估与应急响应机制。同时,积极实现数据可用不可见,通过安全多方计算、联邦学习等技术,在不泄露原始数据的前提下完成数据的分析与协同应用,保证数据在使用过程中的安全性。最后,建立企业与政府协同监管机制,通过行业自律、数据安全评估、国际合作等方式,平衡数据利用与隐私保护,构建健康的数据生态。最终形成政府监管、企业主责、社会监督的多元共治格局。
财联社:从天能所从事的新能源锂电池、智慧能源等核心业务来看,对我国人工智能产业的发展前景和竞争力有何期望?
张天任:从竞争力提升角度,我们希望人工智能在推动新能源产业升级、智能制造、能源管理等方面发挥更大作用。一方面,凭借 AI 技术打造智能化、无人化的先进生产制造体系,降低生产成本,提高产品质量,增强我国新能源产品在国际市场的价格与品质竞争力。
另一方面,借助人工智能构建更完善的能源管理平台,推动智能电网、能源储存与调度优化,提高新能源利用效率。未来,中国人工智能产业应加快标准制定和核心技术攻关,在全球竞争中掌握主动权,推动智能能源和绿色科技深度融合,助力“双碳”目标实现。
建立适配大模型的纵深防御体系
财联社:积极构建高可靠人工智能安全体系,着力为用户提供有效的安全防护,既要用人工智能去驱动安全,又要做好人工智能自身安全。您认为,目前人工智能的发展面临哪些严峻安全问题?
齐向东:我总结,人工智能发展面临的安全问题大致可以分三类。
第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面,开源大模型要重点防范代码缺陷和预留后门等问题;应用方面要防“内鬼”对训练数据投毒,进行模型篡改、配置篡改;数据方面,要小心内部配置错误和弱口令等造成的数据库暴露;基础环境方面要重点关注云、API、传统设备漏洞等等。目前,已有团队发现DeepSeek存在严重漏洞,并可借此获取后端隐私数据、API 密钥、操作元数据,尽管漏洞很快被修补,但是根据我们的经验,新漏洞会不断被挖掘出来。
第二类是利用人工智能开展网络攻击的问题。人工智能促进了网络攻击手段的更新迭代,“饱和式”攻击成为可能,攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力,深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息,开展网络诈骗,或输出背离主流价值观的内容危害认知安全。
第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施,当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时,会放大漏洞等传统安全威胁,一旦人工智能大模型遭到攻击可能会牵一发而动全身,引发社会服务中断、生产停滞、隐私数据泄露等安全事件。
财联社:那么,通过哪些维度或者体系提升人工智能的安全能力?
齐向东:针对这些安全问题,要从技术保障、制度保障、成果应用三方面入手,系统提升安全能力,确保人工智能安全发展。
第一,建立适配大模型的纵深防御体系,筑牢人工智能的安全根基。通过构筑覆盖终端、应用、数据、模型、红域的多维度核心防护能力,打造适用于人工智能的立体纵深防御体系,并给予威胁情报、大网数据监测等情报赋能,实现“对外防攻击、对内防内鬼”,为人工智能大模型安全稳定运行保驾护航。
第二,制定大模型安全强制合规要求,夯实人工智能安全发展的制度保障。要明确大模型安全的组织架构,界定安全主体责任,对基础安全、数据安全、应用系统开发安全、运行安全等方面提出清晰的技术保障要求。
第三,推广“AI+安全”创新成果落地,走好提升安全能力的必经之路。随着人工智能应用的进一步铺开,要鼓励更多产业用上、用好“AI+安全”创新成果,提高千行百业的网络安全防护效能。
积极参与猪周期预测大模型体系建设
财联社:你自己使用AI吗?
刘永好:我自己经常使用AI大模型,手机上下载了多款软件,还会比较哪个更好用。另外,我也鼓励新希望集团的员工在工作中使用AI工具,公司员工向我做汇报的时候,以前都是用PPT,现在我要求他们用AI工具整理好,提炼要点,再交给我。AI大模型的应用确实提高了我们的工作效率。目前新希望集团鼓励其设计队伍、营销队伍、管理队伍等都与AI大模型合作,我们要了解它、学习它、使用它,一定会给企业带来好处。坚持主业的时候必须关注人工智能,把AI大模型应用到传统产业上,就是在为传统产业注入新质生产力。
“财联社:鉴于猪周期波动剧烈,对企业经营影响不小,AI在解决这个问题上能发挥什么作用?请问新希望做了哪些尝试?”
刘永好:由于猪周期波动剧烈,我们正在借助大数据和人工智能积极参与猪周期预测大模型体系建设。新希望具备三大优势:一是拥有 40 多年行业经验;二是作为中国最大的饲料生产企业,积累了海量数据;三是旗下众多养殖企业能提供当下市场行情、价格及期货波动等数据,再结合政府数据与历史数据,在大模型支持下做好猪周期预测,这对国家和企业意义重大,后续还有诸多工作要推进。