Anthropic CEO:政府应有权阻止、限制高风险新AI模型的部署
创始人
2026-06-11 04:05:32

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:网易科技)

Anthropic首席执行官Dario Amodei公开呼吁对人工智能实施更严格的强制性监管,主张政府应有权阻止存在安全风险的AI模型上线部署,此举与特朗普政府当前推行的自愿合规路线形成明显分歧。

Amodei周三在一篇长文中提出,AI模型应强制接受第三方测试,涵盖网络安全威胁及生物武器等多个风险维度。

他写道,若某一模型被认定"存在不可接受的风险","政府应有权阻止或限制其部署"。这是他迄今就AI监管发出的最强烈表态之一。

上述立场与白宫现行政策存在明显落差。特朗普本月初签署行政令,要求政府对AI模型仅获取自愿提交的访问权限,并未要求开发商在部署前寻求明确审批。

监管主张:从透明度走向强制约束

Amodei在文中援引汽车、飞机及药品作为类比,认为AI与上述技术同属现代经济不可或缺的强大工具,但若设计或运营不当,同样有能力造成大规模伤亡。

"现在是时候从透明度迈向更严肃、更具约束力的AI监管了,"他写道。他同时警告,全球政策机制反应迟缓,而AI带来的风险与机遇将"出乎意料地迅速复合叠加"。

就在上周,Anthropic还呼吁建立一套机制,由各国政府与AI开发商共同决定何时放慢研发节奏,以应对潜在危险。两度公开表态显示,该公司正将推动监管框架建立作为其战略优先事项之一。

Mythos模型:能力边界引发的内部抉择

Amodei在文中以Anthropic旗下新模型Mythos为例,称其"完美展示了AI的惊人能力与潜在风险"。

Anthropic此前披露,Mythos具备识别并利用关键软件漏洞的能力,公司因此决定将该模型的访问权限仅开放给少数合作伙伴。周二,Anthropic另行发布了一个剥离网络安全功能的版本,向更广泛用户开放。

这一系列决策折射出AI前沿开发商在产品能力与安全边界之间的内在矛盾——在对外呼吁监管机构介入的同时,企业自身已在进行类似"监管"性质的自主筛选与限制。

政策分歧:行业呼声与政府路线的错位

Amodei的表态将Anthropic置于与当前联邦政策方向相左的位置。特朗普行政令倾向于以自愿机制替代强制审批,体现了本届政府在AI领域总体上减少监管干预的施政取向。

Anthropic长期以"负责任的AI开发者"自我定位,此番公开主张政府获得强制介入权,意味着其有意在监管议题上扮演更积极的推动角色。

然而,在华盛顿政策环境偏向宽松的背景下,此类呼声能否转化为实质性立法或监管行动,仍存在较大不确定性。

相关内容

热门资讯

夏日寒风余波危中有机,风险释放... (来源:张忆东、周林泓 张忆东策略世界)一、重要数据及市场观点更新(一...
别被这种病盯上,转给爱喝咖啡、... 天天喝咖啡、奶茶小心被这种病盯上俯身捡个东西,腰一下就“闪”了打个喷嚏,却背痛了好几天明明只是轻轻一...
少年自幼失双亲,伯父托起他的大...     7月25日,刘威在打工的餐饮店附近接受记者采访。  湖南省岳阳县毛田镇南冲村,坐落于湘鄂交界...
闲置厂房屋顶变身“阳光电站”     5G产业园一期光伏项目。    受访者 供图  三湘都市报7月26日讯 三伏天工厂车间空调、...
AI算力紧平衡状态未解   7月以来,科技板块有所调整,背后有多重驱动因素:Meta出售闲置算力引发海外市场“资本开支见顶”...