“AI取代人类，并导致人类灭绝的风险一直存在”_资讯

创始人

2026-07-04 16:08:40

　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：观察者网）

7月2日至4日，第十四届世界和平论坛在北京举行。在4日的讨论中，中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅就AI的治理和管控进行发言。

“我们绝不能忘记我们的责任，即控制AI，”曾毅说，“AI取代人类，并导致人类灭绝的风险一直存在，因为在短期内我们还没有找到方法保护自己，使其不利用人类弱点。我们必须确保能够有效控制所有AI系统，人类具有相应的责任。”

曾毅认为，AI应作为一种工具辅助人类，而非取代人类决策，人类应该始终保持自主决策。

他表示：“我们永远无法构建一个数学上可能安全的人工智能，无论以何种方式建造它，人工智能都不会是100%完整的，也不会是完全安全的，这意味着永远不要使用人工智能来帮你做决定。”

“如果人类失去对自己行为的控制，从代理AI开始，这将是一场社会灾难。人类如果想放弃自己的责任，那么失控的时机就到了。”曾毅说道。

本文系观察者网独家稿件，未经授权，不得转载。