AI教父辛顿:AI会比人类聪明,必须训练AI不伤害人类
创始人
2025-07-26 22:27:22
0

21世纪经济报道记者吴斌 上海报道

7月26日,2025世界人工智能大会暨人工智能全球治理高级别会议开幕,诺贝尔奖、图灵奖得主杰弗里·辛顿(Geoffrey Hinton)探讨了AI的优势和未来潜在的“失控”风险。

一方面,人脑具有自己的优势。辛顿表示,人脑只需30瓦特就能运转,我们的神经元连接达数万亿个,无需花费大量资金制造完全相同的硬件。“但问题在于,模拟模型间的知识转移效率极低,我无法直接将脑中的知识展示给他人。生物计算功耗低,但知识分享难。”

另一方面,软件能“永生”,还有低功耗优势。如果能源和计算成本低廉,情况会好很多,但这也让辛顿感到担忧:“几乎所有专家都认为,我们会创造出比人类更智能的AI。人类习惯了作为最智能的生物,很难想象AI超越人类的场景。我们创造的AI智能体已经能帮我们完成任务,它们能拷贝自身、评估子目标,还会为了生存和完成目标而寻求更多控制权。”

(诺贝尔奖、图灵奖得主杰弗里·辛顿,资料图)

有人认为可以在AI变得过强时关掉它们,但辛顿表示,这并不现实。AI最终可能会像成年人操纵3岁孩子一样操纵人类,劝说控制机器的人不要关闭它们。“这就像把老虎当宠物,幼虎很可爱,但长大后可能伤人,而养老虎当宠物通常不是好主意。”

面对 AI,辛顿认为只有两个选择:要么训练它永远不伤害人类,要么“消灭”它。但 AI 在医疗、教育、气候变化、新材料等领域作用巨大,能提升各行各业的效率,无法消除它。即便一个国家放弃 AI,其他国家也不会。因此,若想让人类生存,必须找到训练AI不伤害人类的方法。

辛顿提醒,各国在网络攻击、致命武器、虚假信息操纵等领域的合作难度较大,因利益和看法不同。但在“人类掌控世界”这一目标上,各国存在共识:若有国家找到防止AI操控世界的方法,一定会愿意分享。

因此他提议,全球主要国家或AI大国应建立一个由AI安全机构组成的国际社群,研究如何训练高智能AI向善,这与训练AI变得聪明的技术不同。各国可在自身主权范围内研究,再分享成果。尽管目前还不知道具体怎么做,但这是人类长期面临的最重要问题,所有国家都能在这一领域合作。

相关内容

热门资讯

奕瑞科技8月5日获融资买入70... 8月5日,奕瑞科技涨0.48%,成交额8523.14万元。两融数据显示,当日奕瑞科技获融资买入额70...
热景生物8月5日获融资买入42... 8月5日,热景生物涨1.25%,成交额6.03亿元。两融数据显示,当日热景生物获融资买入额4279....
8月5日科创增强ETF(588... 8月5日,科创增强ETF(588520)涨0.45%,成交额644.07万元。当日份额减少400.0...
8月5日中证500成长ETF(... 8月5日,中证500成长ETF(159606)涨1.02%,成交额347.98万元。当日份额减少20...
电子ETF(159997)开盘... 8月6日,电子ETF(159997)开盘跌0.41%,报1.206元。电子ETF(159997)重仓...
嘉事堂跌2.01%,成交额49... 8月6日,嘉事堂盘中下跌2.01%,截至09:37,报15.12元/股,成交4939.07万元,换手...
中宠股份股价跌5.52%,广发... 8月6日,中宠股份跌5.52%,截至发稿,报55.48元/股,成交2.32亿元,换手率1.36%,总...
战略新兴ETF(512770)... 8月6日,战略新兴ETF(512770)开盘跌0.33%,报1.533元。战略新兴ETF(51277...
拉芳家化跌2.07%,成交额2... 8月6日,拉芳家化盘中下跌2.07%,截至09:36,报22.19元/股,成交2147.49万元,换...
飞亚达涨2.00%,成交额47... 8月6日,飞亚达盘中上涨2.00%,截至09:36,报17.30元/股,成交4748.33万元,换手...