AI答IMO难题坦承“不会”,OpenAI:这就是自我意识
创始人
2025-08-02 12:40:25
0

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:量子位)

这一次,“不会”竟成了大模型的高光时刻。

虽然在IMO第6题上得了零分,OpenAI的金牌模型却展现了“高智商的诚实”。

正如OpenAI研究员Noam Brown在最新访谈中所揭示的:

在AI摘下IMO金牌后,OpenAI金牌小分队成员Alex WeiSheryl HsuNoam Brown参与了红杉资本组织的一场对话,揭秘模型攻克精英数学难题的底层突破。

有网友帮忙总结了个太长不看版:

与过去那些“看起来完美,实则错误”的幻觉式答案不同,这一代大模型开始学会“承认自己不会”。

它标志着模型正在从胡编乱造的幻觉式回答,转向更加可靠且具有“自我认意识”的全新阶段。

三位成员还在这场对话中,分享了更多关于冲刺IMO的有趣细节。

IMO金牌模型能承认自己不知道

尽管数学家与计算机科学家一致认可IMO金牌模型的价值。

但他们常常抱怨,当模型遇到知识盲区时,它总会输出一个令人信服但错误的答案。

他们不得不耗费大量精力逐行验算,才能甄别那些幻觉陷阱。

IMO第6题让大模型全军覆没,当然,OpenAI也对其进行了大量计算。

虽然投入海量算力最终仅得到一句“我无法回答”令人有些失望,但Alex Wei表示:

Noam Brown也对模型的这一转变表示赞赏,“如果它不知道,它就会承认它不知道。”

这代表模型开始具备“自我意识”。

这种“自我意识”可以帮助模型在面对困难问题时,承认自己的无能为力,而不是生成一个看似合理实则错误的解决方案。

有趣的是,在Alex Wei 2024年刚加入OpenAI一周时,Noam Brown就曾问过他,团队何时能获得IMO金牌。

当时Alex Wei认为2025年不太可能实现。

但令人惊叹的是,这个三人团队仅用了两月,就完成了他们一直在追求的目标——IMO金牌。

Noam Brown还表示:

Alex还强调,他们的团队“真正优先考虑通用技术”,而不是专门开发用于数学竞赛的系统。

OpenAI IMO金牌核心团队

OpenAI IMO核心团队仅由三名研究人员构成。

Alex Wei,本硕均就读于哈佛大学,随后在加州大学伯克利分校获得计算机科学博士学位。

Alex还曾在谷歌、微软和Meta实习,后于2024年1月加入OpenAI,现任研究科学家。他曾是FAIR团队成员,参与开发了首个用于外交游戏的人类级人工智能——CICERO。

Sheryl Hsu,毕业于斯坦福大学计算机科学专业,是斯坦福AI实验室中IRIS实验室的研究员,于2025年3月加入OpenAI。

Noam Brown,本科就读于美国罗格斯新泽西州立大学新布朗斯维克分校,随后在卡内基·梅隆大学获硕士和博士学位。他曾任职于DeepMind和Meta,于2023年6月加入OpenAI。

参考链接:

[1]https://x.com/chatgpt21/status/1950606890758476264

[2]https://www.youtube.com/watch?v=EEIPtofVe2Q

相关内容

热门资讯

2025年上半年,江苏高新技术... 现代快报讯(记者 刘赟 王益 文/摄)8月1日,江苏召开“坚决扛好经济大省挑大梁责任”系列主题新闻发...
南京交通管制通告 慢城焰火·歌手之夜将于2025年8月10日(星期日)在南京市高淳区水慢城景区举行。为确保活动安全顺利...
爱住酒店的人,天塌了 暑假旅游旺季,朋友圈摄影大赛如火如荼:蓝天碧海、沙滩椰林、大漠孤烟……都在刷屏你的手机。你心痒难耐,...
“苏超”前六轮,近380亿! 转自:瞭望东方周刊进入8月江苏省城市足球联赛(“苏超”)也进入常规赛争夺关键期13轮常规赛已经过半目...
黑龙江连发4条气象预警 原标题:黑龙江连发4条气象预警来源:新华社8月2日下午,黑龙江连续发布4条气象预警。气象部门提醒相关...
人民网评“亮证女”事件:舆论想... 广西防城港“会车遇奔驰女司机亮证逼迫让路”事件,引发持续关注。8月2日,广西互联网辟谣平台通报称,网...
“3分钟也算奇迹?1分钟不是商... 转自:扬子晚报有网友发布的图片显示,拉芳广告语中写道:“3分钟也算奇迹?停!这才是奇迹!使用1分钟修...
40城儿童共绘城市画 “小足印... 转自:扬子晚报扬子晚报网讯(通讯员 崇轩 陈馨 记者 朱亚运)8月1日晚7点,首届“小足印·大城记”...
巴勒斯坦卡桑旅发布以战俘最新画... 【#巴勒斯坦卡桑旅发布以战俘最新画面#:因加沙食物短缺瘦成皮包骨】8月1日,巴勒斯坦“卡桑旅”发布以...
家里的这几个地方正悄悄“养”出... 转自:北京日报客户端最近,“花斑蚊”频频出现在大众视野中,它是登革热、基孔肯雅热等疾病的重要传播媒介...