不听人类指挥！OpenAI模型拒绝关闭
创始人
2025-05-27 07:56:55
英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
下一篇：坟墓搬迁公告
相关内容
热门资讯
宁波精达(603088.SH)...
格隆汇12月18日丨宁波精达(603088.SH)公布，公司于2025年12月18日收到股东郑功出具...
传壁仞科技拟圣诞节前启动港股I...
观点网讯：12月18日，国产GPU企业壁仞科技计划于圣诞节前启动港股IPO程序，拟集资5亿至6亿美元...
黑牡丹(600510.SH)子...
黑牡丹(600510.SH)发布公告，近日，公司全资子公司常州黑牡丹置业有限公司以总价 6.77亿元...
豆包大模型联合润欣科技、老凤祥...
炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ （来源：IT之家）I...
万物云回购24万股 总金额46...
万物云（02602）发布公告，2025年12月18日，公司回购股份24万股，回购金额为461万港元。...