一财社论:智能体发展当厘清冒险和冒进的边界
创始人
2025-03-09 21:31:23
0

人类需要更多冒险者,但冒险是设定好可控风险的一种追求,人们必需始终坚持一种有准备、有退路的冒险,莫鲁莽行事。

AI从未如此靠近和改变人们的生活。

最近Manus刷屏,国产AI Agent(智能体)再一次让人们感知到创新者的步伐。爆红的Manus一石击浪,引发更多探索。近日国内初创公司DeepWisdom的MetaGPT团队,在开源社区GitHub上传其复刻的产品Open Manus,这预示Agent的门槛并非高不可攀。

人们将今年定义为Agent元年,尽管今年出现现象级的Agent是低概率事件,但Agent作为AI应用的探索,注定将绚丽多彩,并推动AI赋能千行百业,将梦想照进现实。

人们在创新探索中,从没现成模版,需冒险者不断试错,深度探索各种可能性,因此唯有秉持向创新者和冒险者致敬,尊重其创新自由,对其行为无事不扰,同时又有求必应,创新才有真正的包容环境。

AI Agent作为应用智能体,必须依赖人们在大语言模型上的不断投入和不断进化,尤其是大模型幻觉依然困扰AI落地的情况下。这也引发一个值得思考的问题,那就是如何平衡大语言模型的进化与Agent发展之间的匹配,如何识别和避免AI Agent的冒险与冒进的边界问题。

当前必须警惕的是,即便是世界上最先进的大语言模型,依然未能解决AI幻觉问题。人们若尚未找到解决AI幻觉的方法,或尚无法确定AI幻觉的运行逻辑,使AI幻觉置于风险可控边界内,加速推进Agent等应用,容易触犯统计学上的两类错误,即选择一个错误答案和舍弃一个正确答案等。毕竟,将充满幻觉的AI通过Agent开发应用到百业,可能带来的不一定是科技向善的改变,有可能打开的是一个潘多拉魔盒。

为此,在将今年定为Agent元年的同时,如何定义人们在Agent上是冒险还是冒进,是必需明确厘定的一个大是大非问题。这就需我们真正将AI从不确定性中拉出来,拉到可能性下的收益场景中。要做到这一点,一是需加快立法确定AI发展的可能性边界,以及通过立法搭建引导确定性创新的激励约束机制;二是厘定AI冒险与冒进的概念边界,明确要求Agent的开发者在探索的同时,必需做好风险策略安排及风险挽救的方式方法,也即要求Agent的应用开发者在开发的同时,构建风险压力测试场景,并必须提供风险阻遏的解决方案,以便给人们一种选择,一旦Agent出现灾难性后果,使用者能一键阻断,坚决避免先上车后买票的风险政策。

当前在AI领域存在一种现象,就是沿用过往应用为主的商业发展逻辑,尤其是在算力面临复杂环境的情况下,算法上的精炼创新和应用上的先行突破似乎正在成为创新者的一个次优选择。但当AI幻觉尚未找到有效管控方法,使用高幻觉率的AI进行Agent开发和商用,就是冒进。要知道,拥有先进大语言模型的公司,在Agent上采取谨慎态度,并非他们不清楚Agent的商业利益,而是他们担心AI幻觉会让冒险变成损害性巨大的冒进。

因此,在AI竞争中,需继续利用比较竞争优势,具体到国内,在算法上进行更多精细化创新,通过算法上的突破降低AI幻觉,或使AI幻觉处于可控状态,同时在算力上加速突破,搭建适配算力资源的算法体系。此外,在Agent上加速布局推理芯片等,通过优化组合推理芯片和推理算法的适配性,在应用层为Agent克服AI幻觉提供对应的解决方案。

冒进诚近贪,自画将岂敢。未来已来,AI应用的星辰大海正在冒险者的前赴后继中不断拓宽可能性边界。为此,必须谨记,人类需要更多冒险者,但冒险是设定好可控风险的一种追求,人们必需始终坚持一种有准备、有退路的冒险,莫鲁莽行事。

相关内容

热门资讯

好着力什么意思 好着力什么意思容易着力,即只需要使用很小的力。
强者之路宝藏之岛活动多长时间 强者之路宝藏之岛活动多长时间强者之路宝藏之岛活动有两茄察轿天没源,参与规则如下:1.50级以上可参加...
九十年代的金童玉女毛宁和杨钰莹... 九十年代的金童玉女毛宁和杨钰莹为什么最终没有结婚他俩八字不合希望他们二人在一起啦
当男人有什么样的表现时就已经开... 当男人有什么样的表现时就已经开始不爱对方了?男人不爱对方,最直接的表现就是对待对方的态度变得不如原来...
好朋友标准是什么? 好朋友标准是什么?朋友是那种可以与你同甘共苦,不计较利害得失,可以和你谈心的人;虽然现在这样的朋友很...
你会对通过相亲认识的对象从开始... 你会对通过相亲认识的对象从开始什么都坦诚吗?不会,慢慢聊天看合不合适,觉得合适再慢慢跟它漏底,它能接...
求 那些年我们一起追的女孩 的... 求 那些年我们一起追的女孩 的有声读物......
山西大槐树下的传说是真的吗? 山西大槐树下的传说是真的吗?那时候确实有从山西洪洞周边地区移民现象,而且都到洪洞大槐树下去登记。这些...
瑶字的诗句 瑶字的诗句1. 瑶台梦断敲门竹,凤蹬温泉新出裕2. 瑶林交映出风尘,便觉寒门气象新。3. 瑶林我家风...
云是天空这本大书上的文字仿写句... 云是天空这本大书上的文字仿写句子树木是什么的文字?树木是大地这篇乐谱上的音符
出繁体字怎么写 出繁体字怎么写【出】字未曾被简化过,其本身就可视作繁体字,与简体字通用。
电视剧《我不是妖怪》里面小红帽... 电视剧《我不是妖怪》里面小红帽唱的什么歌?长长的路上,没有星光,没有方向,一个人的旅途,有些迷惘,寂...
王富贵为何会被怀疑是乐华娱乐的... 王富贵为何会被怀疑是乐华娱乐的人?王富贵为何被毁一事花月语了人的因为他曾经在花落雨也出演过所以人们回...
怎么写文案才能吸引眼球? 怎么写文案才能吸引眼球?写吸引眼球的文案需要一些技巧和策略,以下是一些帮助您撰写引人注目文案的建议:...
创业时代:未来饭桌的第五道菜—... 创业时代:未来饭桌的第五道菜——有机蔬菜改革以来,随着科技的飞快发展,人们的生活水平的提高,饮食健康...
全国人大代表吕建中:深化国企民... 两会期间,全国人大代表、大唐西市文化产业投资集团董事局主席吕建中表示,当前,我国文旅产业在国民经济中...
智能“进化”:机器人产业蓄势待... 宇树机器人G1出拳、扭腰,720度空中回旋,一连串动作丝滑流畅;“天工”机器人奔跑、爬楼,百级台阶“...
落实算法公开常态化 推动平台规... 近年来,平台经济已经成为数字经济发展的重要引擎,依托平台经济的新就业形态已成为我国劳动力市场的重要组...
我的心爱之物 每个人都有自己的心爱之物,有的是可爱的玩偶,有的是精致的工艺品,而我的心爱之物是一个普通却又特别的篮...
“您的意见已写进报告” 转自:云南日报“尊敬的万立代表,您对《关于2024年中央和地方预算执行情况与2025年中央和地方预算...