来源:钛媒体
图片来源:unsplash2026年年中以来,越来越多独立模型厂商传出将下场“亲手”打造AI芯片。
6月末,起步最早的OpenAI已经拿出了首款自研AI推理芯片Jalapeño,这款芯片从架构设计到流片仅耗时9个月,创下了专用集成电路(ASIC)领域最短开发周期纪录。
7月上旬,路透社报道称DeepSeek正在开发自研AI芯片,项目已启动约一年,且与芯片设计、代工、存储等供应链企业进行了讨论。
几乎同一时间,“大模型第一股”智谱也被曝出在推进自研芯片项目,已向多家国内芯片设计公司初步询价。
8月初,一向“精打细算”、被认为不热衷“堆算力”的Anthropic也正式对外证实,公司正在组建内部芯片研发团队,为Claude大模型量身打造定制化AI芯片。
8月末,OpenAI放出了Jalapeño的评测数据,称其在推理能力上能够比肩甚至超过英伟达目前的主力产品GB200、GB300。芯片研究机构SemiAnalysis甚至在最新发布的报告中评价称,Jalapeño可以直接对标英伟达新一代产品Vera Rubin,甚至可能在未来冲击后者的最强护城河CUDA。
模型厂商尝试自研芯片显然已非个例,但按照以往的理解,这两个赛道的逻辑、打法迥然不同,本就面临盈利难题的独立模型公司,要砸重金、组团队做自己不熟悉的事,风险不小。那么,这些公司究竟为何盯上自研芯片?又为何会在这个节点纷纷入局?它们“造芯”的方式有何不同?芯片企业如何看待客户变竞对的现状?这场“造芯运动”又会给行业带来哪些影响呢?
推理时代到来
科技巨头布局自研芯片并不罕见,美股七姐妹中除英伟达外,微软、谷歌、亚马逊、Meta均拥有成熟的自研AI芯片,苹果、特斯拉也正积极研发、建厂。中国互联网大厂中,阿里巴巴的平头哥和百度的昆仑芯已实现商业化,字节跳动也在加速自研芯片量产进度,腾讯亦有针对特定场景的专用AI芯片布局。
对于业务覆盖广、家底丰厚的巨头来说,自研芯片既可用于自家AI的降本增效,摆脱对外依赖,应对算力短缺和供应链掣肘,同时也能对外销售,在云业务中形成收入。
但独立模型厂商的处境却有所不同。
它们没有云业务和成熟的客户生态网络,自研芯片的市场前景天然受限。它们也难以承受训练芯片开发的巨大耗资和超长周期,自研芯片对于自身模型的绝对性能提升有限。
也正因为此,虽然芯片短缺、供应链风险在本轮AI浪潮启动时就已显露,但除了“找钱”能力最强的OpenAI,其他独立模型厂并没有着急行动。
真正推动他们走上自研芯片之路的,是推理时代的到来。
AI Infra企业清程极智联合创始人师天麾此前曾对我们表示,今年以来Agent、长上下文和AI应用大规模落地,让模型调用量激增,Token越烧越快,从“交互式用量”进阶到“生产级用量”,推理计算需求随之指数级增长,并在资本支出上超过模型训练。
与此同时,虽然算力供给也在快速增加,但显然无法跟上推理需求的增速。而且,推理时代的来临也在改变着模型和芯片的模样。
专攻AI推理芯片的云天励飞董事长兼CEO陈宁对我们表示,在训练时代,算力的核心任务是训练超大模型,通用GPU优势明显。但推理面向的是大量不同的模型、应用和服务等级,有的追求低延迟,有的追求高吞吐,有的需要长上下文,有的要控制功耗和成本。随着应用规模扩大,很难用一个指标,甚至一种硬件形态解决所有问题。
他认为,推理时代一方面让芯片的技术路线更加多元、专业分工更加细化,另一方面也将每Token成本、能效、延迟和吞吐等推理指标与模型公司的商业化效率联系在了一起。
“近期包括DeepSeek在内的模型公司被传出探索自研芯片,这些芯片更多是对既有算力体系的补充,而不是简单替代通用平台。但这种趋势说明了一件事:当AI进入大规模使用阶段,算力成本和软硬协同的重要性正在上升。”陈宁分析称。
实际上,从目前传出的消息来看,OpenAI、Anthropic、DeepSeek和智谱在开发的都是AI推理专用芯片,初期定位多是自用,聚焦降低推理成本,提升推理效率。
AWS此前曾做过估算,在模型生命周期中,推理可能占据高达90%的成本。而相比于训练的集中投入,推理开支是每天都要出的账单,且需求越多,花销越大。这也意味着,当推理规模足够大时,如果模型厂商的自研推理芯片能大幅降低推理成本,这个经济账就能算得过来。
实际上,从各家模型厂商的财务状况也可看出它们面临的压力和做出的努力。
上述计划造芯的公司都在近两年迎来了用户规模的持续扩大和ARR(年度经常性收入)的快速增长,但同时上涨的还有推理计算成本,再加上高昂的研发费用,导致除Anthropic今年Q2实现调整后营业利润外,其他公司都仍在亏损。
实际上,在自研芯片之外,这些公司也在想各种办法。
以智谱为例,该公司8月31日公布的半年报显示,公司在从本地化部署向云端MaaS的转型中毛利率承压,今年上半年的整体毛利率从去年同期的50.0%下降至26.4%,提升核心业务的盈利能力成了重要课题。在这方面,智谱押注的开放平台及API业务的毛利率虽然远低于传统业务,但已从去年同期的-0.4% 提升到了24.6%,其中最关键的影响因素就是大规模部署性价比更高的国产推理芯片,通过“All-in-Infra”优化推理成本,其单位Token推理成本今年半年内压降了约八成。不过,智谱在总收入涨近400%的同时,扣非亏损幅度也扩大了12.1%,想在研发支出不降的情况下改善利润,必然还需进一步降低推理成本,提升毛利率。在这种情况下,探索自研推理芯片也在意料之中。
AI学会了为自己造芯
在如何造芯片方面,独立模型厂商也在进行新的探索。
首先是架构、系统方面的“反主流”尝试。
OpenAI是目前唯一拿出成品且给出了部分技术细节的公司,其芯片设计也被认为将对其他模型厂商自研芯片形成影响。
根据OpenAI自身发布的信息和SemiAnalysis等机构的分析,Jalapeño的设计主要围绕以更低能耗提供更快、更多的推理算力。但即使与自家模型协同设计,也需要克服推理时数据传输、内存带宽、KV Cache占用和搬运开销等导致的迟滞和耗损。
在这方面,Jalapeño抛弃了PD分离(预填充-解码分离)、推测解码、软件管理暂存器+异步DMA等常规做法,在硬件架构、内存与互联等方面做了堪称激进的尝试,核心就是尽可能避免资源闲置,减少传输损耗。
不过,值得注意的是,SemiAnalysis最新报告分析称,Jalapeño虽然目前名义上仍是自用,但从设计上已充分考虑了通用性、兼容性,包括支持“小”矩阵维度的计算引擎,能够适配各类尺寸的模型,为计算核心配备了L1缓存和乱序执行能力,让芯片在小批量处理时也能接近理论峰值性能等。这款芯片也能兼容其他模型和工作负载,显示出了OpenAI进军商业化市场的野心。而目前来看,这种通用性设计,未必会成为其他独立模型厂商的第一选择。
另一方面,用AI设计AI芯片已成了模型厂商造芯最鲜明的特点之一。
OpenAI方面表示,设计Jalapeño时最大化利用了AI辅助工具,大幅加快造芯速度,完成了创下最短纪录的9个月开发周期。此外,OpenAI还利用Codex来编写和优化Jalapeño的底层内核代码,让新模型能快速适配自研芯片,极大降低了从英伟达CUDA到自研芯片的迁移成本。
Omdia高级首席分析师詹墨磊认为,AI正在改变芯片设计的范式,未来AI工具链的算法竞争会更加重要,这无疑会冲击传统硬件厂商。而类似Jalapeño用AI快速重构底层代码,优化软硬件协同的方式,很可能会冲击英伟达引以为傲的CUDA软件生态护城河。
在这方面,Anthropic和Kimi也提供了可资参考的案例。
今年7月末,Anthropic联合创始人兼首席算力官汤姆·布朗(Tom Brown)在AMD的活动中透露,公司工程师用Claude模型,在一个周末内自动完成了自家前沿模型在AMD芯片架构上的全套适配与性能调优,彼时不少讨论就认为AI编程在芯片领域的突破将大幅降低迁移成本,或许能够打破英伟达CUDA生态锁定的工具链垄断。
同样是在7月,Kimi发布K3模型时展示了一个案例,显示该模型在48小时内自主完成了一款AI专用芯片的设计、优化与验证。该案例在芯片领域也引发了关注,也催生了大模型可能吞噬EDA(电子设计自动化)行业的讨论。
不过,一位曾在EDA大厂工作的从业者也提示我们,K3实际上是用一套运行在虚拟环境、用于研究而非生产的ASAP7设计套件,和OpenROAD开源EDA工具完成了这套流程。大模型做的是调用而非自己开发一套EDA工具,更多是展示了前沿模型在硬件端的Coding能力、Agent能力和自主完成任务的能力,但不能说它吞噬了EDA。而且,相关芯片设计虽然“又快又省”,但其调用的开源EDA工具仅支持50至100nm级别芯片,相较已进入3nm时代的前沿AI芯片相去甚远,距离主流EDA工具所面对的场景也有较大差距。
不过,他也认为AI设计AI芯片的趋势同样会改变EDA行业,一方面行业中一些前端设计、芯片验证、日常维护管理的工程师可能会加速被AI替代,另一方面,EDA工具也需自我迭代,以适应AI辅助造芯时代中由各类Agent调用完成芯片设计的新流程。
此外,模型厂商也在供应链上下了不少功夫。
Jalapeño的设计由OpenAI负责,而博通负责芯片实现与网络硬件,起到了将设计蓝图转变为量产产品的关键作用,6月首发时两家公司也进行了联合发布。此外,从目前公布的信息来看,台积电负责代工、三星则提供最新的HBM4内存,Celestica在中国的全资子公司天弘科技负责板卡与机架系统的集成。
Anthropic方面,据悉将主要由三星完成晶圆代工及先进封装,SK海力士方面则称,Anthropic已就自研芯片项目向公司寻求存储产能供应。
中国厂商DeepSeek和智谱据悉也与供应链进行了相对广泛的接触,尤其是前者,有报道称其已与芯片设计公司、晶圆代工厂和存储供应商有过深入沟通。而他们的供应链选择范围,很可能会更倾向国内生态体系。
一家布局了光互联业务的公司向我们透露,国内模型厂已就自研芯片项目与公司进行了沟通,希望定制光连接产品。在以往的案例中,无论是已经成熟的谷歌自研TPU,还是Jalapeño,都在光连接方面做了前沿布局,这也被认为是让网络架构能与模型算法深度耦合,提供更佳表现的重要环节之一。
芯片公司怎么看?
模型吃算力,算力养模型,大模型与AI芯片的互相成就,是它们在这个时代崛起的重要前提之一。
而当独立模型厂商开始学着“自备干粮”,AI芯片行业也必然会受到影响。
人们最热衷讨论的,还是英伟达的AI芯片霸主地位是否会松动。目前,英伟达在全球AI芯片市场中仍占据超75%份额,毛利率也在75%以上。
虽然独立模型厂商的自研芯片短期内肯定难以在市场上硬刚英伟达,但詹墨磊认为,它们在制造阶段构建的去英伟达供应链联盟,和AI设计的新范式对CUDA生态的冲击,将在此后显现。
SemiAnalysis则在报告中称,Jalapeño除了在推理能力上与英伟达最前沿芯片形成竞争外,还让自己获得了更强的议价能力,这很可能会影响英伟达长期居高的毛利率。而更关键的是,CUDA护城河究其根本是来自庞大的开发者生态、网络效应与极高的代码转换成本,而逐渐进化的AI编程正在改变这一局面,当开发者能更便捷地切换到其他平台时,CUDA受到冲击是必然。而且,这些强大的AI编程、AI设计能力正是在英伟达GPU上跑出来的,SemiAnalysis也据此评论称“英伟达正在实时催产自己的潜在接班人”。
当然,从谷歌TPU等云厂商、科技巨头自研芯片走向市场、中国AI芯片公司快速发展起,英伟达就一直被认为面临着巨大冲击,推理需求逐渐超过训练需求后更是如此。
不过,英伟达自己也在想办法应对。除了快速迭代芯片产品,拿出更强性能外,从“收编”推理芯片初创公司Groq、收购全球最大AI模型社区Hugging Face等大手笔投资,就能看出其在硬件、软件、生态等方面都在寻求巩固自身地位的方式。
一家GPU大厂中国区高管曾对我们表示,模型厂、云厂商自研芯片与传统AI芯片企业的确会形成局部竞争,但合作仍是主流。在他看来,这些厂商对自身的业务负载、成本模型和用户需求理解得更深,需要也能够在特定场景中优化成本和能效,实际上一些制造业、医疗行业,包括车企也会尝试自研芯片,逻辑是近似的。但总的来说,市场上最主流的产品仍然会是服务、适配范围最广的通用AI芯片,这也是芯片厂商的主业。另一方面,自研芯片多了起来后,传统芯片厂和模型厂、云厂商也可能会在芯片设计服务、平台级联合优化、软件生态共建等芯片业务上形成更多的新合作。
陈宁也认为,模型厂商造芯对专业AI芯片公司而言不完全是坏事。因为“定义一颗适合自己的芯片”和“建立一个可以服务广泛客户的芯片平台”,是两种不同的能力。专业芯片公司要面对更广泛的模型、更复杂的客户需求,还需要解决架构设计、软件栈、量产、供应链、系统工程和长期迭代等问题。
不过,他也同时认为,模型厂商发力自研推理芯片,也印证了推理负载会愈发细分,模型与硬件的协同会愈发深入。推理芯片厂商也尤其需要关注如何建立一个能够持续适应模型变化的推理平台,让芯片跟得上模型,甚至让芯片、模型和应用实现共同演进。
当然,对于独立模型厂商来说,造芯片仍是一项有风险的业务,除了资金、团队、工程难题外,还要面临激烈的上游产能竞争、芯片流片失败的可能。而且,这些尝试在真实场景中能否发挥作用还未可知。目前OpenAI的Jalapeño也尚处在工程样品验证阶段,大规模出货要到2027年底,其他厂商更是处于早期阶段,无法判断项目能否顺利推进,又是否能打造出具有竞争力的芯片。
但无论如何,这批新入局的“硬核玩家”,已经成为了AI芯片牌桌上不可忽视的新变量。(本文首发于钛媒体APP,文|飞向TAI空,作者|胡珈萌,编辑|盖虹达)
特别声明:以上内容仅代表作者本人的观点或立场,不代表Hehson财经头条的观点或立场。如因作品内容、版权或其他问题需要与Hehson财经头条联系的,请于上述内容发布后的30天内进行。