16张卡2个月训练百万病理切片,华为破解行业AI落地三大难题
创始人
2025-02-24 20:31:36
0

近日,上海交通大学医学院附属瑞金医院(下称:瑞金医院)发布了瑞智病理大模型RuiPath。这个临床级国产多模态互动式病理大模型,覆盖了中国每年90%癌症发病人群罹患的癌种,并且亚专科知识问答深度达到专家级知识水平,改变了传统病理医生的工作模式,提升了诊断效率与质量,成为国内医疗行业大模型中的一个明星。

在推出RuiPath的过程中,华为DCS AI解决方案成为关键,仅需16张卡就能在2个月里训练百万病理切片,令人印象深刻。会上,中国工程院院士、瑞金医院院长宁光坦言,比技术更重要的是守住生命至上的底线,我们只用经得起验证的技术,“如果华为的ICT基础设施、联通的传输能力这些技术注入医疗场景,那将是怎样的盛宴。”

行业AI落地仍存三大难题

当下AI大模型虽然在C端爆火出圈,但想在B端规模落地、充分赋能并不容易。华为副总裁、数据存储产品线总裁周跃峰在会上坦言,并不是有了硬件和算力,就一定能够实现大模型看病,或者能用大模型进行贷款风险评估等工作,其实还有很多障碍。

图源:观察者网

首先是数据工程问题。从通用大模型到行业场景大模型,训练所需数据并非原始数据,而是经过预处理的数据,收集、清洗等环节占模型开发训练时长的60%,需要高效归集、管理的数据工程能力。“客户的领域数据就像未经提炼的原油,价值巨大,但需要复杂的精炼才能转化为模型燃料。如果使用传统数据工程手段,用一个个python脚本、工具和人工标注方式来处理,效率非常低下。”华为数据存储产品线AI方案首席专家王帅称。

第二是行业场景模型训练和应用落地难。首先,大模型开发难度大,人员技术要求高,开发周期不可控。同时训练出来好的模型,也并不代表有了好的应用,比如一个精准的病理学诊断应当结合病人病史,基因组化、分子分析等一系列数据,这样的数据需要依赖外部的系统实时补充进来,需要环境易安装、模型易训练、应用易搭建的AI业务平台。

第三是训推成本问题。行业储备的硬件基础设施不可能很多,否则成本很高,比如不可能让每个医院都买一百张、一千张甚至上万张卡,来实现AI的行业化落地。

“RuiPath病理大模型光在图像训练时,如果不做任何优化,训练一轮就要上万的GPU ARS,而到了推理阶段,分析一张完整的40倍镜下WSI切片,需要计算上千万token,同时为了满足一百家医院以上的并发访问量需求,还需要GB级的显存。在这样的计算量和现存的需求之下,如果我们仅仅靠scale up队列硬件去满足需求的话,成本是非常高昂的,这样的AI注定只是一个奢侈品,并没有办法去普惠大众。”王帅解释称。

与此同时,由于算力等待、任务潮汐、资源碎片化等原因,AI集群可用度往往不足50%,需不断提升全系统调度效率。“如何能把这些卡高效利用起来是关键问题。我们不仅需要硬件,也需要软件和操作系统,对这些硬件资源做高效调度。”周跃峰指出。

华为DCS AI解决方案提供三大价值

如何破解行业AI落地的三大难题?华为DCS AI解决方案通过AI全流程工具链ModelEngine、DCS XPU池化和容器技术,以及AI-Ready融合数据湖等关键能力,解决了这三方面的障碍。在与瑞金医院合作的过程中,华为DCS AI解决方案提供了三大核心价值。

图源:观察者网

首先是通过数据工程工具化,缩短80%医疗训练数据准备周期。统一病理数据为高压缩、低时延的CSP格式,使能医疗数据标准化;Omni-Dataverse实现跨院区统一数据可视、可管、可用,使能医疗数据永远在线;ModelEngine内置40+专项数据处理算子,实现医疗知识快速生成,独有的CSP数据预处理免patch切分算子,百万规模切片预处理时长从月级缩天级。

其次是通过系统级模型训练与推理加速能力,实现模型训练周期缩短30%,推理并发提升一倍。高性能分布式文件存储系统支持NDS存算协同、KVCache智能分级缓存特性,减少特征值重复计算,提升数据加载效率;DCS软件提供SmartAI智能调度引擎,结合XPU池化基础能力,有效提升AI集群可用度。

第三是极简应用开发平台,支撑非专业开发者快速上手。低代码开发、可视调测、自动评估、一键部署、零代码维护,应用上线周期缩短80%;同时,华为也对外提供ModelEngine开源版本,更好服务于有开发能力的集成商伙伴,帮助集成商搭建其个性化的AI应用开发平台。

借助华为DCS AI解决方案,RuiPath仅用2个月便完成300余本病理诊断书籍和100万张数字切片的训练,显著提升医疗行业专家模型的训练、推理及精调效率,同时有效降低了部署成本。目前RuiPath已覆盖中国每年90%癌症发病人群罹患的癌种,并且亚专科知识问答深度达到专家级知识水平,改变了传统病理医生的工作模式,提升了诊断效率与质量。

“DCS AI解决方案,不仅是一个硬件,更重要的是提供了整套工具链,这些工具链的开放性,让更多集成商能够使用。华为就是提供了基础的工具链和相关软硬件,我们仍然需要和医院的医疗知识数据,以及相关的医疗信息系统,同时还有其他的AI应用集成商,多方面结合起来,就可以高效打造一个个成功案例。我们和瑞金医院在整个研制RuiPath大模型过程中,进一步让DCS AI解决方案变得越来越成熟,已具备往其他行业以及其他的医院持续去推进和落地的能力。”周跃峰说道。

相关内容

热门资讯

在奇迹网写古代言情小说怎么样? 在奇迹网写古代言情小说怎么样?古言,红袖添香不错不怎么样,纵横走的是起点的路子,不是很重视言情类作品...
德国农业专家:中国农业农村现代... 转自:上观新闻2月23日,《中共中央 国务院关于进一步深化农村改革 扎实推进乡村全面振兴的意见》发布...
“中国智造”扬帆起航,连云港海... 转自:扬子晚报2月23日晚,装载1000台新能源汽车的“大丰港黎明号”轮从连云港港滚装码头顺利启航,...
PM2.5迎更严管控!中国将修... 转自:中国新闻网中国生态环境部有关负责人24日透露,已启动《环境空气质量标准》的修订工作。这位负责人...
共进股份被责令改正,深圳证监局... 【导读】共进股份被责令改正,深圳证监局查明多项问题中国基金报记者 闻言2月24日晚间,共进股份公告称...
国家知识产权局:驳回抢注“DE... e公司讯,2月24日,国家知识产权局发布关于依法驳回抢注“DEEPSEEK”等相关商标注册申请的通告...
航行警告!黄海部分海域进行实兵... 据中国海事局网站消息,青岛海事局发布航行警告,2月25日6时至19时,黄海部分海域进行实兵演习,禁止...
看完《哪吒2》,可免费或者半价... 《哪吒之魔童闹海》累计票房(含预售)位列全球票房榜前8。脚踏风火轮、手持火尖枪的小英雄哪吒,不仅在银...
新质生产力浇筑温暖空间 转自:中国政府采购报【发现新质生产力】新质生产力浇筑温暖空间——中国国际供热通风空调、卫浴及舒适家居...
科林电气:2024年净利润同比... 证券时报网讯,科林电气(603050)2月24日晚间披露年报,2024年实现营业收入40.99亿元,...
巨轮智能:公司XT减速器产品可... 证券时报网讯,巨轮智能2月24日在互动平台表示,公司最新研发的可适用于人形机器人的XT减速器产品,根...
兴业科技:子公司拟收购增资富源... 每经AI快讯,兴业科技(002674)2月24日晚间公告,公司全资子公司兴业投资国际拟以150万美元...
农业农村部党组召开2024年度... 转自:农业农村部网站本网讯  按照中央部署安排,2月24日,农业农村部党组召开2024年度民主生活会...
定期向人大报告,让民营经济政策... 转自:新京报评论促进民营经济发展是道“必答题”,容不得马虎和轻怠。▲2月22日,工人在重庆宏钢数控机...
“DeepSeek:人工智能的... 转自:上观新闻2月21日,“DeepSeek:人工智能的中国时刻?”学术研讨会在复旦大学召开,会议由...
双流国际机场T1航站楼焕新归来   双流国际机场T1航站楼恢复运行后,将为旅客带来更舒适和更方便的出行体验。本报讯(双轩 记者 彭江...
连云港海州:一把扫帚“扫”到底... 转自:扬子晚报“现在村里干净得像城里小区,我每天都要走两圈。”24日清晨,在连云港海州区新坝镇新坝西...
她安抚美国盟友:主要目标是中国... ► 文 观察者网 赖家琪美国总统特朗普的行政命令——对所有美国进口钢铁和铝征收25%关税,即将于3月...
美股三大指数集体高开 文远知行... e公司讯,美股三大指数集体高开,纳指涨0.34%,道指涨0.15%,标普500指数涨0.23%。英伟...
员工被限制如厕次数?最新回应 近日 ,刚经历离职风波的小刘(化名)向媒体反映,他此前就职的爱仕达电子(深圳)有限公司管理极不人性化...