小红书开源首个大模型，11万亿非合成训练数据
创始人
2025-06-09 07:53:14
0次

格隆汇6月9日｜据AIGC开放社区，社交平台小红书，开源了首个大模型——dots.llm1。dots.llm1是一个1420亿参数的专家混合模型（MoE），在推理过程中仅激活140亿参数，能保持高性能的同时大幅度降低训练和推理成本。dots.llm1最大特色是使用了11.2万亿token的非合成高质量训练数据，这在现阶段的开源大模型中非常罕见，看来小红书也得益于自己庞大的语料库出手就是阔啊。所以，在中文测试中dots.llm1的性能非常强，以91.3的平均分超过了DeepSeek开源的V2、V3和阿里开源的Qwen2.532B和72B。

上一篇：媒体称特朗普团队考虑报复马斯克

下一篇：解放日报：织密国际航线，上海“入境第一站”地位更巩固

相关内容

热门资讯

中证A500ETF摩根（560... 8月22日，截止午间收盘，中证A500ETF摩根（560530）涨1.19%，报1.106元，成交额...
A500ETF易方达（1593... 8月22日，截止午间收盘，A500ETF易方达（159361）涨1.28%，报1.104元，成交额1...
何小鹏斥资约2.5亿港元增持小... 每经记者｜孙磊    每经编辑｜裴健如 8月21日晚间，小鹏汽车发布公告称，公司联...
中证500ETF基金（1593... 8月22日，截止午间收盘，中证500ETF基金（159337）涨0.94%，报1.509元，成交额2...
中证A500ETF华安（159... 8月22日，截止午间收盘，中证A500ETF华安（159359）涨1.15%，报1.139元，成交额...
科创AIETF（588790）... 8月22日，截止午间收盘，科创AIETF（588790）涨4.83%，报0.760元，成交额6.98...
创业板50ETF嘉实（1593... 8月22日，截止午间收盘，创业板50ETF嘉实（159373）涨2.61%，报1.296元，成交额1...
港股异动丨航空股大幅走低 中国... 港股航空股大幅下跌，其中，中国国航跌近7%表现最弱，中国东方航空跌近5%，中国南方航空跌超3%，美兰...
电网设备ETF（159326）... 8月22日，截止午间收盘，电网设备ETF（159326）跌0.25%，报1.198元，成交额409....
红利ETF国企（530880）... 8月22日，截止午间收盘，红利ETF国企（530880）跌0.67%，报1.034元，成交额29.0...