新型AI芯片将大语言模型能耗减半
创始人
2025-05-15 08:26:59

美国俄勒冈州立大学科研团队研发出一种新型AI芯片,成功将大语言模型的能耗降低50%。这项成果于近期在波士顿举行的IEEE定制集成电路会议上发布,是半导体领域的重大突破,有望成为解决大语言模型高能耗问题的“绿色钥匙”。当前,以谷歌“双子座”和OpenAI的GPT-4为代表的大语言模型,因海量参数使得算力需求激增,进而导致能源需求急速飙升。研究团队指出,问题的关键在于数据中心铜基通信链路的数据传输。高速数据交换不仅会产生误差,更会带来巨大的能源浪费。传统均衡器虽能纠错,但其自身就是“电老虎”。一种解决方案是开发更高效的有线通信芯片。他们开发的新芯片能够借助AI技术,通过训练其上的分类器识别并纠正错误,以更智能高效的方式恢复数据,从而降低能耗。与传统设计相比,新芯片能使大语言模型消耗的能源减半。(科技日报)

相关内容

热门资讯

天越冷,越爱吃。后悔没早点买.... 稍微上档次一点的饭店里,有一个食材总会出现,那就是三文鱼。不管是日料店的三文鱼刺身,还是西餐店的香煎...
“私人影院有陪侍服务”,三亚、... (来源:上观新闻)据江苏省广播电视总台荔枝新闻消息,近日,记者在西安、成都、三亚、大理等地探访发现,...
泽连斯基满意 (来源:上观新闻)据央视新闻消息,当地时间12月21日,美国总统特使威特科夫表示,过去三天,乌克兰代...
申科股份聘任41岁张晓非为副总... 12月22日,申科股份公告,聘任张晓非先生为公司副总经理。资料显示,张晓非,男,汉族,1984年6月...
机构岁末布局路线图浮现 202... 转自:经济参考报  临近岁末,机构调研火力全开,调研图谱清晰勾勒出资本对实体经济转型升级的高度关注。...