清华大学申请数据分配优化专利,能提高模型整体计算效率
金融界
2024-01-28 22:38:42

原标题:清华大学申请数据分配优化专利,能提高模型整体计算效率

金融界2024年1月26日消息,据国家知识产权局公告,清华大学申请一项名为“一种基于计算图和重计算的数据分配优化方法及装置“,公开号CN117453361A,申请日期为2023年10月。

专利摘要显示,本发明提供一种基于计算图和重计算的数据分配优化方法及装置,涉及优化技术领域。所述方法包括:获取存储开销和计算开销;根据存储开销和计算开销、流水并行的大小、流水节当前序号和各子图分别对应的计算单元数量,以中间结果的显存上界为上限,且各子图中所有计算单元节省最多计算时间为第一目标,确定与各计算单元分别对应的最优重计算策略;根据流水节总数,微样本数量,与各子图分别对应流水节中的最优重计算策略,以及与各子图分别对应流水节前向计算时间和流水节反向计算时间,以总训练时间最短为第二目标,确定每个流水节对应子图中所包含的解码层数量。所述装置执行上述方法。本发明实施例提供的方法及装置,能提高模型整体计算效率。

来源:金融界

相关内容

热门资讯

庄浪:智慧农业“蔬”写丰收篇章 庄浪县良邑镇现代智慧农业产业园内高科技装备一应俱全、高效运转。 夏日的庄浪,梯田层叠如画。在这片充满...
拼多多雄安扎根:不只是“落子”... 作者:Evin 编辑:刘致呈 审核:徐徐 出品:互联网江湖 最近,拼多多落地雄安又有了新动作。 6月...
中国电信亮相MWC26上海:以... 6月24日,2026上海世界移动通信大会(MWC26上海)开幕。中国电信作为建设网络强国、科技强国、...
周鸿祎不再做“安全龙虾”了,要... 来源:滚动播报 (来源:千龙网) 经历了近半年的OpenClaw龙虾热,推出“安全龙虾”等举措后,6...
预算2000-3000选哪款?... 预算2000-3000选哪款?2026花小钱办大事手机盘点 在预算2000-3000,2026年这些...