华为公司申请模型量化感知训练专利，提高量化感知训练的训练效率_科技资讯

华为公司申请模型量化感知训练专利，提高量化感知训练的训练效率

金融界

2024-03-03 11:38:22

金融界2024年3月2日消息，据国家知识产权局公告，华为技术有限公司申请一项名为“一种模型的量化感知训练方法及装置“，公开号CN117634566A，申请日期为2023年10月。

专利摘要显示，一种模型的量化感知训练方法，包括：获取模型的第一梯度信息或第一分布信息；基于模型的第一梯度信息，确定第二梯度信息，第二梯度信息为第一梯度信息中的梯度敏感度大于第一预设阈值的梯度信息；基于第二梯度信息或第一分布信息，从模型对应的训练数据集中确定目标训练数据子集；基于目标训练数据子集，对模型进行量化感知训练。第一梯度信息或第一分布信息第一梯度信息或第一分布信息本申请确定对量化误差敏感的目标参数对应的第二梯度信息，通过选择与模型的第二梯度信息或者第一分布信息匹配的数据子集进行量化感知训练，提高了量化感知训练的训练效率。

来源：金融界

上一篇：Quora 的陨落：AI 时代知识社区的困境

下一篇：突破！清华大学团队重磅公布

华为公司申请模型量化感知训练专利，提高量化感知训练的训练效率

相关内容

热门资讯