华为公司申请神经网络模型的训练方法专利,提高模型训练的精度
金融界
2024-03-31 04:19:09

原标题:华为公司申请神经网络模型的训练方法专利,提高模型训练的精度

金融界2024年3月29日消息,据国家知识产权局公告,华为技术有限公司申请一项名为“神经网络模型的训练方法、装置、设备及系统“,公开号CN117787375A,申请日期为2022年9月。

专利摘要显示,本申请提供一种神经网络模型的训练方法、装置、设备及系统,应用于训练神经网络模型的计算设备。该方法包括:计算设备在对神经网络模型进行量化训练的过程中,针对量化导致的梯度不准确的问题,根据参数的量化误差的波动值更改梯度补偿策略,使用适用的梯度补偿策略对梯度进行校正,并基于梯度补偿策略确定的梯度更新神经网络模型的参数,得到优化后神经网络模型。从而提高了神经网络模型的参数的梯度的准确性,以及根据梯度确定的参数的精度,进而保证了模型训练的精度。

来源:金融界

相关内容

热门资讯

科学与健康|追“风”逐“云” ... 新华社北京12月27日电 题:追“风”逐“云” 气象卫星家族添了“葫芦娃”! 新华社记者宋晨 12月...
开源之魅:大模型在2025年的... 开源,大模型的未来战场? 2025年,科技界最热的词汇是什么?不是AI,也不是元宇宙,而是“开源”。...
传媒科技动漫游戏行业人士齐聚成... 12月27日,第二届传媒科技动漫游戏博览会开幕式暨数字内容产业峰会在四川成都举办。本次活动以“智媒新...
华人一作!Meta等复刻Alp... 新智元报道 编辑:元宇 好困 【新智元导读】当模型学会「左右互搏」的那一刻,平庸的模仿时代结束了,...
原创 售... 大家知道,小米 17 Utra 已经正式发布,并为用户带来了常规版和徕卡版两种选择,成为了这两天网上...