openchip--中国ag环亚|首页芯片社区

?找回密码
?立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 815|回复: 0
打印 上一主题 下一主题

谷歌8bit量化策略解析

[复制链接]

37

主题

37

帖子

127

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
127
跳转到指定楼层
妤间富
发表于 2018-8-9 15:50:44 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

clamp的意思就是clip,>a的变成a,小于b的变成b,其他的不变

此处,x跟r是一样的,可能写错了。
使用pytorch写的关于权重的伪代码为
n = 256x = torch.rand([4,5,6,7]) - 0.5b = x.max()w = torch.rand([4,5,6,7]) - 0.5a = w.min()b = w.max()s = (b - a)/(n-1)q = torch.round((w - a)/s)*s+a

【1】中国芯片ag环亚|首页社区
分享到:? QQ好友和群QQ好友和群
收藏收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


QQ|Archiver|手机版|小黑屋|中国ag环亚|首页芯片社区

GMT+8, 2019-10-6 20:31ag杀猪原理|HOME , Processed in 0.626606 second(s), 18 queries .

Powered by Discuz! X3.4

? 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表