esp-dl出来的Int16数据怎么换算成前面的浮点型
esp-dl出来的Int16数据怎么换算成前面的浮点型
请问我模型最后conv出来的。电脑的都是0.2这些浮点数,但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数?
Re: esp-dl出来的Int16数据怎么换算成前面的浮点型
*2^-量化系数(7/15)
Re: esp-dl出来的Int16数据怎么换算成前面的浮点型
*2^-量化系数
8位就是 2^-7
16位就是2^15
8位就是 2^-7
16位就是2^15
Who is online
Users browsing this forum: No registered users and 16 guests