Page 1 of 1
esp-dl出来的Int16数据怎么换算成前面的浮点型
Posted: Tue May 09, 2023 3:18 am
by danyanpi
请问我模型最后conv出来的。电脑的都是0.2这些浮点数，但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数？
Re: esp-dl出来的Int16数据怎么换算成前面的浮点型
Posted: Tue May 09, 2023 10:56 am
by ESP_Junru
*2^-量化系数（7/15）
Re: esp-dl出来的Int16数据怎么换算成前面的浮点型
Posted: Tue May 09, 2023 10:57 am
by ESP_Junru
*2^-量化系数
8位就是 2^-7
16位就是2^15