esp-dl出来的Int16数据怎么换算成前面的浮点型

danyanpi
Posts: 13
Joined: Thu Mar 23, 2023 3:02 am

esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby danyanpi » Tue May 09, 2023 3:18 am

请问我模型最后conv出来的。电脑的都是0.2这些浮点数,但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数?

ESP_Junru
Posts: 49
Joined: Tue Jul 12, 2022 6:26 am

Re: esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby ESP_Junru » Tue May 09, 2023 10:56 am

*2^-量化系数(7/15)

ESP_Junru
Posts: 49
Joined: Tue Jul 12, 2022 6:26 am

Re: esp-dl出来的Int16数据怎么换算成前面的浮点型

Postby ESP_Junru » Tue May 09, 2023 10:57 am

*2^-量化系数

8位就是 2^-7
16位就是2^15

Who is online

Users browsing this forum: No registered users and 16 guests