发现问题了。量化自动生成的激活函数里面有个参数shape of element。固定都是1了。但计算的时候不是。第N层取第N个element。但element这个数组只存了1个值,后面的都是0了或者随机数了
所以我的输出第一层都是对的。。后面负数基本都是0了
Search found 13 matches
- Thu May 18, 2023 3:03 am
- Forum: ESP-WHO 中文讨论版
- Topic: PReLU输出错误
- Replies: 3
- Views: 27587
- Wed May 17, 2023 6:33 am
- Forum: ESP-WHO 中文讨论版
- Topic: PReLU输出错误
- Replies: 3
- Views: 27587
Re: PReLU输出错误
但我是PReLU饿
- Wed May 17, 2023 3:20 am
- Forum: ESP-WHO 中文讨论版
- Topic: PReLU输出错误
- Replies: 3
- Views: 27587
PReLU输出错误
请问下,我这里自己训练的模型。conv2d出来没问题。经过PReLU,后大部分负数都变成了0.。请问下怎么排查饿 const static __attribute__((aligned(16))) int16_t _conv1_conv_activation_element[] = { 29358}; const static Activation<int16_t> _conv1_conv_activation(PReLU, _conv1_conv_activation_element, -16, {1,}); const Activation<int16_t> *get__conv1_con...
- Mon May 15, 2023 6:49 am
- Forum: ESP-WHO 中文讨论版
- Topic: esp-dl模型输出错的,怎么排查问题
- Replies: 1
- Views: 24649
esp-dl模型输出错的,怎么排查问题
我这里两个模型。第一个弄好。结果蛮好的。第二个。发现输出差别很大。请问怎么排查?。
我这里也还有几个疑问:
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15?还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值,转成float,都是固定-15吗?。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不?
我这里也还有几个疑问:
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15?还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值,转成float,都是固定-15吗?。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不?
- Tue May 09, 2023 3:18 am
- Forum: ESP-WHO 中文讨论版
- Topic: esp-dl出来的Int16数据怎么换算成前面的浮点型
- Replies: 2
- Views: 24459
esp-dl出来的Int16数据怎么换算成前面的浮点型
请问我模型最后conv出来的。电脑的都是0.2这些浮点数,但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数?
- Sat May 06, 2023 9:39 am
- Forum: ESP-WHO 中文讨论版
- Topic: esp-dl的使用疑问
- Replies: 1
- Views: 25331
esp-dl的使用疑问
请教一下:
量化过程中,需要选择的calib_dataset这些图片有什么用,能解释一下嘛?因为查了后都只说,选择有代表性的。这个图片量化过程中是拿来做什么的。怎么才算有代表性的呢?
量化过程中,需要选择的calib_dataset这些图片有什么用,能解释一下嘛?因为查了后都只说,选择有代表性的。这个图片量化过程中是拿来做什么的。怎么才算有代表性的呢?
- Wed Apr 12, 2023 7:48 am
- Forum: ESP-WHO 中文讨论版
- Topic: 有接口可以对图像坐resize处理吗
- Replies: 1
- Views: 22861
有接口可以对图像坐resize处理吗
这里自己测试,生成了一个mtcnn的模型,但需要resize图片,esp32有接口可以实现吗
- Wed Apr 12, 2023 2:01 am
- Forum: ESP-IDF 中文讨论版
- Topic: 请问WiFi mesh 能够跳几级
- Replies: 0
- Views: 1245
请问WiFi mesh 能够跳几级
ESP32-S2\S3 WiFi mesh 能够跳几级? 接单容量是多少?
- Wed Apr 12, 2023 1:49 am
- Forum: ESP-WHO 中文讨论版
- Topic: 求助,自己生成的模型移植到esp32后输出都是错的
- Replies: 2
- Views: 23027
Re: 求助,自己生成的模型移植到esp32后输出都是错的
3. batch_size是必须1吗?我看文档写着“层的输入张量和输出张量均是三维。张量的维度顺序固定,按照[高度,宽度,通道]的顺序排序。“,model.forward(input)的时候每次只能输入一张图片吗? -> 是的,只能输入一张图片 这里我转Onnx的时候,torch.onnx.export(model, dummy_input, onnx_file_path,opset_version = 9, verbose = True, input_names=['input'], output_names=['output','output1'], dynamic_axes= {'inp...
- Tue Apr 11, 2023 9:43 am
- Forum: ESP-WHO 中文讨论版
- Topic: [Resolved] esp-who的例子编不过,是IDF版本5.1的不支持吗?
- Replies: 3
- Views: 39808
Re: esp-who的例子编不过,是IDF版本5.1的不支持吗?
谢谢,已经换过来了