Search found 13 matches

by danyanpi
Thu May 18, 2023 3:03 am
Forum: ESP-WHO 中文讨论版
Topic: PReLU输出错误
Replies: 3
Views: 27587

Re: PReLU输出错误

发现问题了。量化自动生成的激活函数里面有个参数shape of element。固定都是1了。但计算的时候不是。第N层取第N个element。但element这个数组只存了1个值,后面的都是0了或者随机数了
所以我的输出第一层都是对的。。后面负数基本都是0了
by danyanpi
Wed May 17, 2023 6:33 am
Forum: ESP-WHO 中文讨论版
Topic: PReLU输出错误
Replies: 3
Views: 27587

Re: PReLU输出错误

但我是PReLU饿
by danyanpi
Wed May 17, 2023 3:20 am
Forum: ESP-WHO 中文讨论版
Topic: PReLU输出错误
Replies: 3
Views: 27587

PReLU输出错误

请问下,我这里自己训练的模型。conv2d出来没问题。经过PReLU,后大部分负数都变成了0.。请问下怎么排查饿 const static __attribute__((aligned(16))) int16_t _conv1_conv_activation_element[] = { 29358}; const static Activation<int16_t> _conv1_conv_activation(PReLU, _conv1_conv_activation_element, -16, {1,}); const Activation<int16_t> *get__conv1_con...
by danyanpi
Mon May 15, 2023 6:49 am
Forum: ESP-WHO 中文讨论版
Topic: esp-dl模型输出错的,怎么排查问题
Replies: 1
Views: 24649

esp-dl模型输出错的,怎么排查问题

我这里两个模型。第一个弄好。结果蛮好的。第二个。发现输出差别很大。请问怎么排查?。
我这里也还有几个疑问:
1. 我准备每层的输出都打印出来。请问每层的打印。是量化后的值int16。转成float。。那个指数是多少。固定15?还是量化过程中的Conv layer name: /conv1/Conv, output_exponent: -13
2.最后输出的值,转成float,都是固定-15吗?。和量化过程的打印Gemm layer name: /class_fc/Gemm, output_exponent: -11有关不?
by danyanpi
Tue May 09, 2023 3:18 am
Forum: ESP-WHO 中文讨论版
Topic: esp-dl出来的Int16数据怎么换算成前面的浮点型
Replies: 2
Views: 24459

esp-dl出来的Int16数据怎么换算成前面的浮点型

请问我模型最后conv出来的。电脑的都是0.2这些浮点数,但esp32跑出来都是几千、几千的。。请问这个值怎么转换回去浮点数?
by danyanpi
Sat May 06, 2023 9:39 am
Forum: ESP-WHO 中文讨论版
Topic: esp-dl的使用疑问
Replies: 1
Views: 25331

esp-dl的使用疑问

请教一下:
量化过程中,需要选择的calib_dataset这些图片有什么用,能解释一下嘛?因为查了后都只说,选择有代表性的。这个图片量化过程中是拿来做什么的。怎么才算有代表性的呢?
by danyanpi
Wed Apr 12, 2023 7:48 am
Forum: ESP-WHO 中文讨论版
Topic: 有接口可以对图像坐resize处理吗
Replies: 1
Views: 22861

有接口可以对图像坐resize处理吗

这里自己测试,生成了一个mtcnn的模型,但需要resize图片,esp32有接口可以实现吗
by danyanpi
Wed Apr 12, 2023 2:01 am
Forum: ESP-IDF 中文讨论版
Topic: 请问WiFi mesh 能够跳几级
Replies: 0
Views: 1245

请问WiFi mesh 能够跳几级

ESP32-S2\S3 WiFi mesh 能够跳几级? 接单容量是多少?
by danyanpi
Wed Apr 12, 2023 1:49 am
Forum: ESP-WHO 中文讨论版
Topic: 求助,自己生成的模型移植到esp32后输出都是错的
Replies: 2
Views: 23027

Re: 求助,自己生成的模型移植到esp32后输出都是错的

3. batch_size是必须1吗?我看文档写着“层的输入张量和输出张量均是三维。张量的维度顺序固定,按照[高度,宽度,通道]的顺序排序。“,model.forward(input)的时候每次只能输入一张图片吗? -> 是的,只能输入一张图片 这里我转Onnx的时候,torch.onnx.export(model, dummy_input, onnx_file_path,opset_version = 9, verbose = True, input_names=['input'], output_names=['output','output1'], dynamic_axes= {'inp...