- Snipaste_2024-01-29_04-24-40.png (66.95 KiB) Viewed 8152 times
- Snipaste_2024-01-29_04-28-22.png (77.57 KiB) Viewed 8152 times
Search found 3 matches
- Sun Jan 28, 2024 8:30 pm
- Forum: ESP-WHO 中文讨论版
- Topic: 使用TVM自动生成模型部署项目-模型类型错误
- Replies: 0
- Views: 8152
使用TVM自动生成模型部署项目-模型类型错误
.pb的模型转换成onnx格式并根据教程预处理之后，查看模型是float32的数据类型，但是在模型量化这一步骤的时候出现下面这个错误
不知道是什么原因，需要用按照知乎上面的方法手动量化吗
- Tue Jan 16, 2024 9:03 pm
- Forum: ESP-WHO 中文讨论版
- Topic: 使用TVM自动生成模型部署项目-校准数据集格式
- Replies: 2
- Views: 33772
Re: 使用TVM自动生成模型部署项目-校准数据集格式
感谢你的回复，更换图片数组后可以正常量化了，但量化完的模型在生成工程时出现如下错误 Snipaste_2024-01-17_04-47-57.png Snipaste_2024-01-17_04-45-47.png 这是详细log: err_log.txt 我使用的模型是这个https://www.kaggle.com/models/google/movenet/frameworks/tfLite/variations/singlepose-lightning转换成的ONNX格式模型 Inputs A frame of video or an image, represented as an ...
- Sun Jan 14, 2024 6:18 pm
- Forum: ESP-WHO 中文讨论版
- Topic: 使用TVM自动生成模型部署项目-校准数据集格式
- Replies: 2
- Views: 33772
使用TVM自动生成模型部署项目-校准数据集格式
我在使用TVM量化MOVENET模型时出现了这个问题 CMD： python esp_quantize_onnx.py --input_model ./movenet_singlepose_lightning_4_opt.onnx --output_model ./model_quant.onnx --calibrate_dataset ./test_dataset.npy Traceback (most recent call last): File "esp_quantize_onnx.py", line 71, in <module> main(args.input_model, arg...