量化测试结果¶
目前 mmdeploy 支持 ncnn 量化
ncnn 量化¶
分类任务¶
| model | dataset | fp32 top-1 (%) | int8 top-1 (%) |
|---|---|---|---|
| ResNet-18 | Cifar10 | 94.82 | 94.83 |
| ResNeXt-32x4d-50 | ImageNet-1k | 77.90 | 78.20* |
| MobileNet V2 | ImageNet-1k | 71.86 | 71.43* |
| HRNet-W18* | ImageNet-1k | 76.75 | 76.25* |
备注：
因为 imagenet-1k 数据量很大、ncnn 未正式发布 Vulkan int8 版本，考虑到 CPU 运行时间，仅用部分测试集（4000/50000）
量化后精度会有差异，分类模型涨点 1% 以内是正常情况