系列编排日期为 2026 年 8 月;技术基线核对与教学代码 CPU 验证日期为 2026-10-12。适用 Hi3516CV610 与本系列注明的 SDK/工具版本,实测范围见第 12 章。
返回系列目录 · 本篇属于 12 章与 4 份附录。
这份索引用于从具体问题快速回到厂商文档。文档均来自本项目 SDK 的中文 pc/SVP_NPU 目录,查阅时先确认版本,优先搜索参数名和章节标题。
文档所在位置
|
本博客不重新分发 SDK PDF。拥有相应 SDK 的读者可在上述路径打开文件;其他版本中同一参数的默认值、约束和页码可能不同。
基础流程检索
| 现在要解决的问题 | 文档与入口 | 阅读后应确认 |
|---|---|---|
| 不知道工具如何配合 | 快速上手指南,第 1~3 章 | 手动流程、模型和运行环境关系 |
| 希望用官方自动流程 | 快速上手指南,第 4 章 | 自动流程前提与输入配置 |
| 安装工具和配置环境 | 驱动和开发环境安装指南 | 主机要求、安装步骤、环境变量 |
| 第一次运行 ATC | ATC工具使用指南,2.1~2.3 | 准备条件、示例、产物类型 |
| 判断转换是否正确 | 快速上手指南,第 5 章 | 精度和性能分别如何验证 |
| 定位误差阶段 | 快速上手指南,5.1.1、5.1.2 | 误差来源与相邻阶段比对 |
| MindCmd 一键精度比对 | 快速上手指南,5.1.3 | 使用对应工具版本与配置 |
| 精度调优 | 快速上手指南,5.1.4 | 输入一致后再调整精度 |
ATC 参数与算子检索
| 问题 | ATC 手册位置 | 建议搜索词 |
|---|---|---|
| 工具版本 | 3.2.1.2 | --version |
| 模型与框架 | 3.2.2 | --model、--framework |
| 输出位置与报告 | 3.2.3 | --output、--check_report |
| AIPP 规格和顺序 | 3.2.4.1.1 | Hi3516CV610、AIPP |
| 模型通道 | 3.2.4.1.2.4 | model_format |
| 均值缩放 | 3.2.4.1.2.6 | mean_chn、var_reci |
| 裁剪缩放填边 | 3.2.4.1.2.9~3.2.4.1.2.11 | crop、resize、padding |
| 静态与动态配置 | 3.2.4.1.3、3.2.4.1.4 | static、dynamic |
| 外部输入类型 | 3.2.4.11 | --input_type |
| 输出类型 | 3.2.5.1 | --output_type |
| 指定输出节点 | 3.2.5.2 | --out_nodes |
| 输出重排 | 3.2.5.7 | --output_reorder |
| 层级量化参数 | 3.2.6.1 | --gfpq_param_file |
| 校准文件格式 | 3.2.6.2 | --image_list |
| 激活权重位宽 | 3.2.6.3 | --compile_mode |
| 权重按通道量化 | 3.2.6.4 | --weight_quant_per_channel |
| 量化算法 | 3.2.6.5 | --quant_mode |
| 高精度相关选项 | 3.2.6.6~3.2.6.8 | high_precision_layer、output_quantized |
| 目标芯片 | 3.2.9.1 | --soc_version |
| 仿真模型产物 | 3.3.3.1 | --save_original_model |
| shape 诊断 | 3.3.3.2 | --dump_mode |
| 后处理固化 | 第 4 章 | 对应模型族、YOLOv8 |
| ONNX 引擎支持 | 5.2.1 | 算子名、opset、属性 |
| ONNX CPU 规格 | 5.2.2 | 算子名、输入类型和限制 |
| 性能调整 | 第 6 章 | 对应网络结构和优化问题 |
若小节中列出多个芯片,必须读到目标芯片的限制行。参数出现在目录中,只证明本工具文档介绍它,不等于所有型号支持所有取值。
运行时检索
《应用开发指南》第 3 章描述系统概念,第 4 章介绍推理流程。查 3.3 理解进程、线程、Device、Context、Stream,查 3.4 理解内存,查 3.6 和 3.7 理解日志与 proc 信息。第 4 章按 Runtime、加载、执行、释放查阅。
出现输入数量比 ONNX 多的问题,搜索 task_buf 和 work_buf;读出的数据长度不对,搜索 stride、数据类型大小及模型描述;异步和多线程问题,先回到 Context、Stream 和同步要求。不能只从 API 名称猜生命周期。
MindCmd AMCT 与扩展开发
MindCmd 手册先读第 2 章环境和配置、第 3 章样例,再进入第 4 章一键推理与第 6 章原框架推理;ONNX 对应 6.3。采用样例时保留配置副本和工具日志。
AMCT 分 PyTorch 与 Caffe 两本,按实际框架选择,记录与 ATC 的配套版本。ATC Graph 开发指南和自定义算子开发指南用于更深入扩展,不应替代普通模型的算子支持核对。跨芯片复用时,增加阅读图像分析引擎使用差异说明。
维护检索表的方法
升级 SDK 后重新核对目录、文档修订版本、参数默认值、芯片限制和产物说明。原文节号改变时,应同时更新正文与本表。将 PDF 文件哈希记录在维护基线中,可以避免文件名相同却版本不同的情况。
