Overview

文档概览

覆盖 MindSpore、飞桨、PyTorch、TensorFlow 等主流框架模型部署流程。

Before You Start

准备工作

• 明确模型来源与框架版本
• 准备基准输入输出
• 确认目标硬件资源

模型与环境检查

确认框架、算子、输入输出和目标环境。

1. 1
   记录模型信息

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

2. 2
   检查算子支持

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

3. 3
   准备精度基线

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

转换与推理配置

完成模型转换、运行参数和推理接口配置。

1. 1
   设置输入规格

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

2. 2
   选择优化策略

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

3. 3
   运行推理验证

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

精度与性能调优

从数据、算子和运行配置定位问题。

1. 1
   对比输出精度

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

2. 2
   分析运行耗时

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。

3. 3
   记录稳定配置

   根据目标硬件、系统版本与项目环境完成检查，并记录关键配置与结果。