工具说明
Lyngor提供常用功能的工具集,包括:
模型编译工具用于通过命令行对第三方框架模型进行编译,通过参数设置,覆盖模型编译的绝大多数场景。
精度对比工具用于比较Lyngor和框架的结果误差。
性能分析工具用于分析Lyngor运行模型推理时,分析APU在模型上节点的耗时与效能。
对于Pytorch框架建议使用编程接口,若想使用model_compile,需要先转成ONNX再使用model_compile工具,编程接口示例见 Pytorch模型编译推理实例 。
Lyngor提供常用功能的工具集,包括:
模型编译工具用于通过命令行对第三方框架模型进行编译,通过参数设置,覆盖模型编译的绝大多数场景。
精度对比工具用于比较Lyngor和框架的结果误差。
性能分析工具用于分析Lyngor运行模型推理时,分析APU在模型上节点的耗时与效能。
对于Pytorch框架建议使用编程接口,若想使用model_compile,需要先转成ONNX再使用model_compile工具,编程接口示例见 Pytorch模型编译推理实例 。