ONNX 简介
译者:片刻小哥哥
项目地址:https://pytorch.apachecn.org/2.0/tutorials/beginner/onnx/intro_onnx
原始地址:https://pytorch.org/tutorials/beginner/onnx/intro_onnx.html
开放神经网络交换 (ONNX) 是一种用于表示机器学习模型的开放标准格式。 torch.onnx
模块提供 API 来从本机 PyTorch 捕获计算图 torch.nn.Module
模型并转换为 ONNX 计算图.
导出的模型可以由许多 支持 ONNX 的运行时 中的任何一个使用,包括 Microsoft’s ONNX 运行时 .
注意
目前,ONNX 导出器 API 有两种风格,但本教程将重点介绍
torch.onnx.dynamo_export
。
TorchDynamo 引擎用于挂钩 Python’s 框架评估 API 并动态地将其字节码重写为 FX 计算图. 最终生成的 FX 计算图在最终转换为 ONNX 计算图 之前经过打磨 n.
这种方法的主要优点是 FX 计算图 使用字节码分析捕获,保留了模型的动态特性而不是使用传统的静态跟踪技术。
依赖项
需要 PyTorch 2.1.0 或更高版本。 ONNX 导出器依赖于额外的 Python 包:
- ONNX 标准库
- ONNX Script 该库使开发人员以富有表现力且简单的方式使用 Python 子集来编写 ONNX 运算符、函数和模型。
它们可以通过 pip 安装 :
要验证安装,请运行以下命令:
import torch
print(torch.__version__)
import onnxscript
print(onnxscript.__version__)
from onnxscript import opset18 # opset 18 is the latest (and only) supported version for now
import onnxruntime
print(onnxruntime.__version__)
每个导入必须成功且没有任何错误,并且必须打印出库版本。
进一步阅读
下面的列表涉及从基本示例到高级场景的教程,但不一定按照列出的顺序。您可以直接跳到您感兴趣的特定主题,或者耐心地阅读所有内容了解有关 ONNX 导出器的所有信息。