Modelo ONNX | Intercambio abierto de redes neuronales

ONNX es un modelo de intercambio abierto para redes neuronales.

Introducción

ONNX, también conocido como Open Neural Network Exchange, se ha convertido en un formato estandarizado ampliamente reconocido que facilita la representación de modelos de aprendizaje profundo. Su uso ha ganado una tracción significativa debido a su capacidad para promover el intercambio y la colaboración sin problemas entre varios frameworks, incluyendo PyTorch, TensorFlow y Cafe2.

Una de las principales ventajas de ONNX radica en su capacidad para garantizar la consistencia entre frameworks. Además, ofrece la flexibilidad de exportar e importar modelos utilizando múltiples lenguajes de programación, como Python, C++, C# y Java. Esta versatilidad permite a los desarrolladores compartir y aprovechar fácilmente modelos dentro de la comunidad en general, independientemente de su lenguaje de programación preferido.

Objetivos de Aprendizaje

En esta sección, profundizaremos extensamente en ONNX, proporcionando un tutorial completo sobre cómo convertir modelos al formato ONNX. Para garantizar la claridad, el contenido se organizará en subtítulos separados.
Además, exploraremos diferentes herramientas que se pueden utilizar para la conversión de modelos al formato ONNX.
A continuación, nos enfocaremos en el proceso paso a paso de convertir modelos de PyTorch al formato ONNX.
Por último, presentaremos un resumen completo, resaltando los hallazgos clave y las ideas sobre las capacidades de ONNX.

Este artículo fue publicado como parte del Data Science Blogathon.

Descripción Detallada

ONNX, abreviatura de Open Neural Network Exchange, es un formato de libre disponibilidad diseñado específicamente para modelos de aprendizaje profundo. Su propósito principal es facilitar el intercambio y la compartición sin problemas de modelos entre diferentes frameworks de aprendizaje profundo, incluyendo TensorFlow y Caffe2, cuando se utiliza junto con PyTorch.

Una de las ventajas notables de ONNX es su capacidad para transferir modelos entre frameworks diversos con una preparación mínima y sin necesidad de reescribir los modelos. Esta funcionalidad simplifica en gran medida la optimización y aceleración de modelos en diversas plataformas de hardware, como GPUs y TPUs. Además, permite a los investigadores compartir sus modelos en un formato estandarizado, promoviendo la colaboración y la reproducibilidad.

Para facilitar el trabajo eficiente con modelos ONNX, ONNX proporciona varias herramientas útiles. Por ejemplo, ONNX Runtime funciona como un motor de alto rendimiento para ejecutar modelos. Además, el convertidor ONNX facilita la conversión sin problemas de modelos entre diferentes frameworks.

ONNX es un proyecto en desarrollo activo que se beneficia de las contribuciones de actores importantes en la comunidad de IA, incluyendo Microsoft y Facebook. Cuenta con el apoyo de varios frameworks de aprendizaje profundo, bibliotecas y socios de hardware, como Nvidia e Intel. Además, los principales proveedores de servicios en la nube como AWS, Microsoft Azure y Google Cloud ofrecen soporte para ONNX.

¿Qué es ONNX?

ONNX, también conocido como Open Neural Network Exchange, sirve como un formato estandarizado para representar modelos de aprendizaje profundo. Su objetivo principal es promover la compatibilidad entre diferentes frameworks de aprendizaje profundo, incluyendo TensorFlow, PyTorch, Caffe2 y otros.

El concepto principal de ONNX gira en torno a una representación universal de grafos computacionales. Estos grafos, conocidos como grafos de datos, definen los componentes o nodos del modelo y las conexiones o aristas entre ellos. Para definir estos grafos, ONNX utiliza un formato de datos agnóstico de lenguaje y plataforma llamado ProtoBuff. Además, ONNX incorpora un conjunto estandarizado de tipos, funciones y atributos que especifican las operaciones realizadas dentro del grafo, así como los tensores de entrada y salida.

ONNX es un proyecto de código abierto que ha sido desarrollado conjuntamente por Facebook y Microsoft. Su última versión sigue evolucionando, introduciendo características adicionales y expandiendo el soporte para abarcar técnicas de aprendizaje profundo emergentes.

¿Cómo Convertir?

Para convertir un modelo de PyTorch al formato ONNX, necesitarás el modelo de PyTorch y el código fuente asociado utilizado para crearlo. Este proceso implica utilizar PyTorch para cargar el modelo en Python, definir valores de entrada de marcador de posición para todas las variables de entrada y utilizar el exportador ONNX para generar el modelo ONNX. Al convertir un modelo a ONNX, es importante tener en cuenta los siguientes aspectos clave. Para lograr una conversión exitosa utilizando ONNX, sigue los siguientes pasos:

1. Comienza cargando el modelo de PyTorch en Python utilizando la biblioteca PyTorch.

2. Asigna valores de entrada predeterminados a todas las variables dentro del modelo. Este paso garantiza que las transformaciones se alineen con los requisitos de entrada del modelo.

3. Utiliza el exportador ONNX para generar modelos ONNX, que se pueden ejecutar en Python.

Durante el proceso de conversión, es importante verificar y asegurarse de los siguientes cuatro aspectos para una conversión exitosa con ONNX.

Entrenamiento del Modelo

Antes del proceso de conversión, es necesario entrenar el modelo utilizando frameworks como TensorFlow, PyTorch o Cafe2. Una vez que el modelo esté entrenado, se puede convertir al formato ONNX, lo que permite su uso en diferentes frameworks o entornos.

Nombres de Entrada y Salida

Es importante asignar nombres distintos y descriptivos a los tensores de entrada y salida en el modelo ONNX para garantizar una identificación precisa. Esta convención de nombres facilita la integración y compatibilidad del modelo en diferentes frameworks o entornos.

Manejo de Ejes Dinámicos

ONNX admite ejes dinámicos, lo que permite que los tensores representen parámetros como el tamaño del lote o la longitud de la secuencia. Es crucial manejar cuidadosamente los ejes dinámicos durante el proceso de conversión para mantener la consistencia y usabilidad del modelo ONNX resultante en diferentes frameworks o entornos.

Evaluación de la Conversión

Después de convertir el modelo al formato ONNX, se recomienda realizar una evaluación. Esta evaluación incluye comparar las salidas de los modelos original y convertido utilizando un conjunto de datos de entrada compartido. Al comparar las salidas, los desarrolladores pueden asegurarse de la precisión y corrección del proceso de conversión, verificando la equivalencia del modelo transformado con el original.

Siguiendo estas pautas, los desarrolladores pueden convertir con éxito modelos de PyTorch al formato ONNX, promoviendo la interoperabilidad y permitiendo su uso en diversos frameworks y entornos.

Herramientas para Convertir tu Modelo a ONNX

Bibliotecas ONNX: Las bibliotecas ONNX ofrecen funcionalidades para convertir modelos de diferentes frameworks, incluyendo TensorFlow, PyTorch y Caffe2, al formato ONNX. Estas bibliotecas están disponibles en múltiples lenguajes de programación, como Python, C++ y C#.

ONNX Runtime: ONNX Runtime funciona como un motor de inferencia de código abierto diseñado específicamente para ejecutar modelos ONNX. Incluye la herramienta onnx2trt, que permite la conversión de modelos ONNX al formato TensorRT. Aprovechando las GPU, especialmente las NVIDIA GPU, el formato TensorRT brinda ventajas significativas en términos de rendimiento y aceleración.

Netron: Netron es un navegador web de código abierto creado específicamente para visualizar y examinar modelos de redes neuronales, incluidos los modelos en formato ONNX. Además, Netron ofrece la funcionalidad de convertir modelos ONNX a otros formatos como TensorFlow o CoreML.
ONNX-Tensorflow: La biblioteca ONNX-Tensorflow es una herramienta de conversión que simplifica el proceso de importar modelos ONNX a TensorFlow, que es ampliamente reconocido como un popular framework de aprendizaje profundo.
Model Optimizer: Model Optimizer es una herramienta de línea de comandos que ayuda a convertir modelos entrenados al formato de Representación Intermedia (IR). El Motor de Inferencia puede cargar y ejecutar modelos en este formato IR, lo que permite una implementación eficiente.
ONNXmizer: ONNXmizer es una herramienta creada por Microsoft que facilita la conversión de diferentes representaciones de redes neuronales al formato ONNX. La versión actual de ONNXmizer es compatible con frameworks populares como PyTorch y TensorFlow.

Estas herramientas ofrecen recursos valiosos para convertir modelos al formato ONNX, mejorando la interoperabilidad y permitiendo su utilización en una amplia gama de frameworks y plataformas.

Cómo Convertir un Modelo de PyTorch a ONNX

Para crear una red neuronal simple con 10 puntos de entrada y 10 puntos de salida utilizando el módulo PyTorch NN, sigue estos pasos. Luego, convierte el modelo al formato ONNX utilizando la biblioteca ONNX.

Paso 1

Comienza importando las bibliotecas requeridas, como PyTorch y ONNX, para facilitar el proceso de conversión.

import torch
import onnx

Paso 2

A continuación, definamos la arquitectura del modelo. Para este ejemplo, utilizaremos una red neuronal feed-forward básica. Crearemos una instancia del modelo y especificaremos la entrada para la instancia. Esto nos permitirá continuar con el proceso de conversión.

# Definiendo el modelo de PyTorch
class MiModelo(torch.nn.Module):
    def __init__(self):
        super(MiModelo, self).__init__()
        self.fc = torch.nn.Linear(10, 10)

    def forward(self, x):
        x = self.fc(x)
        return x

# Creando una instancia
modelo = MiModelo()

Paso 3

Para exportar el modelo al formato ONNX y guardarlo como “mimodelo.onnx”, podemos utilizar la función torch.onnx.export(). Aquí tienes un ejemplo.

# Definiendo un ejemplo de entrada
ejemplo_entrada = torch.randn(1, 10)

# Exportando al formato ONNX
torch.onnx.export(modelo, ejemplo_entrada, "mimodelo.onnx")

Paso 4

Después de exportar el modelo, puedes utilizar el módulo onnx.checker para asegurarte de la consistencia del modelo y verificar las formas de los tensores de entrada y salida.

import onnx
modelo = onnx.load("mimodelo.onnx")
onnx.checker.check_model(modelo)

La función onnx.checker.check_model() lanzará una excepción si hay algún error en el modelo. De lo contrario, devolverá None.

Paso 5

Para asegurarte de la equivalencia entre el modelo original y el modelo ONNX convertido, puedes comparar sus salidas.

# Compara la salida del modelo original y el modelo convertido a ONNX para asegurar su equivalencia.
salida_original = modelo(ejemplo_entrada)
modelo_onnx = onnx.load("mimodelo.onnx")
onnx.checker.check_model(modelo_onnx)
rep = onnx.shape_inference.infer_shapes(modelo_onnx)
onnx.checker.check_shapes(rep)
ort_session = onnxruntime.InferenceSession(modelo_onnx.SerializeToString())
ort_inputs = {ort_session.get_inputs()[0].name: ejemplo_entrada.numpy()}
ort_outs = ort_session.run(None, ort_inputs)
np.testing.assert_allclose(salida_original.detach().numpy(), ort_outs[0], rtol=1e-03, atol=1e-05)
print("Salida original:", salida_original)
print("Salida del modelo ONNX:", ort_outs[0])

Conclusión

ONNX juega un papel vital en la promoción de la interoperabilidad de modelos al ofrecer un formato estandarizado para convertir modelos entrenados en un framework para su utilización en otro. Esta integración perfecta de modelos elimina la necesidad de volver a entrenar al pasar de un framework, librería o entorno a otro.

Puntos clave

Durante el proceso de transformación, es crucial asignar nombres únicos y descriptivos a los tensores de entrada y salida del modelo. Estos nombres juegan un papel importante en la identificación de las entradas y salidas en el formato ONNX.
Otro aspecto importante a considerar al convertir un modelo a ONNX es el manejo del acceso dinámico. Los ejes dinámicos se pueden utilizar para representar parámetros dinámicos como el tamaño del lote o la longitud de la secuencia en un modelo. Se debe garantizar una gestión adecuada de los ejes dinámicos para asegurar la consistencia y la usabilidad en diferentes frameworks y entornos.
Existen varias herramientas de código abierto disponibles para facilitar la conversión de modelos al formato ONNX. Estas herramientas incluyen ONNX Libraries, ONNX Runtime, Natron, ONNX-TensorFlow y ModelOptimizer. Cada herramienta tiene sus propias fortalezas únicas y admite diferentes frameworks de origen y destino.
Aprovechando las capacidades de ONNX y utilizando estas herramientas, los desarrolladores pueden aumentar la flexibilidad y la interoperabilidad de sus modelos de aprendizaje profundo, lo que permite una integración y despliegue sin problemas en diferentes frameworks y entornos.

Preguntas frecuentes

Los medios mostrados en este artículo no son propiedad de Analytics Vidhya y se utilizan a discreción del autor.