Después de un cambio en el backend de inferencia, los resultados anteriores pueden servir como material de comparación. Las conclusiones sobre la función, la calidad de las tareas y el desempeño para el nuevo entorno necesitan la evidencia correspondiente. Registre los cambios en los archivos del modelo, la configuración de conversión, las entradas, las salidas y las dependencias del software antes de definir el alcance de la nueva prueba.

¿Qué queda después de una conversión exitosa?

Confirme la ejecución real del modelo en el dispositivo de destino. Verifique los tensores de entrada, los campos de salida, las excepciones y los respaldos. Utilice muestras representativas para comparar resultados de clasificación, detección u otras tareas, conservando diferencias y tolerancias. Las condiciones que no se probaron no se pueden informar como compatibilidad verificada.

¿Cómo se debe comparar nuevamente el desempeño?

Mantenga sin cambios la entrada, el tamaño del lote, el calentamiento, los límites de tiempo y la carga de trabajo simultánea durante cada comparación. Registre la ejecución del modelo y la latencia de la aplicación por separado. Compare distribuciones de muestra y uso de recursos. Cambios de estado en precisión numérica, subprocesos o ubicación de copia de datos. Comparar dos tiempos mostrados por sí solo no es suficiente.

¿Qué registros pertenecen a la entrega?

Conserve tanto las versiones del modelo como las sumas de verificación, las configuraciones del entorno, las muestras, las comparaciones de resultados, los registros de rendimiento y los problemas abiertos. Confirme las rutas de inicio, manejo de fallas, reinicio y reversión. Las conclusiones sobre tareas simultáneas, funcionamiento a largo plazo o rendimiento del sitio necesitan evidencia que abarque las condiciones reales.

Ver Documentación de optimización de grafos en tiempo de ejecución de ONNX.