Inicie un plan de implementación del modelo perimetral confirmando las fuentes del modelo y los usos permitidos, las definiciones de entrada y salida, el dispositivo de destino y las versiones de software. Conserve el modelo original, muestras representativas, definiciones de etiquetas y resultados existentes. Comience con una prueba de implementación limitada y acuerde los criterios de aceptación de función, calidad de la tarea y límites de recursos.
Entregar archivos de conversión con su configuración.
Registre comandos de conversión, versiones de herramientas, soporte del operador y limitaciones conocidas. Para la cuantificación, conserve la cobertura y el preprocesamiento de los datos de calibración. Calcule y guarde la suma de comprobación del archivo del modelo de salida. Vincule ese archivo al modelo original y a los registros de conversión. Un mensaje de conversión exitoso no establece una inferencia aceptada en el dispositivo de destino.
Comparar resultados en las mismas muestras
Primero verifique los tensores de entrada y luego compare las salidas de los modelos original e implementado. Verifique los resultados de la clasificación, los cuadros delimitadores u otros resultados de tareas reales utilizando tolerancias y métricas de calidad acordadas. Guarde muestras y explicaciones inconsistentes. Enumere las muestras insuficientes y las condiciones que no se probaron como no verificadas.
Mida la carga de trabajo y verifique la recuperación
Según la carga de trabajo concurrente acordada, registre los límites de tiempo, muestras, recursos y excepciones. Verifique el inicio, la falla en la carga del modelo, el reinicio del proceso y la reversión de la versión por separado. Entregue modelos, configuraciones, dependencias, resultados de comparación y problemas abiertos. Agregue verificación cuando aumente la concurrencia o la duración de la operación más adelante.
Para conocer el alcance de la conversión y la evaluación, consulte Documentación de cuantificación de ONNX Runtime.