Démarrez un plan de déploiement de modèle Edge en confirmant les sources du modèle et les utilisations autorisées, les définitions d'entrée et de sortie, le périphérique cible et les versions logicielles. Préservez le modèle original, les échantillons représentatifs, les définitions d’étiquettes et les résultats existants. Commencez par un essai de déploiement limité et convenez des critères d’acceptation concernant la fonction, la qualité des tâches et les limites des ressources.
Remettre les fichiers de conversion avec leur configuration
Enregistrez les commandes de conversion, les versions des outils, l’assistance des opérateurs et les limitations connues. Pour la quantification, conservez la couverture et le prétraitement des données d’étalonnage. Calculez et enregistrez la somme de contrôle du fichier de modèle de sortie. Liez ce fichier au modèle d'origine et aux journaux de conversion. Un message de conversion réussie n’établit pas d’inférence acceptée sur l’appareil cible.
Comparez les sorties sur les mêmes échantillons
Vérifiez d'abord les tenseurs d'entrée, puis comparez les sorties des modèles d'origine et déployés. Vérifiez les résultats de classification, les cadres de délimitation ou d'autres résultats de tâches réels à l'aide de tolérances et de mesures de qualité convenues. Enregistrez les échantillons et les explications incohérents. Énumérez les échantillons insuffisants et les conditions qui n’ont pas été testées comme non vérifiées.
Mesurer la charge de travail et vérifier la récupération
Dans le cadre de la charge de travail simultanée convenue, enregistrez les limites temporelles, les échantillons, les ressources et les exceptions. Vérifiez séparément le démarrage, l'échec du chargement du modèle, le redémarrage du processus et la restauration de la version. Fournissez des modèles, des configurations, des dépendances, des résultats de comparaison et des problèmes en suspens. Ajoutez une vérification lorsque vous augmentez la simultanéité ou la durée de fonctionnement ultérieurement.
Pour connaître la portée de la conversion et de l'évaluation, voir Documentation sur la quantification du runtime ONNX.