Start een implementatieplan voor een edge-model door modelbronnen en toegestaan ​​gebruik, invoer- en uitvoerdefinities, het doelapparaat en de softwareversies te bevestigen. Behoud het originele model, representatieve monsters, labeldefinities en bestaande resultaten. Begin met een beperkte implementatieproef en maak overeenstemming over acceptatiecriteria voor functionaliteit, taakkwaliteit en resourcelimieten.

Conversiebestanden met hun configuratie overhandigen

Registreer conversieopdrachten, gereedschapsversies, operatorondersteuning en bekende beperkingen. Voor kwantisering moet u de dekking en voorverwerking van kalibratiegegevens behouden. Bereken de controlesom van het uitvoermodelbestand en sla deze op. Koppel dat bestand aan het originele model en de conversielogboeken. Een succesvol conversiebericht leidt niet tot geaccepteerde gevolgtrekking op het doelapparaat.

Vergelijk de uitgangen van dezelfde samples

Controleer eerst de invoertensoren en vergelijk vervolgens de uitvoer van de originele en geïmplementeerde modellen. Controleer classificatieresultaten, selectiekaders of andere daadwerkelijke taakresultaten met behulp van overeengekomen toleranties en kwaliteitsstatistieken. Bewaar inconsistente voorbeelden en uitleg. Vermeld onvoldoende monsters en omstandigheden die niet als niet-geverifieerd zijn getest.

Meet de werkdruk en controleer het herstel

Leg onder de overeengekomen gelijktijdige werklast timinggrenzen, steekproeven, bronnen en uitzonderingen vast. Controleer het opstarten, het mislukken van het laden van het model, het opnieuw opstarten van het proces en het terugdraaien van de versie afzonderlijk. Lever modellen, configuraties, afhankelijkheden, vergelijkingsresultaten en openstaande problemen. Voeg verificatie toe als u de gelijktijdigheid of gebruiksduur later vergroot.

Voor conversie- en evaluatiebereik, zie ONNX Runtime-kwantiseringsdocumentatie.