모델 소스와 허용된 용도, 입력 및 출력 정의, 대상 장치 및 소프트웨어 버전을 확인하여 엣지 모델 배포 계획을 시작하세요. 원본 모델, 대표 샘플, 라벨 정의 및 기존 결과를 보존합니다. 제한된 배포 시험으로 시작하고 기능, 작업 품질 및 리소스 제한에 대한 승인 기준에 동의합니다.

구성과 함께 변환 파일을 넘겨주세요

변환 명령, 도구 버전, 운영자 지원 및 알려진 제한 사항을 기록합니다. 양자화를 위해 교정 데이터 적용 범위와 전처리를 유지합니다. 출력 모델 파일 체크섬을 계산하고 저장합니다. 해당 파일을 원본 모델 및 변환 로그에 연결합니다. 성공적인 변환 메시지는 대상 장치에서 허용된 추론을 설정하지 않습니다.

동일한 샘플의 출력 비교

먼저 입력 텐서를 확인한 다음 원본 모델과 배포된 모델의 출력을 비교하세요. 합의된 허용 오차 및 품질 지표를 사용하여 분류 결과, 경계 상자 또는 기타 실제 작업 출력을 확인합니다. 일관되지 않은 샘플과 설명을 저장하세요. 테스트되지 않은 불충분한 샘플 및 조건을 검증되지 않은 상태로 나열합니다.

작업량 측정 및 회복 확인

합의된 동시 작업 부하에 따라 타이밍 경계, 샘플, 리소스 및 예외를 기록합니다. 시작, 모델 로딩 실패, 프로세스 재시작, 버전 롤백을 별도로 확인하세요. 모델, 구성, 종속성, 비교 결과 및 공개 문제를 제공합니다. 나중에 동시성이나 운영 기간을 늘릴 때 검증을 추가하세요.

변환 및 평가 범위는 다음을 참조하세요. ONNX 런타임 양자화 문서.