추론 백엔드 변경 후 이전 결과를 비교 자료로 사용할 수 있습니다. 새로운 환경에 대한 기능, 작업 품질 및 성과 결론에는 상응하는 증거가 필요합니다. 재테스트 범위를 정의하기 전에 모델 파일, 변환 구성, 입력, 출력 및 소프트웨어 종속성에 대한 변경 사항을 기록하십시오.
성공적인 전환 후에는 무엇이 남나요?
대상 장치에서 실제 모델 실행을 확인합니다. 입력 텐서, 출력 필드, 예외 및 대체를 확인하세요. 대표 샘플을 사용하여 분류, 탐지 또는 기타 작업 출력을 비교하고 차이와 허용 오차를 유지합니다. 테스트되지 않은 조건은 검증된 호환성으로 보고될 수 없습니다.
성능을 다시 어떻게 비교해야 합니까?
각 비교 전반에 걸쳐 입력, 배치 크기, 워밍업, 타이밍 경계 및 동시 워크로드를 변경하지 않고 유지하세요. 모델 실행과 애플리케이션 대기 시간을 별도로 기록합니다. 표본 분포와 자원 사용을 비교합니다. 수치 정밀도, 스레딩 또는 데이터 복사 위치의 상태 변경입니다. 표시된 두 시간을 비교하는 것만으로는 충분하지 않습니다.
인계에는 어떤 기록이 포함됩니까?
모델 버전과 체크섬, 환경 구성, 샘플, 출력 비교, 성능 기록 및 공개 문제를 모두 유지합니다. 시작, 오류 처리, 다시 시작 및 롤백 경로를 확인합니다. 동시 작업, 장기 운영 또는 현장 성능에 대한 결론에는 실제 조건을 포괄하는 증거가 필요합니다.