실제 비디오 및 비즈니스 워크로드를 사용하여 멀티스트림 비전 플랫폼을 평가합니다. 광고된 프로세서 용량, 격리된 모델 벤치마크 및 단일 스트림 데모는 해당 조건의 일부만을 설명합니다. 조달은 의도한 스트림, 이미지 모드, 모델, 녹화 및 상호 작용 작업을 하나의 검증 구성에 배치해야 합니다.

워크로드를 관찰 가능한 단계로 나누기

단계 주요 입력 기록할 정보
비디오 입력 및 디코딩 스트림, 코덱, 해상도, 비트 전송률 및 타이밍 실제 수신, 유효한 프레임 및 디코드 오류
전처리 및 전송 스케일링, 변환, 메모리 레이아웃 및 복사 처리 시간, 메모리 및 대기열 대기
모델 추론 모델 버전, 입력 형태, 숫자 형식 및 백엔드 추론 대기 시간, 처리량 및 리소스 사용
후처리 및 비즈니스 규칙 탐지, 추적, 융합 및 인터페이스 결과 생성 및 비즈니스 승인 시간
보관, 디스플레이 및 작동 이미지, 증거, 녹음, UI 및 로그 동시 효과, 용량 및 오류 상태

단계 간 전송에도 리소스가 소모됩니다. 한 단계를 가속화하면 병목 현상이 디코딩, 메모리, 스토리지 또는 비즈니스 인터페이스로 이동할 수 있습니다. 추론 시간만으로는 장치 구성을 정의할 수 없습니다.

처리량과 대기 시간을 별도로 정의

처리량은 지정된 간격으로 완료된 작업을 나타냅니다. 대기 시간은 작업에 대해 정의된 시작 지점과 끝 지점 사이의 경과 시간을 나타냅니다. 총계가 무기한 대기하는 스트림을 숨기지 않도록 집계 결과와 함께 스트림별 유효한 출력을 기록합니다.

공식 OpenVINO 벤치마크 문서 추론 대기 시간과 처리량을 별도로 보고하고 테스트 환경의 효과를 기록합니다. 이는 임의 장치 또는 전체 시스템 성능에 대한 증거가 아닌 측정 기준입니다.

플랫폼을 비교하기 전에 조건을 수정하세요

모델 및 입력, 디코딩 및 추론 백엔드, OS 및 드라이버, 동시 작업, 전원 모드 및 냉각을 기록합니다. 워밍업, 꾸준한 작동 및 회복을 구별하십시오. 모델, 치수, 수치 형식 또는 저장 정책이 변경되면 비교를 다시 설명하세요.

조달 및 파일럿 검증

대표적인 비디오 및 대상 작동 모드로 시작한 다음 스트림과 동시 기능을 늘리십시오. 각 스트림의 입력 및 출력, 종단 간 대기 시간, 프레임 삭제 또는 의도적인 샘플링 정책, 리소스 및 기간을 지정합니다. 목표 규모 테스트가 없으면 고정된 스트림 수를 약속하기보다는 용량을 검증 보류로 표시하세요.

관련 서비스: 엣지 AI 배포 및 최적화, 임베디드 이미지 획득 그리고 프로젝트 문의.