宣伝されているプロセッサ容量だけを、サポートされているビデオ ストリームに直接変換することはできません。入力モード、デコード、モデル、バックエンド、メモリ転送、同時実行のビジネス タスクにより、容量が制限されます。最終的な結論を得るには、ターゲット構成に対して完全なチェーン テストを使用します。

評価に必要な入力情報

入力 必要な詳細情報
ビデオ ストリーム、コーデック、解像度、フレームレート、ビットレート、ネットワーク条件
モデル バージョン、入力次元、数値形式、演算子、前処理と後処理
プラットフォーム プロセッサー、メモリー、OS、ドライバー、バックエンド、電源、冷却
同時タスク 表示、保存、記録、追跡、インターフェースおよびログ
承諾 ストリームごとの有効な結果、レイテンシー、意図的なサンプリング、および継続時間

分離モデルのベンチマークが提供するもの

モデル ベンチマークは、推論のボトルネックを特定したり、同じ条件下で実装を比較したりできます。一般に、完全なアプリケーションにおけるすべてのデコード、転送、表示、ストレージ、およびインターフェイスの作業は含まれていないため、システム ストリーム数を直接確立することはありません。スループットと個々のタスクのレイテンシーを区別します。

最初に容量を見積もることができますか

明示的な入力と仮定を使用して、検証待ちのエンジニアリング見積もりとパイロット計画を提供します。仮定、除外される機能、およびテスト手順を特定します。テスト済みの同時容量としての見積もりを説明しないでください。モデル、ビデオ モード、ストレージ ポリシーが変更された場合は再評価してください。

成果物となる結論を確立する

指定された機器でチャネルを徐々に増やし、意図した同時ワークロードでの各ストリームの受信、有効な処理、エラーおよび遅延を記録します。リソース、温度、持続動作のチェックを組み合わせて、許容可能な構成を特定します。ログとバージョンを保持し、テストされていないスケールを検証保留としてマークします。

関連サービス: エッジ AI の導入と最適化, イメージキャプチャ開発 そして プロジェクトのお問い合わせ.