推論バックエンドの変更後は、以前の結果が比較材料として機能します。新しい環境の機能、タスクの品質、およびパフォーマンスの結論には、対応する証拠が必要です。再テスト範囲を定義する前に、モデル ファイル、変換構成、入力、出力、およびソフトウェアの依存関係に対する変更を記録します。
変換が成功した後には何が残るのでしょうか?
ターゲットデバイス上で実際のモデルの実行を確認します。入力テンソル、出力フィールド、例外、フォールバックを確認します。代表的なサンプルを使用して、分類、検出、またはその他のタスクの出力を比較し、差異と許容差を保持します。テストされていない条件は、互換性が検証済みとして報告できません。
パフォーマンスを再度どのように比較すればよいでしょうか?
各比較を通じて、入力、バッチ サイズ、ウォームアップ、タイミング境界、同時ワークロードを変更しないでください。モデルの実行とアプリケーションの遅延を個別に記録します。サンプルの分布とリソースの使用状況を比較します。数値の精度、スレッド化、またはデータのコピー場所の状態が変化します。表示された 2 つの時間を比較するだけでは不十分です。
引き継ぎにはどのような記録が含まれますか?
モデルのバージョンとチェックサム、環境構成、サンプル、出力比較、パフォーマンス記録、未解決の問題の両方を保持します。起動、障害処理、再起動、ロールバックのパスを確認します。同時タスク、長期的な運用、または現場のパフォーマンスに関する結論には、実際の状況をカバーする証拠が必要です。