更換推理後端後,原結果可作為對照資料。新環境的功能、任務質量和性能結論需要相應證據。記錄模型文件、轉換配置、輸入輸出與軟件依賴的變化,再確定複測範圍。

轉換成功後還需核對什麼

確認模型在目標設備實際執行,檢查輸入張量、輸出字段、異常與回退情況。使用代表性樣本比較分類、檢測或其他任務結果,並保存差異與容差。未覆蓋條件不能寫為已驗證兼容。

性能數據怎樣重新比較

固定輸入、批大小、預熱、計時範圍和同期負載。分別記錄模型執行和業務時延,比較採樣分佈與資源佔用。數值精度、線程或數據複製位置變化都應寫入條件,不能只對比兩次界面顯示的耗時。

交付時保留哪些資料

保留前後模型及校驗值、環境配置、樣本、結果對照、性能記錄和未決項。確認啟動、失敗處理、重啟和回退路徑。任何新增併發、長期運行或現場效果結論,都應對應實際驗證範圍。

參見ONNX Runtime圖優化說明。