Po zmianie zaplecza wnioskowania wcześniejsze wyniki mogą służyć jako materiał porównawczy. Wnioski dotyczące funkcji, jakości zadań i wydajności w nowym środowisku wymagają odpowiednich dowodów. Zapisz zmiany w plikach modelu, konfiguracji konwersji, danych wejściowych, wyjściowych i zależnościach oprogramowania przed zdefiniowaniem zakresu ponownego testu.

Co pozostaje po udanej konwersji?

Potwierdź faktyczne wykonanie modelu na urządzeniu docelowym. Sprawdź tensory wejściowe, pola wyjściowe, wyjątki i rezerwę. Użyj reprezentatywnych próbek, aby porównać wyniki klasyfikacji, wykrywania lub innych zadań, zachowując różnice i tolerancje. Warunki, które nie zostały przetestowane, nie mogą być zgłaszane jako zweryfikowana kompatybilność.

Jak należy ponownie porównać wydajność?

Podczas każdego porównania należy zachować dane wejściowe, wielkość partii, rozgrzewkę, granice czasowe i jednoczesne obciążenie pracą. Rejestruj oddzielnie wykonanie modelu i opóźnienie aplikacji. Porównaj przykładowe rozkłady i wykorzystanie zasobów. Stan zmian w precyzji numerycznej, wątkowaniu lub lokalizacji kopiowania danych. Samo porównanie dwóch wyświetlonych czasów nie jest wystarczające.

Jakie zapisy wchodzą w zakres przekazania?

Zachowaj zarówno wersje modelu, jak i sumy kontrolne, konfiguracje środowiska, próbki, porównania wyników, zapisy wydajności i otwarte problemy. Potwierdź ścieżki uruchamiania, obsługi awarii, restartu i wycofywania. Wnioski dotyczące jednoczesnych zadań, długotrwałej eksploatacji lub wydajności obiektu wymagają dowodów obejmujących rzeczywiste warunki.

Widzieć Dokumentacja optymalizacji wykresów ONNX Runtime.