После изменения серверной части вывода более ранние результаты могут служить материалом для сравнения. Выводы о функциях, качестве задач и производительности для новой среды требуют соответствующих доказательств. Запишите изменения в файлах модели, конфигурации преобразования, входных и выходных данных и зависимостях программного обеспечения, прежде чем определять объем повторного тестирования.
Что остается после успешной конвертации?
Подтвердите фактическое выполнение модели на целевом устройстве. Проверьте входные тензоры, выходные поля, исключения и резервный вариант. Используйте репрезентативные выборки для сравнения результатов классификации, обнаружения или других задач, сохраняя различия и допуски. Условия, которые не были протестированы, не могут быть указаны как проверенная совместимость.
Как следует снова сравнивать производительность?
Сохраняйте входные данные, размер пакета, разминку, временные границы и параллельную рабочую нагрузку неизменными на протяжении каждого сравнения. Записывайте выполнение модели и задержку приложения отдельно. Сравните распределение образцов и использование ресурсов. Изменения состояния в числовой точности, резьбе или месте копирования данных. Сравнивать только два отображаемых времени недостаточно.
Какие записи относятся к передаче?
Сохраняйте версии моделей и контрольные суммы, конфигурации среды, образцы, результаты сравнения выходных данных, записи производительности и открытые проблемы. Подтвердите пути запуска, обработки сбоев, перезапуска и отката. Выводы об одновременных задачах, долгосрочной эксплуатации или производительности объекта требуют доказательств, отражающих фактические условия.
Видеть Документация по оптимизации графиков времени выполнения ONNX.