Model kaynaklarını ve izin verilen kullanımları, giriş ve çıkış tanımlarını, hedef cihazı ve yazılım sürümlerini onaylayarak bir uç model dağıtım planı başlatın. Orijinal modeli, temsili örnekleri, etiket tanımlarını ve mevcut sonuçları koruyun. Sınırlı bir dağıtım denemesiyle başlayın ve işlev, görev kalitesi ve kaynak sınırlarına ilişkin kabul kriterleri üzerinde anlaşın.

Dönüşüm dosyalarını yapılandırmalarıyla birlikte teslim edin

Dönüştürme komutlarını, araç sürümlerini, operatör desteğini ve bilinen sınırlamaları kaydedin. Niceleme için kalibrasyon veri kapsamını ve ön işlemeyi koruyun. Çıktı modeli dosyası sağlama toplamını hesaplayın ve kaydedin. Bu dosyayı orijinal modele ve dönüşüm günlüklerine bağlayın. Başarılı bir dönüşüm mesajı, hedef cihazda kabul edilen çıkarımı oluşturmaz.

Aynı örneklerdeki çıktıları karşılaştırın

Önce giriş tensörlerini kontrol edin, ardından orijinal ve dağıtılan modellerin çıktılarını karşılaştırın. Kararlaştırılan toleransları ve kalite ölçütlerini kullanarak sınıflandırma sonuçlarını, sınırlayıcı kutuları veya diğer fiili görev çıktılarını kontrol edin. Tutarsız örnekleri ve açıklamaları kaydedin. Doğrulanmamış olarak test edilmemiş yetersiz örnekleri ve koşulları listeleyin.

İş yükünü ölçün ve iyileşmeyi kontrol edin

Kararlaştırılan eşzamanlı iş yükü altında zamanlama sınırlarını, örnekleri, kaynakları ve istisnaları kaydedin. Başlatma, model yükleme hatası, işlem yeniden başlatma ve sürüm geri alma işlemlerini ayrı ayrı kontrol edin. Modelleri, konfigürasyonları, bağımlılıkları, karşılaştırma sonuçlarını ve açık sorunları sunun. Daha sonra eşzamanlılığı veya çalışma süresini artırırken doğrulama ekleyin.

Dönüştürme ve değerlendirme kapsamı için bkz. ONNX Çalışma Zamanı niceleme belgeleri.