Gerçek video ve iş iş yüklerini kullanarak çoklu akışlı görüntü platformlarını değerlendirin. Reklamı yapılan işlemci kapasitesi, yalıtılmış bir model karşılaştırması ve tek akışlı gösterim, ilgili koşulların yalnızca bir kısmını açıklamaktadır. Tedarik, amaçlanan akışları, görüntü modlarını, modelleri, kayıt ve etkileşim görevlerini tek bir doğrulama yapılandırmasına yerleştirmelidir.
İş yükünü gözlemlenebilir aşamalara ayırın
| Sahne | Ana girişler | Kaydedilecek bilgiler |
|---|---|---|
| Video girişi ve kod çözme | Akışlar, codec, çözünürlük, bit hızı ve zamanlama | Gerçek alım, geçerli çerçeveler ve kod çözme hataları |
| Ön işleme ve aktarma | Ölçekleme, dönüştürme, bellek düzeni ve kopyalama | İşlem süresi, bellek ve kuyrukta bekleme |
| Model çıkarımı | Model sürümü, giriş şekli, sayısal format ve arka uç | Çıkarım gecikmesi, aktarım hızı ve kaynak kullanımı |
| İşlem sonrası ve iş kuralları | Algılamalar, izleme, birleştirme ve arayüzler | Sonuç oluşturma ve iş onayı zamanı |
| Depolama, görüntüleme ve işlemler | Görüntüler, kanıtlar, kayıt, kullanıcı arayüzü ve günlükler | Eşzamanlı etkiler, kapasite ve hata durumları |
Aşamalar arasındaki transferler de kaynakları tüketir. Bir aşamayı hızlandırmak, kod çözme, bellek, depolama veya iş arayüzündeki darboğazı taşıyabilir. Çıkarım süresi tek başına cihaz konfigürasyonunu tanımlamaz.
Verim ve gecikmeyi ayrı ayrı tanımlayın
Verim, belirli bir aralıkta tamamlanan görevleri açıklar. Gecikme, bir görevin tanımlanmış başlangıç ve bitiş noktaları arasında geçen süreyi açıklar. Toplam sonuçların süresiz olarak bekleyen bir akışı gizlememesi için akış başına geçerli çıktıları toplu sonuçların yanı sıra kaydedin.
Resmi OpenVINO kıyaslama belgeleri çıkarım gecikmesini ve verimi ayrı ayrı raporlar ve test ortamının etkisini not eder. Bu bir ölçüm referansıdır, rastgele cihaz veya komple sistem performansının kanıtı değildir.
Platformları karşılaştırmadan önce koşulları düzeltin
Modeli ve girişi, kod çözme ve çıkarım arka uçlarını, işletim sistemi ve sürücüyü, eşzamanlı görevleri, güç modunu ve soğutmayı kaydedin. Isınma, sürekli çalışma ve toparlanmayı ayırt edin. Modeller, boyutlar, sayısal formatlar veya depolama politikaları değiştiğinde karşılaştırmayı tekrar açıklayın.
Tedarik ve pilot doğrulama
Temsili video ve hedef işletim modlarıyla başlayın, ardından akışları ve eşzamanlı işlevleri artırın. Her akışın giriş ve çıkışını, uçtan uca gecikmeyi, bırakılan çerçeveyi veya kasıtlı örnekleme politikasını, kaynakları ve süreyi belirtin. Hedef ölçekli bir test olmadan, sabit bir akış sayısı vaat etmek yerine kapasiteyi doğrulama bekleyen olarak işaretleyin.
İlgili hizmetler: uç yapay zeka dağıtımı ve optimizasyonu, gömülü görüntü edinimi Ve proje soruları.