Kapasitas prosesor yang diiklankan saja tidak dapat dikonversi langsung menjadi streaming video yang didukung. Mode input, decoding, model, backend, transfer memori, dan tugas bisnis bersamaan secara bersamaan membatasi kapasitas. Gunakan pengujian rantai lengkap pada konfigurasi target untuk kesimpulan akhir.
Masukan yang dibutuhkan untuk penilaian
| Masukan | Detail yang diperlukan |
|---|---|
| Video | Streaming, codec, resolusi, frame rate, bitrate dan kondisi jaringan |
| Model | Versi, dimensi masukan, format numerik, operator dan prapemrosesan dan pascapemrosesan |
| Platform | Prosesor, memori, OS, driver, backend, daya dan pendinginan |
| Tugas serentak | Tampilan, penyimpanan, perekaman, pelacakan, antarmuka, dan log |
| Penerimaan | Hasil valid per streaming, latensi, pengambilan sampel yang disengaja, dan durasi |
Apa yang disediakan oleh tolok ukur model terisolasi
Tolok ukur model dapat menemukan hambatan inferensi atau membandingkan implementasi dalam kondisi yang sama. Biasanya tidak mencakup semua pekerjaan decoding, transfer, tampilan, penyimpanan, dan antarmuka dalam aplikasi lengkap, sehingga tidak secara langsung menetapkan jumlah aliran sistem. Bedakan throughput dari latensi tugas individu.
Apakah kapasitasnya bisa diperkirakan dulu
Dengan masukan dan asumsi yang jelas, berikan perkiraan teknis yang menunggu verifikasi dan rencana percontohan. Identifikasi asumsi, fungsi yang dikecualikan, dan langkah pengujian. Jangan mendeskripsikan perkiraan sebagai kapasitas bersamaan yang diuji. Nilai kembali ketika model, mode video, atau kebijakan penyimpanan berubah.
Menetapkan kesimpulan yang dapat disampaikan
Tingkatkan saluran secara bertahap pada peralatan tertentu dan catat penerimaan, pemrosesan valid, kesalahan, dan latensi untuk setiap aliran di bawah beban kerja bersamaan yang diinginkan. Gabungkan pemeriksaan sumber daya, suhu, dan pengoperasian berkelanjutan untuk mengidentifikasi konfigurasi yang dapat diterima. Simpan log dan versinya, dan tandai skala yang belum teruji sebagai verifikasi yang tertunda.
Layanan terkait: penerapan dan optimalisasi edge AI, pengembangan pengambilan gambar Dan pertanyaan proyek.