Beoordeel multi-stream vision-platforms met behulp van daadwerkelijke video- en zakelijke workloads. Geadverteerde processorcapaciteit, een geïsoleerde modelbenchmark en een single-stream demonstratie beschrijven slechts delen van hun respectieve omstandigheden. Bij inkoop moeten de beoogde streams, beeldmodi, modellen, opname- en interactietaken in één verificatieconfiguratie worden geplaatst.
Verdeel de werklast in waarneembare fasen
| Fase | Belangrijkste ingangen | Informatie om op te nemen |
|---|---|---|
| Video-invoer en decodering | Streams, codec, resolutie, bitrate en timing | Daadwerkelijke ontvangst, geldige frames en decodeerfouten |
| Voorbewerking en overdracht | Schalen, conversie, geheugenindeling en kopiëren | Verwerkingstijd, geheugen en wachtrijwachten |
| Modelgevolgtrekking | Modelversie, invoervorm, numeriek formaat en backend | Inferentielatentie, doorvoer en resourcegebruik |
| Nabewerking en bedrijfsregels | Detectie, tracking, fusie en interfaces | Resultaatgeneratie en zakelijke erkenningstijd |
| Opslag, weergave en bediening | Afbeeldingen, bewijsmateriaal, opname, gebruikersinterface en logboeken | Gelijktijdige effecten, capaciteit en foutstatussen |
Overdrachten tussen fasen verbruiken ook hulpbronnen. Het versnellen van één fase kan het knelpunt verplaatsen naar decodering, geheugen, opslag of een bedrijfsinterface. De inferentietijd alleen bepaalt niet de apparaatconfiguratie.
Definieer de doorvoer en latentie afzonderlijk
Doorvoer beschrijft voltooide taken in een opgegeven interval. Latentie beschrijft de verstreken tijd tussen gedefinieerde begin- en eindpunten voor een taak. Registreer geldige uitvoer per stream naast de verzamelde resultaten, zodat een totaal geen stream verbergt die voor onbepaalde tijd wacht.
Officiële OpenVINO benchmarkdocumentatie rapporteert de inferentielatentie en doorvoer afzonderlijk en neemt nota van het effect van de testomgeving. Dit is een meetreferentie en geen bewijs van de prestaties van een willekeurig apparaat of een compleet systeem.
Los de voorwaarden op voordat u platforms vergelijkt
Leg het model en de invoer vast, de decodering en gevolgtrekking van backends, besturingssysteem en stuurprogramma, gelijktijdige taken, energiemodus en koeling. Onderscheid opwarming, stabiele werking en herstel. Leg de vergelijking opnieuw uit wanneer modellen, afmetingen, numerieke formaten of opslagbeleid veranderen.
Inkoop en pilotverificatie
Begin met representatieve video- en doelbedieningsmodi en breid vervolgens de streams en gelijktijdige functies uit. Specificeer de invoer en uitvoer van elke stream, de end-to-end latentie, het drop-frame of het opzettelijke samplingbeleid, de bronnen en de duur. Zonder een test op doelschaal markeert u de capaciteit als in afwachting van verificatie in plaats van een vast aantal streams te beloven.
Gerelateerde diensten: edge AI-implementatie en -optimalisatie, ingebedde beeldacquisitie En projectaanvragen.