Использование benchmark_app из состава OpenVINO
Created by: ilya-naumov
В данный момент dl_benchmark измеряет производительность OpenVINO через внутренние скрипты (inference_async_mode.py и т.д.), при этом в состав OpenVINO включён специальный инструмент benchmark_app для C++ и Python.
Его использование для замеров даёт следующие преимущества:
- Не нужно адаптировать код к изменениям в OpenVINO API.
- Легко задействовать новые возможности (например performance hints)
- Большое количество различных опций и метрик
Мы предлагаем добавить в dl_benchmark поддержку benchmark_app (для Python и С++) и готовы это реализовать. Старый функционал будет сохранен.