Common models for RSD paper
Created by: valentina-kustikova
@FenixFly, собрала в единую табличку общие модели для всех фреймворков, которые работают на Python. Все четыре фреймворка работают только для mobilenet-v1-1.0-224, mobilenet-v2-1.0-224 и resnet-50. Предлагаю помержить реализацию инфереса MXNet в мастер и запустить эксперименты по производительности для этих моделей на всех устройствах, с учетом наличия их квантизованных вариантов (для TF lite в TF hub лежат отдельные модели в формате uint8). Я бы предложила запускать эксперименты последовательно для каждого фреймворка. Ниже привела примерный перечень экспериментов.
Источники моделей (фреймворк -> источник, детали см. в файлах results/*_models_checklist.md):
OpenVINO -> OMZ
TensorFlow -> OMZ
TensorFlow Lite -> TF Hub
MXNet -> GluonCV
Устройства: OpenVINO -> CPU, GPU (MYRIAD ?) TensorFlow -> CPU TensorFlow Lite -> CPU MXNet -> CPU
Формат весов: OpenVINO -> FP32, FP16, INT8 (в зависимости от устройства) TensorFlow -> FP32 TensorFlow Lite -> FP32, UINT8 MXNet -> FP32, INT8 (доступны для mobilenet-v1-1.0-224, resnet50-v1)
Размер пачки: 1, 2, 4, 8, 16, 32 (здесь могут быть вариации, потому что я не знаю, когда мы упремся в память)