Поддержка моделей с множественным входом и выходом

Created by: ghost

Обновлено:

• Изменил реализации синхронного и асинхронного режима. Оба режима собирают выход только тогда, когда передана 1 итерация. Синхронный и асинхронный режимы возвращают словари, где ключ - имя выходного слоя, а значение - выходной тензор. Изменена реализация асинхронного режима, сделал очередь реквестов читабельной.
• Обновил парсинг входных данных
• Обновил формат выходных данных, теперь можно передавать данные сразу на входной слой (пока только с картинками).
  • Пример 1:

    inference_sync_mode.py -i input1:path_to_image1,path_to_image2 
    input2:path_to_image3,path_to_image4 -b 2 -m model.xml -w model.bin

  • Пример 2:

    inference_sync_mode.py -i input1:path_to_images -m model.xml -w model.bin

• Для моделей с одним входом, выходом все осталось по прежнему.
  • Пример 3:

    inference_sync_mode.py -i path_to_image1 path_to_image2 -m model.xml -w model.bin

  • Пример 4:

    inference_sync_mode.py -i path_to_images -m model.xml -w model.bin

• Поправил скрипты обработки выхода, чтобы они работали с текущим выходом со скриптов инференса