Skip to content

Поддержка тензоров в качестве входа

Evgeni Vasilev requested to merge inference into master

Created by: ghost

Обновления

Что добавлено?

  • На вход моделям могут подаваться тензора

Как на вход подать тензор?

  • Тензора для одного слоя описываются в формате csv В первой строке описывается размерность входного слоя в формате batch_size;dim1;dim2;...;dimN На следующих строках описываются значения тензоров в формате value1;value2;value3;...;valueM Всего значений должно быть batch_szie * dim1 * dim2 * ... * dimN
  • Тензора описываются для одного слоя. В каждом файле должны находится тензора сразу для всей пачки (batch size). Например, если у нас 2 входа, которые принимают тензора и размер пачки равен 4. То необходимо создать 2 файла, в которых будут описываться по 4 тензора для каждого слоя.
  • Размерности всех тензоров в одном файле одинаковые
  • Если количество тензоров меньше размера пачки, недостающие тензора будут заполнены копиями входных тензоров
  • Если количество тензоров больше размера пачки, то количество тензоров должно быть кратно размеру пачки

Merge request reports