vai_q_tensorflow 支持的运算和 API - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

下表列出受支持的 vai_q_tensorflow 运算和 API。

表 1. vai_q_tensorflow 支持的运算和 API
类型 运算类型 tf.nn tf.layers tf.keras.layers
Convolution Conv2D

DepthwiseConv2dNative

atrous_conv2d

conv2d

conv2d_transpose

depthwise_conv2d_native

separable_conv2d

Conv2D

Conv2DTranspose

SeparableConv2D

Conv2D

Conv2DTranspose

DepthwiseConv2D

SeparaleConv2D

Fully Connected MatMul / Dense Dense
BiasAdd BiasAdd

Add

bias_add / /
Pooling AvgPool

Mean

MaxPool

avg_pool

max_pool

AveragePooling2D

MaxPooling2D

AveragePooling2D

MaxPool2D

Activation ReLU

ReLU6

Sigmoid

Swish

Hard-sigmoid

Hard-swish

relu

relu6

leaky_relu

swish

/ ReLU

Leaky ReLU

BatchNorm[#1] FusedBatchNorm batch_normalization

batch_norm_with_global_normalization

fused_batch_norm

BatchNormalization BatchNormalization
Upsampling ResizeBilinear

ResizeNearestNeighbor

/ / UpSampling2D
Concat Concat

ConcatV2

/ / Concatenate
其他 Placeholder

Const

Pad

Squeeze

Reshape

ExpandDims

Max

Transpose

dropout[#2]

softmax[#3]

depth_to_space

Dropout[#2]

Flatten

Input

Flatten

Reshape

Zeropadding2D

Softmax

  1. 仅支持 Conv2D/DepthwiseConv2D/Dense+BN。折叠 BN 可提高推断性能。
  2. 删除 dropout 可提高推断性能。
  3. vai_q_tensorflow 不会量化 softmax 输出。
注释: Vitis AI 量化器支持的运算符列表并不是模型部署的唯一限制因素,您还应查看所选 DPU 架构的运算符支持情况。DPU 不支持的运算符可在 CPU 上执行。如需了解更多信息,请参阅 受支持的运算符和 DPU 限制