vai_q_tensorflow2 错误代码 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文
表 1. vai_q_tensorflow2 错误代码
错误描述 错误类型 原因和解决方案
Quantizer_TF2_Unsupported_Layer 不受支持的层类型 层并非 `tf.keras.layers.Layer` 或者该层尚未受支持。默认情况下,该层将不予量化,并且将映射到 CPU 上运行。您可以使用实验性支持以自定义量化策略来定义其量化行为。
Quantizer_TF2_Unsupported_Model 不受支持的模型类型 仅支持 tf.keras 顺序模型或功能模型。当前不支持子类化模型。请将其转换为顺序模型或功能模型,然后重试。
Quantizer_TF2_Invalid_Input_Shape 无效的输入形状 input_shape 参数无效。请检查该参数并为其设置正确的值。
Quantizer_TF2_Invalid_Calib_Dataset 无效的校准数据集 校准数据集无效。请检查该参数并设置其值。
Quantizer_TF2_Invalid_Target 无效的目标 target 参数无效。请检查该参数并为其设置正确的值。