vai_q_tensorflow 错误代码 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文
表 1. vai_q_tensorflow 错误代码
错误代码 原因 解决方案
Quantize_TF1_Invalid_Input 未找到指定的 input_frozen_graph 文件 请验证 input_frozen_graph 是否正确以及此文件是否存在。
Quantize_TF1_Invalid_Bitwidth 指定的 nodes_bit 值无效,例如,小于 1 请验证 nodes_bit 内容是否正确。
Quantize_TF1_Invalid_Method 指定的 method 值无效,不在 [0,1,2] 内的范围内 验证 method 值是否正确。
Quantize_TF1_Length_Mismatch 指定的 input_shapes 无效,例如,与 input_nodes 不匹配、并非 4 维,或者包含非整数元素 验证 input_shapes 的形状是否正确并匹配 input_nodes
Quantize_TF1_Invalid_Input_Fn 指定的 input_fn 模块导入失败 请验证 input_fn 是否正确,并确保正确实现该函数。
Quantize_TF1_Invalid_Target_Dtype 指定的 convert_datatype 值无效,不在 [0,1,2,3,4] 内的范围内 验证 convert_datatype 值是否正确。
Quantize_TF1_Unsupported_Op 转换数据类型期间,遇到不受支持的运算符,例如,FusedBatchNorm 替换不受支持的运算符。