转换为 Float16 或 BFloat16 - 3.5 简体中文

vai_q_tensorflow2 支持为浮点模型进行数据类型转换，受支持的模型包括 Float16、BFloat16、Float 和 Double。以下代码显示了如何使用 vai_q_tensorflow2 API 执行数据类型转换。

model = tf.keras.models.load_model('float_model.h5')
from tensorflow_model_optimization.quantization.keras import vitis_quantize
quantizer = vitis_quantize.VitisQuantizer(model)
quantized_model = quantizer.quantize_model(convert_datatype='float16'
                                           **kwargs) 

convert_datatype

string。用于指示浮点模型的目标数据类型。选项包括：float16、bfloat16、float32 和 float64。默认值为 float16。