Float16 または BFloat16 への変換 - 3.5 日本語

vai_q_tensorflow2 は、Float16、BFloat16、Float、および Double を含む浮動小数点モデルへのデータ型変換をサポートしています。次のコードは、vai_q_tensorflow2 API を使用してデータ型変換を実行する方法を示しています。

model = tf.keras.models.load_model('float_model.h5')
from tensorflow_model_optimization.quantization.keras import vitis_quantize
quantizer = vitis_quantize.VitisQuantizer(model)
quantized_model = quantizer.quantize_model(convert_datatype='float16'
                                           **kwargs) 

convert_datatype

文字列。浮動小数点モデルのターゲット データ型を示します。指定可能な値は、float16、bfloat16、float32、float64 です。デフォルト値は float16 です。