WeGO-TensorFlow2.x は WeGO のサブプロジェクトで、Vitis AI ツールチェーンを TensorFlow 2.x フレームワークに統合することによって Vitis AI の EoU を向上させることを目的として設計されています。VAI 2.5 では、TensorFlow v2.8.0 がサポートされます。WeGO-TensorFlow2.x への入力は、vai_q_tensorflow2 クオンタイザーによって生成される HDF5 形式の量子化済みモデルで、通常は quantized.h5 という名前です。WeGO コア API である create_wego_model() は、この量子化済み Keras モデルを新しい具象関数に自動的に変換します。クラウド DPU 互換サブグラフは、VaiWeGOOp を使用した TensorFlow 演算子に変換されます。
WeGO-TensorFlow2.x の推論全体は、次の 4 つのステップに抽象できます。
- WeGO tensorflow2.x Python モジュールをアプリケーションにインポートします。
- 入力のバッチ処理プロセスのために、vitis_vai.get_target_info() から DPU ターゲットのバッチ情報を取得します。
- vitis_vai.create_wego_model() を使用して WeGO モデルを作成し、具象関数を取得します。
- 具象関数を実行します。