WeGO-TensorFlow1.x は WeGO のサブプロジェクトで、Vitis AI ツールチェーンを TensorFlow 1.x フレームワークに統合することによって Vitis AI の EoU を向上させることを目的として設計されています。Vitis AI 2.5 は TensorFlow v1.15 をサポートします。WeGO-TensorFlow1.x への入力は、vai_q_tensorflow によって生成される量子化済みモデルで、通常は quantize_eval_model.pb という名前です。コア WeGO API である create_wego_graph() は、この量子化済みグラフを WeGO グラフと呼ばれる新しい TensorFlow グラフに自動的に変換します。クラウド DPU 互換サブグラフは、VaiWeGOOp を使用した TensorFlow 演算子に変換されます。
WeGO-TensorFlow1.x の推論全体は、次の 4 つのステップに抽象できます。
- DPU 固有の要件を満たすように、元のグラフ上でグラフ レベルの最適化を実行します。
- 入力の量子化済みモデルのグラフ全体を検証し、クラウド DPU でサポートされるノードを検出します。
- ステップ 2 で検出したノード リストの量子化済みグラフに、グラフの自動分割を実行します。
- 入力の量子化済みモデル内で、すべてのクラウド DPU 互換サブグラフを、VaiWeGOOp を使用した新しい TensorFlow ノードに変換します。
- 最適化された新しい WeGO グラフを返し、TensorFlow sess.run() を起動してグラフ全体を実行します。