Vitis AI ユーザーガイド (UG1414) - 3.0 日本語

Document ID: UG1414
Release Date: 2023-02-24
Version: 3.0 日本語

Vitis AI の概要
この資料に関連する設計プロセス
機能
Vitis AI ツールの概要
深層学習プロセッシングユニット (DPU)
DPU 名
Zynq UltraScale+ MPSoC: DPUCZDX8G
Versal AI コアシリーズ: DPUCVDX8G
Versal AI コアシリーズ: DPUCVDX8H
Vitis AI Model Zoo
Vitis AI オプティマイザー
Vitis AI クオンタイザー
Vitis AI コンパイラ
Vitis AI プロファイラー
Vitis AI ライブラリ
Vitis AI ランタイム
Vitis AI コンテナー
システム要件
開発フローの概要
セットアップ
クイックスタート
環境のセットアップ
ホスト上での Docker のセットアップ
ボードのセットアップ (エッジ)
カードのセットアップ (クラウド)
モデルの運用
Model Zoo からの浮動小数点モデルのダウンロード
モデルの量子化
モデルのコンパイル
エッジボード上での運用
データセンターカード上での運用
インストールとセットアップ
Vitis AI 開発キットのダウンロード
ホストのセットアップ
ツールのインストール
ホストのセットアップ (VART を使用)
エッジの場合
データセンターの場合
評価ボードの設定
ZCU102/ZCU104/KV260/VCK190 評価ボードの設定
OS イメージを SD カードに書き込む
評価ボードを起動
評価ボードへのアクセス方法
USB-UART ポート
イーサネットインターフェイスを使用
ボードをスタンドアロンのエンベデッドシステムとして使用
評価ボードに Vitis AI ランタイムをインストール
カスタムボードの設定
サンプルを実行
Vitis AI のサンプル
Vitis AI サンプルの実行
エッジ (DPUCZDX8G/DPUCVDX8G) の場合
クラウド (DPUCVDX8H) の場合
サポート
モデルの量子化
概要
Vitis AI クオンタイザーのフロー
TensorFlow 1.x バージョン (vai_q_tensorflow)
vai_q_tensorflow のインストール
vai_q_tensorflow の実行
浮動小数点モデルと関連する入力ファイルを準備する
凍結された推論グラフを生成
キャリブレーションデータセットと入力関数の準備
vai_q_tensorflow を使用したモデルの量子化
量子化されたモデルの生成
(オプション) 量子化されたモデルを ONNX にエクスポートする
(オプション) 量子化されたモデルの評価
(オプション) シミュレーション結果のダンプ
vai_q_tensorflow 量子化認識トレーニング
生成されるファイル
TensorFlow 1.x 用の QAT API
vai_q_tensorflow.CreateQuantizeTrainingGraph(config)
vai_q_tensorflow.CreateQuantizeEvaluationGraph(config)
vai_q_tensorflow.CreateQuantizeDeployGraph(checkpoint, config)
QAT のヒント
Float16 または BFloat16 への変換
vai_q_tensorflow でサポートされる動作および API
vai_q_tensorflow の使用法
vai_q_tensorflow のエラーコード
TensorFlow 2.x バージョン (vai_q_tensorflow2)
vai_q_tensorflow2 のインストール
浮動小数点モデルの検査
vai_q_tensorflow2 の実行
浮動小数点モデルとキャリブレーションセットの準備
vai_q_tensorflow2 API を使用した量子化
(オプション) vai_q_tensorflow2 高速微調整
量子化されたモデルの保存
(オプション) 量子化されたモデルを ONNX にエクスポートする
(オプション) 量子化されたモデルの評価
(オプション) シミュレーション結果のダンプ
量子化ストラテジの設定
浮動小数点スケールを使用した量子化
Float16 または BFloat16 への変換
vai_q_tensorflow2 量子化認識トレーニング
カスタムレイヤーを使用した量子化
vai_q_tensorflow2 でサポートされる動作および API
vai_q_tensorflow2 の使用法
vitis_inspect.VitisInspector
vitis_inspect.VitisInspector.inspect_model
vitis_quantize.VitisQuantizer
vitis_quantize.VitisQuantizer.quantize_model
vitis_quantize.VitisQuantizer.dump_model
vitis_quantize.VitisQuantizer.dump_quantize_strategy
vitis_quantize.VitisQuantizer.set_quantize_strategy
vitis_quantize.VitisQuantizer.get_qat_model
vitis_quantize.VitisQuantizer.get_deploy_model
例
vai_q_tensorflow2 のエラーコード
Pytorch バージョン (vai_q_pytorch)
vai_q_pytorch のインストール
量子化の前の浮動小数点モデルの検査
vai_q_pytorch の実行
vai_q_pytorch 用のファイルを準備する
モデルの定義を変更する
vai_q_pytorch API を浮動小数点スクリプトに追加する
量子化を実行し、結果を取得する
ハードウェアを考慮した量子化ストラテジ
モジュールの部分的量子化
カスタム演算 (OP) の登録
vai_q_pytorch 高速微調整
量子化ストラテジの設定
vai_q_pytorch QAT
vai_q_pytorch QAT の要件
よりよいトレーニング結果を得るためのガイドライン
vai_q_pytorch の使用法
クラス torch_quantizer()
def export_quant_config(self)
def export_xmodel(self, output_dir, deploy_check)
def export_onnx_model(self, output_dir, verbose)
def export_torch_script(self, output_dir, verbose)
Class Inspector
def inspect(…)
vai_q_pytorch のメッセージ
VAIQ_WARN
VAIQ_ERROR
モデルのコンパイル
Vitis AI コンパイラ
XIR ベースのツールチェーンによるコンパイル
XIR
DPU 向けのコンパイル
カスタマイズされたアクセラレータ用のコンパイル
サポートされている演算子と DPU の制限
現在サポートされている演算子
TensorFlow でサポートされる演算子
PyTorch でサポートされる演算子
VAI_C の使用法
モデルの運用と実行
VART を使用したプログラミング
C++ の例
Python の例
VART による DPU のデバッグ
TensorFlow のワークフロー
PyTorch ワークフロー
カスタム OP ワークフロー
クイックスタート (カスタム OP ワークフロー)
量子化
コンパイル
OP の登録
運用
Tensorflow2 カスタム OP モデルの例
モデルの量子化
モデルのコンパイル
カスタム OP の登録
運用
Pytorch カスタム OP モデルの例
モデルの量子化
モデルのコンパイル
カスタム OP の登録
運用
VOE を使用したプログラミング
複数 FPGA のプログラミング
XRM
AI カーネルスケジューラ
Apache TVM、Microsoft ONNX ランタイム、および TensorFlow Lite
Apache TVM
Microsoft ONNX ランタイム
TensorFlow Lite
WeGO の使用
WeGO プログラミングインターフェイス
PyTorch
WeGO-Torch Python クラスおよび API
コア Python クラス
コア Python API
WeGO-PyTorch の制限
例
TensorFlow 2.x
WeGO-TensorFlow2.x Python API
コア Python クラス
コア Python API
環境変数
例
TensorFlow 1.x
WeGO-TensorFlow 1.x Python API
コア Python クラス
コア Python API
環境変数
例
WeGO のオンザフライ量子化
量子化 API
PyTorch
TensorFlow 2.x
TensorFlow 1.x
AMD ZenDNN による性能の最適化
WeGO PyTorch での ZenDNN
WeGO TensorFlow 2 での ZenDNN
モデルのプロファイリング
Vitis AI プロファイラー
Vitis AI プロファイラーのアーキテクチャ
Vitis AI プロファイラー GUI の概要
Vitis AI プロファイラーの使用
Vitis AI プロファイラーのインストール
vaitrace を使用して簡単なトレースを開始
vaitrace の使用法
コンフィギュレーション
テキストサマリ
DPU のプロファイリング例
モデルの最適化
カスタムプラットフォームへの DPU の統合
エラーコード
VART プログラミング API
C++ API
create_runner
create_runner
execute_async
wait
get_tensor_format
get_input_tensors
get_output_tensors
vart::Runner の例
get_location
get_tensor
data
data_phy
sync_for_read
sync_for_write
copy_from_host
copy_to_host
copy_tensor_buffer
get_inputs
get_outputs
create_graph_runner
グラフランナーの例
Python API
create_runner
execute_async
wait
get_input_tensors
get_output_tensors
vart.Runner の例
get_inputs
get_outputs
vart.RunnerExt の例
create_graph_runner
グラフランナーの例
その他のリソースおよび法的通知
ザイリンクスリソース
Documentation Navigator およびデザインハブ
参考資料
改訂履歴
お読みください: 重要な法的通知

Back to home page