vai_q_pytorch のインストール - 2.5 日本語

vai_q_pytorch には、GPU バージョンと CPU バージョンがあります。vai_q_pytorch は、PyTorch バージョン 1.2 ～ 1.10.2 をサポートしますが、PyTorch のデータ並列処理はサポートしません。vai_q_pytorch をインストールする方法は 2 つあります。

Docker コンテナーを使用してインストール

Vitis AI は、vai_q_pytorch を含む量子化ツールの Docker コンテナーを提供します。GPU/CPU コンテナーの実行後、Conda 環境 vitis-ai-pytorch をアクティベートします。

conda activate vitis-ai-pytorch

/opt/vitis_ai/scripts/replace_pytorch.sh new_conda_env_name

ソース コードからインストール

vai_q_pytorch は、Pytorch プラグインとして機能するように設計された Python パッケージです。これは Vitis_AI_Quantizer 内のオープンソースです。vai_q_pytorch は Conda 環境にインストールすることを推奨します。これを行うには、次の手順に従います。

1. .bashrc に CUDA_HOME 環境変数を追加します。
   GPU バージョンでは、CUDA ライブラリが /usr/local/cuda にインストールされている場合、.bashrc に次の行を追加します。CUDA がその他のディレクトリにある場合は、それに応じてパスを変更します。

   export CUDA_HOME=/usr/local/cuda

   CPU バージョンでは、.bashrc 内のすべての CUDA_HOME 環境変数設定を削除します。次のコマンドを実行して、シェル ウィンドウのコマンド ラインで削除することを推奨します。

   unset CUDA_HOME

2. PyTorch (1.2 ～ 1.10.2) と Torchvision をインストールします。

   次のコードでは、PyTorch 1.7.1 と Torchvision 0.8.2 を例として使用します。その他のバージョンの手順の詳細は、PyTorch のウェブサイトを参照してください。

   pip install torch==1.7.1.0 torchvision==0.8.2

3. その他の依存ライブラリをインストールします。

   pip install -r requirements.txt

4. vai_q_pytorch をインストールします。

   cd ./pytorch_binding 
   python setup.py install (for user) 
   python setup.py develop (for developer)

5. インストールを検証します。

   python -c "import pytorch_nndct"

import pytorch_nndct
import torch