前の手順で生成された auto_cut_deploy.prototxt には、推論を実行するための完全な情報が含まれています。次に例を示します。
- ノートブックの実行
- ノートブックのこれらの手順について理解するため、
$VAI_ALVEO_ROOT/notebooksから入手できる 2 つのサンプル ノートブック (画像検出と画像分類) があります。 - スクリプトの実行
- デフォルト設定でモデルを実行するために使用できる Python スクリプトがあります。次のコマンドを使用して実行できます。
- PreparePhase
- Python
$VAI_ALVEO_ROOT/examples/caffe/run.py --prototxt <example prototxt> --caffemodel <example caffemodel> --prepare- prototxt
- モデルの prototxt へのパス
- caffemodel
- モデル caffemodel へのパス
- output_dir
- 量子化、コンパイラ、subgraph_cut ファイルを保存するパス
- qtest_iter
- 量子化をテストするための反復回数
- qcalib_iter
- 量子化に使用されるキャリブレーションの反復回数
- 検証フェーズ
- Python
$VAI_ALVEO_ROOT/examples/caffe/run.py –validate- output_dir
- 準備フェーズで output_dir を指定する場合、準備フェーズで生成されたファイルを使用するため、同じ引数と値を使用。
- numBatches
- 推論のテストに使用できるバッチの数。