WeGO-PyTorch の制限 - 3.5 日本語

WeGO-Torch プロジェクトは現在アーリー アクセス ステートであるため、使用に関していくつか既知の問題が生じることがあります。これらの問題の詳細と、対処に必要なステップを次に示します。

1. 次の理由により、WeGO-Torch は RCNN モデル (制御フローあり) をサポートできません。
   1. RCNN モデルのサポート: WeGO-Torch は、ダイナミックな形状の問題により、現時点では制御フローありの RCNN モデルをサポートしていません。RCNN モデルでは、入力として異なる画像が提供されると、動作中にテンソルの形状が変わることがあります。そのため、WeGO での運用で問題が生じます。RCNN モデルに WeGO との互換性を持たせるには、この制約を取り除くために手作業による変更が必要になります。
   2. 入力タイプの互換性: RCNN モデルは多くの場合、入力タイプとして Tensor[] を受け入れますが、WeGO のコンパイル API はこれをサポートしていません。また、Tensor [] を入力タイプとして使用することは、浮動小数点モデル自体がバッチの影響を受けやすくなるということであり、TorchScript のトレース フェーズで使用されたバッチ サイズに応じてトレースで得られる量子化されたモデルが変化するということです。このようなモデルを WeGO で運用する場合、次の手順を推奨します。
      1. 元の浮動小数点モデルで、入力タイプとして Tensor [] を Tensorまたは Tensor, Tensor, ... (入力の数が既知の場合) で置き換えます。
      2. WeGO での推論に使用するバッチ サイズは量子化時のエクスポート フェーズで使用したバッチ サイズと同じにする必要があります。
2. WeGO-Torch は現在、データセンター DPU がサポートできる演算子の一部のみに対応しています。そのため、演算子によっては、データセンター DPU によってサポートされていても、実行が CPU にディスパッチされることがあります。