类 1
类名为 vart::Runner。下表列出了 vitis::vart::Runner 类中定义的所有函数。
| 返回类型 | 名称 | 实参 |
|---|---|---|
| std::unique_ptr<Runner> | create_runner | const xir::Subgraph* subgraph const std::string& mode |
| std::vector<std::unique_ptr<Runner>> | create_runner | const std::string& model_directory |
| std::pair<uint32_t, int> | execute_async | const std::vector<TensorBuffer*>& input const std::vector<TensorBuffer*>& output |
| int | wait | int jobID int timeout |
| TensorFormat | get_tensor_format | |
| std::vector<const xir::Tensor*> | get_input_tensors | |
| std::vector<const xir::Tensor*> | get_output_tensors |
如需获取 vart::Runner 示例，请参阅 vart::Runner 示例。
类 2
类名为 vart::TensorBuffer。下表列出了 vart::TensorBuffer 类中定义的所有函数。
| 返回类型 | 名称 | 实参 |
|---|---|---|
| location_t | get_location | |
| const xir::Tensor* | get_tensor | |
| std::pair<std::uint64_t, std::size_t> | data | const std::vector<std::int32_t> idx = {} |
| std::pair<uint64_t, size_t> | data_phy | const std::vector<std::int32_t> idx |
| void | sync_for_read | uint64_t offset, size_t size |
| void | sync_for_write | uint64_t offset, size_t size |
| void | copy_from_host | size_t batch_idx, const void* buf, size_t size, size_t offset |
| void | copy_to_host | size_t batch_idx, void* buf, size_t size, size_t offset |
| void | copy_tensor_buffer |
vart::TensorBuffer* tb_from, vart::TensorBuffer* tb_to |
类 3
类名为 vart::RunnerExt。下表列出了 vart::RunnerExt 类中定义的所有函数。
| 返回类型 | 名称 | 实参 |
|---|---|---|
| std::vector<vart::TensorBuffer*> | get_inputs | |
| std::vector<vart::TensorBuffer*> | get_outputs |
类 4
类名为 vitis::ai::GraphRunner。下表列出了 vitis::ai::GraphRunner 类中定义的所有函数。
| 返回类型 | 名称 | 实参 |
|---|---|---|
| std::unique_ptr<vart::RunnerExt> | create_graph_runner | const xir::Graph* graph, xir::Attrs* attrs |
如需获取 graph_runner 示例，请参阅 Graph 运行器示例。