AI Kernel Scheduler - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

现实世界的深度学习应用涉及多阶段数据处理流水线,其中包含许多计算密集型预处理运算(例如,从磁盘加载数据、解码、调整大小、颜色空间转换、缩放和裁剪 CNN 等多个 ML 网络)以及 NMS 之类的各种后处理运算。

AI Kernel Scheduler (AKS) 会对对此类计算图自动进行高效流水打拍,无需用户过多干预。它可为复杂计算图的每个阶段提供不同类型的内核,这些内核可配置性高且可即插即用。部分示例包括:预处理内核(如,图像解码和大小调整)、CNN 内核(如,Vitis AI DPU 内核)以及 SoftMax 和 NMS 之类的后处理内核。您可使用内核创建其计算图,并无缝执行其作业以获得最大性能。

如需获取详细信息和示例,请参阅 Vitis AI GitHub (AI Kernel Scheduler)。