ReLU Type - 4.0 简体中文

面向 Zynq UltraScale+ MPSoC 的 DPUCZDX8G 产品指南 (PG338)

Document ID
PG338
Release Date
2022-06-24
Version
4.0 简体中文

“ReLU Type”(ReLU 类型)选项用于判定可搭配 DPUCZDX8G 一起使用的特定 ReLU 激活函数。默认支持 ReLU 和 ReLU6。选择“ReLU + LeakyReLU + ReLU6”选项将启用 LeakyReLU 作为激活函数。

注释: 对于此实现,LeakyReLU 系数固定为 0.1,即,约为 26/256 = 0.1015625
表 1. ReLU + LeakyReLU + ReLU6 相比于 ReLU+ReLU6 所需的额外 LUT
DPUCZDX8G 架构 来自卷积的额外 LUT 来自 ALU 的额外 LUT
B512 465 493
B800 502 747
B1024 636 643
B1152 1038 896
B1600 831 658
B2304 460 439
B3136 812 1051
B4096 746 947