RReLU

class torch.nn.RReLU(lower=0.125, upper=0.3333333333333333, inplace=False)

应用随机泄漏 ReLU 函数，逐元素。

论文中描述的方法：卷积网络中修正激活的实证评估。

函数定义为：

$$\text{RReLU}(x) = \begin{cases} x & \text{if } x \geq 0 \\ ax & \text{ otherwise } \end{cases}$$

其中 $a$ 在训练期间从均匀分布 $\mathcal{U}(\text{lower}, \text{upper})$ 中随机采样，而在评估期间 $a$ 固定为 $a = \frac{\text{lower} + \text{upper}}{2}$ 。

参数:

• 下限（浮点数）- 均匀分布的下限。默认： $\frac{1}{8}$

• 上限（浮点数）- 均匀分布的上限。默认： $\frac{1}{3}$

• inplace（布尔值）- 可选地进行原地操作。默认： False

形状：

• 输入： $(*)$ ，其中 $*$ 表示任意数量的维度。

• 输出： $(*)$ ，与输入具有相同的形状。

示例：

>>> m = nn.RReLU(0.1, 0.3)
>>> input = torch.randn(2)
>>> output = m(input)