Dropout

class torch.nn.Dropout(p=0.5, inplace=False)

在训练过程中，以概率 p 随机将输入张量的一些元素置为零。

零元素在每个前向调用中独立选择，并从伯努利分布中采样。

每个通道将在每次前向调用时独立清零。

这已经在论文《通过防止特征检测器共适应来改进神经网络》中证明是一种有效的正则化和防止神经元共适应的技术。

此外，在训练过程中，输出将按因子 $\frac{1}{1-p}$ 进行缩放。这意味着在评估期间，该模块仅计算一个恒等函数。

参数:

• p (浮点数) – 元素被清零的概率。默认值：0.5

• inplace（布尔值）- 如果设置为 True ，将在此处执行此操作。默认： False

形状：

• 输入： $(*)$ 。输入可以是任何形状

• 输出： $(*)$ 。输出与输入形状相同

示例：

>>> m = nn.Dropout(p=0.2)
>>> input = torch.randn(20, 16)
>>> output = m(input)