分组归一化 ¶

class torch.nn.GroupNorm(num_groups, num_channels, eps=1e-05, affine=True, device=None, dtype=None)

在输入的小批量上应用组归一化。

此层实现了在论文《Group Normalization》中描述的操作。

$$y = \frac{x - \mathrm{E}[x]}{ \sqrt{\mathrm{Var}[x] + \epsilon}} * \gamma + \beta$$

输入通道被分为 num_groups 组，每组包含 num_channels / num_groups 个通道。 num_channels 必须能被 num_groups 整除。每个组的均值和标准差分别计算。 $\gamma$ 和 $\beta$ 是每个通道的可学习的仿射变换参数向量，大小为 num_channels ，如果 affine 是 True 。方差通过有偏估计器计算，相当于 torch.var(input, unbiased=False)。

此层使用在训练和评估模式下从输入数据中计算出的统计数据。

参数:

• num_groups (int) – 将通道分离成组的数量

• num_channels (int) – 预期输入中的通道数

• eps (float) – 为数值稳定性添加到分母的值。默认：1e-5

• affine (bool) – 当设置为 True 时，此模块具有可学习的每个通道的仿射参数，权重初始化为 1，偏置初始化为 0。默认： True 。

形状：

• 输入: $(N, C, *)$ where $C=\text{num\_channels}$ 输出: $(N, C, *)$ 在哪里 $C=\text{num\_channels}$

• 输出： $(N, C, *)$ （与输入形状相同）

示例：

>>> input = torch.randn(20, 6, 10, 10)
>>> # Separate 6 channels into 3 groups
>>> m = nn.GroupNorm(3, 6)
>>> # Separate 6 channels into 6 groups (equivalent with InstanceNorm)
>>> m = nn.GroupNorm(6, 6)
>>> # Put all 6 channels into a single group (equivalent with LayerNorm)
>>> m = nn.GroupNorm(1, 6)
>>> # Activating the module
>>> output = m(input)