余弦嵌入损失 ¶

class torch.nn.CosineEmbeddingLoss(margin=0.0, size_average=None, reduce=None, reduction='mean')

创建一个测量给定输入张量 $x_1$ 、 $x_2$ 和标签张量 $y$ （值为 1 或-1）的损失的准则。使用( $y=1$ )最大化两个输入之间的余弦相似度，否则使用( $y=-1$ )。这通常用于学习非线性嵌入或半监督学习。

每个样本的损失函数为：

$$\text{loss}(x, y) = \begin{cases} 1 - \cos(x_1, x_2), & \text{if } y = 1 \\ \max(0, \cos(x_1, x_2) - \text{margin}), & \text{if } y = -1 \end{cases}$$

参数:

• 边界（浮点数，可选）- 应该是一个从 $-1$ 到 $1$ 的数字，建议从 $0$ 到 $0.5$ 。如果 margin 缺失，则默认值为 $0$ 。

• size_average（布尔值，可选）- 已弃用（参见 reduction ）。默认情况下，损失会在批次的每个损失元素上平均。注意，对于某些损失，每个样本可能有多个元素。如果字段 size_average 设置为 False ，则损失将改为对每个 minibatch 求和。当 reduce 为 False 时，将被忽略。默认： True

• reduce（布尔值，可选）- 已弃用（参见 reduction ）。默认情况下，损失会在每个 minibatch 的观测上平均或求和，具体取决于 size_average 。当 reduce 为 False 时，将返回每个批次的损失，并忽略 size_average 。默认： True

• reduction（字符串，可选）- 指定应用于输出的缩减方式： 'none' | 'mean' | 'sum' 。 'none' ：不应用缩减， 'mean' ：输出总和将除以输出中的元素数量， 'sum' ：输出将被求和。注意： size_average 和 reduce 正在被弃用，在此期间，指定这两个参数之一将覆盖 reduction 。默认： 'mean'

形状：

• 输入 1： $(N, D)$ 或 $(D)$ ，其中 N 是批量大小，D 是嵌入维度。

• 输入 2： $(N, D)$ 或 $(D)$ ，与输入 1 具有相同的形状。

• 目标： $(N)$ 或 $()$ 。

• 输出：如果 reduction 是 'none' ，则 $(N)$ ，否则标量。

示例：

>>> loss = nn.CosineEmbeddingLoss()
>>> input1 = torch.randn(3, 5, requires_grad=True)
>>> input2 = torch.randn(3, 5, requires_grad=True)
>>> target = torch.ones(3)
>>> output = loss(input1, input2, target)
>>> output.backward()