懒惰线性 ¶

class torch.nn.LazyLinear(out_features, bias=True, device=None, dtype=None)

一个自动推断 in_features 的模块。

在此模块中，权重和偏置为 torch.nn.UninitializedParameter 类。它们将在第一次调用 forward 后进行初始化，并且该模块将变为常规的 torch.nn.Linear 模块。 in_features 参数的 Linear 从 input.shape[-1] 推断得出。

检查 torch.nn.modules.lazy.LazyModuleMixin 以获取关于懒加载模块及其限制的进一步文档。

参数:

• out_features (int) – 每个输出样本的大小

• 偏置（未初始化参数）- 如果设置为 False ，则层将不会学习加性偏置。默认： True

变量:

• 权重（torch.nn.parameter.UninitializedParameter）- 模块的 learnable 权重，形状为 $(\text{out\_features}, \text{in\_features})$ 。值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in\_features}}$

• 偏置（torch.nn.parameter.UninitializedParameter）- 模块的 learnable 偏置，形状为 $(\text{out\_features})$ 。如果 bias 是 True ，则值从 $\mathcal{U}(-\sqrt{k}, \sqrt{k})$ 初始化，其中 $k = \frac{1}{\text{in\_features}}$

cls_to_become

Linear 的别名