torch.nn.functional.softplus 注释

torch.nn.functional.softplus(input, beta=1, threshold=20) → 索引

元素级应用，函数 $\text{Softplus}(x) = \frac{1}{\beta} * \log(1 + \exp(\beta * x))$ 。

为了数值稳定性，实现会回退到线性函数当 $input \times \beta > threshold$ 。

更多详情请见 Softplus 。