PyTorch 1.0 中文文檔：torch.nn.init

譯者：GeneZC

torch.nn.init.calculate_gain(nonlinearity, param=None)
           

傳回給定非線性函數的推薦的增益值。對應關系如下表：

非線性函數	增益
Linear / Identity
Conv{1,2,3}D
Sigmoid
Tanh
ReLU
Leaky Relu

參數：

• nonlinearity – 非線性函數 (

  nn.functional

  中的名字)
• param – 對應非線性函數的可選參數

例子

>>> gain = nn.init.calculate_gain('leaky_relu')
           

torch.nn.init.uniform_(tensor, a=0, b=1)
           

用均勻分布 初始化輸入

Tensor

。

閱讀全文／改進本文

轉載于:https://www.cnblogs.com/wizardforcel/p/10392208.html