Keras 激活函数 Activation

• softmax：对输入数据的最后一维进行softmax，输入数据应形如

  (nb_samples, nb_timesteps, nb_dims)

  或

  (nb_samples,nb_dims)

• elu
• selu: 可伸缩的指数线性单元（Scaled Exponential Linear Unit），参考Self-Normalizing Neural Networks
• softplus
• softsign
• relu
• tanh

• sigmoid

  Sigmoid函数由下列公式定义 

  

  

• hard_sigmoid
• linear