Sigmoid 激活函数

定义

  • 将实数映射到 (0,1) 区间的 S 形函数,常用于概率输出或门控单元,但在大幅度区间梯度接近 0,易致饱和与梯度消失。

相关

  • 与 ReLU/GELU 等在梯度传播与稀疏性上取舍不同;见《激活函数》。