SiLU函数
SiLU（Sigmoid Linear Unit）函数，也称为 Swish 函数，是一种常用于深度学习中的激活函数。它是由 Google 的研究人员提出的，旨在解决 ReLU（Rectified Linear Unit）函数的一些缺点，尤其是在深度网络的训练过程中。
【笔记】激活函数SiLU和Swish
激活函数 SiLU 和 Swish 都是 深度学习 中用于神经网络中的非线性激活函数，旨在增强模型的表达能力和训练性能。实际上，SiLU（Sigmoid Linear Unit）和 Swish 本质上是同一个激活函数的两种不同名称。
