← archive

Tag

#初始化

1 posts

初始化:训不动时
初始化:训不动时
·5 分钟阅读

初始化:训不动时

换激活函数却不改初始化,或最后一层 init 过大,会导致 loss 不降或梯度爆炸——Kaiming/Xavier 和 zero init head 是基本配对方案。

READ →