← archive

Tag

#优化器

1 posts

Adam 与 SGD
Adam 与 SGD
·3 分钟阅读

Adam 与 SGD

AdamW 收敛快、对 LR 不敏感;不少视觉任务里调好的 SGD+momentum 泛化更好——按数据规模和预算选,别迷信默认 optimizer。

READ →