← archive

Tag

#显存

1 posts

use_reentrant=False 粒度
use_reentrant=False 粒度
·5 分钟阅读

use_reentrant=False 粒度

Gradient checkpointing 用重算 forward 换显存——训练大模型或高分辨率输入时 OOM 的常用解法,wall-clock 涨 20–40% 要算进预算。

READ →