torch.cuda.set_per_process_memory_fraction

torch.cuda.set_per_process_memory_fraction(fraction, device=None)

设置进程的内存分数。

分数用于限制缓存分配器在 CUDA 设备上分配的内存。允许的值等于总可见内存乘以分数。如果尝试在一个进程中分配超过允许值的内存，将引发分配器内存不足错误。

参数:

• 分数（浮点数）- 范围：0~1。允许的内存等于总内存 * 分数。

• device（torch.device 或 int，可选）- 选定的设备。如果是 None ，则使用默认的 CUDA 设备。

注意

通常情况下，总可用空闲内存小于总容量。