torch.cuda.memory_allocated

torch.cuda.memory_allocated(device=None)

返回给定设备上张量当前占用的 GPU 内存大小（以字节为单位）。

参数:

device (torch.device 或 int，可选) – 选择设备。返回当前设备的统计信息，给定由 current_device() ，如果 device 是 None （默认）。

返回类型:

int

注意

这可能小于 nvidia-smi 显示的内存量，因为一些未使用的内存可能被缓存分配器持有，并且 GPU 上需要创建一些上下文。有关 GPU 内存管理的更多详细信息，请参阅内存管理。