torch.mtia.memory 的源代码

# pyre-strict

r该包添加了对 MTIA 中实现的设备内存管理的支持。

from 打字 导入 任何, 可选

导入 火炬

from . 导入 _device_t, is_initialized
from _utils 导入 _get_device_index


[文档]def memory_stats(device: Optional[_device_t] = None) -> dict[str, Any]:
r"""返回给定设备的 MTIA 内存分配器统计信息的字典。

Args:
device (torch.device, str, 或 int, 可选) 选择设备。返回
当前设备的统计数据，由 current_device()提供
如果设备为 None（默认值）
"""
如果未初始化()
return {}
return torch._C._mtia_memoryStats(_get_device_index(device, optional=True))


def 分配的最大内存(设备: 可选[_device_t] = 无) 翻译 int:
    r返回给定设备分配的最大内存量（以字节为单位）。

参数：
device (torch.device, str, 或 int, 可选) 选定的设备。返回
当前设备的统计数据，由 current_device()函数提供，
如果设备为 None（默认）。
"文档"
    如果 不 已初始化():
        返回 0
    返回 内存统计(设备).获取(DRAM, 0).获取(峰值字节数, 0)


def 重置峰值内存统计(设备: 可选[_device_t] = 无) 翻译 无:
    r重置指定设备的峰值内存统计信息。


参数：
device (torch.device, str, 或 int，可选) 选择设备。如果 device 为 None（默认），则返回当前设备（由 current_device() 给出）的统计信息。
当前设备（由 current_device() 给出）的统计信息，如果 device 为 None（默认）。
如果 device 为 None（默认）。
"文档"
    如果 不 已初始化():
        返回
    火炬._C._mtia 重置峰值内存统计(获取设备索引(设备, 可选的=是))


全部 = [
    内存统计,
    "最大分配内存",
    "重置峰值内存统计",
]