• 文档 >
  • torch.mtia
快捷键

torch.mtia

MTIA 后端实现为树外,此处仅定义接口。

此包为访问 MTIA 后端在 Python 中提供接口。

StreamContext

选择给定流的上下文管理器。

current_device

返回当前选中设备的索引

current_stream

返回给定设备当前选中的 Stream

default_stream

返回给定设备的默认 Stream

device_count

返回可用的 MTIA 设备数量。

init

is_available

如果 MTIA 设备可用,则返回 true。

is_initialized

返回 PyTorch 的 MTIA 状态是否已初始化。

memory_stats

返回给定设备的 MTIA 内存分配器统计信息的字典。

get_device_capability

返回指定设备的返回能力,以(主版本号,次版本号)元组的形式。

empty_cache

清空 MTIA 设备缓存。

record_memory_history

启用/禁用 MTIA 分配器的内存分析器。

snapshot

返回 MTIA 内存分配器历史记录的字典。

set_device

设置当前设备。

set_stream

设置当前流。这是一个包装 API,用于设置流。

stream

包装选择给定流的上下文管理器 StreamContext。

synchronize

等待 MTIA 设备上所有流的所有作业完成。

device

上下文管理器,用于更改所选设备。

set_rng_state

设置随机数生成器的状态。

get_rng_state

返回随机数生成器的状态作为 ByteTensor。

DeferredMtiaCallError

流和事件

Event

查询并记录流状态,以识别或控制流之间的依赖关系并测量时间。

Stream

按照先进先出(FIFO)顺序异步执行相应任务的有序队列。


© 版权所有 PyTorch 贡献者。

使用 Sphinx 构建,主题由 Read the Docs 提供。

文档

PyTorch 开发者文档全面访问

查看文档

教程

获取初学者和高级开发者的深入教程

查看教程

资源

查找开发资源并获得您的疑问解答

查看资源