torch.mps ¬
此包为访问 MPS(Metal Performance Shaders)后端提供了 Python 接口。Metal 是苹果公司用于编程金属 GPU(图形处理器单元)的 API。使用 MPS 意味着可以通过在金属 GPU 上运行工作来提高性能。有关详细信息,请参阅 https://developer.apple.com/documentation/metalperformanceshaders。
返回可用的 MPS 设备数量。 |
|
等待所有流上的所有内核在 MPS 设备上完成。 |
|
返回随机数生成器的状态作为 ByteTensor。 |
|
设置随机数生成器的状态。 |
|
设置生成随机数的种子。 |
|
将生成随机数的种子设置为随机数。 |
|
释放缓存分配器当前持有的所有未占用缓存内存,以便在其他 GPU 应用程序中使用。 |
|
设置 MPS 设备上限制进程内存分配的内存分数。 |
|
返回当前由张量占用的 GPU 内存字节数。 |
|
返回 Metal 驱动为进程分配的总 GPU 内存量(以字节为单位)。 |
|
返回推荐的最大工作集大小(以字节为单位)。 |
|
从源代码编译计算着色器,并允许用户在 Python 运行时环境中调用其中定义的内核示例。 |
MPS 分析器 ¶
从 MPS 后端开始 OS Signpost 跟踪。 |
|
停止从 MPS 后端生成 OS Signpost 跟踪。 |
|
上下文管理器启用从 MPS 后端生成 OS Signpost 跟踪。 |
|
检查金属捕获是否正在进行。 |
|
检查金属捕获上下文管理器是否可用。要启用金属捕获,请设置 MTL_CAPTURE_ENABLED 环境变量 |
|
允许将 Metal 调用捕获到 gputrace 的上下文管理器 |
MPS 事件¶
MPS 事件的包装器。 |