通过区域编译减少 torch.compile 冷启动编译时间 ¶

创建于：2025 年 4 月 1 日 | 最后更新：2025 年 4 月 1 日 | 最后验证：2024 年 10 月 10 日

作者：Animesh Jain

随着深度学习模型变得更大，这些模型的编译时间也会增加。这种延长的编译时间可能导致推理服务的启动时间变长或在大规模训练中浪费资源。本菜谱展示了如何通过选择编译模型的重复区域而不是整个模型来减少冷启动编译时间。

前提条件 ＿

• PyTorch 2.5 或更高版本

设置

在开始之前，我们需要安装 torch ，如果它尚未可用的话。

pip install torch

备注

该功能从 2.5 版本开始提供。如果您正在使用 2.4 版本，您可以通过启用配置标志 torch._dynamo.config.inline_inbuilt_nn_modules=True 来防止在区域编译期间重新编译。在 2.5 版本中，此标志默认启用。

from time import perf_counter

步骤 ¶

在本菜谱中，我们将遵循以下步骤：

1. 导入所有必要的库。

2. 定义并初始化具有重复区域的神经网络。

3. 理解完整模型与区域编译之间的区别。

4. 测量完整模型和区域编译的编译时间。

首先，让我们导入加载我们数据的必要库：

import torch
import torch.nn as nn

接下来，让我们定义并初始化一个具有重复区域的神经网络。

通常，神经网络由重复的层组成。例如，一个大型的语言模型由许多 Transformer 块组成。在这个菜谱中，我们将使用 nn.Module 类作为重复区域的代理来创建 Layer 。然后我们将创建一个由 64 个此 Layer 类的实例组成的 Model 。

class Layer(torch.nn.Module):
    def __init__(self):
        super().__init__()
        self.linear1 = torch.nn.Linear(10, 10)
        self.relu1 = torch.nn.ReLU()
        self.linear2 = torch.nn.Linear(10, 10)
        self.relu2 = torch.nn.ReLU()

    def forward(self, x):
        a = self.linear1(x)
        a = self.relu1(a)
        a = torch.sigmoid(a)
        b = self.linear2(a)
        b = self.relu2(b)
        return b


class Model(torch.nn.Module):
    def __init__(self, apply_regional_compilation):
        super().__init__()
        self.linear = torch.nn.Linear(10, 10)
        # Apply compile only to the repeated layers.
        if apply_regional_compilation:
            self.layers = torch.nn.ModuleList(
                [torch.compile(Layer()) for _ in range(64)]
            )
        else:
            self.layers = torch.nn.ModuleList([Layer() for _ in range(64)])

    def forward(self, x):
        # In regional compilation, the self.linear is outside of the scope of `torch.compile`.
        x = self.linear(x)
        for layer in self.layers:
            x = layer(x)
        return x

接下来，让我们回顾完整模型和区域编译之间的区别。

在完整模型编译中，整个模型作为一个整体进行编译。这是大多数用户采用的方法。在本例中，我们将 torch.compile 应用于 Model 对象。这将有效地内联 64 层，生成一个大型编译图。您可以通过运行此配方中的 TORCH_LOGS=graph_code 来查看完整的图。

model = Model(apply_regional_compilation=False).cuda()
full_compiled_model = torch.compile(model)

相反，区域编译编译模型的某个区域。通过有策略地选择编译模型的重复区域，我们可以编译一个更小的图，然后为所有区域重用编译后的图。在示例中，仅将 torch.compile 应用于 layers ，而不是整个模型。

regional_compiled_model = Model(apply_regional_compilation=True).cuda()

将编译应用于重复区域，而不是整个模型，可以大幅节省编译时间。在这里，我们只需编译一个层实例，然后在 Model 对象中重复使用 64 次。

注意，对于重复区域，模型的一些部分可能不会被编译。例如， self.linear 在 Model 之外，不在区域编译的范围内。

此外，请注意性能提升和编译时间之间存在权衡。完整模型编译涉及更大的图，从理论上讲，提供了更多的优化空间。然而，从实际应用和模型的角度来看，我们观察到许多情况下完整模型和区域编译之间的速度提升差异很小。

接下来，让我们测量完整模型和区域编译的编译时间。

torch.compile 是一个即时编译器，这意味着它在第一次调用时进行编译。在下面的代码中，我们测量第一次调用所花费的总时间。虽然这种方法并不精确，但它提供了一个良好的估计，因为大部分时间都花在了编译上。

def measure_latency(fn, input):
    # Reset the compiler caches to ensure no reuse between different runs
    torch.compiler.reset()
    with torch._inductor.utils.fresh_inductor_cache():
        start = perf_counter()
        fn(input)
        torch.cuda.synchronize()
        end = perf_counter()
        return end - start


input = torch.randn(10, 10, device="cuda")
full_model_compilation_latency = measure_latency(full_compiled_model, input)
print(f"Full model compilation time = {full_model_compilation_latency:.2f} seconds")

regional_compilation_latency = measure_latency(regional_compiled_model, input)
print(f"Regional compilation time = {regional_compilation_latency:.2f} seconds")

assert regional_compilation_latency < full_model_compilation_latency

结论 ¶

本指南展示了如何控制具有重复区域的模型在冷启动时的编译时间。这种方法需要用户对重复区域应用 torch.compile，而不是更常用的完整模型编译。我们一直在努力减少冷启动编译时间。