生成数字调试句柄 ¶
- class torch.ao.quantization.generate_numeric_debug_handle(ep)[source]¶
为给定 ExportedProgram 的图模块中的所有节点附加 numeric_debug_handle_id,如 conv2d、squeeze、conv1d 等,除了占位符。注意,getattr 等节点不在范围内,因为它们不在图中。
输入导出程序的图节点被就地修改。
以下是一个使用调试句柄量化流程的示例:
ep = export_for_training(eager_model, example_inputs) generate_numeric_debug_handle(ep) m = ep.module() quantizer = XNNPACKQuantizer() m = prepare_pt2e(m, quantizer) m = convert_pt2e(m)