转换自定义配置 ¶
- 类 torch.ao.quantization.fx.custom_config.ConvertCustomConfig[source][source] ¶
convert_fx()
的定制配置。演示用法:
convert_custom_config = ConvertCustomConfig() .set_observed_to_quantized_mapping(ObservedCustomModule, QuantizedCustomModule) .set_preserved_attributes(["attr1", "attr2"])
- 类方法 from_dict(convert_custom_config_dict)[source][source] ¶
从以下项目创建一个
ConvertCustomConfig
:“observed_to_quantized_custom_module_class”:一个从量化模式到内部映射的嵌套字典,该映射从观察到的模块类到量化模块类,例如:{"static": {"FloatCustomModule": "ObservedCustomModule"}, "dynamic": {"FloatCustomModule": "ObservedCustomModule"}, "weight_only": {"FloatCustomModule": "ObservedCustomModule"}} “preserved_attributes”:即使它们在
forward
中未被使用,也会持续存在的属性列表此函数主要用于向后兼容,未来可能会被移除。
- 返回类型:
- set_observed_to_quantized_mapping(observed_class, quantized_class, quant_type=QuantType.STATIC)[source][source]¶
将自定义观察模块类映射到自定义量化模块类。
量化模块类必须有一个
from_observed
类方法,用于将观察模块类转换为量化模块类。- 返回类型:
- 设置保留属性(attributes)[源][源]
设置在图模块中即使未在模型的
forward
方法中使用也将持久化的属性名称。- 返回类型:
- to_dict()[来源][来源] ¶
将此
ConvertCustomConfig
转换为包含from_dict()
描述项的字典。- 返回类型:
dict[str, Any]