restore_prune_retrain_model【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct产品支持情况产品是否支持Ascend 950PR/Ascend 950DT通道稀疏√4选2结构化稀疏接口xAtlas A3 训练系列产品 / Atlas A3 推理系列产品通道稀疏√4选2结构化稀疏接口√Atlas A2 训练系列产品 / Atlas A2 推理系列产品通道稀疏√4选2结构化稀疏接口√注上述4选2结构化稀疏特性标记“x”的产品调用接口不会报错但是获取不到性能收益。功能说明通道稀疏或4选2结构化稀疏接口两种稀疏特性每次只能使能一个将输入的待稀疏的图结构按照给定的record_file中稀疏记录进行稀疏返回修改后可用于稀疏后训练的torch.nn.Module模型。函数原型prune_retrain_model restore_prune_retrain_model (model, input_data, record_file, config_defination, pth_file, state_dict_nameNone)参数说明参数名输入/输出说明model输入含义待进行稀疏的模型未加载权重。数据类型torch.nn.Moduleinput_data输入含义模型的输入数据。一个torch.tensor会被等价为tuple(torch.tensor)。数据类型tuplerecord_file输入含义记录稀疏信息的文件路径及名称由create_prune_retrain_model生成确保两个接口生成的模型一致。数据类型stringconfig_defination输入含义简易配置文件。基于retrain_config_pytorch.proto文件生成的简易配置文件prune.cfg*.proto文件所在路径为AMCT安装目录/amct_pytorch/proto/。*.proto文件参数解释以及生成的prune.cfg简易量化配置文件样例请参见量化感知训练简易配置文件。数据类型stringpth_file输入含义训练过程中保存的权重文件。数据类型stringstate_dict_name输入含义权重文件中的权重对应的键值。默认值None数据类型string返回值说明返回修改后可用于稀疏后训练的torch.nn.Module模型。调用示例import amct_pytorch as amct # 建立待进行稀疏的网络图结构 config_defination ./prune_cfg.cfg model build_model() input_data tuple([torch.randn(input_shape)]) save_pth_path /your/path/to/save/tmp.pth model.load_state_dict(torch.load(state_dict_path)) # 调用稀疏模型API record_file os.path.join(TMP, scale_offset_record.txt) prune_retrain_model amct.restore_prune_retrain_model( model, input_data, record_file, config_defination, save_pth_path, state_dict)【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考