混合计算【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflowmix_compile_mode是否开启混合计算模式。True开启。False关闭默认关闭。计算全下沉模式即所有的计算类算子全部在Device侧执行混合计算模式作为计算全下沉模式的补充将部分不可离线编译下沉执行的算子留在前端框架中在线执行提升AI处理器支持TensorFlow的适配灵活性。配置示例custom_op.parameter_map[mix_compile_mode].b Truein_out_pair_flag此参数仅适用于在线推理场景用于混合计算场景下配置是否将in_out_pair中指定的算子下沉到AI处理器执行取值True下沉默认为True。False不下沉。配置示例custom_op.parameter_map[in_out_pair_flag].b Falsein_out_pair此参数仅适用于在线推理场景用于在混合计算场景下配置下沉/不下沉部分的首尾算子名。需要注意此参数仅支持配置一个[in_nodes,out_nodes]范围段内的算子不支持配置多个[in_nodes,out_nodes]范围段。配置示例# 开启混合计算 custom_op.parameter_map[mix_compile_mode].b True # 如下配置将in_nodes, out_nodes范围内的算子全部下沉到NPU执行其余算子留在前端框架执行。 in_nodes.append(import/conv2d_1/convolution) out_nodes.append(import/conv2d_59/BiasAdd) out_nodes.append(import/conv2d_67/BiasAdd) out_nodes.append(import/conv2d_75/BiasAdd) all_graph_iop.append([in_nodes, out_nodes]) custom_op.parameter_map[in_out_pair].s tf.compat.as_bytes(str(all_graph_iop)) # 或者通过如下配置将in_nodes, out_nodes范围内的算子不下沉全部留在前端框架执行其余算子下沉到NPU执行。 in_nodes.append(import/conv2d_1/convolution) out_nodes.append(import/conv2d_59/BiasAdd) out_nodes.append(import/conv2d_67/BiasAdd) out_nodes.append(import/conv2d_75/BiasAdd) all_graph_iop.append([in_nodes, out_nodes]) custom_op.parameter_map[in_out_pair_flag].b False custom_op.parameter_map[in_out_pair].s tf.compat.as_bytes(str(all_graph_iop))【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflow创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考