CacheTask【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√说明针对Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。CacheTask构造函数构造CacheTask由CacheManager.transfer接口返回表示分层传输异步任务。synchronize函数功能等待所有层传输完成并获取整体执行结果。函数原型synchronize(timeout_in_millis: Optional[int] None) - LLMStatusCode参数说明参数名称数据类型取值说明timeout_in_millisOptional[int]等待超时时间单位为毫秒默认为None表示不超时。调用示例ret cache_task.synchronize()返回值正常情况下返回LLMStatusCode。传入数据类型错误情况下会抛出TypeError或ValueError异常。约束说明无get_results函数功能等待所有层传输完成并获取每个TransferConfig对应执行结果。函数原型get_results(timeout_in_millis: Optional[int] None) - List[LLMStatusCode]参数说明参数名称数据类型取值说明timeout_in_millisOptional[int]等待超时时间单位为毫秒默认为None表示不超时。调用示例rets cache_task.get_results()返回值正常情况下返回LLMStatusCode的列表对应每个TransferConfig的传输结果。如果一个TransferConfig对应的layer还没有发起过传输则对应的返回值为None。传入数据类型错误情况下会抛出TypeError或ValueError异常。约束说明无【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考