上周排查一个线上问题,Agent在并发请求下频繁超时。日志里一堆TimeoutException堆在一起,但监控显示CPU和内存都很健康。最后定位到问题:同步阻塞的API设计遇上高并发,线程池直接被打满。今天我们就聊聊Agent工程化中两个关键问题:API该怎么设计,异步该怎么处理。一、API设计:从接口开始避坑先看个反面教材,这是我们早期版本的Agent调用接口:classAgent:defprocess(self,user_input:str)-