2026-10-26 5 分钟 别把 HTTP 200 当成模型可用:Node.js 质量金丝雀与自动摘流 模型仍返回 HTTP 200 时,延迟与质量探针可能已恶化;用 Node.js 做合成探针监控可解析性与固定题得分,连续失败则自动摘流并排空在途请求。 LLM工程可靠性Node.js
2026-08-26 4 分钟 别让智能体越等越久:Node.js 跨模型与工具调用的超时预算传播 从请求级 deadline 出发,用 Node.js 统一传播模型、工具、重试和流式响应的剩余时间,并区分不同超时原因。 AI 工程Node.js可靠性
2026-07-23 4 分钟 OpenAI 兼容中转踩坑:从假死流式到对冲重试设计 结合 Cloudflare Worker 代理实践,拆解兼容中转的超时、伪流式与工具调用故障,并实现客户端对冲和降级。 AI 工程Cloudflare可靠性