#LLM工程

标签「LLM工程」下共有 1 篇文章。

别把 HTTP 200 当成模型可用:Node.js 质量金丝雀与自动摘流
2026-10-26 5 分钟

别把 HTTP 200 当成模型可用:Node.js 质量金丝雀与自动摘流

模型仍返回 HTTP 200 时,延迟与质量探针可能已恶化;用 Node.js 做合成探针监控可解析性与固定题得分,连续失败则自动摘流并排空在途请求。

LLM工程可靠性Node.js