别让模型差异渗进业务代码：TypeScript LLM Provider 适配层实战
从流式事件、工具调用、Token 用量和结束原因出发，设计稳定的 TypeScript 内部接口，并用能力矩阵与契约测试降低模型替换成本。
<tag />
#LLM 应用开发
标签「LLM 应用开发」下共有 14 篇文章。
别让 LLM 应用只会返回 500：用 Node.js 建立错误语义层
通过统一错误分类、故障上下文与策略映射，让跨模型调用能够正确执行重试、降级、提示和指标统计。
别让工具结果撑爆上下文：用 Node.js 构建分页、摘要与引用保留层
通过 Node.js 为工具返回结果增加分页、字段裁剪、日志摘要和可回取引用，在控制上下文体积的同时保留可验证的证据链。
别让上传文件拖垮 LLM：Node.js 多模态安全处理流水线
从入口校验、隔离存储到异步解析与失败清理，构建可限流、可追踪、可重试的 LLM 文件处理服务。
别让取消后的模型继续烧钱：Node.js 跨层终止与资源回收
从浏览器断开到模型流、工具调用和任务队列，完整实现基于 AbortSignal 的跨层取消与状态收敛。
别让多租户 AI 应用串数据：Node.js 上下文与隔离边界
从请求入口到异步任务，使用 Node.js 贯通租户上下文、会话、缓存与检索访问校验，并配套并发和后台任务测试。
系统提示词也要发布：用 Git、语义差异与灰度流量管理行为变更
把系统提示词纳入版本管理和发布流程，并用 Node.js 实现稳定灰度、行为指标监控与快速回滚。
LLM 缓存不是加个 Redis：Node.js 安全键、失效与流式回放实战
从一次完整的模型请求出发，实现具备租户隔离、版本化键、主动失效和流式回放能力的 Node.js 缓存层。
工具不是越多越好：用 Node.js 构建可评测的智能体工具路由器
从候选召回、参数校验、置信度门控和拒绝调用入手，实现并评测一个可运行的 Node.js 智能体工具路由器。
把 LLM 输出当作不可信输入：用 Node.js 与 Zod 建立解析边界
从常见输出故障出发，实现一套包含格式清理、Schema 校验、有限重试、错误分类与安全降级的 Node.js 解析流程。
模型升级不靠猜：用契约测试守住 LLM 应用行为边界
通过一套可运行的 Node.js 契约测试，验证模型升级后的结构化输出、工具调用、拒答规则与成本上限。
让 LLM 工作流崩溃后接着跑：Node.js 持久化实践
从模型调用、工具执行到人工确认，用 SQLite 实现可重启、可重试且能抵御重复提交的工作流。