#LLM应用

标签「LLM应用」下共有 12 篇文章。

别把并行工具调用当免费加速:Node.js 依赖调度与部分失败隔离
2026-10-31 5 分钟

别把并行工具调用当免费加速:Node.js 依赖调度与部分失败隔离

一轮多工具直接 Promise.all 会混入副作用,导致覆盖或整组重试。本文用 Node.js 调度器处理依赖、并发预算和部分失败,给出可测试的结果边界。

Node.js智能体LLM应用
别让模型发明组件:用 JSON Schema 白名单构建可回滚的生成式 UI
2026-10-30 4 分钟

别让模型发明组件:用 JSON Schema 白名单构建可回滚的生成式 UI

生成式 UI 常从拼接 HTML 起步,随后暴露 XSS、布局抖动和幻觉组件。把 LLM 输出当成有版本的数据协议,用 JSON Schema 白名单约束组件与属性,在 React 中递归渲染、未知类型降级,并与后端结构化解析对齐。

ReactLLM应用前端安全
别让检索只抓住一句细节:用 Node.js 做 RAG 子块召回与父块回填
2026-10-25 4 分钟

别让检索只抓住一句细节:用 Node.js 做 RAG 子块召回与父块回填

小块检索常命中局部句子、丢掉段落语境。本文用 Node.js 做子块召回与父块回填、引用映射及扩写后去重与 Token 裁剪,形成可测试可回滚的流水线。

RAGNode.jsLLM应用
别让RAG引用变成装饰编号:用Node.js打通PDF页码、bbox与原文高亮
2026-10-18 3 分钟

别让RAG引用变成装饰编号:用Node.js打通PDF页码、bbox与原文高亮

有依据却跳不回原件,引用编号只是装饰。本文将PDF页码、bbox与字符偏移做成可传递证据链,接到前端高亮,给出可运行的Node.js溯源方案。

RAGLLM应用Node.js
别让智能体活在错误的今天:用 Node.js 把时钟做成可测试依赖
2026-10-07 4 分钟

别让智能体活在错误的今天:用 Node.js 把时钟做成可测试依赖

智能体把今天、三天后写进提示词,测试无法冻时间、换时区就答错。把时钟做成可注入依赖,统一解析相对时间,给检索与工具打 as-of 时间戳,并校验编造日期。

Node.jsLLM应用智能体
多跳检索别靠当场连读:用 Node.js 离线织实体共现图做约束召回
2026-10-06 5 分钟

多跳检索别靠当场连读:用 Node.js 离线织实体共现图做约束召回

跨文档问人问事时,别在当次切片里临时拼关系。把实体、别名与共现边离线织进入库流水线,在线先用子图收窄候选再检索,并处理抽取错误和文档变更后的边回收。

RAGLLM应用Node.js
别把流式回答当纯文本拼接:React 围栏闭合、高亮与 XSS 消毒
2026-10-01 3 分钟

别把流式回答当纯文本拼接:React 围栏闭合、高亮与 XSS 消毒

把流式回答从纯文本拼接改成增量解析:用 React 处理未闭合围栏与表格占位,延迟代码高亮,并避免消毒器误伤半截标签。

React前端工程LLM应用
别把手写工具说明书:用 Node.js 从 OpenAPI 生成智能体工具层
2026-09-29 3 分钟

别把手写工具说明书:用 Node.js 从 OpenAPI 生成智能体工具层

手写 Schema 很快与真实 API 分叉。用 Node.js 从 OpenAPI 生成工具层,模型外注入鉴权与超时,白名单裁剪响应,契约测试防止漂移。

智能体Node.jsLLM应用
别把多轮历史原样塞回模型:Node.js 会话压缩、校验与可回放
2026-09-26 4 分钟

别把多轮历史原样塞回模型:Node.js 会话压缩、校验与可回放

多轮对话的 token 膨胀不同于长期记忆或仓库裁剪。本文用 Node.js 落地最近窗口、旧轮次摘要、质量校验与失败回退,原始记录单独可回放。

LLM应用Node.js会话管理
LLM观测别只打日志:用OpenTelemetry对齐延迟、工具失败与成本
2026-09-25 4 分钟

LLM观测别只打日志:用OpenTelemetry对齐延迟、工具失败与成本

一次提问会穿过网关、供应商、工具执行和重试。把prompt版本、工具跨度、Token用量与成本写成OpenTelemetry属性与子跨度,用现有微服务追踪习惯定位超时、贵请求和局部失败。

OpenTelemetryLLM应用可观测性
别把用户原话直接检索:用 Node.js 构建可回退查询改写层
2026-09-24 6 分钟

别把用户原话直接检索:用 Node.js 构建可回退查询改写层

指代、口语和多意图会让向量检索打偏,改写也可能毁掉工单号或报错原文。用 Node.js 把改写、拆分和回退做成可开关流水线,并用小回归样例盯住精确词。

RAGNode.jsLLM应用
别让智能体直接跑SQL:用Node.js构建只读白名单与EXPLAIN门禁
2026-09-21 5 分钟

别让智能体直接跑SQL:用Node.js构建只读白名单与EXPLAIN门禁

把自然语言转成SQL一次幻觉就可能扫全表或改数据。本文给出Node.js查询代理:只读账号、语句白名单、表列清单、EXPLAIN成本上限与结果截断。

LLM应用Node.js安全