RAG 文档也会攻击你:用 Node.js 构建提示注入防线
把检索内容视为不可信输入,通过来源标记、风险检测、上下文隔离和回归测试,为 Node.js RAG 应用建立分层防线。
标签「Node.js」下共有 9 篇文章。
把检索内容视为不可信输入,通过来源标记、风险检测、上下文隔离和回归测试,为 Node.js RAG 应用建立分层防线。
从常见输出故障出发,实现一套包含格式清理、Schema 校验、有限重试、错误分类与安全降级的 Node.js 解析流程。
从中文查询命中外语文档的问题出发,用 Node.js 实现可配置的相关性与语言一致性重排器,并建立离线评测方法。
通过一套可运行的 Node.js 契约测试,验证模型升级后的结构化输出、工具调用、拒答规则与成本上限。
从结果重复与主题覆盖不足入手,用 Node.js 实现候选召回、近重复过滤、MMR 重排及可复现的集合级检索评测。
从模型调用、工具执行到人工确认,用 SQLite 实现可重启、可重试且能抵御重复提交的工作流。
从文件、命令与网络三类高风险工具入手,实现白名单、目录隔离、超时、人工确认和结构化审计日志。
从文件索引、相关性排序、依赖扩展到 Token 预算选择,实作一套可运行、可评测的代码智能体上下文裁剪流水线。
从位置偏差、长度偏好与自洽性入手,实现答案换位、盲测、多裁判聚合及人工抽检,并用一致性指标划定自动评估边界。