Hacker News 在 2026 年 9 月 21 日出现一篇热帖，转述《金融时报》的判断：AI 聊天机器人在金融查询上「多数时候」给出错误答案。帖子约 150 分、85 条评论，热度不低。目前公开材料只有这一主张和讨论规模，没有模型名单、题库构成、错误定义或具体比例，因此不能把标题里的表述理解成可引用的评测结果，只能把它当成一次明确的风险提示：钱相关问答一旦说错，代价会立刻落到用户和产品方身上。
金融场景为什么格外脆弱
金融问题往往绑定时效、管辖区和用户自身条件。税率、产品说明书、贷款与保险规则会变，同一句话在不同市场含义不同。聊天机器人擅长生成流畅、自信的句子，这在闲聊里是优点，在涉及金额、税务和合规时却会放大误导。用户看到结构完整的段落，容易默认「已经查过」。材料并未说明错误来自幻觉、知识过期、题意理解失败还是计算错误，但这几类失败在金融问答里都可能造成实质损失。对产品来说，关键不是模型会不会「看起来懂」，而是错一次是否可接受、错了之后有没有可追溯的依据。
能做什么、不能急着下什么结论
不能根据一篇新闻标题给某家模型打分，也不能推断所有金融助手都失败。能做的是收紧产品假设：凡是输出可能被当成建议的地方，都要默认不可信。更稳妥的路径是把模型放到检索、计算和规则引擎之后，让它解释已核验的事实，而不是直接回答「该不该买」「能抵多少税」。界面上应降低权威感，展示来源、时间戳和不确定表述，并提供转人工。评测也不该用通用闲聊集代替，而应按真实工单和监管口径定义对错，把拒答、过期、算错分开统计。对中文开发者而言，本地监管、产品条款和数据时效，往往比「模型是否够聪明」更先决定能不能上线。
我的判断
这条消息的价值是警示，不是基准。它提醒：金融问答属于高风险垂直场景，生成式流畅度不能代替可核验性。适用边界很窄——概念科普、名词解释或许可以；具体数字、产品比较、税务与投资建议不行。局限同样明显：没有方法学，就无法判断「多数时候」有多严重、对哪些模型成立、之后是否改观。在证据补齐前，工程上应假设会错，用引用、工具计算、拒答和人工审核做底线。与其等待模型自己变可靠，不如先把钱相关的回复链路设计成「可被推翻的草稿」，而不是对用户生效的结论。