奇客Solidot 报道了 Saturn 的一项研究：用上百个财务相关问题测试 ChatGPT、Gemini、Claude 和 Copilot 等主流模型的免费及付费版本，向 18 种模型共提出逾 1 万个问题，平均有 57% 的财务答案存在错误。
误差类型大致有三类：
1. 计算错误（算错税额、利息等）；
2. 遗漏即将实施的税收政策变更；
3. 凭空捏造规则，即典型的“幻觉”。研究还发现，付费模型的答案整体比免费模型更可靠，但同样存在错误。
对调用大模型 API 做财务场景的开发者，几点防御建议：
1. 不要在无人工复核的情况下直接用模型输出作为税务合规结论；
2. 优先接入可联网检索/具备引用溯源能力的模型能力；
3. 对计算类问题用程序化校验兜底，把“LLM 负责语义、代码负责计算”当作默认架构；
4. 在应用的显著位置提示“内容仅供参考，不构成专业建议”。
工具越强大，越需要把它放在正确的流程里，而不是当成万能答案。
