“大模型会一本正经地胡说,怎么治?”——幻觉是企业”敢用”的最大障碍。本文讲清成因与工程方法,并说明用 osFoundry 落地。

说明:dgm 是独立于 osFoundry 的集成与落地服务商。

什么是幻觉

幻觉(hallucination)指模型生成看似合理但错误的信息。大模型按概率生成文本,不天然”知道”企业的真实事实,因此可能编造——在客服、法律、医疗等高准确性场景尤其危险。

工程方法(由强到弱)

  1. RAG(首要):把回答约束在企业知识库上、可溯源,显著降低事实性幻觉;
  2. 提示词约束:明确”只依据给定资料回答""不确定就说不知道”;
  3. 模块化拆分:把复杂对话拆成能力模块(如 58同城做法,厂商口径)以提升准确性;
  4. 护栏与校验:输出校验、敏感拦截;
  5. 人工兜底:高风险场景转人工。

一定要建评测

别凭感觉。用真实问题集 + 指标(回答准确率、可溯源率、拒答率等)持续监控,迭代优化。

用 osFoundry 治理

osFoundry 以 RAG 把回答约束在受治理的企业知识上、可溯源,配合编排护栏、按角色择优模型、可观测评测,把幻觉治理工程化;知识可留自有边界(数据不出域)。osFoundry 公布数据区为美/欧/日(无中国区),中国落地走自托管,由 dgm 设计。

dgm 作为独立的 osFoundry 集成伙伴,帮你搭 RAG、设护栏与评测,把幻觉降到可用水平。欢迎联系 dgm。