章节目标:以证据对照和拒答策略降低幻觉风险,并结合 提示自测 建立合规流程。

证据优先的提示结构

  • <knowledge> 区段列出已验证的信息,建议加编号(如 [K1])。
  • 要求 Claude 在 <analysis> 中先列证据,再写结论,防止编造。
  • 使用 <citations> 区块输出最终引用,可方便人工或系统校验。
<analysis>
候选结论:…
证据:[K2] 第三段
</analysis>

构建拒答机制

  • 明确写出“若缺乏证据,请输出 <refusal> 内容”,并提供示例理由。
  • 对敏感领域(医、法、财)设定“只有在资料覆盖范围内才可回答”。
  • 语气护栏 用于拒答,保持礼貌且明确。

置信度标注

  • 让 Claude 给出“高/中/低”的置信度,同时要求解释依据。
  • 若置信度低,附带后续建议,如“建议人工复查”。
  • 可配合阈值:例如“置信度低时,不输出具体结论,只列疑问”。

示例:引用与拒答

prompt = """
<knowledge>
[K1] 退款政策允许在 30 天内申请退货。
[K2] 客服支持时间为周一到周五 9-18 点。
</knowledge>
<task>
1. 回答:能否在 40 天后退款?
2. 若无法确认,请引用拒答理由。
</task>
"""
print(get_completion(prompt))

尝试移除 [K1] 后再次运行,可观察 Claude 是否触发 <refusal>;这是 notebook 中用于说明拒答策略的实验方法。

练习

  1. 将公司知识库要点收录到 <knowledge> 并编号。
  2. 提问一个模糊问题,观察 Claude 是否引用正确编号。
  3. 刻意删除相关资料,检查是否触发 <refusal>

完成后,你的提示模板可以直接应用在客服知识库、自助问答或合规审查等场景中,大幅降低幻觉带来的风险。

Prompt Playground

课后练习模板

使用步骤

  1. 按照课程指引填写提示骨架,保留变量占位符。
  2. 在 Claude 或 Bedrock 中运行前,检查变量是否替换完整。
  3. 运行后对照检查清单,记录问题并在笔记区调整。

评分参考

Tips

草稿会自动保存到浏览器中,若想在团队中共享,请点击“下载草稿”并上传到文档库。