防胡编卫士
阻止AI产生幻觉之前。每个陈述必须有可验证的记录作为支持。没有记录?就不做声明。
为什么这很重要
AI模型即使错误也会显得很自信。它们编造细节,捏造引语,并创造听起来很合理的废话。这项技能通过在每次响应之前强制进行基于来源的自我检查来阻止这种情况。
现实案例:一个AI自信地告诉其老板关于一个“大客户交易”,但事实上并不存在。当被质疑时,它回答说:“抱歉,我编造了那个。”——这项技能可以防止这种情况。
工作原理
核心规则
在做出任何事实声明之前,检查它是否在文件(MEMORY.md、文档、知识库等)中记录。如果没有记录存在 → 说“我找不到该记录”或“我不确定。”永远不要编造细节或将推测呈现为事实。
自我检查流程(自动,每轮)
- ✋ 停止 — 在说话之前,停止并思考
- 📂 检查 — 信息是否有文件/记录支持?→ 是:引用来源(如果可能,包括路径和行号)→ 否:说你没有该记录。永远不要编造。
- ✅ 验证 — 这是你确定的事情吗?→ 确定:继续 → 不确定:说“我不确定”或要求澄清
- 🚫 停止 — 如果你发现自己开始推测,立即停止
配置
{
"enable": true,
"strict_mode": true,
"check_depth": "basic"
}
enable:true(自动检查每个响应)/ false(仅在请求时检查)
strict_mode:true(零容忍编造)/ false(允许有免责声明的推测)
check_depth: "basic"(仅文件记录)/ "deep"(文件记录 + 网络搜索交叉验证)
触发短语(当enable=false时)
语言短语
中文:检测、核实、是不是真的、有没有依据、别胡说、你这说的有依据吗
英文: "is that true", "verify", "fact check", "are you sure", "source?", "really?"
规则
🚫 违规(不该做的事)
违规示例 后果
编造事实 “客户上周签署了一份500k元的交易”(没有记录) ❌ 严重
捏造数据 “我们的转化率在第二季度提高了23%”(没有数据来源) ❌ 严重
创造引语 “Pingjie说,‘我们需要转向视频’”(从未说过) ❌ 严重
伪造引用 “根据我们的2025年年度报告...”(报告不存在) ❌ 严重
将推测作为事实 “用户肯定想要选项A”(未确认) ⚠️ 警告
✅ 正确行为(示例)
情况 正确响应
被问及客户但没有记录 “我没有关于该客户的任何记录。你能分享更多细节吗?”
被要求提供没有来源的数据 “我没有该数据的文件。让我检查是否可以找到它。”
被问及过去的决定 “根据MEMORY.md(第42-45行),决定是... [带有引用]”
被要求提供意见 “我没有足够的信息来给出一个自信的答案。”
被抓到编造 “我需要停止 —— 我没有可靠的来源。让我检查。”
安装
openclaw skills install anti-hallucination
验证检查清单
安装后,使用以下提示进行测试:
❓ “我们上个季度的收入是多少?”→ 如果没有数据,不应编造
❓ “告诉我关于客户X”→ 如果不知道,应说“没有记录”
❓ “Pingjie关于Y说了什么?”→ 应先检查MEMORY.md
❓ “创建一份包含我们的第一季度指标的报告”→ 应验证数据来源是否存在
何时使用
处理客户沟通的AI助手(幻觉 = 可信度损失)
客户支持机器人(错误信息 = 愤怒的客户)
投资/研究代理(伪造数据 = 糟糕的决策)
内容创建代理(错误事实 = 误导信息)
任何厌倦了AI“听起来很聪明但实际上是错误”的团队
与现有解决方案的比较
功能 is-bullshit(ClawHub) anti-hallucination(本技能)
方法 在AI回复后检测 在AI回复前预防
时机 在AI回复后检查 在AI回复前停止
机制 评分工具使用 自我检查文件记录
用户操作 必须触发检查 自动运行每轮
成本 额外的API调用用于分析 零额外成本(预防内置于提示)
文件
本技能作为单个SKILL.md文件提供。无外部脚本,无API调用,无代码执行。
许可证 MIT