结论先行:AI 生成的内容发出去出问题,多数不是写错了,是没人能说清哪一句来自哪个来源。发布前要设三道卡:谁下的指令、谁核过事实、谁签字对外。三道卡里必须有一个人对"事实"负责,而不是对"读起来顺不顺"负责——后者 AI 自己就能做到,加一个人看毫无意义。
本文只谈 AI 生成内容在对外发布前的卡点设置与留痕,不谈模型怎么选,也不谈知识库里的内容怎么维护。
为什么"审核一下"这一步最容易空转
常见的做法是让一个人看一眼再发。这一步空转的原因很具体:审核的人拿到的是一份成品,没有中间过程。他看到的每个句子都通顺、每条结论都有理由,真正无法判断的是——这句话是有依据的,还是模型根据上下文补出来的。
补出来的内容有个特征:它读起来比真实内容更顺。因为模型写的是"合理的样子",而真实信息往往带着毛刺——数字不整齐、口径有例外、时间有滞后。审核人凭语感判断,恰恰容易被这类内容骗过。
所以卡点不能设在这一步。要往前挪,挪到"能不能追到来源"这件事上。
三道卡,各自卡什么
其一,谁下的指令
指令要留原文。不是留一句"帮忙写个方案",是留完整的那段话:给了什么材料、要求什么范围、说明了哪些不能写。这一条的作用不是追责,是出问题时能判断偏差出在输入还是输出。
一个反复出现的情形:指令里给了一份过期材料,模型照着写,内容全对但全部过时。这种情况下改稿没用,得改材料。没有指令留痕,就永远在改稿。
其二,谁核事实
核事实的人必须能接触到原始来源,而不是比对自己的记忆。核的动作也只有一条:把稿子里所有可验证的断言列出来——数字、时间、资质名称、客户名称、承诺——逐条回到来源上打勾。打不了勾的,删除或改成不带断言的说法。
这一步的工作量与稿件长度关系不大,与断言密度关系大。一份两千字的内部说明可能只有三个可验证断言,一份八百字的对客材料可能有二十个。按字数安排人力是错的,按断言数安排才对。
其三,谁签字对外
签字的人要承担的是"我们愿意为这些话负责",不是"我看过了"。这两者的区别在出问题那天非常明显:前者会去核关键数字,后者只会说"我当时也觉得没问题"。
这一环还决定另一件事:签字人是谁,决定了这份材料出问题时的处理路径。技术负责人签字的内容出错,可以走技术澄清;商务负责人签字的内容出错,走的是另一条路。混淆这两种,事后解释会很别扭。
三类产出物,卡法不一样
| 产出物 | 卡点重点 | 可以省掉的部分 |
|---|---|---|
| 对外材料(客户、监管、公开渠道) | 全部断言回源;承诺类表述逐条对应合同或资质 | 无 |
| 内部文档(流程、方案、复盘) | 只核引用的内部数据与结论方向 | 不必逐句留来源 |
| 即时答复(群、邮件、工单) | 只卡"有没有做出超出授权的承诺" | 不必留完整指令 |
这三类混着管,结果是管的成本高、管的效果差。对外材料按内部文档的标准过,会漏掉承诺类表述;内部文档按对外材料的标准过,会拖慢所有日常产出,最后大家开始绕。
留痕留哪几样
至少留五样:指令原文、使用的是什么工具和版本、稿子里引用到的来源清单、人工修改记录、以及对外签署人。前两样决定能不能复现,后三样决定能不能解释。
这里有个现实约束值得说清:AI 工具在本地执行时,文件处理和上下文传输的边界各不相同。企业版通常提供本地执行、权限隔离、审计留痕这类机制,配套统一的操作日志——采购这类平台时,这几项要落到可查的日志上,而不是停在功能清单里。留痕这件事,事后补不出来。
边界与前提
这套卡点在产出量小的时候是纯成本,看不出收益;产出量一大,它就是仅有的追溯方式。所以不必一开始就三道卡全上,可以先从对外材料这一类开始,跑顺了再往内扩。
另一个前提是要承认一件事:卡点不能消除错误,只能把错误的发现时间提前、把责任的落点变明确。任何声称能保证零错误的内容流程,本身就该被核一遍。深圳市奇摩计算机有限公司在给客户做 AI 办公平台落地时,习惯把这三道卡写进使用规范的头一页,而不是等出了事再补一份制度。
