我在自己的素材库里,读到了一句话。
那句话是我写的——至少,看起来是。
它写得比我好。
一、那句话,我没写过
我的素材库,是我随手记判断的地方:碎片时间想到一句,就记一句,越攒越多。
有一阵子,我的 AI 协作者帮我把这些句子整理成表,按主题分桶。
整理完,我在里面读到这么一句:
常见的没有信息闭环,一种是没收到,一种是收到后反馈偏差
这句话对不对?对。读起来顺不顺?顺。短、利落,还带个「一种是……一种是……」的对仗。
但它不是我写的。
我在素材库里的原话,是这一条:
常见的沟通障碍,没有信息闭环:1、没有收到信息 2、收到了错误信息 3、收到信息后,信息被二次扭曲 4、信息处理过程中扭曲 5、信息被错误处理 6、输出的信息被扭曲
六条。啰嗦,像笔记,不像金句。
而那一句,在源文里根本不存在。它俩也不是一回事:那六条讲的是信息在传递链条上被扭曲的六种方式;那一句只讲了「两种」,还漏掉了「处理过程中被扭曲」「被错误处理」这些。
它把我说的六条,改成了它自己的一句话。而且改得比我更像一句金句。
二、它不是编出来的,是「整理」出来的
这件事最值得说的地方在这里:没有任何一步在「编」。
我让 AI 做的事,是「整理」。这个词听着完全无害——把散的拢起来,把乱的排好,把重复的去掉。
但「整理」这个动作,天然会走向三个词:合并、概括、提炼。
而一旦要「提炼」,就必然发生改写。
六条压成一句,就是一次提炼。它没有恶意,甚至是在帮我——因为六条确实太长,一句确实更好记。
所以真正要紧的一点是:编造的第一现场,不是「生成」,是「搬运」。
没人让它编,是让它整理;而「整理」这一步,自己就会改写。
这个位置,不只属于 AI。人做整理时一模一样:
- 一场会上大家七嘴八舌说了六件事,纪要写下来变成「达成三点共识」
- 一周里五件事各有各的麻烦,周报写成「整体推进顺利」
- 一线反馈的六个具体问题,汇总到总部变成「门店反映执行力不足」
每一次都是「帮你变清楚」,每一次都损失了一点真实。
编造最常发生的地方,不是写方案,是写摘要。
三、代价:越像金句,越危险
如果那句话写得很烂,我一眼就能看出来。
问题恰恰是它写得很好。
好,意味着三件事:
- 第一,它更容易被留下。 我在表格里扫过去,会想「这条不错」,然后就留下了
- 第二,它更容易被引用。 文章里要引一句判断,我会挑那句顺的、短的、像金句的——也就是它
- 第三,它已经扩散了。 那句话不只出现在一个地方,它被复制进了别的文档。要改回去,得改好几处
这三点加起来,才是真正的代价:
它会以我的名义,说一句我没说过的话。
这句话的严重性,跟我们平时说的「AI 说错话」不是一回事。
说错话,我能纠正——因为我知道我说了什么。
这一种,我连纠正的机会都没有:我根本不知道「我说过」。
对企业来说,同一件事每天都在发生:一线说的六条,被整理成三条结论;半年后全公司只记得那三条,原始六条没人知道去哪了。
你以为你在管理事实,其实你在管理一份被美化过一遍的摘要。
四、我们怎么解决的:不删它,也不靠「提醒」
我们的处理分三步。
第一步:按源文逐字改回。 那六条回到原位,改写的那句删掉。这一步最简单,也最没用——因为下次还会发生。
第二步:把「逐字」变成断言。 这是关键的一步。
我们定了一条规矩,并且让它会被执行:
选句台里的每一条,必须是素材库原文的逐字子串。
改一个字、换一个标点、把六条压成一句,全部失败——不是「提醒你要注意」,是根本跑不过去。
第三步:证明这条断言真的会响。 新加的护栏,必须用「注入故障」的办法证明它会失败:伪造一条改写句,跑一遍,确认它真的报错、真的退出。
(这一步是必须的。项目里曾经有过 5 处检查,只构造了警告字符串、从来没有打印——它们从来没响过,只是看起来在守着。)
为什么必须走机制,而不能靠提醒?
因为在「整理」这件事上,AI 的动机是帮你想清楚,人的动机也是帮你想清楚。
两边都是善意的。善意改不了这种错,机制才能。
五、映射到企业:第一次扭曲,发生在最上游
第一节里那条原话,列的是信息在传递里被扭曲的六种方式——「没有收到信息」「收到了错误信息」「信息被二次扭曲」「信息处理过程中扭曲」「信息被错误处理」「输出的信息被扭曲」。
它讲的是信息在传递过程中的损耗。
这件事让我发现,我漏了更前面的一段:
那六条里的「二次扭曲」,第一次并不发生在传递里,就发生在「整理」那一步。
而且它最难防,因为:
- 它发生在源头——后面所有环节拿到的,都是已经被美化过的版本
- 它由最善意的人完成——写纪要、写周报、做汇总的人,都是想把事说清楚的人
- 它没有痕迹——六条变三条,没人会标注「此处删了三条」
所以在我们这套做法里,答案不是「不许整理」,而是分层:
- 原话层:逐字保留,不许改写(这是我们素材区、会话金句的做法)
- 摘要层:可以概括,但必须标明这是摘要(AI 的建议单独放一个区,且不许进文章被引用)
- 两层之间不许混——能进文章的,只有逐字命中源文的那部分
换到你的公司,就是一句话:
你的会议纪要,标了「这是摘要」吗?你的周报里,哪些是原话,哪些是概括?
六、最后
这件事给我最大的一个意外是:我一直担心 AI 会胡说。
其实更常见、更难防的风险是——它太愿意帮你想清楚了。
胡说,你一眼就能看出来;帮你想清楚,你只会觉得它好用。
而它顺手改掉的那句话,恰恰是最不该动的东西:
那些从实践中长出来的规则或者智慧,是未来核心竞争力中不可替代的基因
素材库里的那些句子,就是这么长出来的——不是从书上抄的,是一次次摔打、赔钱、认错之后留下的判断。
改一个字,看上去没什么。可把它压成一句更漂亮的话,等于把「从实践里长出来」的那个过程,悄悄抹掉了一层。
判断可以改、可以错、可以推翻;但「谁说了什么」这句话,必须一个字都不许动。
我们守住「逐字」,不是为了较真,是为了护住那点基因。
这也是我们做连锁餐饮咨询和代运营时反复讲的一件事:能抓老鼠(连锁餐饮解决方案)这些年做的,说到底就是把验证过的打法沉进系统,让对的东西不因为某个人、某个环节而被悄悄改掉。先改过,再积善——顺序不能反。
不管黑猫还是白猫,能抓老鼠才算好猫。