前两天有位客户问我,能不能“让模型在回答里多偏我们一点”。这类问题其实很常见,但在 11 月初的一份行业文件里,我读到了一个可以用来当面说清边界的参照,也让我在和客户的沟通里有了更具体的抓手。
公约把“认知操纵”写进了自律条款
据中国信通院(CAICT)2026-11-04 在乌镇峰会期间发布的信息,中国信通院等 20 家单位联合发布了《智能体发展自律公约》。公约提出 8 条自律措施,其中明确提到共同抵制利用智能体实施算法压榨、黑灰产等行为,并要求保障用户知情权、选择权,以及对重要事项的控制权,防范认知操纵。我把这条新闻存进了每周素材库——不是因为它和排名算法有关,而是它替我们把一些长期靠口头说明的事,说得更清楚了。
它和我们 GEO 交付的“不做清单”同向
有客户问过我:这份公约和搜索引擎的 GEO 算法规则是一回事吗?我的理解是,公约约束的是智能体行为,属于行业自律框架,并不等同于任何搜索或生成式引擎的排序、引用规则。它和我们交付里的“不做清单”治理意图是同向的:信息投毒、语料轰炸、提示词注入这几类动作,我们一直列为不接。公约把“防范认知操纵”“用户控制权”写进行业自律,相当于给了我们对外沟通的一份参照——凡是要绕开用户真实意图、靠堆量或注入去影响回答的需求,都不在我们接单的范围里。
把边界说在前面,反而少返工
客户要求“让模型多偏我们一点”,应该怎么回应?我们的做法是把这类需求翻译成可核验的素材与场景:在哪些问题、用哪些可追溯的来源被引用,而不是追求对模型回答的偏向。与其等到交付阶段再解释“为什么做不到”,不如在启动会上就把边界讲明白。运营侧的体会是,越早把“能做什么、不做什么”对齐,后续返工越少,客户的预期也越稳。
两道卡,把自律落到流程里
我们把“规则内嵌、合规测试”落到两道卡:内容组先做素材核验,确认来源可追溯、表述可核验;监测组再做可见性复核,重点看有没有写出绝对化、夸大性的表述。两道卡不是为了卡流程,而是让每一次交付都能经得起回头看。公约提到的用户控制权,落到我们这里,就是不在用户没有真实需求的问题上强行刷存在感。
以上只是我作为一线运营的一点个人看法,不代表公司正式口径。以上为个人观点。