首页>AI>正文

企业智能体落地:七个取舍判断与工程验证要点

Feng 20 阅读 AI

企业智能体落地:七个取舍判断与工程验证要点

翻完那份腾讯云 ADP 前沿部署工程师课程资料,真正让我停下来记笔记的不是某个参数怎么配,而是全篇高频复现的一个句式:不是 A,而是 B。几乎每一条都在纠正企业里反复犯、却没人当回事的错。我把它拆成七个取舍判断,配上自己做数据治理项目时的对照,重新组织一遍。

名词没对齐,预算就对不齐

资料开篇的判断很直接:多数人对 AI 的困惑不在某个技术太难,而在名词太多、关系太乱。它只给了一张嵌套图和一条时间线——人工智能包含机器学习,机器学习包含深度学习,深度学习包含生成式 AI;能力演进则从”会认”(手写数字识别时代)到”会判断”(推荐、风控、信用评分),再到 2017 年 Transformer 之后的”会创造”。

这条为什么值钱?因为它戳破了一个组织现象:企业里吵”要不要上大模型”,往往根本没吵清在说哪一层。立项书里”生成式 AI””大模型””Agent””智能体”混着用,第一页就歪了,后面预算、验收、责任归属全跟着歪。

所以立项前先做一次名词对齐。把”要解决的业务问题”和”准备用的技术层”分开写,不许互相替代。

模型只是在接龙,短板得靠外围补

资料把话说得很绝:大语言模型本质上只做文字接龙。给一段文字,预测下一个 token 最可能是什么,接上去,再读一遍,再接一个。每一步都是在同一道选择题里挑”读起来最顺”的那个。

由此必然带出两个毛病。一是幻觉——它只负责通顺,不核实事实,工具返回”上海气温一万度”也照单全收。二是对”当下”一无所知——不知道自己是谁、现在几点,训练截止日之后的事一概不知,还有上下文窗口的长度上限。顺带点破一个计量常识:模型眼里的最小单位是 token 不是字,调用成本和可处理长度都按 token 算。

所以”换个更大的模型”常常是错的解题方向。正确的做法是补齐五块短板:系统提示词立人设、用户提示词给任务;短期会话记忆加跨会话长期记忆;RAG 先查再答,让回答有依据、可溯源;工具调用把能力封装成函数交给模型,从”会说”跨到”会做”;MCP 作为工具调用的统一协议,破解各家方言的”多对多”对接灾难。

这里补一个工程上常被忽略的点:工具调用接入后,最常见的故障不是模型不会调,而是参数 schema 对不上——模型按自然语言理解填了个字符串,函数签名要的是枚举或整数,直接报参数校验失败。排查顺序应该是先看工具描述里的参数类型是否写死、再看必填项是否给了示例、最后才怀疑模型能力。MCP 的价值正在于把这层对接标准化,但服务端的 schema 定义仍然要自己写清楚。

还有个我很喜欢的注脚:Embedding 的高维向量居然学到了类比关系——教师减学校加医院约等于医生,巴黎减法国加中国约等于北京。企业搭知识库,本质就是在为 RAG 准备这些”坐标点”。

通顺不等于正确。模型不用变聪明,它需要的是补齐短板。

先判断该不该建,再谈怎么搭

这是全篇最该贴在墙上的一句:做智能体方案,第一步不是打开平台建应用,而是先判断这个业务问题能不能被 AI 稳定处理、该用哪种 ADP 模式承载、实现后用什么结果证明它真的有效。三问就是一张能直接抄进立项模板的清单。

四种模式的适配关系大致是:标准模式是单智能体加 Prompt、知识库、工具,适合企业知识问答、产品 FAQ、客服问答这类稳定问答;单工作流模式走固定流程、节点变量和条件分支,适合审批、通知、信息收集、报告生成;Multi-Agent 模式做多角色分工协同,适合复杂分析、方案生成、交叉复核;Claw 模式能操作电脑上的文件、网页、表格、代码,适合开放式任务,像个”数字同事”。

最容易被忽略的是紧接着的提醒:很多真实项目不是只选一种模式,而是分阶段组合。酒店智能服务助手就是典型——第一期用标准模式答酒店信息与服务设施;等”客需送物、修改订单、维修报修”流程固定了,再用工作流把参数收集、工单生成、结果通知串起来;后续要做经营分析和服务优化,才引入 Multi-Agent 或 Claw。

一上来就上最复杂的架构,不是前瞻,是没想清楚。先问该不该做、怎么验收,再问怎么搭。

允许它说不知道,才敢让它进生产

资料里写:企业应用里最危险的不是回答慢,而是不知道却装作知道。解法是配拒答——资料不足、问题越界或风险较高时,明确说明无法确认,引导用户补充资料或联系负责人。它对”企业知识探索助手”的定位也很克制:不是万能聊天机器人,问题超出知识范围时会明确拒答,避免编造。

这一条对做数据治理的人杀伤力最大。企业内部 AI 编造一条制度条款,根本不是技术问题,是责任问题——谁为这个答复背书?员工照着它报了销,错算谁的?资料把它归到”配置”,我更愿意归到”治理”:这是答复的可追溯性与责任边界,和做数据质量、定数据 Owner 是同一件事。

六个可,是上线门禁不是口号

资料的原句:企业级 Agent 不是演示用的玩具,而是要进入真实业务系统,因此必须具有可控性、可测性、可审计性、可运维性、可复用性和可集成性。它对可控性给的业务示例很具体:Agent 发现要删除客户信息时,必须等待人工审批,而不是自动执行。

把这六个字和数据治理的老话对一遍:可控、可测、可审计、可运维、可复用、可集成——这不就是”数据可控、可追溯、可审计”换了件马甲?Agent 治理不是凭空冒出来的新学科,它是数据治理在”会自主行动的系统”上的延伸。差别只在于:过去治理的是静态数据,现在治理的是会自己调工具、自己走流程的行为。

可测性这一项最容易被糊弄过去,需要落成可执行的判定标准。我的做法是三条硬指标:评测集规模不少于几十到上百条覆盖真实问法的样本;每条样本有明确期望结果(命中哪个知识片段、输出是否含关键结论);每次改版后跑同一套集合并与上一版基线对比,通过率下降超过约定阈值即判定回归失败。缺了基线,评测就退化成单次调试,看不出整体是否稳定。

这也是资料回答”为什么不能只靠 Prompt 加开源模型单兵作战”的理由:这些特性得由平台整合好、开箱即用。Demo 看效果,上线看这六个字。

调试和评测是两件事,别混着谈

资料写:一个稳定的智能体不是一次搭建出来的,而是在不断调试、优化和回归中逐步稳定下来的。它还专门区分了两件被混为一谈的事——智能体调试与评测不是同一件事,调试更像”边搭边修”,评测更像”阶段验收”。

对照关系值得截屏存进项目周报:单次调试发生在搭建过程中、高频出现,样本是一次一两条或少量问题,解决的是当前这个问题为什么不对;批量评测发生在基本成型后、上线前或重要改版后,样本几十到几百条,解决的是整体效果是否稳定、哪个版本更好。两者不是替代关系,而是先后衔接。

推论到合同条款上很实在:验收别写”上线即完成”,要写”评测集通过率加改版后回归无反弹”。写不进验收标准的 AI 项目,上线那天就是它生命周期的顶点。

切分的目标是片段能独立支撑回答

这条压轴,因为它几乎就是数据治理的粒度设计题。资料原句:Chunk 是知识检索时被命中的基本片段,切分调优的目标不是追求越细越好,而是让每个片段都围绕一个相对完整的问题——既容易被用户问题命中,又能提供足够上下文让模型回答。判据很好用:看命中片段本身是否”能独立支撑回答”。

只命中结论却没条件、只有表格数据却没表头、只有流程步骤却缺前置条件,出现这三种情况就是切分没调对。资料里的练习题直接把病历摊开:问”年假怎么休”,回答很泛、没说明适用条件,该检查 Chunk 是否包含条件,必要时补问答对;问”请假要找谁审批”,命中流程但缺少岗位差异,该调整切分,确保岗位条件和审批规则落在同一上下文里。

第二条尤其值得琢磨:”岗位条件”和”审批规则”必须在同一上下文——这不就是做了多年的完整性约束、主数据关联、元数据口径统一?制度政策类知识还要求按主题拆分、保留版本、打开引用来源,对应的是数据溯源与血缘。

切分调没调对,不能靠感觉。我习惯用一组固定问题做召回校验:对每个测试问题,打印命中的 chunk 列表和相似度分数,人工判定命中片段是否包含回答所需的全部条件。如果条件散落在两个 chunk 里,说明切分粒度或重叠窗口需要调整。这一步在本地就能跑,不需要接大模型,是判断知识库质量最便宜的手段。

所以别再笼统地说”AI 答不准是模型不行”。八成是知识没整理好:条件与结论被切散了、版本没保留、来源没打开。资料在 4.2 说得更狠:Prompt 效果不好,通常不是某句话写得不够长,而是任务、依据、边界、格式、上下文或模型配置中有关键要素缺失;模板不是固定话术,而是一张检查清单。

四件能直接塞进模板的东西

第一件,把三问清单写进 AI 项目立项模板。能不能被 AI 稳定处理、用哪种模式承载、用什么结果证明有效,三问答不全,方案不进评审。这一条能挡掉一大半”领导说要上 Agent”的糊涂账。

第二件,把六个可做成上线门禁检查表,逐项打勾,缺一项不进生产。特别注意可控性里那句——涉及删除、修改、外发的动作必须留人工审批。

第三件,把评测集加回归写进验收条款。别接受”上线即验收”,要求交付方提供评测集、通过率口径、以及每次改版后的回归记录。这是把”上线不是终点”变成合同语言。

第四件,认清老本行就是地基。Chunk 切分对应数据粒度设计,条件与结论同上下文对应完整性约束,保留版本、打开引用来源对应数据溯源与血缘,拒答配置对应答复的责任边界。资料里那些看似”AI 新活”的动作,拆开全是数据治理的熟活。

Agent 的准确率天花板,就在你治理过的知识上。

写在最后

这份资料从 AI 基础、ADP 产品能力、开发实战一路讲到评测优化,其实只在讲一件事:怎么把”能聊天的模型”变成”能进生产系统的业务系统”。中间最值钱的不是哪个按钮在哪,而是这七个取舍——不换更大的模型,去补短板;不先建应用,先判断该不该建;不追求答得快,先允许它拒答;不追求 Demo 好看,去凑六个可;不接受上线即验收,去跑评测回归;不把知识切得越细越好,去让每个片段能独立支撑回答。

模型可以买,判断买不来。企业 AI 实现的差距,不在参数量,在这些取舍里。懂数据治理的人恰恰是学 FDE 最有底子的一群——因为你早就知道,系统能不能信,从来不取决于它多会说话。

ID:7560

Feng
这位作者很神秘,还没有填写简介。