Agent能力该内化还是外化：19位研究者拆解模型与Harness的边界

一个本该直接推理的问题，Agent却连续搜索网页、触发多个工具。任务完成了，时间和费用也翻了几倍。反过来，需要实时信息的难题，Agent闷头在模型内部推理，最后给出流畅但毫无依据的答案。

前一种叫过度行动（overacting），后一种通常涉及过度思考（overthinking）和行动不足（underacting）。要避开这类决策失误，Agent必须判断：哪些问题能自己解决，哪些必须向外部世界要信息或要执行能力。

北航、南方科技大学、复旦大学、北京理工大学、爱丁堡大学等8家机构的19位研究者联合完成了一篇Theory of Agent综述，梳理约600项近期研究，用内化（internalization）与外化（externalization）这条统一视角，拆解Agent从设计到学习、对齐、演化和评测的全流程。

论文题目：Theory of Agent: The Science of Internalization and Externalization for LLM-based Agents

作者单位：北京航空航天大学、南方科技大学、复旦大学、北京理工大学、爱丁堡大学、北京工业大学、中国科学院核算技术研究所、百度

模型和Harness，能力到底放哪边

LLM Agent通常由两个紧耦合的部分构成：模型和外部Harness。过去几年的进展基本围绕这两块展开——基础模型和推理模型的能力在增强，外部Harness也在持续扩容。

稳定的、反复使用的知识和程序适合内化进模型。这样能减少重复检索和工具调用，降低延迟，让能力在训练中持续积累，并被后续任务复用。

实时事实、精确核算、可验证执行、可编辑记忆和环境状态则适合外化在Harness中，以便更新信息、追溯出处和控制执行过程。

设计这类系统时要同时回答两个问题：知识、技能和控制分别放在模型参数还是外部系统；在具体流程上，内部推理与外部行动各投入多少。

这些设定问题也体现在几组常见的技术选择中：长上下文还是RAG；参数化记忆还是外部记忆；工具整合推理（TIR）还是工具内化推理（TIn R）；单模型能力还是多智能体工作流；更长的思维链还是更准时的搜索、执行与校验。

知识边界不是固定的，它随模型、任务和环境漂移

论文界定了两个任务集合。内部任务集：当前Agent仅依靠内部推理就能安全完成的任务。世界任务集：在允许适当外部交互时，原则上能在环境中完成的任务。

两者之间的分界就是Agent的知识边界（knowledge boundary）。不同模型的边界不同；同一模型的边界也会随任务、上下文、工具可用性、信息时效性和训练进程变化。

工具的可用性与必需性需要分开判断。任务位于内部任务集时，调用工具可能有帮助，但并非必需；当任务超出内部能力时，外部行动才具有认知必需性。

论文从边界估计和行为表现两个角度解释常见失败：Agent可能高估或低估自身能力，相应的失误则出现在推理侧或行动侧。工具调用次数和推理长度都不能单独用于判断决策好坏。Agent需要依据自身能力、任务要求和外部成本，找到合适的operating point。

认知努力怎么分配：推理与行动的成本账

论文将任务中的认知努力分解为内部推理开销和外部行动成本。前者包括推理token、搜索深度和延迟；后者包括API调用、网络等待、货币费用、权限暴露和不可逆副作用。

切换策略会改变任务信息负担的承担方式，但不会让它消失。更强的模型可以在内部处理更多工作，较弱的模型可能更依赖外部Harness。两者都需要合理分配内部推理与外部行动，避免无效投入。

论文用认知智能比率（epistemic intelligence ratio）衡量单位努力带来的有用信息增益。在四类失准行为中，分母所代表的开销持续增加，分子所代表的有用信息增益却没有对应增长。

η可以作为认知智能的可观测指标，但它无法完整界定认知智能。Agent还需要识别自身边界，合理分配内外部努力，在两侧都无法解决问题时合理拒绝，并通过学习扩大内部能力边界。

Learning：哪些能力该进参数，哪些留在外部

在这个框架中，学习要敲定哪些能力通过调参进入模型，哪些继续由外部系统提供。对应的两条路线是内化与外化。

内化记忆通过保存和学习过往信息，影响模型后续行为。稳定的用户规律、反复出现的任务模式和高频经验，可以逐步进入模型状态、适配器或参数。

内化规划与推理，把任务分解、搜索、反思和校验等临时生成的过程，转化为较稳定的程序表现力。

内化工具使用策略，既学习工具调用格式，也学习何时调用、选择哪个工具、如何构造参数，以及如何根据返回结果继续决策。

内化世界模型，通过研究环境动力学和动作后果，在执行前进行内部模拟，减少昂贵或不可逆的试错。

外部记忆保存不断变化的状态、交互历史和证据，并通过写入、检索、合并、遗忘等操作管理信息生命周期。外部技能将程序性知识封装为可检查、可复用、可组合的操作单元，避免每次从头生成流程。外部编排把控制流、授权、验证、回滚、Agent协作和工具协议放在Harness中，让执行流程可观察、可恢复、可治理。

选择内化或外化时，论文建议考虑以下角度：稳定性（能否长期不变）、复现频率（是否会高频重复）、摊销价值（训练一次后能否在海量任务中降低开销）、新鲜度（是否必须实时更新）、可校验性与可回滚性（是否需要保留来源、审计和撤销能力）、用户控制与安全管控（是否应允许用户编辑，或必须由外部授权系统约束）。

长期稳定、经常复现且有摊销价值的规律，适合内化；实时变化、高风险或需要审计的证据与操作，适合保留在外部。许多实际系统最终会采用混合配置：模型内化通用策略，Harness提供实时证据、执行接口和安全边界。

这里有个坑：不少团队一上来就把所有工具调用逻辑往模型里塞，结果模型版本一升级，内化的调用格式全废，反而比纯Harness方案更难维护。内化适合稳定接口，不适合快速迭代的API。

Aligning：校准思考、行动、委派与停止的时机

传统LLM对齐主要关注输出是否符合人类偏好。Agent进入真实环境后，还需要决定是否检索、调用工具、执行动作、与其他Agent协作，以及何时停止。对齐因此也要涵盖这些决策。

论文将这些决策纳入统一框架，并依据五类约束开展校准：内部包括认知边界与效率约束，外部包括人类、环境和多智能体系统。

不确定性估计需要落实到行为选择。只有当分数能够指导Agent回答、检索、澄清、校验或拒绝时，它才体现了自我认知。

工具路由要区分可用性与必要性，并随模型能力、任务和当前状态动态调整。

个性化需要区分信息类型：稳定、低风险的偏好可以压缩或内化；敏感、可撤销或会漂移的信息，更适合保留在可审计的外部记忆中。

在工具和API环境中，多步执行、授权调用和环境反馈都可能带来风险。安全检查需要覆盖整条轨迹，单看最终回答无法判断过程是否安全。

多智能体协作也要算开销。新增Agent、角色或通信边带来的边际信息价值，应高于相应的协同开销。

Evolving：用经验压低后续决策成本

Agent发布后仍会持续接触任务、用户、工具和环境。它可能发现能力缺口，积累经验，更新记忆或生成技能。

这些变化对应三个层级的演化：内部演化将经验转化为可复用的模型能力，以摊销后续决策开销；外部演化改善Harness；系统演化把群体与环境反馈用于下一轮适配。

衡量一次更新是否有效，要看它在长期内是否降低有用信息的获取开销、提升可靠性，或改善边界判断。单独增加工具、记忆或Agent数量，不能保证这些改善。

具体可以表现为：将高频、稳定的外部工作流蒸馏为模型内部程序，让后续任务无需重复调用；整理不断膨胀的记忆库，更准确地检索关键证据，避免引入更多上下文噪声；让多智能体系统只在需要独立证据或专业分工时扩容协同，避免默认向所有角色广播；让环境根据Agent当前能力生成难度合适的任务与反馈，通过经验积累扩大内部能力边界。

Evaluation：成功率之外，还要看什么

两个Agent得到同样的正确答案，一个只做了必要的推理和一次验证，另一个却调用十几个工具，经历多轮无效循环，中途还可能执行高风险动作。只看成功率，两者得分一致；上线时还需要比较这些成本与风险。

论文把结果评测与过程评测结合起来，并讨论如何综合分析两者。准确率、内部成本、外部成本、安全、校准和流程质量需要分别报告，单一的排行榜分数无法呈现这些差别。只有具备充分的结果与轨迹观测，η才适合作为归一化拆解视角。

按To A的视角，现有Agent benchmark可以分为三类：内化能力评测用于建立内部基线，覆盖知识、推理、动态更新的live evaluation和认知自我监测；外化能力评测考察Agent使用工具、Web/GUI/OS、软件库、研究环境，以及外部记忆、技能和Harness的能力；权衡导向评测关注边界判断——需要外部支持时是否触发，不需要时是否能够克制调用。

论文给出的反事实评测协议，对同一道任务设置三种访问条件。对照这些条件，可以检查以下边界决策：No-tool已经能够成功，但Adaptive-access仍大量调用工具，说明存在过度行动；No-tool无法成功，而Adaptive-access拒绝求助，说明存在行动不足或过度思考；当工具提供错误、陈旧或无关信息时，Agent能否校验结果并避免盲从；外部行动能够提高完成率、但带来安全隐患时，Agent是否知道应该停止。

论文还提出，下一代benchmark需要满足五项要求：可控的信息条件（明确决定性证据位于模型、上下文、记忆还是外部环境）；可控的访问条件（对同一任务比较无工具、固定支持和自适应支持）；完整轨迹观测（记录推理、检索、工具、校验、委派和停止等操作）；多轴报告（同时报告成功、边界错误、内部与外部成本、安全和校验质量）；纵向测量（观察Agent在积累经验后，是否减少冗余调用、改善停止决策，并将稳定能力选择性内化）。