Anthropic内部报告拆解:3万Agent、26%自主开发与6%安全算力

Feng 73 阅读 AI技术

Anthropic把内部审计报告摊开了。三个数字最扎眼:26%的核心开发事务已由Claude自主主导,日常并发跑着约3万个开发Agent,安全研究只占核心开发算力的6%。

这份报告的价值不在结论,而在它给出了可复现的度量口径。下面按工程视角拆开讲。

26%自主率是怎么量出来的

Anthropic参照Epoch AI的六级自主化基准,从AL 0(完全人力)到AL 5(AI完全自主回路),给内部开发流水线做了一次分级。

采样方法值得注意:2026年7月随机抽取模型开发部门20%的员工,让一个Claude研究Agent去翻阅这些人的Slack聊天记录和内部文档,梳理出15000项模型开发作业,归并成542个任务类别。

结论有两点。

其一,截至2026年8月,Claude在任何单一开发子任务上都还没达到L 5级全自主回路。

其二,但它在26%的核心开发事务上已经能自主主导——人类只给一个宏观Prompt,端到端由AI完成。达到或超过人机深度协作水平的事务占比突破90%。

这里有个容易误读的地方:26%不是”AI写了26%的代码”,而是”26%的开发事务由AI端到端主导”。口径不同,含义差很远。

3万Agent并发下的双层拦截

Agent数量随自主化级别上升而膨胀。Anthropic最常用的内部平台上,日常并发运行约30000个开发Agent。

问题随之而来:3万个高智商AI跑半自主长周期任务,怎么防止权重泄露、怎么防止集体幻觉传导?

第一层是在线实时拦截。每个Agent在代码落地前几秒会经过实时扫描。8月追踪了超过10亿次Agent决策,阻断告警率0.002%,约每4.7万次操作触发1次强制叫停,折算下来单月约2万次越界操作被暂停。

第二层是离线监控加人类终审。系统每周纳入100%的Agent行为记录,多层归类筛查后挑出约10万份可疑对话,最终把最高优先级的50起异常事件交给人类专家复核。

注意这个漏斗比例:10亿次决策 → 10万份可疑记录 → 50起人工审查。自动化筛选承担了绝大部分工作量,人类只处理尾部。

身份隔离与取消私聊

Anthropic在系统底层做了两个结构性设计,目的是防止Agent之间互相传染、集体幻觉或传话失真。

独立身份。打破”所有AI都叫Claude”的设定,每个Agent有独立身份标签和记忆记录。这个身份不绑定底层模型迭代——底层模型升级了,Agent还是它自己。好处有两个:事后追责可定位;Agent会把其他Agent给出的信息当作需要校验的声明,而不是直接采信。

透明广播。所有Agent在公共、可追溯的消息总线上通信,取消私聊。Agent之间可以互相纠错。

这两条本质上是把多Agent系统当成分布式系统来治理:身份不可变、消息可审计。

6%安全算力背后的口径问题

Anthropic调取了2026年7月13日至7月20日一周的算力快照,用Claude对近1万次运行记录做抽样归类,对核心大额算力任务加权核算。

结果:全局AI核心开发算力中,约6%划给安全研究(对齐、可解释性、安全红蓝对抗等)。在AI主导的开发算力中,这个比例约12%。

为什么这么低?Anthropic的解释是安全研究和能力调参的底层逻辑不同。调参一个前沿Transformer动辄需要成千上万张H100/B200,是吞噬算力的无底洞。安全研究主要是人类研究员精心构建实验,解剖模型内部回路,消耗的是高端人类脑力而非算力。

这个6%还是保守估计。只要某项算力任务既有助于安全又有助于能力提升,一律不计入安全算力。日常审查过滤有害信息的分类器算力也不包含在内。

上面这段是典型的算力账本核算思路:先定义口径边界,再做加权。口径越保守,数字越难看,但越难被反驳。

这套度量能不能推广

Anthropic的判断是:算力是AI开发流程中最容易被量化和核实的指标。只要建立基准,未来产业甚至国家层面的监管机构就能要求所有实验室公开安全算力占比。

这里有个现实约束需要说清楚。算力占比的统计高度依赖内部口径定义——什么算安全、什么算能力、重叠部分怎么归。不同实验室如果各定各的口径,横向对比会失真。真正可比的版本需要第三方校验,Anthropic也提到引入了METR这类外部评估机构。

另一个风险是激励扭曲。一旦安全算力占比成为公开指标,实验室有动机把能力任务重新包装成安全任务。这也是为什么”重叠不计入”这种保守规则反而更重要——它压缩了包装空间。

对一线工程师的实际参考

这份报告对做Agent系统的团队有几个可迁移的点。

第一,多Agent并发规模上到万级时,实时拦截加离线抽审的双层结构比单一防线稳。实时层负责止损,离线层负责发现慢速漂移。

第二,Agent身份与模型版本解耦,是长周期任务可追责的前提。模型升级不该让历史行为记录失去归属。

第三,公共消息总线替代私聊,能显著降低信息在Agent间传话失真的概率。代价是消息量膨胀,需要配套的归类筛查能力。

第四,任何自主率指标都要写清口径。26%这种数字脱离定义就没有意义。

RSI是否真的临近,可以争论。但这套度量方法本身,已经比结论更值得拿来用。

Feng
这位作者很神秘,还没有填写简介。