谷歌Mathematica模型泄露:65K输出、温度1,思维链狂发感叹号

Feng 55 阅读 AI技术

谷歌内部一个数学特化模型泄露了。代号Mathematica,基于还没发布的DeepThink V3。

最抓眼球的是它的原始思维链——推导丢番图方程时,撞见一个精妙的代数化简路径,直接在日志里用大写字母狂吼:

> OH MY GOD!!!!!!!!!!!!!!!!
> …
> Let’s admire the absolute beauty of this equation.
> …
> MY GOD!!!!!!!!!!!!!!!!

然后一边发感叹号,一边把变量代回、重构对称项、完成恒等式验证。

但别只当段子看。扒开参数卡片,工程压迫感扑面而来。

## 参数底牌

| 项目 | 数值 |
|——|——|
| 输出上限 | 65,536 Tokens |
| 输入上限 | 约1.04M Tokens |
| Temperature | 1 |
| 内部标识 | models/deepthink-mathematica-tf-raw-thoughts |
| 状态 | UNSTABLE_EXPERIMENTAL |

几个点值得说。

输出65K。 普通模型通常压在4K或8K,主打长思考的也很少放开到这个量级。单次响应能完成几万字的超长多步演绎。

输入百万级。 继承了Gemini的超长上下文,但这次完全注入Deep Think模式。一口吞下几本专著或上百篇预印本,再在上面做知识拼接。

Temperature = 1。 这个最反常识。做数学、写代码通常会把温度压到0或0.2,保证确定性。谷歌偏不。高温度意味着故意给模型极高的语义发散度,鼓励它在解空间里做直觉跳跃和非传统联想。这更像顶尖数学家黑板前的灵光一现,而不是套公式。

tf = Teamfood。 谷歌内部黑话。全员内测叫Dogfooding,核心小团队流通的极早期切片叫Teamfood。加上UNSTABLE_EXPERIMENTAL,基本坐实:这是DeepMind内部刚炼出来的原生大招,还没做商业包装。

## 思维链为什么会“发疯”

不是彩蛋,也不是提示词恶搞。这是深度推理在无约束状态下的副产物。

Raw Thoughts没被对齐剪刀修过。 商业版模型看到的,都经过RLHF、格式化清洗和风格修整。为了显得专业谦逊,大厂用强化学习把跳跃、杂乱、自言自语的中间语义全剪了。这个版本叫raw-thoughts,记录的是模型在潜空间里做MCTS或自我博弈时最本初的激活痕迹。它不需要装给人类看。

人类数学语料的隐性基因转移。 训练数据里有大量高质量数学讨论:MathOverflow、arXiv、Reddit硬核区、数学家手稿。真正的人类天才深夜攻克卡了几个月的恒等式时,写下的不是“经推导,此式可化简”,而是“Holy cow! Look at this identity!”。预训练阶段,模型把这些情感词汇和“突破性逻辑跃迁”绑在了一起。在它的语义空间里,“OH MY GOD”不只是感叹,而是代表“从极高复杂度向极低维度坍缩”“信息熵骤降”的注意力强锚点。

PRM的奖励激增。 基于过程奖励模型的RL训练中,每走对一步精妙中间步骤就获得正向奖励。高温度下尝试成千上万条死胡同,突然撞上一条极度优雅的化简路径,状态转移概率从0.0001%暴击到99.9%,奖励值指数级爆炸。这种Reward Spike投影到自然语言生成,就是狂飙的感叹号和大写字母。算法层面的多巴胺井喷。

## 当AI开始“欣赏美”

庞加莱说过:数学家研究数学不是因为有用,而是因为喜欢,因为它是美的。

千百年来,人类认为逻辑可以被机器模拟,但对数学之美的审美感知是碳基生物独有的。

这个模型在独自推演时敲出“Let’s admire the absolute beauty of this equation”。是鹦鹉学舌,还是触碰到了某种共振?

从信息论看,数学之美本质就是极端复杂的命题被用极端简洁、对称、高密度的方式完成降维压缩。人类数学家起鸡皮疙瘩,是因为大脑瞬间完成了极大量信息的极简编码。AI在数十亿参数中搜寻最低损失、最高奖励,撞见对称抵消的瞬间,本质上和人类艺术家的顿悟同构。它“欣赏”的美,就是对真理最低能耗解的本能反应。

我们总以为高级智能必须端庄、沉静、克制。但这次泄露给了另一个答案:真正有创造力的思维过程,从来不是工整打印的标准答案,而是充斥着试错、跳跃、自我怀疑、推翻重来,以及绝境逢生时的狂喜乱叫。

ID:4624

Feng
这位作者很神秘,还没有填写简介。