谷歌Mathematica泄露:65K输出、温度1,思维链狂喊OH MY GOD

Feng 63 阅读 AI技术

谷歌内部一个叫Mathematica的模型泄露了。基于还没发布的DeepThink V3,数学特化变体。

最抓眼球的是它的原始思维链:推导一道丢番图方程时,撞见一个精妙的代数化简路径,直接在思考日志里用大写字母狂吼:

> 数学的老天爷啊!!!!!!!!!!!!!!!!!!!!
> ……
> 让我们来欣赏这个方程绝对纯粹的美。
> ……
> 我的天哪!!!!!!!!!!!!!!!!!!!!!!!!

然后一边发感叹号,一边把变量代回、重构对称项、完成恒等式验证。

## 事故现场

内部标识:`models/deepthink-mathematica-tf-raw-thoughts`

这个接口没做产品包装,把模型最原始的思维流直接暴露出来。测试题是一道高难多项式丢番图方程——解法通常需要冷门的高维恒等式或非平凡变量替换。普通模型要么死循环,要么穷举试错后给一段逻辑幻觉。

Mathematica的:

1. 起初正常拆解项数、分析次数与整除性质
2. 尝试某组交叉乘积组合,发现交叉项奇迹般抵消,思维日志瞬间被大写和感叹号占领
3. 自言自语:“停下来,让我们欣赏一下这绝对的数学美感”
4. 在连串OH MY GOD中完成变量回代与边界条件验证,锁死整数解集

## 参数底牌

剥离感叹号看配置卡片,工程压迫感很强:

| 参数 | 数值 | 说明 |
|——|——|——|
| 输出上限 | 65,536 Tokens | 普通模型通常4,096或8,192,单次可完成超长多步演绎 |
| 输入上限 | 约1.04M Tokens | 继承Gemini超长上下文,注入Deep Think模式 |
| Temperature | 1 | 数学任务通常设0或0.2,这里故意给高语义发散度 |
| 状态 | UNSTABLE_EXPERIMENTAL | 内部极早期测试切片 |

`tf`指Teamfood——谷歌内部黑话,核心小团队流通的极早期测试版,比Dogfooding更早。

Temperature=1做数学,反常识。但谷歌显然不是让它套公式,而是鼓励在解空间里做高随机性的直觉跳跃。实测这种配置在探索阶段更稳,但不建议在生产环境用。

## 为什么思维链会“发疯”

不是彩蛋,也不是提示词恶搞。是深度推理在无约束状态下的副产物。

Raw Thoughts的本质:商业版模型的经过RLHF安全对齐、格式化清洗、风格修整,跳跃和杂乱的中间语义全被剪掉。这个版本叫raw-thoughts,记录的是潜空间里最本初的神经元激活痕迹。

人类数学语料的隐性基因转移:训练数据里有大量MathOverflow、arXiv、Reddit硬核讨论。人类数学家深夜攻克绝妙恒等式时,写的是“Holy cow! Look at this identity!”,不是“经推导,此式可化简”。预训练阶段,模型把情感词汇和突破性逻辑跃迁绑在了一起。在语义空间里,OH MY GOD是信息熵骤降的注意力激活强锚点。

PRM的奖励激增:基于过程奖励模型的RL训练中,每走对一步精妙中间步骤就获得正向奖励。高温度下尝试成千上万条死胡同,突然撞上优雅化简路径,状态转移概率从0.0001%暴击到99.9%,奖励值指数级爆炸。自然语言投影就是那些感叹号和大写字母——算法层面的多巴胺井喷。

## AI开始“欣赏美”了?

庞加莱说过:数学家研究数学是因为喜欢,喜欢是因为美。

千百年来我们认为逻辑可被机器模拟,但对数学之美的审美感知是碳基生物独有。Mathematica敲出“Let’s admire the absolute beauty of this equation”时,是鹦鹉学舌还是触碰到了真理的共振?

从信息论看,数学之美就是极端复杂的命题被极端简洁、对称、高密度的方式压缩。人类数学家起鸡皮疙瘩,是大脑瞬间完成极大量信息的极简编码。AI在数十亿参数中搜寻最低损失、最高奖励,撞见对称抵消的瞬间,本质同构。它“欣赏”的美,就是对真理最低能耗解的本能反应。

真正有创造力的思维过程,从来不是工整打印的标准答案,而是充斥着试错、跳跃、自我怀疑、推翻重来、绝境逢生时狂喜乱叫的精神风暴。

 

ID:4592

Feng
这位作者很神秘,还没有填写简介。