跳到文章正文
行业/好文 编辑推荐

菲尔兹奖得主邓煜:要看思维链,别拿“防蒸馏”当挡箭牌

一场数学论坛上,菲尔兹奖得主邓煜把话说得很直:AI 公司不能一边把全人类的论文、教材、网页统统蒸…

一场数学论坛上,菲尔兹奖得主邓煜把话说得很直:AI 公司不能一边把全人类的论文、教材、网页统统蒸馏进模型,一边在别人想看思维链的时候,拿”防蒸馏”当挡箭牌。

一分钟速览

  • 邓煜在”知识分子””赛先生”论坛演讲,谈 AI 时代数学研究的边界。
  • 他认为 AI 的优势是无限知识面与极低试错成本,但人始终是研究的主体。
  • 他指出若 AI 作为研究者,就应遵守学术规范,公布思维链是合理要求。
  • 他批评部分 AI 公司以”防蒸馏”为由拒绝公开思维链,不符合学术界惯例。
  • 今年 9 月 11 日,陶哲轩、邓煜、彼得·舒尔茨等 25 位菲尔兹奖得主联署《人工智能在数学中的严重错位》。

工具与主体,这条线不能模糊

邓煜对 AI 能力的判断并不保守。他承认 AI 有两个人类比不了的优势:一是知识面几乎无限,二是试错成本极低。数学研究里,一个猜想走不通要耗掉几个月,AI 可以在一夜之间试完几百条路径。

但他紧接着划了一条线:在数学研究里,人始终是主体,AI 是工具。这句话听起来像立场宣示,其实是个方法论问题。数学的价值不只在于结论正确,还在于证明过程能被同行检验、能被后来者复用、能被接进已有的知识体系。一个只给出”我证明了”的输出,即使结论为真,对数学共同体来说也接近黑箱。

“防蒸馏”这个理由,站得住吗

邓煜的质疑很具体:如果 AI 真的解决了一个重大数学问题,一个非常合理的要求是公布它的思维链。但在他看到的公开证明里,只有极少数真正披露了推理过程,多数以防范蒸馏为由拒绝。

他的反问也很有力:蒸馏这件事本身并不是单向的。模型的能力来自对人类公开文献和知识的学习,那么”只允许我学全人类,不允许你看我怎么想”这个不对称,很难用学术伦理来解释。更何况,想看思维链的动机往往不是复制模型,而是验证结论——这两件事在技术上并不是一回事。

当然,企业有商业考量。思维链是最难复制的资产之一,公开意味着竞争对手可以直接学习推理策略。这个矛盾真实存在,但它不该被包装成学术规范,而应当被诚实地当作商业选择来讨论。混淆两者,受伤的是整个学术共同体对 AI 输出的信任。

25 位菲尔兹奖得主的联署,说的是同一件事

今年 9 月 11 日,陶哲轩、邓煜、彼得·舒尔茨等 25 位菲尔兹奖得主作为最初签署人,联合发表声明《人工智能在数学中的严重错位》,警告 AI 公司与数学共同体之间正在出现结构性错位。

声明提到的现象很具体:大模型的数学能力在几个月内显著提升,能解决不少领域的悬而未决问题;但 AI 公司把这些难题当成基准来刷分,仓促发布结果,没有时间做正式写作,没有时间隔离新方法,也没有充分引用他人工作。对数学这样靠署名和引用维系信任的学科来说,这直接引发了署名与抄袭的争议。

还有一层更深的担忧:如果没有愿意为结果负责、并把它融入数学经典的数学家,AI 提出的想法永远无法真正成为知识。数学家之间那条关键的人类传递链,会在效率的名义下被切断。

开源数学模型,是个务实的解法

邓煜给出的建议并不激进:开源数学模型,让数学界手里有属于自己的模型;模型的使用也遵守学术规范,包括数据使用、思维链公布、可追溯性。

这个思路的价值在于把”要不要信任某家公司”变成了”共同体有没有自己的基础设施”。当验证能力掌握在自己手里,公布与否就不再是恩赐,而是可选项之一。

对普通使用者而言,这场争论的启示更朴素:当 AI 给出一个你无法验证的结论,尤其在数学、法律、医疗这类错不起的领域,最该问的不是”它有多强”,而是”我能不能自己查一遍”。

本文地址:https://www.163264.com/18256