17 岁离开 Kimi 去湾区:陈广宇否认加入 Anthropic,但留下一份硬核履历
17 岁,大多数人还在准备高考或大学申请。陈广宇已经以共同第一作者身份参与了大模型底层架构研究,…
文章目录
17 岁,大多数人还在准备高考或大学申请。陈广宇已经以共同第一作者身份参与了大模型底层架构研究,又在 10 月 15 日宣布离开月之暗面,准备前往美国旧金山湾区。消息传开后,最热的问题不是他做了什么研究,而是“是不是要去 Anthropic”。他本人在评论区给了一个很干脆的回答:不是。
一分钟速览
- 陈广宇(Nathan Chen)10 月 15 日在 X 上宣布离开月之暗面,称过去一年是人生中最美好的时光。
- Anthropic 研究员 Sholto Douglas 邀请他去旧金山;陈广宇确认将赴湾区,但否认加入 Anthropic。
- 他是 Attention Residuals 论文的共同第一作者之一,与张宇、苏剑林并列同等贡献。
- 该研究提出用跨层 softmax 注意力替代固定残差累加,并用 Block AttnRes 降低存储与通信开销。
- 他参与过 MoMoE、Gram-Space Manifold Muon,以及 Kimi Delta Attention 计算内核的加速工作。
- 2026 年从惠州华润小径湾贝赛思国际学校高中毕业,2025 年 11 月进入 Kimi 实习。
他留下的不是“天才标签”,而是可追溯的论文
陈广宇最受关注的成果,是 2026 年 3 月 16 日公开的 Attention Residuals。这项研究处理的是大模型内部一个很基础的问题:层与层之间如何传递信息。常见的 PreNorm Transformer 用固定权重累加各层输出,随着网络加深,隐藏状态的幅度可能不断增大,单层贡献被逐渐稀释。
Attention Residuals 的思路,是用跨层的 softmax 注意力替代固定累加,让模型通过可学习、与输入有关的权重,选择性地聚合前面各层的表示。可以把它理解为:模型经过很多层之后,不再只能接收“此前信息不断相加”的结果,而是获得了一种重新选择和组合早期表示的机制。这里的注意力作用于深度方向,和通常说的 token 之间注意力不是一回事。
但让每一层访问此前所有层的输出,会带来存储和通信负担。为此,团队进一步提出 Block AttnRes:把网络层划分成多个区块,区块内部保留普通残差累加,只在区块之间做注意力聚合。论文在总参数 480 亿、激活参数 30 亿的 Kimi Linear 架构上验证,预训练数据规模为 1.4 万亿 token。官方项目资料称,在扩展规律实验中,Block AttnRes 可以达到需要多用 25% 计算量的基线模型的损失水平。这个结论对应特定实验条件,不能扩写成“所有模型都能白赚 25%”。
从计算内核到模型架构
在加入 Kimi 之前,陈广宇曾在 Tilde Research 从事应用可解释性研究,并参与了 MoMoE 项目。MoMoE 处理的是混合专家模型的工程效率问题:MoE 通过每个 token 只调用部分专家降低活跃计算量,但实际实现仍可能受数据布局、碎片化计算和中间张量存储拖累。MoMoE 用融合 Triton 内核、优化内存布局和可配置反向传播,在计算与显存之间做取舍。
他还参与了 Gram-Space Manifold Muon 优化器研究,以及 Kimi Delta Attention 的计算内核加速。把这些工作串起来看,会发现一条很清晰的线:模型架构决定计算如何组织,优化器影响训练如何更新参数,计算内核决定这些操作在硬件上跑得多快。很多“天才叙事”只讲论文署名,但陈广宇的博客和公开项目显示,他确实在做把这些环节连起来的工作。
为什么这条离职消息会刷屏
第一是年龄。17 岁参与前沿模型架构研究,本身就足够罕见。第二是去向。湾区、Anthropic 研究员公开邀请、顶尖实验室百万美元年薪的传闻,这些元素叠在一起,很容易变成社交媒体的爆款。第三是中美 AI 人才流动的敏感神经——一个在中国团队成长起来的年轻研究者,下一步去哪里,会被赋予超出个人选择的象征意义。
但现有信息能确认的只有两件事:他已经离开 Kimi,并将前往湾区;他没有加入 Anthropic。至于下一家雇主、职位和入职时间,都还没有公开。投资人 Deedy Das 曾提到一位 17 岁少年收到五份百万美元年薪邀约,网友猜测是陈广宇,但 Deedy 并未公布姓名。把猜测当成事实,对当事人和团队都不公平。
趋势洞察:年轻研究者的“作品”比头衔更重要
AI 行业喜欢造神,也喜欢毁神。17 岁、天才、百万年薪,这些标签传播得很快,却解释不了一个人为什么能参与前沿研究。真正值得看的是作品:Attention Residuals 是否被后续工作采用,Block AttnRes 能否在更大规模上成立,MoMoE 的工程思路会不会进入主流框架。这些问题的答案,比“他去了哪家公司”更能说明他的价值。
对国内团队来说,这件事也是一个提醒:顶尖年轻人才的争夺已经全球化。Kimi 能在 16 岁时给他机会,说明团队愿意押注非传统路径;但当他决定去湾区,外界的反应不必上升到“留不住人”。人才流动是常态,真正能留下人的,是持续做出好研究的环境。对陈广宇来说,17 岁只是开始,接下来要做的,是让作品走在标签前面。
本文地址:https://www.163264.com/17343