Moonshot的Kimi K3或靠非法蒸馏突围,业界专家持怀疑态度
•0 阅读•4分钟•视野
Anthropic月之暗面Kimi
Tim Fernholz••0 阅读•4分钟•视野

事件概述
TechCrunch 7 月 23 日报道,Moonshot(中文名月之暗面)推出的开源大模型 Kimi K3 在短短两周内实现了业界领先的性能。美国白宫科技顾问 Michael Kratsios 在社交媒体上指责该公司"通过大规模、隐蔽的工业蒸馏窃取美国专有技术",并暗示 Kimi K3 可能使用了美国禁运的 NVIDIA Grace Blackwell 300 GPU。此言论迅速引发了学术界和产业界的关注与质疑。
专家观点
- Braden Hancock(Laude Institute / Snorkel AI) 认为,Fable 自 7 月 1 日公开以来,仅两周的时间根本不足以完成完整的蒸馏、再训练以及模型发布的全流程。"我不认为在 Fable 发布后立即就能通过蒸馏得到如此强大的模型。"
- Nathan Lambert(Allen Institute for AI) 在播客中指出,随着模型规模逼近前沿,单纯的监督微调(SFT)对性能提升的边际效应已大幅下降,真正的能力提升需要强化学习(RL)等更高成本的训练手段。
- Anthropic 曾公开指控包括 Moonshot 在内的多家公司系统性地对其模型进行能力提取,并提供了数百万条异常查询日志作为证据,但对本次指控未作回应。
蒸馏技术的实际难度
蒸馏通常包括三步:① 大规模查询目标模型获取大量上下文‑响应对;② 将这些数据用于监督微调或 SFT;③ 通过强化学习或人类反馈进一步提升小模型。即便拥有海量算力,完成从 Fable 到 Kimi K3 的全链路仍面临两大瓶颈:
- 数据量与时间:生成足以覆盖模型能力的数十亿条高质量对话,需要数周甚至数月的持续查询。
- 算力成本:使用前沿 GPU(如 Grace Blackwell 300)进行强化学习训练,单次实验的费用可达数百万美元,且受限于模型推理速度,整体训练周期会被进一步拉长。
政策与芯片出口争议
美国商务部自 2024 年起已对高端 AI 芯片实施"了解你的客户"(KYC)监管,禁止未经授权的出口。报告中提到 Moonshot 可能通过黑市渠道获取了 Grace Blackwell 300 以及泰国的 GB300 服务器,这一做法若属实,将直接触犯美国出口管制法规。Georgetown CSET 的 Sam Bresnick 进一步指出,2025 年 Supermicro 创始人因走私先进芯片入华被起诉,凸显供应链监管的紧迫性。
未来展望
- 技术层面:即便蒸馏难度高,Moonshot 仍可能通过自研数据、混合训练策略以及大规模算力实现快速迭代,这对行业竞争格局构成潜在冲击。
- 监管层面:美国可能加速制定针对 AI 训练算力的出口限制,并加强对云服务提供商的审计力度,以遏制类似的技术转移。
- 行业共识:专家普遍认为,单纯的蒸馏已难以解释中国开源大模型的突飞猛进,背后更可能是本土人才、算力投入以及创新训练方法的综合作用。
"中国团队的技术实力不容低估,他们正在构建自己的研发生态,而非单纯依赖‘抄袭’," Hancock 如是说。
整体来看,Kimi K3 的崛起既是技术竞争的缩影,也是国际政策博弈的前线。后续调查结果以及行业自律机制的完善,将决定这一争议的最终走向。
本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。