朱邦华，SGLang 背后公司 RadixArk 的联合创始人兼 CTO，聊聊为什么先做推理、万卡强化学习的难题，以及开源公司靠什么赚钱。

朱邦华是 RadixArk 的联合创始人兼 CTO，公司开发开源推理引擎 SGLang 以及 RL 框架 Miles。他本科就读于清华电子系，考试成绩基本保持系里第一，随后在伯克利师从 Michael Jordan 教授，研究机器学习理论、统计和强化学习理论。博士毕业后，他与导师创办 Nexusflow AI，做企业智能体和后训练。公司在 2025 年被 NVIDIA 收购后，他成为 NeMo-RL 的技术负责人。同年 12 月，他离开 NVIDIA，与长期合作伙伴、SGLang 共同创建者盛颖创办 RadixArk。盛颖担任 CEO（她也为此放弃了在 xAI 的大笔收益）。

RadixArk 做的是大模型底层的训练和推理系统：SGLang 负责让模型上线提供服务，开源强化学习框架 Miles 负责后训练。在朱邦华列举的用户和合作方中，有 Google、Microsoft、NVIDIA、阿里、腾讯和字节。他们也与 DeepSeek 合作，并为 Thinking Machines 提供基础设施支持。RadixArk 希望让更多企业和开发者用上前沿实验室级别的基础设施。2026 年 5 月，成立约 5 个月的 RadixArk 宣布完成 Accel 领投的 1 亿美元种子轮融资。

在这期深度对话中，我们讨论了：

  1. RadixArk 的两套系统：SGLang 做推理，Miles 做强化学习后训练
  2. 为什么市场需求是推理大于强化学习、大于预训练，以及 RadixArk 要从推理开始
  3. Cursor 后训练 Kimi 的启示：推理中产生的数据，怎样继续提升私有模型
  4. 2023 年发给 John Schulman 和盛颖的两封邮件，怎样让理论博士走进大模型
  5. 尽管已观察到 GPT-3.5 能够成功解答 LeetCode 题目，导师 Michael Jordan 仍对其能力持保留态度，但朱邦华果断决定将研究方向转向大语言模型
  6. DeepSeek-V4 发布当天就能用：ShadowRadix、稀疏注意力优化，以及约一半核心开发团队的时间投入
  7. 强化学习环境为什么会成为瓶颈：函数调用延迟、CPU 调度和奖励设计
  8. Nexusflow AI 用 7B 模型调通 PPO，后来被 NVIDIA 收购的契机
  9. 从两到四个节点走向千卡、万卡：算力怎样改变一个人能积累的经验
  10. 从 Linux 创建者到编程智能体：技术品味为什么体现在能否看出代码的问题

这期对话给我们的最大启示：

  1. RadixArk 从需求最大的推理做起，再做强化学习，预训练留待以后。

    预训练投入太大，真正愿意自己做的公司很少。强化学习后训练的成本相对低，还能专门提升模型在某个任务上的能力，需求因此更广。推理的需求最大，因为只要使用 AI，就需要模型运行并给出结果。朱邦华据此安排产品顺序：“所以我们现在是先从推理开始，然后一步一步做到 RL 的 infra，再往后如果有可能的话，也会做到 pre-training 的 infra。”

  2. 推理中产生的私有数据，可以用来训练下一版模型。

    RadixArk 押注的是，企业不会永远满足于直接调用通用开源模型。随着智能体任务变复杂，企业会在实际使用中积累大量私有数据，尤其是垂直领域的数据，这些数据又能用于强化学习。Cursor 后训练 Kimi 就是朱邦华举的例子：先针对自己的智能体任务提升模型，再上线推理，继续收集数据、改进模型。他预计，这种需求会从前沿实验室扩展到 Cursor 这样的 AI 原生公司，再逐步传递到财富 500 强等传统企业，前提是现成模型满足不了它们的任务要求。

  3. RLHF 还很粗糙就能奏效，这让朱邦华看到了继续改进的空间。

    2023 年初，他还几乎没有接触过自然语言处理，却被 GPT-3.5 写出 LeetCode 解法的表现震住了。他回头检查基于人类反馈的强化学习（RLHF）算法，发现做法很临时，远谈不上精细：“如果让我预测，我会预测出完全相反的结果，我会觉得这个算法不可能有效。” 导师 Michael Jordan 怀疑这只是又一次 OpenAI 的炒作，朱邦华却认为，粗糙的训练已经能做到这样，继续扩大模型、数据和计算规模，潜力可能很大。他在博士第 5 年决定转向大模型，并主动写邮件找 John Schulman、盛颖讨论和合作。

  4. 为 DeepSeek-V4 提供首日支持，SGLang 投入了约一半核心团队的时间。

    DeepSeek-V4 改了很多模型架构，推理系统也必须跟着做专门的改动。朱邦华说，这次支持大约花掉了一半核心开发团队的时间，工作包括适配混合注意力的前缀缓存机制 ShadowRadix，以及稀疏注意力优化。这种发布当天就能使用的支持，被社区称为 Day-0 支持，背后是持续打磨兼容性和性能的投入。朱邦华早期曾觉得，已有 vLLM，用户未必愿意换一个相似的开源引擎，后来却承认自己判断错了。他理解盛颖当初的判断：只要引擎足够快、足够好、支持范围够广，用户就会选择它。

  5. 强化学习训练卡住，常常是环境没跟上。

    智能体在环境里执行代码、调用工具，函数调用的延迟和并发能力都会拖住训练，这也是 CPU 调度重新变得重要的原因。环境还得告诉模型怎样才算做对，朱邦华认为：“尤其是怎么设计 reward，是一个艺术问题。” 前沿实验室需要不断构建那些模型仍然会失败的复杂环境，让模型在其中学会完成任务。他认为，国内团队的基础设施能力很强，数据却可能更受限，如果美国持续投入更复杂的智能体强化学习环境，国内可能会在这部分落后一些。

  6. PPO 跑不出效果，可能是系统和参数还没调对。

    2023 年，OpenAI 说 PPO（近端策略优化）有效，很多团队却复现不出来，转而使用 DPO 等更简单的方法。朱邦华坚持，PPO 的上限很高，但实现里的隐蔽错误、价值函数和大量超参数都得处理好，搜索空间又太大，只能靠直觉提出方向，再用实验逐步验证。一个具体做法是先用数据预热 critic，也就是价值函数，让它收敛到相对可靠的状态再启动 PPO，否则一开始就可能把语言模型改坏，后面也救不回来。他们用 AI 反馈做强化学习，训练出 7B 模型 Starling，在 Chatbot Arena 上拿到很高的分数：“我们可能是当时唯一一个在开源这边把 PPO 调通的团队。” 团队的一些技巧后来用于 Llama 2、Llama 3 的后训练，但随着 GRPO 等更简单的算法出现，使用 PPO 的人也逐渐减少。

  7. Nexusflow AI 看对了智能体的方向，市场却还没准备好。

    他们在 2023 年就想把强化学习用到函数调用、数学和代码等可验证的任务上。但向客户介绍产品时，对方常常连智能体是什么都不清楚，还以为它只是检索文本后回答问题。团队得花大量时间解释，智能体能够采取行动、使用工具，还能在多轮交互中把工具用好。对朱邦华来说，第一次创业的教训是，看对趋势和踩对时间并不是一回事，市场教育会占掉本该用来卖产品的时间。后来，DeepSeek 展示了强化学习的价值，NVIDIA 希望更多人来做强化学习，这成为收购 Nexusflow AI 的契机。

  8. 能接触多大规模的 GPU，决定了你能积累出哪一类系统经验。

    第一次创业时，两到四个节点已经是朱邦华觉得奢侈的配置，加入 NVIDIA 后，他才接触到完全不同的算力规模。千卡、万卡训练面对的容错、精度对齐和整群利用率问题，无法靠小规模训练经验直接推出来：“这说明其实人都是被卡养出来的。” 他甚至觉得，有些本科生会比博士做得更好，因为过度严谨的训练可能让人不愿意凭直觉启动实验，而一些好的训练结果恰恰来自这种尝试。他把这种做法称为 YOLO：先根据直觉判断一组配置值得跑，就直接启动，而不要求把所有消融实验做完。给学生提建议时，他也更看重资源，例如在公司可能每月使用 2 万美元甚至更多的 Claude Code token，去探索怎样让智能体高效工作，同样的开销在学校却可能耗尽导师经费。

  9. 开源软件之外，RadixArk 提供的是经过大规模验证的训练系统。

    RadixArk 希望降低普通用户使用基础设施的成本，但开源社区很难单靠自身负担千卡、万卡测试。商业合作让团队有机会接触这些资源，运行大量不同案例，查出会导致精度偏差甚至错误结论的隐蔽问题。采访时，Miles 已经完成千卡级测试，万卡规模所需的更多容错和优化仍在推进。至于极端规模下的特殊优化，朱邦华不认为保留它们只是维持商业模式的技巧，因为即使开源，真正会用到的人也可能不多。

  10. 编程智能体能把代码写到多好，取决于你能否看出它哪里不够好。

    朱邦华面试时会留意，应聘者看到不好的代码，会不会觉得浑身难受，又能不能说清楚真正的问题和更好的解法。他拿 Linux 创建者作比方：早期就像是在把人当作智能体，不符合标准的代码直接拒绝，始终守住质量要求。这个能力到了使用编程智能体时仍然成立：“如果你觉得 agent 写的代码已经很好了，那其实你的上限就会停留在 agent 写的代码这个水平。” 要让智能体继续改进，你得能告诉它好代码应该是什么样子，而不是只说自己不满意。对话里用 500 行能否改成更清晰的 100 行来说明这种品味，朱邦华也认可：能看出差距、提出更好的方案，才有办法持续提高智能体的输出质量。