梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
加入英伟达一年后,贾扬清再创业。
新公司Intent Lab,第一批亮出来的成果有三:
目前已知最快的GLM 5.2推理引擎、一句话生成的数据库、一套带形式化验证的文件系统。
乍一看,有点懵。三个系统不搭边啊,定位呢?商业模式呢?这公司到底干啥的?
其实真正的产品是背后的生成引擎Fleet,号称“首个将意图转换为生产级软件的自主团队”。
三个成果,都是出自同一套智能体系统。
距离6月贾扬清从英伟达离职的消息传出,刚过去一个月。
贾扬清离开英伟达再创业
时间线倒回2023年3月,贾扬清从阿里巴巴离职,同年创立Lepton AI。
当时创业者大多扎进“百模大战”,他却选了AI Infra,用云原生加多云整合的方式调度全球GPU资源,给开发者提供算力租赁和模型部署。
创始团队里还有ONNX的联合创始人,可以说是开源老伙计再聚头。
到了2025年3月到4月,就是那笔著名的交易:
英伟达宣布并收购Lepton AI,交易金额约7亿美元,折合人民币约48亿。
英伟达买它是为了云业务,目标是在AWS和Google之上建自己的软件平台。被收购之后,Lepton AI更名为DGX Cloud Lepton,并入英伟达DGX Cloud体系。
然后……就没有然后了。
作为一家为开发者设计的轻量级、敏捷的初创公司,其产品理念“Python原生、开箱即用”等与英伟达面向大企业客户的、更为封闭的产品管理体系格格不入。
据报道,DGX Lepton在2025年中期已基本停止对外运营,这时候距离收购完成才过去几个月。
团队的资源被消耗在UI调整这类表层工作上,而多租户这样的核心技术问题一直没能解决,
这个产品很遗憾没能满足它原本瞄准的那批AI原生开发者。
更扎心的是开源方面。
收购时英伟达曾承诺在2026年前开源Lepton的核心软件平台,最终又被否决。
目前GitHub仓库上只有客户端SDK(Python 库)和命令行工具(CLI),后端调度引擎和云平台管理系统依然是封闭。
核心冲突在于Lepton的核心调度器一旦开源,竞争对手同样可以拿它高效管理非英伟达的 GPU,这与英伟达卖硬件的商业模式直接打架。
但贾扬清这个人大家都熟悉,整个职业生涯是建立在Caffe、PyTorch、ONNX这一串开源项目上的。
总之,最终还是好聚好散了。
中间还有一个插曲,6月初,Hyperbolic Labs聘请贾扬清出任公司顾问。这家公司的业务方向是云基础设施、GPU marketplace、多云编排和GPU利用率提升。
这几个词和Lepton AI最初的目标对比一下,几乎一个字都不用改。
大家还以为他只是换个地方重操旧业呢,结果只是一个支线。
下一步,做点不一样的:
我们把整个职业生涯花在了世界上最大的分布式系统和AI基础设施上,一直是精心的架构设计,一次做一个系统。
但现在更感兴趣的,是一次能产出一千个系统的系统。
首批交出三份作业
Intent Lab把它的产品叫Fleet,定位是“把意图变成生产级软件的自主团队”。
第一批公开的三个结果,官方口径是全部由Fleet端到端完成,没有人工介入。
重点看GLM-5.2推理引擎。
最初的“意图”只有一句话:重新改造TensorRT-LLM的代码,让GLM-5.2跑在Grace Blackwell节点上,自己识别可优化的类别,自己实现,自己验证。
TensorRT-LLM本身已经是被英伟达反复打磨过的项目,在这上面再抠性能,属于在牙膏皮上再挤牙膏。
结果Fleet交付了四类优化,在两台Grace Blackwell节点上,把输出速度从102 tokens/s推到647 tokens/s,提升整整6.3倍。
拆开看每一项都不是水分:
内核层面+24%,做法是kernel fusion加上由agent直接生成PTX和SASS,绕过编译器直接拿指令级控制。
运行时+16%,通过H2D batching把一个稳态decode步骤的host-to-device元数据拷贝从大约十次降到零。
通信层面+18%,用一个融合的MNNVL all-reduce,把residual add和RMSNorm折进集合通信里,每层省一次kernel launch和一整轮内存往返。
最后是投机解码的+400%,配合优化过的DSpark drafter,一步提出多个 token,一次性验证。
Fleet跑这套优化的流程像一整个开发团队:roofline分析、瓶颈识别,然后 propose、verify、compound,验证不过就打回重来,一轮结束再回去找下一个瓶颈。
第二份作业是数据库。起点也是是一行prompt。
零文档零代码,fleet自己一路跑到600万条SQLite兼容性测试全部通过为止,过程中自己扮演了架构、编码、测试、评审、QA所有角色。
第三份作业是文件系统,目标是“用基础设施的主体从人变成agent”。
文件系统的复杂度是出了名的,这个例子里fleet用形式化验证抓到了一个coding agent写出来的 bug,一个瞬态的损坏状态,然后修掉了。
模型能力不是限制,是中间缺一层
贾扬清对这件事的判断,写在他的官宣创业帖子里。
模型现在写代码已经很快了,但从“能跑起来的代码”到“你愿意放进生产、并且持有很多年的软件”,中间仍然隔着一段真实的距离。
他不认为这段距离是模型能力的限制,缺的是中间一层:
一个把模糊的意图变成真实的设计,检查结果是否站得住,以及在系统跑起来之后让它继续演进,并且全部自主完成。
Intent Lab 把这一层细化拆成了六个环节:
Understand,把模糊意图收敛成明确产出和验收标准;
Design,权衡取舍、定接口定结构;
Coordinate,拆任务、管依赖;
Build,阶段代码和架构同步演进;
Verify,贯穿全程,从形式化证明到运行时故障注入;
Evolve,在生产环境里观察表现,把使用情况和成本折回设计。
仔细看这六个词,就是一个靠谱工程团队的日常,只不过主语从人换成了智能体系统。
他还算了一笔经济账:
过去50年,合理的做法是造一个软件,卖给尽可能多的人,哪怕这些人的需求各不相同。
这件事现在可以变了,世界会出现多得多的软件,定制程度高得多。
目前Intent Lab计划与外部合作,专门面向那些“工程量太大、一直排在清单上没人力去做”的系统。
从Caffe、PyTorch,到Lepton AI,Intent Lab,贾扬清一直在做同一件事的不同版本:让别人更容易用上算力。
参考链接:
[1]
https://x.com/jiayq/status/2082135245776920681?s=20
[2]
https://intentlab.ai/blog/turn-your-intent-into-production-systems