当AI从“能说会写”走向“能做会干”，云计算的核心用户、SaaS的收费方式、企业AI落地的基础设施，正在被智能体重新定义。
2026世界人工智能大会期间，在上海举行的阿里云“Agentic Cloud智能体时代的基础设施论坛”上，阿里云及产业伙伴围绕Agent Infra、Agentic Products、AI Native Cloud、Data Plane、Security等议题，披露了多项产品进展、产业案例和基础设施数据。
这场论坛没有给出新的财务收入增速、订单或业绩指引，但从市场关注的角度看，阿里云释放的核心信号是：AI云的竞争正在从单一模型能力，扩展到推理效率、数据平台、Agent运行时、安全治理以及面向业务结果的交付能力。换句话说，AI云的商业化想象空间，正在从“卖算力、卖模型调用”，进一步走向“支撑智能体完成业务结果”。
“模型不再是唯一核心”，SaaS或从订阅转向按结果付费
在论坛对话环节，阿里云智能集团首席技术官李飞飞与PyTorch Foundation执行董事Mark Collier讨论了AI基础设施的演进。
Mark提出一个关键判断：“模型本身不再是唯一的核心。模型固然非常重要，它是智能体的大脑。”他认为，企业未来会同时使用多个模型、自研专用模型，或将开放权重模型定制成更小、更大、更专业的版本，“你不仅需要调度智能体本身，还需要让智能体与所使用的模型解耦。”
李飞飞则从商业模式角度进一步指出，SaaS行业的定价逻辑可能发生变化：
“纵观整个SaaS行业，企业购买软件服务是按结果付费订阅，而不是按资源消耗量——CPU周期或内存使用量——来定价的。”
他判断，市场将很快迁移到智能体服务模式：
“这些智能体旨在解决特定任务和特定问题，而客户为最终结果付费。”
Mark也给出同样方向的判断：
“客户会说：我不在乎成本，我不在乎需要多少GPU，我只想为结果付费。但总得有人为所有这些GPU和数据中心买单。”
这意味着，对云厂商而言，后端基础设施的推理效率和成本优化仍是关键。Mark提到，DeepSeek推理软件优化案例显示，“六个月内，token成本降低了60%”，并且“在完全相同的硬件上实现了近三倍的吞吐量”。
Token、Agent、数据库实例：需求侧指标开始取代单一模型叙事
国家信息中心副主任盛磊在开场演讲中表示，智能体正在从概念走向规模落地，人工智能也在从“能说会写”迈向“能做会干”。
他提出，智能经济时代的核心计量方式正在变化：
“工业经济看千瓦时，互联网经济看流量、看比特，到了智能经济时代，Token正在成为衡量AI实际生产力的重要标尺。”
盛磊披露，中国日均Token调用量“两年内突破140万亿次”。他还表示，未来算力服务模式将国际化，探索“离岸算力、来数加工、Token出海等新形态”。
在云资源使用侧，阿里云数据库负责人杨辛军给出更直接的变化：云的第一用户正在从人变成智能体。
他表示，Databricks数据显示，“80%的数据库实例是由agentic创造的，97%的分支是由agent创建的”。阿里云也观察到类似趋势：
“我们的PostgreSQL数据库最近是有80%是由agent创建的。”
更具体的数据是：
“过去整整5年，整个PostgreSQL数据库差不多创造了4万个实例，最近我们在过去的几个月当中就看到agent创建了差不多12万个数据库。”
杨辛军称，Agent自主创建数据库的环比增速达到300%。他总结说：
“数据是越来越成为一个企业AI落地的财富所在。”
阿里云推KV缓存、Agentic FS等基础设施，称全栈AI云服务份额40.1%
阿里云智能集团研发副总裁、弹性计算负责人吴结生在演讲中表示，阿里云是“全球少数几个具备全栈AI基础设施能力的云服务商”，其全栈能力覆盖IDC、自研硬件和芯片、云产品服务、千问大模型和百炼推理服务。
他披露，阿里云全栈AI云服务市场份额为40.1%，并称“国内至少有一半的大模型公司都跑在阿里云上面”。
在训练侧，阿里云发布基于平头哥真武M890 AI芯片、ICN Switch 1.0芯片和磐久AI超级服务器节点的“超节点实例”。单个超节点配置64张卡，卡间互联速度达800GB，每张M890芯片配置144G显存，整体超节点显存达到9TB。
吴结生称，M890最新芯片在一些大模型训练测试中，训练性能较上一代8101提升3倍。
在推理侧，阿里云发布新的KV Cache Store存储系统，以应对长上下文、多轮对话下KV Cache数据爆发式增长。吴结生表示，客户POC验证中，KV Cache Store“可以提高缓存命中率高达20%”，从而降低推理成本、提高推理效率。
他还提到，阿里云TokenWorks可使模型上线“从几天下降到几十分钟”；基于容器的推理方案可将冷启动时延降低高达90%，部分客户GPU使用率提升35%，每个Token平均输出耗时降低60%。
面向Agent运行时，阿里云推出安全隔离沙箱、Agentic FS等能力。吴结生称，阿里云可支持“每分钟快速拉起10万级别沙箱”，单区域支持百万级沙箱规模；冷启动时间可达百毫秒级，热启动时间为10毫秒级。
“AI爆发不靠一两颗芯片”，平头哥开源Seal软件栈
平头哥半导体副总裁高慧表示，智能体应用正在重塑数据中心负载，高频协同、工具调用、长上下文推理都在挑战算力利用率和TCO。
她强调：
“这些问题靠升级一颗芯片、两颗芯片是解决不了的，需要在系统级做整体解决方案。”
平头哥的回答是算、存、网全栈升级。高慧披露，真武芯片截至今年4月已经出货56万片，服务20多个行业、400多家客户，成为“国内应用场景最广泛的AI芯片”。
同时，平头哥正式宣布Seal软件栈开源开放。高慧解释：
“AI时代的真正爆发，不是来自于某一颗、某两颗真正强的芯片，而会来自一套更开放、更协同、更高效的全栈算力体系。”
她还给出生态适配数据：GitHub上Star大于10的主流AI仓库有3277个，Seal已适配其中3248个；同时覆盖PyTorch、TensorFlow、vLLM、SGLang等260多个主流训练推理框架。
智能体落地产业：满帮称司机使用率从15%升至35%，货源响应可缩至3-5分钟
满帮集团AI算法总监高艺铭从物流行业给出了Agent落地的案例。他表示，物流平台Agent化的本质是：
“从人操作软件走到人托管目标。”
在货运场景中，司机不是来APP上“刷货”，而是有明确目标：去哪、赚多少钱、能不能装、愿不愿意空驶。高艺铭说：
“司机的agent不是回答每一句话，而是要理解上下文，维护状态，把目标转化成可执行的计划。”
满帮上线相关Agent系统后，司机使用率从15%提升到35%，使用过一次后的下次留存为71%。他还披露，司机每天平均会花169分钟在平台上看货，“大概是2.5个小时，他生命中的10%”。
高艺铭表示，如果百万司机都将目标托管给系统，平台供给将“翻10倍”；货源发出后的响应时间，也有望从十几二十分钟缩短到3分钟、5分钟。
他总结平台未来形态：
“Agent负责处理不确定性，而工程负责执行确定性。最后平台定义怎么样可信的协作。”
从Demo到生产，企业需要“可治理、可审计、可复用”的Agent平台
阿里云智能集团云原生应用平台负责人周琦指出，过去一年市场看到了大量令人兴奋的Agent Demo，但“Demo和生产之间隔着一条非常深的鸿沟”。
他认为，企业真正的挑战不是有没有Agent，而是如何让Agent“跨角色、跨系统、跨边界”进入企业流程，并稳定协作。
阿里云提出企业智能体三层架构：Infra、Desktop和Platform。其中Infra提供可信运行环境，Desktop让Agent进入真实工作环境，Platform则负责构建、治理、协作和进化。
周琦披露，在阿里云云原生团队内部，已通过Agent体系串联开源开发、治理、答疑和质量跟踪。目前运行15个Agent，提供7×24小时在线服务，承担85%的技术答疑，使运营支撑时长降低90%，需求响应时间从7天压缩至1天。
他说：
“企业最终拥有的不是一批Agent，而是一台持续生产Agent、持续优化发挥其价值的企业工作流。”
应用交付侧：秒悟团队版、Enter强调“从生成代码到交付价值”
在应用生成层面，阿里巴巴ATH事业部MASS业务线秒悟副负责人周恒民发布秒悟团队版。他表示，秒悟定位为“人人可用的AI应用创作平台”，用户可通过自然语言生成网站、小程序、APP等，并一键发布为可访问的生产级应用。
周恒民披露，截至论坛当天，每天有上万名用户在秒悟上创作和发布，大部分没有技术背景，包括产品经理、运营、老师、学生、设计师和创业者。
团队版则解决企业关心的统一采购、资源共享、资产转交、权限管理和团队协同问题。周恒民称：
“秒悟团队版完成的是从个人工具到组织生产力平台的升级。”
Andr Pro产品负责人龙东恒则从“Delivery Agent”角度强调，生成代码只是第一步，真正的业务系统还需要数据、部署、权限、安全和持续运营。
他说：
“人可以不懂Infra，但Agent必须更懂Infra。”
在他看来，用户说“帮我做一个点菜系统”，Agent要做的不只是把网页做出来，还要“把数据库搭起来、域名分配好、网站部署完”。他总结：
“Coding Agent更关注代码，而Delivery Agent更关注全局。”
安全成为规模化前提：近40% Agent项目或因安全风险失败
阿里云智能集团云安全产品负责人祝建跃提醒，Agent越自主，安全边界越重要。他表示，机器身份数量已经超过人类，企业正处在人与Agent共生的环境中。
他引用数据称，57%的企业已经部署Agent，但Gartner预计，近40%的项目会因为安全风险管控问题失败。
祝建跃强调：
“Agent安全在当下不再是一个可选项，它是业务发展当中的必选项，不然你的Agent只会成为一个定时的炸弹。”
阿里云提出Infra层、模型推理服务层、Agent应用层三层统一防护，并发布Agent安全中心能力，包括资产识别、漏洞检测、AI Red Team、运行时安全、日志溯源等。祝建跃称，阿里云已上线150项针对Agent漏洞的检测能力，并将运行时安全能力融入百炼和AI安全网关，全链路延时控制在100-120毫秒以内。
以下是论坛实录
主持人 00:01
一次对效率的思考，代码组成了最初的探索。一次对机器灵魂的畅想，让超越有了可能。当 Token 爆发，当自主行动实现，于是进化开始。成为了指挥家，指挥一个个硅基的思维。成为了学者，更专业，除了knowledge，还拥有了skills。当进化螺旋上升，智能持续进化，就在每一天，在每一处生产力所需的地方，在此刻进化。
主持人 01:09
欢迎来到 Agentic 时代！
主持人 01:17
欢迎来到 2026 世界人工智能大会，由阿里云主办的 Agentic Cloud 智能体时代的基础设施论坛。当智能体成为云计算的第一用户，基础设施的每一次进化，都在重塑 AI 与世界交互的方式。今天我们围绕智能体原生的云、 AI 原生的云、安全等五大议题展开技术拆解与对话，展现 AI 全栈能力如何驱动 Agent 落地千行百业。首先有请国家信息中心副主任盛磊带来开场演讲，智能体技术的新浪潮与新基座，掌声欢迎！
国家信息中心副主任盛磊：探索“离岸算力、来数加工、 Token出海”等新形态
盛磊 02:13
尊敬的各位来宾，非常高兴与大家相聚上海，在这里共同探讨人工智能的时代之问。发展之问。总书记强调，人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变人类生产生活方式。围绕人工智能发展，我国始终坚持系统布局、分业施策、开放共享、安全可控，推动人工智能与经济社会各领域深度融合，开创了人工智能加蓬勃发展的新局面。
盛磊 02:59
今天，当智能体从概念热议走向规模落地，当人工智能从能说会写迈向能做会干，我们面对一个关键问题，以智能体为代表的人工智能技术会掀起怎样的变革？而支撑这场变革的基础是否已经就绪？我想从新浪潮和新基座两个维度来分享我的思考。回望历史，从早期的符号系统到强化学习，再到大语言模型驱动的智能体，技术迭代的节奏不断加快。今天的智能体已成为了有规划能力、会调用工具、能自主执行的数字劳动者。这不是功能层面的简单叠加，而是发展范式的深层跃迁，其影响是全方位的。在产业端，智能原生正在重构价值创造的逻辑。智能原生不是给传统产品加一个 AI 功能，而是从设计之初就以人工智能为核心引擎。数据驱动进化，系统持续迭代，智能原生企业催生智能原生产品，智能原生产品孕育智能原生的消费，一条全新的价值链条正在逐步形成。
盛磊 04:25
伴随智能原生而来的是 Token 经济的衍生。工业经济看千瓦时，互联网经济看流量、看比特，到了智能经济时代， Token 正在成为衡量 AI 实际生产力的重要标尺。中国日均 Token 调用量两年内突破 140 万亿次，这个数字的背后是蓬勃发展的。
盛磊 04:52
强劲脉搏。在社会侧，这场浪潮也正在重塑社会运行的形态，人机共生正在从概念走向现实，机器不再是冰冷的生产工具，而是具备共情属性的。数字伙伴，工厂车间里、医院诊室中、校园课堂上、社区街巷间，虚实融合的边界正在消融，感知交互的壁垒持续消解，人机共生的社会图景正在向我们呈现。
盛磊 05:35
放眼全球，这场浪潮还在重塑全球产业的格局，从服务用智、行业富智，到产品载智、原生数智。四类产业出海模式层层递进，从物理货物贸易到数智服务贸易，从制成品输出到制造能力输出，从接入全球产业链到定义全球价值链，从企业单兵出海到能力体系出海，四重全球发展潜力持续的释放，我们正在以智能技术为全球发展贡献实实在在的中国力量。
盛磊 06:16
智能体时代对算力基础设施提出的需求是颠覆性的。更聪明的智能体的背后，是参数规模指数攀升的大模型，训练与推理的算力需求海量增长，算力基础设施的技术升级与规模化布局迫在眉睫。算力是数字经济时代的生产力，算力网是支撑数字经济高质量发展的关键基础设施。中国近年加快构建全国一体化算力网。形成以八大国家算力枢纽、 10 个国家算力集群。三个算电协同发展区域为重点的 8 + 10 + 3 算力空间布局，全国算力基础设施总量规模快速增长，算电协同深入推进，算网融合加速发展。十五规划纲要将全国一体化算力网列入 109 项重大工程，算力网与水网、电网等并列六张网，今年的投资规模超过7万亿元。
盛磊 07:29
面向未来，我们要把握五个发展趋势。一是智算中心建设集约化，破解 AI 算力荒的现实难题。二是区域算力布局协同化，实现全国算力动态均衡调度。三是算力设施发展绿色化，让算力运行跟上双碳目标步伐。四是算力供给服务普惠化，打造数字时代的新市镇。五是算力服务模式国际化，探索离岸算力、来数加工、 Token 出海等新形态。同时，要统筹好五个关系。兼顾全局统筹与区域协同，算力供给与创新应用，技术前瞻与普惠服务，规模建设与高效运营，自主可控与开放兼容，走出一条具有中国特色的算力发展道路。
盛磊 08:29
各位同仁，这是一场深刻的技术变革，浪潮之下没有人是旁观者，基座之上人人都是建设者。今年来，国家信息中心全方位、深层次、系统性开展人工智能发展战略规划、政策研究。推进技术、生态、形势分析和研判，我们将始终与国家战略同频，与产业发展共振，共同推动中国人工智能事业行稳致远，谢谢大家！
阿里巴巴ATH事业部MASS 业务线秒悟副负责人周恒民：阿里发布AI创作平台“秒悟”团队版，“完成从个人工具到组织生产力平台的升级”
主持人 09:20
感谢盛磊副主任，接下来进入产品重磅发布环节，有请阿里巴巴 ATH 事业部 MASS 业务线秒悟副负责人周恒民，掌声欢迎。
周恒民 09:45
各位来宾，大家上午好！今天非常高兴为大家介绍秒悟，以及我们即将推出的秒悟团队版。过去几年，大模型技术飞速发展，大家也已经不再满足于与 AI 聊天，而是希望他们能够帮我们完成更多的工作，甚至成为我们的数字员工。我们也一直在思考。基于我们的特点，可以提供一款什么样的产品，能够让用户的想法快速的实现，能够变成真正可以马上上线使用的应用。这就是秒悟诞生的初衷。
周恒民 10:18
我们把秒悟定义为人人可用的 AI 应用创作平台，它提供了几项核心的能力。首先是全栈的生成能力，用户只需要通过自然语言跟它交互，就可以快速的生成网站、小程序、 APP 等。同时通过无缝的接入阿里云的底层资源，秒悟能够一站式的集成前后端数据库。登录认证、 AI 大模型等能力，满足不同场景的需求。
周恒民 10:44
其次，秒悟提供了极速生成的能力，通过分群模式，我们可以把复杂的任务拆解成可并行的子任务，多个 agent 协同快速的研发，大幅的缩短开发时间。还有很重要的一点是一键发布的能力，很多 AI 工具可能是可以帮助大家完成代码的撰写，但是呢，离真正的发布还有很多的事情要做。而秒悟在生成应用之后，能够通过一键发布，让应用快速的上线，变成可以真正访问的生产级应用。下面请大家看一个小短片。
周恒民 12:10
通过刚才的介绍，相信大家对秒悟的基本能力有了一个大概的了解。除了用户可以直接访问的网页端以外，我们还将秒悟一键部署的能力开放出来，推出了秒悟CLI。一个给 agent 使用的命令行工具。很多用户可能已经习惯通过各种 agent 去开发应用，比如Coder、 Codex 等。但是开发完成之后，仍然是存在于本地的项目，离真正的上线还有很多工作要做。而秒悟的 CLI 希望帮助 agent 完成应用的创建到发布的最后一公里。通过引入秒悟CLI，用户可以使用自己熟悉的 agent 进行开发，再使用一条自然语言的指令，就可以完成全栈应用的自动化部署。而且我们还为应用提供了免费的公网域名，让用户真正做到发布。就可以使用，可以分享，可以传播。
周恒民 13:01
秒悟还是一款比较新的产品，从上线以来得到了非常多的用户的关注和使用，用户也为我们提供了非常多好的建议，督促我们不断的成长。截至今天，每天有上万名用户在秒悟上进行创作，进行发布，而他们大部分都是没有技术背景的，有产品经理、运营，有老师、学生，还有设计师，还有创业者。他们在秒悟上创建了大量的应用，有官网、实用工具等等，可以看到应用的创造者不再只是研发人员，而是每一个有想法的人。
周恒民 13:37
这里是一些用户的作品集，里面有界面非常美观的技术艺术的作品集，也有信息丰富的个人主页，还有有趣的小游戏，还有实用的小工具等。我们也发现非常多的企业场景的应用占比非常高，这里有三个案例，第一个是用于市场推广的营销工具，这里都是真实的客户的案例。还有在教育场景的英语智能学习平台，以及面向外贸拓客的独立站等。随着企业用户的增加，我们发现个人版虽然能够帮助个人完成快速的创作，但企业关心的问题其实还没有被很好的解决。比如很多用户会问我们，统一采购怎么做？资源怎么共享？如果团队的人员流动，这些资产怎么去转交？以及权限怎么管理？还有团队如何协同等等，这些问题在个人工具层面都还有待解决。因此今天我们推出秒悟团队版，在个人版的基础上，团队版提供了以下能力。
周恒民 14:41
首先是统一的身份管理，企业成员可以直接使用阿里云的。账号或 RAM 子账号直接登录，而不需要每个人去单独的注册。第二是统一的采购与额度管控，通过团队通过统一的采购席位、增购积分，管理员可以灵活的分配额度，让全员可用。第三是团队资产的共享与管理，无论是成员创建的应用，还是团队创建的专属的技能库以及底层的云资源，都可以归属于团队统一来管理。第四是精细化的权限管理，我们支持所有者、管理者、普通成员三种角色。让企业能够分角色管理授权，进行高效的协作。基于团队版的新功能，企业可以更好的实现资源的灵活配置，让每一份投入都得到更高效的利用。通过更清晰的权限管理，让秒悟可以真正成为整个团队共同的生产力工具。
周恒民 15:41
还有很重要的一点，就是整个团队资产的沉淀。企业累积的不仅是代码，还有自己的应用生态、专属的技能、业务的流程、领域知识等等。这些都会持续沉淀，成为企业长期的数字资产。所以秒悟团队版完成的是从个人工具到组织生产力平台的升级。下面我简单介绍一下秒悟团队版的使用方式。我们可以，团队的负责人或企业的负责人可以通过统一订阅的方式，按年或者按月去购买，也支持根据团队的规模去增减席位，以及通过我们的积分增购去全团队共享积分。在底层资源的方面，相对于个人版也提供了更强的底层资源支持，更多的 AI 创作资源，更多的存储资源，以及更高的并发。还有团队的专业专属的技能库等等。此外我们还赠送 ICP 备案码，支持企业快速绑定的自己的自定义域名，进一步降低企业发布生产级应用的门槛。
周恒民 16:45
最后，秒悟个人版希望帮助每一个想法都能快速实现，而秒悟团队版希望帮助每一个团队快速构建自己的应用生态，能够持续沉淀自己的数字资产。而在这背后，真正支撑我们的能力是阿里云长期积累的云计算基础设施和整个 agent infra 体系。我们依托于阿里云的 agent infra，把 agent 需要的模型、工具、运行时、工作流、安全等基础设施。进行快速的集成与开放，也正因为有这样的能力，让秒悟能够持续迭代，不断进化。最后欢迎大家访问秒悟的官网试用，如果大家对团队版感兴趣，可以扫码留下大家的信息，我们会有工作人员去，为大家进行详细的介绍，并提供免费试用的名额。我今天的分享就到这里，谢谢大家！
阿里云智能集团云原生应用平台负责人周琦：跨越“Demo与生产的深沟”、重构企业智能体三层架构
主持人 17:42
感谢周恒民先生。如今阿里云正式迈入 agentic cloud 时代。接下来有请阿里云智能集团云原生应用平台负责人周琦带来分享，阿里云 agent native cloud，让智能体成为企业原生的能力。
周琦 18:16
各位好。好，非常荣幸能在 2026 世界人工智能大会阿里云的主题论坛上，和大家做一次交流。今天我想讨论的是，如何让智能体成为企业原生的能力。过去一年，相信大家看到无数令人兴奋的demo， agent 可以写代码，可以构建工程，能够操作浏览器。但 demo 和生产之间隔着一条非常深的鸿沟。 demo 展示的是核心能力，生产则考验的是。企业如何把这样的一个能力转化为企业确定性的结果？当智能体成为企业的一个部分，开发者会问，如何更快地构建智能体？则安全团队会关心权限怎么管？如何审计？业务团队会关注 agent 执行的效果是否稳定？价值能否衡量？而平台团队则会关注，当 agent 从 10 个变成 1000 个，系统还能不能管得住？所以真正的挑战从来不是企业有没有一个agent，而是让它跨角色、跨系统、跨边界的进入企业的流程，能够稳定的协作。
周琦 19:32
当 agent 可以自由的发邮件、改数据、操作界面、调用客户系统时，权限、过程就和模型能力一样重要。因此，企业需要把智能体从一次性的系统交付的结果升级为可以持续建设、持续运营的生产力。要跨越这条鸿沟，我们需要重新理解企业的 agent 架构，它有三层，infra、 desktop 和platform。底层的 Infra 提供的是可信的运行环境，让 Agent 安全弹性的运行。而上层的 Desktop 连接的是业务世界，让 Agent 进入真实的工作环境。而 Agent Platform 和 PASS 则是需要把 Agent 构建、治理、协作和进化统一起来，把人、模型、工具、数据和策略编排成真正可以交付的业务结果。这三层能力系统化的构成了智能体时代下的完整技术栈。带来云上架构的演进和企业运营范式的升级。
周琦 20:45
我们先看一下 infra 层， infra 层的话呢，会由sandbox、数据、 file system 和 network 构成，为 agent 提供安全、弹性、低成本的运行环境。这里最核心的是 agent sandbox，它的能力可以拆解成四层。第一层是开箱即用的模板，支持开源社区的镜像，并内置 code, interpreter, browser, all in one sandbox 等等模板，开发者可以拿来即用。
周琦 21:17
在安全层面，我们提供了 microVM 和 VM 级的隔离能力，叠加网络、存储、会话等三重隔离，给开发者提供一个强隔离的环境。面对 agent 运行的负载，深休眠、浅休眠和按需唤醒技术在容量低峰时可以将实例负载缩为零，提供面对长会话的低成本的能力。面对高弹性的企业的特点，我们提供了快速挂载和弹性启动的能力。支持高规模的大并发调度。我们能看到，一个好的Infra，既要让 agent 能够放开手脚干活，也要让企业始终掌握它的边界。但让 agent 真正跑起来只是第一步，当企业拥有越来越多的agent，真正需要的是一个统一的治理和控制平台。这里面包含统一的身份体系、统一的策略、统一的网关、统一的资产管理和控制系统，也包括统一的评估和度量。这些统一的背后共同在回答三个基本的问题。他是谁？它能做什么？出了问题，谁能还原？谁能止损？这些答案在第一天必须在进入关键流程之前，就被写入系统。这样，安全和治理的能力不再是业务上上线之后的补丁，而是成为 agent 天然具备的能力。这层能力的价值在于，它不是给团队提供一套流程，而是把安全、合规、版本、灰度等嵌入 agent 的生命周期中。
周琦 23:01
我们再来看看桌面，大量关键的业务如今依然运行在桌面软件、专有 EXE 浏览器和企业的内网里，仅依靠 API 无法覆盖完整的世界。无影的 agentic computer 给 agent 提供一个 7 × 24 小时的完整桌面级运行环境，让它进入真实的工作现场，操作系统已有的软件和系统。这套桌面的操作系统能提供极致的体验，并且背后能够提供企业级 SLA 的能力。更重要的是，它不绕开企业既有的安全系统，而是复用已有的身份、SSO、MFA、上网行为与审计能力。这意味着 Agent 不再停留在对话框与 Terminal 中，而是能够在企业已经定义好的流程里，真正的开始工作。
周琦 24:01
Agent 要彻底进入企业，必须要现有的流程做深入的融合。它意味着五件事，业务原生，让 Agent 进入关键流程。交付可衡量的结果。组织原生，明确人机协作责任和权限。工程原生，支持天然的构建、发布、复用和生命周期的管理。运营原生，支持观测、评估与持续优化。基础设施原生，通过基础设施提供运行保障、数据、身份和极致的可靠性。只有这五个原生同时成立， Agent 才不是一个工具，而是企业系统的一部分。从这个意义上而言，智能体走进企业，不是一次简单的系统升级。而是把企业原有的流程、知识、工具、经验重新编排，成一种人和 agent 可以共同执行的能力。
周琦 25:02
为此，我们围绕企业工程、组织、运营体系构建了一整套完整的 agent platform，它由 agent run、 agent teams 和 agent loop 三个组件构成。面对不同场景的业务需求，在这里可以被统一的构建、连接、治理、评估、优化和协同运行。它最重要的价值是在于一个团队沉淀的Skills、Tools、策略和评估集，可以被下一个场景复用。一个场景发现的风险可以变成全局的规则，而一次效果的优化可以影响整个 Agent 的群体。企业最终拥有的不是一批Agent，而是一台持续生产Agent，持续优化发挥其价值的企业工作流。 Agent Platform 的核心能力包括三大组件。
周琦 25:57
Aging Ram。 AgenRun 它是以高代码为核心的一站式 Agenty 应用基础设施平台，承接的是构建这一环。 AgenRun 将运行时沙箱、记忆、知识库、凭证、网关、可观测和评估沉淀成标准能力，为企业级 Agenty 应用提供从开发、部署到运维整个全生命周期的管理。这让开发者不必在每个项目里面从头开始重复搭建底座，而是把时间真正投入到决定企业业务价值的部分。
周琦 26:34
流程、上下文和差异化的体验。 Agent teams 承担的是组织治理这一环，通过提供 agent 团队的治理与协作，解决企业在多智能体统一治理、协作编排、安全合规、成本可控的四方面难题。它提供 human to agent、 agent to agent、 multi hum- human 和 multi agent 之间的collaboration，通过 leader agent 和 worker agent 组织复杂的任务。同时将Skills、MCP、凭据等统一的管理管控，最终 Agent 不再是聊天窗里的助手。而是在明确边界、明确责任的情况下，提供全审计的能力，成为团队真正的团队成员。
周琦 27:24
我们最后来看一下Agentloop， Agentloop 承载的是评估与优化的部分。大家知道效果永远是 Agent 的生命线，但是 Agent 上线之后的话，大部分情况下它往往都不会自主进化。因此，我们需要在企业里面的话去采集 Agent 运行过程中的真实的轨迹。分析质量过程中的问题、成本、延迟和异常。用量化的方式去评估业务和 agent 的表现，再通过proms、skill、上下文和实验的机制推动下一轮优化。
周琦 28:03
得益于可观测团队多年对于探针的积累，今天 agentloop 几乎覆盖了主流所有的 AI 应用框架，我们无需改动代码，就可以把 agent 所有的运行轨迹进行采集、统一的分析和处理。模型会变得越来越强，也会变得越来越容易获得，但企业内部高质量的任务轨迹、评价标准是。败案例和纠偏机制，无法被轻易复制。
周琦 28:34
Agentloop 让企业的 agent 具备自主进化的能力，让企业能够构建自主的 learning loop。Agentrun、 Agentteams 和，三者组织在一起，就是面向企业一站式构建治理、协作与优化的平台。这套平台的能力，我们自己团队也在深度使用，我们来看一下一个真实的案例。
周琦 29:00
开源是云原生团队的立身之本，团队管理着agentscope、Java。 Hygres, Nacos, RocketMQ 等顶级熟知的项目，每天服务万级开发者，管理着千万级的设备。我们今天通过 Agent 的体系，把开源的开发、治理、技术答疑和质量跟踪全部串了起来。
周琦 29:24
核心的工作会有两个部分，第一个部分就是身份的打通，身份不清，协作无从谈起。我们把钉钉、飞书、 RAM 等等企业身份的体系和 Agent Identity 进行连接。由他给每个 agent 签发身份，让 agent 干的每件事都能追溯到人。第二，我们通过高代码、低代码以及纳管的模式组建了 agent 团队。在这个身份之上面的话，我们搭建了研发、客服、数据、运营等等这些职能的团队。每个团队配备一个 lead agent 负责调度，下面带着若干个 work agent 用来从事分工和协同。这个就和人类企业里面的主管带团队的模式一模一样。最终，我们运行了 15 个各式各样的agent。提供 7 × 24 小时的在线服务，扛掉了 85% 的技术答疑，使运营支撑的时长降低了90%。最难能可贵的是，当开发者提了需求之后的话，我们的响应时间从过去的 7 天已经压缩至了 1 天。
周琦 30:35
团队和 agent 在一个数字世界里协作，端对端的流水线效率真正的被拉了起来。阿里云 agent native cloud 就是要让智能体成为企业的一种原生能力。今天企业智能化是让流程拥有了新的执行者。它不会取代人，而是把人的判断、经验和边界放大到每一次可重复的执行中。当 Agent 可以持续的被构建、严格的治理、稳定的协作、不断的进化，企业获得的不只是效率的提升，而是一套可以规模化复制的智能生产力。好，以上是我的分享，感谢大家。
满帮集团 AI 算法总监高艺铭：从“人找信息”到“人托管目标”，物流Agent可将货源响应缩短至3至5分钟
主持人 31:25
感谢周琦先生。技术的价值最终要在产业中验证。接下来有请满帮集团 AI 算法总监高艺铭。分享物流平台 Agent 化转型的实践与思考。
高艺铭 31:57
各位来宾大家好，我是来自满帮集团的高艺铭。今天我分享的主题是物流平台 agent 化转型的实践。我理解物流平台整个 agent 化转型，它也是整个产业智能化转型的一个切面。我想先从整个物流产业的演进过程给大家介绍一下。满帮其实是做的是干线物流，干线上面我们现在有百万的司机和百万的货主。在最过，最早的过去，其实它是线下的时代，线下的时候主要是熟人在做交易，通过熟人关系，通过信息部，通过电话沟通。在这个时候，整体的交易效率是比较低的。到了后来，我们有了互联网，我们的货源、我们的司机逐步上网，这样子整个找信息的效率是大幅提升的。但其实在这个时候，仍然是人找信息的一个阶段。到了现在，我们有了平台，平台形成了规模化的供给，形成了信用体系，使得整个交易撮合变成了一个履约撮合的状态。
高艺铭 32:59
但是到了今天，我觉得其实我们还没有完全解决用户真正的问题。以前我们是解决不了，我们没有足够的技术，但现在到了 Agent 时代，我觉得一些问题已经可以解决了。因为对于司机来讲，他不是过来找信息的，他不是过来在一个 APP 上，在一个列表上刷货的，他是想去找到一票货，他想，他有他自己的目标，他想要去到某个地方，他希望赚钱。对于货主而言也是类似，他其实想，不是说只是来发一票货，他想要做的其实是在规定的时间内找到一辆车，能够帮他把货源安全的送到最后的目的地。那么这个用户的最大的价值，他其实不是信息的连接，而是帮助用户。做复杂的决策。
高艺铭 33:52
我们理解的 A 准化的转型，它的本质是从人操作软件走到人托管目标。司机的目标其实他就是想找到一票货，去到某个地方赚到钱，他会考虑他自己的偏好，他会知道他能装不能装。货主其实他的实际的目标是想找到一辆车，他需要跟司机做进行议价，他需要去确保整个服务的质量。而对于平台而言，就是怎么样去承接他们这些目标。我想从司机本身的目标入手，给大家介绍一下，从一个更加体感的例子来想一下，这什么是目标？比如说司机告诉我们，今天我想找一票货，今天晚上回到南京，从上海回南京。我们推了一些货给他，他跟我们说，这票货，他看了一下这票货，空驶距离比较远，而且他是从苏州出发的，他就会说，这票货我可以接，但是价格呢，要涨到 1500 块钱以上。所以对司机而言，他的目标是很复杂的，他有一些硬性的约束，比如说他今天是要回南京的，他还有一些软性的偏好，比如说他不希望空驶太远，如果空驶比较远的话，他希望价格能够更加的高一些。所以司机的 agent 他不是回答每一句话，而是他要理解上下文，维护状态，把目标转化成可执行的计划，在市场中的变化中进行观察，基于市场的价格变化、货源的变化，他的软性的偏好也会发生持续的变化。那么有了这一切之后。
高艺铭 35:28
最大的问题是，司机会用这样子一套 agent 的系统吗？如果我们做出来没有人用，他真的会愿意托管吗？在其他的产业，我觉得比如说像刚刚分享的 Coding 的场景，或者是 Research 的场景，这个问题应该是没有问题的。但在物流这个非常传统的行业里面，司机的年龄一般都非常之大。其实我们之前一直也有这个疑惑，但是实际上线之后，我们发现效果比我们想的好很多。整体的过去几个月，司机的使用率从 15% 一直涨到了35%。而且只要他使用过一次，下次使用的留存是71%，远远高于我们的想象。本质上是因为我们解决了他真正的问题。
高艺铭 36:13
司机是非常辛苦的，他每天会花 169 分钟在平台上看货，大概是 2.5 个小时，他生命中的10%。而且他有很多时间没有机会去看货，他在开车，他在装卸货，他在吃饭，他在休息。当他把他的目标交给了 agent 之后，我们能够帮助他在 24 小时持续的看货，司机节省了时间。但他能找到更好的货，因为任何一票货出现的时候，他的目标都在线上。那么对于平台而言，其实是更大的收益。如果我们的百万的司机都愿意将他的目标托管给系统，托管给这个agent，那么我们的整个供给将会翻 10 倍。
高艺铭 36:55
以前最大的问题其实是时间和空间的错配，当一票货源发出的时候，真正能够承接的司机并不在线上。现在如果数百万的司机全部托管了目标，那么任何一票货发出的时候，原来的响应时间是十几二十分钟，到了现在它会变成 3 分钟，变成 5 分钟，那么货主的体验会大幅提升。而且对于平台而言，那么就会代表着有更多的成交，最后达。达成司机、货主、平台的三方共赢。
高艺铭 37:28
在产品上和商业模式上能够走通之后，最大的问题是怎么样生产这样子一套 agent 的系统，生产一套真正的产业级，能够在线上使用的数百万司机、货主能用的 agent 系统，其实有非常多的挑战。我觉得最核心，我们现在实践下来遇到了三个挑战。第一个挑战是整个系统的变化非常之快，我们每天有几百万的货源会发出，货源会成交，司机会移动，状态一直在变。这样子导致了整个 agent 的计算量非常之大。第二个很核心的挑战是，如果我们用 agent 去做各种的决策和思考，它的速度是非常之慢的，比起以前的确定性的系统，它的决策时间会从几秒钟变成几十秒钟，而货源本身等不了我们那么久，导致了司机自己看货能很快决策，而交给了 agent 之后反而变慢。
高艺铭 38:23
第三个是，如果 agent 做了一些不合宜的事情，最后造成的损失到底谁来承担？我先讲第一个问题，成本的问题。几百万的司机在线，其实不等于我们有几百万的 24 小时的进程在线，更不等于我们有几百万个 agentloop 一直在跑，否则的话我相信任何一个企业，它都不可能支付的起。
高艺铭 38:50
实际上，在我们的想象之中，在我们的实践之中，我们其实是数百万个持续可恢复的决策状态，这些状态包括它本身的目标是什么，我们称之为mission。他本身的 memory 是怎么样的？我们基于他的目标，给他制定了怎么样的找货策略？他这个司机的短期和长期的偏好又是如何的？这些所有的状态，我们其实都是动态的一直存储在数据库之中的。
高艺铭 39:21
当事件发生的时候，比如说司机的对话发生，比如说周期性的反馈，比如说意图的变化，比如说成交状态，货源发出，我们会去判断这一个状态的优先级到底是不是紧急的？对话他可以做抢占，周期性的反馈。可以做合并，普通的事件可以做等待， agent 只有在关键的时候才会被唤起。每次被唤起的时候，它执行一次，更新状态，重新休眠。所以对于用户的感知上来看，这是一个 24 小时一直在帮他找货的agent。但是从系统层面上，从工程的实现上来看，它是一个事件驱动的、弹性运行的、可治理的基础设施。
高艺铭 40:05
第二个核心问题，刚刚其实也讲到了，司机其实特别关心一票货出现之后，我们会不会第一时间推给他？我们的响应速度是不是足够快？他会不会损失了他的货源？为了解决这个问题，我们最后设计了一套双循环的系统。一个是长思考的循环，这个跟人非常像，人会做长思考，会做快思考。长思考的循环决定了我们到底怎么看货。当用户说一句话，变更他的目标的时候，我们会在 10 秒钟之内给他做响应，我们会理解他的目标到底是怎么样的。基于他的目标，比如说今天他要回南京，他需要 1500 块钱以上，我们怎么样更好的给他找货？我要不要从上海去到镇江，如果没有货的时候，我要不要从苏州出发？我要不要考虑空驶一段距离？这些所有的策略，我们通过一个一分钟的长思考，形成了一套可以直接通过确定性系统执行的代码。
高艺铭 41:02
这套代码它整合了我们本身的推荐系统，整合了我们的召回、我们的粗排、我们的精排、我们的触达能力，使得这套系统能够通过确定性的系统在 1 到 2 秒之内做决策。这就使得大模型只需要想清楚一次，确定性的系统负责执行千万次。这样既保留了 agent 的理解和推演的能力，也满足了物流交易之中非常严格的时效性的要求。
高艺铭 41:33
要形成这样子一套系统，我们总共是有五层的架构。第一层是 AI 的网关， AI 的网关不仅是服务的入口以及资源调度的平台，它统一接入了百炼的整个模型的服务，而且做了整个协议的适配，做了fallback，做了 token 级别的限流。第二层是状态和记忆， Agent 的本质是持续任务，我们需要把它持久化。第三层是安全的执行，我们通过 Agent run 的 sandbox 解决了整个空句调用、代码执行的权限、上下文的隔离的问题。第四层是运行时。运行时的整体的观测，我们托管了整个 langfuse 到了阿里云之上，使得整个评测能够非常安全、持久、可拓展的一直保留下来。最后我想讲的是， agent 其实是在生产系统中的一个持续的进化过程。真正的一个 agent 系统上线之后，往往是令人不满意的，它的需要经过很长时间的优化，而每一次的失败都应该变成可以为这个系统优化的资产，这个也成为了现在非常通用的范式。对于我们而言，每次的错误、每次的问题、每一次的badcase，我们经过了云上的回流之后，会去做整个归因，看它到底是产品的问题、是流程的问题、是模型的问题，最后形成 Golden Testset。这个 Golden Testset 会有两个目标，一个它会去做全流量的评测，第二个它会形成整个的训练数据。我们基于阿里云做了很好的整一套的流程。这里我想讲一下满帮平台，或者说其他的企业平台，其实都有一个很大的顾虑。我们一直认为数据是不能出域的，那么。核心就是怎么样在私有化拥有这些数据的同时，完成整个的进化和流程。
高艺铭 43:24
阿里云提提供了整一个的数据的回流，整个的训练的环境，我们基于派做了整个的偏好的对齐的后训练，在未来也会去进行长城任务，学会金牌司机和货主司机长城的决策逻辑。我们阿里云提供了模型单元，可以在我们私有化部署的环境里面做推理，从而使得所有的数据不出域，我们能做到从训练到推理的整个 agent 流程。这里面其实有一个点，当数据不出域，当所有东西都是私有化，那么整个成本就会不可控，因为都是一个企业自己用所有的东西。而这里的 AI 网关其实它的整个分时限流起到了非常大的作用，我们在线上高峰时期会把所有的资源留给线上做推理，保证整个线上的系统非常稳定的运行。当我们不需要那么多线上资源的时候，当波谷时期，我们就会把这些资源流过去做全量的评测，会把它拿去做数据的挖掘。从而导致整个的成本大幅降低。
高艺铭 44:34
在过去的平台，连接的是人和人，在现在连接的是人、数据和服务，到了未来，我们认为平台最终连接的是 Agent 和Agent。平台的价值不是双方的 Agent 自由的博弈，它是怎么样在一个统一的规则之下完成目标的协商以及规则的协调。 Agent 负责处理不确定性，而工程负责执行确定性。最后平台定义怎么样可信的协作。
高艺铭 45:07
最后我想回到今天整个分享的主题，整个阿里云的 agentic 的 cloud 基础设施，为整个 agent 进入到真正的物流生产系统提供了最关键的能力保障。我们需要的不是单点的模型能力，我们需要的整一套的 agentic cloud 基础设施。我觉得右边的三句话是核心我的体会，一个是要看得见，我们要全流程可观测。第二个是守得住，我们要安全。第三个是我们的 ROI 要算得清楚，我们要能够做持续的优化。
高艺铭 45:41
这也是我最后的总结，物流平台的 agent 化，它不只是多了一个 AI 的功能，它是把平台从整个撮合交易的系统交给了稳定的 agent 设施，升级为了 agent to agent 的可信 agent 的协作系统。我今天的分享到这边结束，谢谢大家。
阿里云智能集团研发副总裁、弹性计算负责人吴结生：阿里云推全新KV缓存与存储架构，占据全栈AI云服务40.1%市场份额
主持人 46:10
感谢高艺铭先生，让我们看到了智能体在真实产业场景中释放的巨大能量。而支撑这一切的，是底层基础设施的持续进化。接下来有请阿里云智能集团研发副总裁、弹性计算负责人吴结生带来演讲 AI Native 云基础设施的创新与发展。
吴结生 46:38
大家早上好，非常高兴借此机会给大家汇报一下阿里云 AI Native 基础设施近期的一些创新和发展。阿里云是全球少数的几个具备全栈的 AI 基础设施能力的。这个云服务商。首先我们有遍布全球的 IDC 的设施，我们有自己丰富的自研的硬件和芯片，从磁盘的控制器芯片，到我们的高性能网卡，到CIPU，到我们的倚天的CPU，真武的 AI 芯片，到我们的 ICN 的互联芯片，以及超节点服务器。第三呢，我们有丰富的云的产品和服务。
吴结生 47:22
第四呢，我们有自己的千问大模型和百炼的推理服务。我们加速了这些全栈的AI的基础设施加速了智能体的发展或人工智能应用的落地。下面的分享呢，我会从三个方面来给大家介绍，首先是我们的基础设施怎么样去加速模型的训练，怎么去提高推理的效率，以及怎么样去让更多的智能体在阿里云上面规模化的运行。在大模型的训练过程里面，其实算力的质量呢，是非常重要的。今天我们也非常高兴的去正式发布。
吴结生 48:00
超节点实力是基于我们平头哥的真武的 M 890 AI 芯片，以及 ICN Switch 1.0 芯片，以及我们阿里云的磐久 AI 超级服务器节点，这样的一个三件技术构成的。在超节点服务器里，超节点里面，我们配置了 64 张卡，每张卡呢连接到 8 个 ICN Switch，卡间的互联速度达到800GB，每张 M 890 芯片它也配置了 144 G 的显存。整个超节点的显存达到了 9 个Terabytes，就是 9T 的显存的容量。这样大的一个容量底下，其实我们可以更加高效的去推理，像这种 10 万亿参数级别的超大模型的它的推理的效率，能够提高整个推理的这个吞吐以及它的成本。
吴结生 48:57
再就是在模型的训练方面呢，我们在一些大模型的训练的测试里面，我们发现基于 M 890 最新的芯片呢，它的推理训练的性能呢，是比我们上一代的 8101 的性能提升了 3 倍。在整个 AI 的 native 的基础设施里面，实际上是一个集成了计算、存储和网络的这样的一个集群系统，它充分借助了我们的软硬一体的协同设计，以及我们全栈的优化，为模型的训练和模型的推理呢，提供一个高效的、稳定的这种大规模的算力。在前端的网络呢，我们使用了CIP、 CIPO 2.0 的连接，提高了稳定和安全的能力，同时也加速了网络的传输和存储的访问。后端的网络呢，我们采用的是 HPN 的 8.0 的双平面或双冗余的这样的一个架构，单两层的网络架构，其实可以支撑单个集群 13 万卡这样的一个规模。三层的架构可以支持百万级别的这样的一个扩展规模。在集成管理方面，其实我们也做了大量的创新，能够保障集群的高可用，我们提供了分钟级别的故障的自愈能力。保障每个实例的高可用的达到9.7%，能够提供了一个稳定的算力。在训练的过程里面，其实有另外一个系统是非常重要的，就是存储系统。随着这个训练的数据规模的不断扩大，比如说从 PB 级别扩展到百 PB 级别，甚至是 EB 级别。然后模型的参数呢，从千亿到万亿到十万亿次的十万亿的参数的级别。然后再就是在训练的过程里面，对checkpoint，它的打的频率呢，也从原来的几十分钟降低到分钟级别，甚至几十秒级别。那么这些需求其实对存储。
吴结生 50:57
提出了非常极致的需求。针对这些需求呢，我们基于阿里云飞天盘古的分布式存储底座，打造了一个全栈自研的新一代的 CPFS 系统。那么 CPFS 系统，新的 CPFS 系统，它提供了非常水平扩展的扩展能力，单个文件系统可以支持百 PB 级别的容量，以及万亿级别的文件数目。同时我们也通过全栈的技术优化和，和软硬结合的一些协同设计。比如说在计算侧，我们充分借助我们 CIPU 的硬件卸载的能力，以及跟操作系统的协同优化。然后在计算后端，我们提供了高性能的存储的引擎以及高性能存储网络，使得单个文件系统的可以提供百 TB 级别的带宽以及 E 级别的 IOPs 这个能力。然后最后呢，我们也通过这种智能的冷热分层和生命数，或数据生命周期管理的这个能力，来降低了这个存储的成本。
吴结生 52:00
新一代的 CPFS 其实为我们整个的大模型的训练，它的效率以及成本都带来了一个非常大的一个提升的能力。这是刚才给大家介绍了我们在训练方面的一些工作，在推理方面，其实推理的所需要的这算力资源呢，将远远高于训练的资源。我们在基础设施方面也进行了一系列的这创新和发展，来推提高推理的效率，降低推理的成本，能够释放 token 的生产力。
吴结生 52:30
阿里云，我们对推理的基础设施进行了一个全栈的优化，从这张图上，从底向上我们来看的话，其实我们。最底层的是我们自己的盘九的 AI 服务器，以及我们为推理环境或推理的场景优化设计的 TPN 的网络架构。往上的是我们的计算存储网络的核心的能力。其中呢，我们也为推理 Cache 数据的存储提出了一个新的 KVCache 的多层缓急服务。再往上是我们的推理引擎，以及我们推理 KVCache 的一些管理层。最上面的是推理的服务，我们提供了派的推理服务，以及基于容器的一些推理集群的解决方案。贯穿全栈的是端到端的可观测能力。这样的一个基础设施上面呢，我们支撑了千问和百炼的 Token 工厂。
吴结生 53:23
下面我们给大家介绍一下这个TPM， TPM 呢是 Token Performance Network 的一个缩写，就是我们专门为面向这个推理的架构，专门为这个推理的这个场景呢进行了一个深度的网络架构的优化，它的主要的创新点来自就是我们把多种不同的流量就放在同样一个网络架构里面，在这个网络里面，其实我们有 PD 分离的网络流量，我们有 AF 分离的网络流流量，我们有访问 KV Cache Store 的网络流量，以及访问这个云服务的网络流量。这几个多种的网络流量之间，我们可以按需的分配带宽，提供不同流量之间的一个性能的隔离，以及它的服务质量的保障。在这样的一个网络架构里面，大大简化了这个网络系统的复杂度，同时也降低了这个推理的成本。在随着这个 agent 的发展啊，大家也会看到，这个多轮的对话啊，还有长上下文的推理的成为一个新的趋势。
吴结生 54:22
然后在这个推理的过程里面， KV CATCH 的数据的量呢，是爆发式的增长。那我们的显存，我们的内存，再加上本地盘这三层的存储的容量，是远远不能满足今天 KV CATCH 数据它的增长量的。那这里面带来的一个影响就是降低了推理的命中率，以及降低了推理的吞吐，就为了解决这个问题，就是我们发布了一个新的 G3.5 层的 KV CATCH STORE 的一个存储系统。那么它是一个高性能的 KV CATCH 的存储STORE，然后专门为 KV CATCH 的存储的访问呢，进行了一系列的深度优化。
吴结生 55:02
首先第一呢，是支持 KV 的接口，可以我们很方便的去对接各种开源的或自研的推理的框架和推理的引擎。第二，是与算力上保持亲和性的部署，借助我们 TPN 的网络，我们可以把 KV catch store 和推理的算力资源部署在同样一个 TPN 网络架构下面，能够提供这种高性能的网络访问。
吴结生 55:27
第三，是一种计算和存储分离的架构， KV catch store 它可以独立与算力进行部署，可以独立与算力去进行弹性的扩容，可以提供千亿级别的KV。存储的 KV 元素的存储能力。在客户的 POC 的验证里面，其实我们也发现 KV cache store 呢，可以提高缓存的命中率高达20%，从而大幅降低这个推理的成本，提高推理的效率。
吴结生 55:57
在我们阿里云，也为客户呢提供了多种推理服务的产品选择。其实我们满足客户呢不同的多样化的需求，我们提供了三种类型的产品，第一种类型的产品是。模型即服务的产品，就是我们的百炼。它可以帮助客户通过 API 的方式去获取后面的。模型所产生的tokens。第二类的产品呢，是这类我们想讨论的，就是我们的派的TokenWorks，它是属于一种平台即服务 PASS 层的产品。它的关键的核心能力是什么呢？第一呢，它开箱即用，可以让模型的上线从几天下降到几十分钟，提高这个模型上线的效率。第二呢，是企业专属和可控的一个能力，比如说客户想自己去定制一些专属的网关，以及做一些限流的机制的一些定制化。
吴结生 56:52
第三呢，是提供了一个立体化的这种 SOO 的一个保障。一般来说大家会关注，比如说首 Token 的。这个延迟就TTFT，但同时呢客户也会关注，比如说我的成本啊、价格啊，或者我的 token 的吞吐啊，还有我的缓存的命中率，所以 tokenbox 实际上除了 TTFT 以外，它提供了一个更加立体化的一个 SOA 的一个模型，客户根据可以根据自己的需要进行配置。
吴结生 57:23
第三类产品呢，是我们也会看到有一类客户，他可能对资源有更多的管理的诉求，比如说他白天会把资源进行推理，晚上呢可能把资源进行一些数据的处理和模型的训练。还有客户可能对模型的推理的架构，会以及模型有自建的一个诉求。那么针对这些客户的需求，我们提供了一个基于容器的这样的一个推理解决方案。
吴结生 57:48
首先这个容器的，这个推理解决方案里面，我们帮助客户解决了四类问题。第一个呢是简化它的部署和运维，提供资源的一些编排和缩扩容的能力，提供滚动的更新和故障恢复等。第二呢是提供模型的感知的这种智能路由，比如说我们可以提供 KV cache。感知的路由，或者提供 Lora 感知的路由。第三，是提供全栈的可观测能力。
吴结生 58:17
第四呢，是提供分布式的缓存和模型的预热能力，这样会帮助在模型的推理过程中进行冷启动的这个效率，降低冷启动的时延高达90%。基于这些能力的，我们有些客户在使用的过程里里面，可以帮助他们提高 GPU 的使用率，提高35%，然后每个 Token 的平输出的平均耗时呢，也降低了60%。
吴结生 58:44
所以刚才也给大家讲到了训练和推理，针对第三方面，就智能体 agent 呢，正在走向规模化和场景化的落地。我们也根据 agent 负载的特点进行了一系列的深度优化和创新，促进智能体在阿里云上规模化的运行。刚才周琦也提到，说整个智能体的运行，它实际上有非常一些显著的自身特点，比如说它需要一个安全隔离的沙箱环境，它是高并发，频繁的启停，它的执行时间的动态，比如说有的 agent 智能体可能就执行一个命令，有的 agent 可能是一个几个小时或者数天的一个长时间的运行。
吴结生 59:25
智能体在运行的过程中，有时候会空闲，空闲的时候呢，从客户的视角来看，他希望能够进行休眠，能够释放资源来降低成本。针对这些需求呢，我们也做了一系列的优化。首先是通过 CIPU 或虚拟化的技术的结合，提供了一个 MicroVM 级别的这样的一个安全隔离的沙箱运行环境。其次呢，我们也提高了我们系统的扩展能力和弹性能力。我们把我们自己的整个的管控面变成了第二个数据面，能够支持每分钟快速的拉起，比如说 10 万级别的这样的一些沙箱。我们在单个区域里面也支持百万级别的沙箱的规模。这就是快速的启动，我们的冷启动的时间可以达到百毫秒级别，热启动的时间是 10 毫秒级别。
吴结生 01:00:11
最后呢，我们也支持深度的休眠。刚才也提到沙箱，智能体沙箱它的运行呢，是非常不稳定，或者非常的动态的，有的时间运行很短，有的时间运行很长。有时候需要长时间的休眠，那么在休眠的过程里面，我们把。智能体它的运行时代的内存保存下来，释放 CPU 和内存，从而降低成本。在唤醒的时候，我们也可以快速的启动。
吴结生 01:00:39
最后，我们提供灵活的接口，包括 E to B 的兼容接口啊，还有 K8S 兼容的协议的接口，以及我们自己函数计算的原生的SDK。这样的话，保障客户可以根据自己的业务的需求来灵活的、高效的进行对接。在 agent 执行的过程里面呢，其实需要存储一些状态数据，包括它的工作目录啊，还有它的会话记录和私有的文件等状态数据啊。它需要一些安全的隔离和数据的权限的管理，容量和性能的配额管理等，需要高并发和启动的停止，以及需要有更加大规模的文件的创建和删除等等。
吴结生 01:01:21
所以我们在这个需求下面，其实对整个的文件系统提出了一个很多极致的要求。我们为专门为这个 agent 呢设计了一套新的文件存储，叫 agentic FS。那么 agentic FS 它的一个重要的创新点来自于，我们为每一个 agent 提供了一个。安全的、独立的、隔离的这样的一个 agentic space，那么在这个空间里面呢，我们提供了配额的管理、容量的配额管理、性能的配额管理，我们提供了这种安全的权限的控制。
吴结生 01:01:55
在规模方面，我们提供了百万级别的这样的一个创建和删除的能力。在每秒钟呢，可以完成 10 万次这样的一个文件的挂载和卸载，满足智能体的高并发和高动态的负载需求。 agent 负载对云网络也提出了一个更多的新的需求啊，我们优化了 VPC 和 Net 网关的扩展能力和弹性能力。当 VPC 呢会支持百万 agent 沙箱的并发创建，然后每个 agent 的 Net 的集群呢，支持 20 万沙箱的并发访问。在稳定安全方面呢，其实大家在运行智智能体的时候，可能会要求，就是说我们对公网的访问需要有更加细粒度的限流、溯源和安全的审计，我们通过出口网关 EPG 来提供这些安全的能力。最后呢， agent 可能有。这种全球访问推理服务和使用工具的需求，我们通过 GA 的来提供这种全球加速和跨境加速的能力，从而来提高这个 agent 的执行效率。最后呢，总结一下，阿里云的全栈的 AI 基础设施啊，我们支撑了千问大模型的训练以及百炼的推理服务，我们也支撑了阿里巴巴各类业务它的 All in AI 的战略的落地。在这个过程里面，阿里云的这些产品和技术得到了一个宝贵的全链。同时呢，我们。也拓展了很多外部客户的业务，叫国内至少有一半的大模型公司都跑在阿里云上面。
吴结生 01:03:30
企业全栈的 AI 云服务市场方面呢，我们的市场份额也是40.1%，这样一个领先的市场份额。非常感谢我们的客户对我们的信任啊，客户的这些需求，其实驱动了我们 AI native 基础设施的一个创新和发展。我的分享就到此结束，非常感谢大家。
平头哥半导体副总裁高慧：“AI爆发不靠单一芯片”，阿里构建全栈算力体系
主持人 01:03:54
感谢吴结生先生。芯片是智能体时代一切算力的起点。接下来有请平头哥半导体副总裁高慧为我们解读 Tiny Heatsell 从全栈算力到开源生态。
高慧 01:04:21
各位来宾大家上午好，很高兴今天能够有机会在这里和大家分享一下平头哥最近的一些进展。刚刚吴结生老师为我们带来了 AI Native 的一些云基础设施最近的进展。我想带大家呢，从一个更微观的视角，我们一起去 zoom in 一下，看看我们的芯片层面在面临哪些挑战？平头哥最近在做哪些事情？其实今年以来呢，智能体快速的应用也在重塑整个数据中心的工作负载。那和传统的大模型训练推理相比，其实这些都给数据中心的基础设施带来了很多的挑战。
高慧 01:04:58
刚刚我们也刚看到了吴杰生老师为我们带来了云在各种方面为 agent 所做的一些技术的工作。那其实在智能体之间的高频协同和。工具调用对长尾时延提出了非常高的要求。同时呢，高并发的智能体应用、超长上下文的多轮推理，这些都让系统的效率面临非常大的压力。
高慧 01:05:22
系统层面的瓶颈在被急剧的放大，这些都在挑战算力的利用率TCO。如果存储和网络跟不上， AI 芯片的计算效率就会下降，整体的 MFU 会会被大幅的拉低。尤其是频繁的上下文切换，异构组件之间缺乏协同，这样呢，就会带来可能大量无用的能耗。这些问题呢，其实是靠升级一颗芯片、两颗芯片是解决不了的，这些需要在系统级。去做一个整体的解决方案。我们芯片层面所给出的回答，平头哥所给出的回答，就是我们在算存网全栈去做升级，去做系统级的极致协同。我们以 AI 芯片为核心，构建了数据中心完整的解决方案。
高慧 01:06:09
首先真武芯片自推出以来，其实一直在业界呢备受好评，也是极具产品竞争力，应用非常广泛的 AI 芯片。同时呢，我们在这一代搭配我们的超节点，推出了我们 ScaleUP 的交换机芯片，也就是基于平头哥自有的 ICN 互联协议的 Switch 芯片。有了这个芯片，我们在节点内就可以实现任意两张卡之间的无差异访问，构建一个全带宽的互联网络，这样就可以打破过去传统跨节点通信的一个高延迟瓶颈。同时我们在 Scale Out 网络上，平头哥也推出了我们的盘麦高性能网卡，这是一款呢，为 AI 集群打造的 400G 的高性能网卡，它可以用于跨节点之间的以太网的通信。
高慧 01:06:58
过去其实很长一段时间，我们在讨论 AI 基础设施的时候，我们把我们的焦点都放在了GPU，放在了网卡上。当 Authentic Infra 再重新把焦点拉回到 CPU 当中，我们看到 CPU 不再是 GPU 的一个辅助处理器，它是一个任务编排器，它负责工具的调度、多工具的并行、长上下文的管理等等。
高慧 01:07:23
平头哥的服务器 CPU 倚天系列产品呢，可以和我们的 AI 芯片，可以和我们的网络芯片形成高效的协同。同时呢，在存储领域，我们交付了震岳系列的存储控制器芯片，这个可以用来解决我们现在的海量上下文的数据以及长期记忆。全系的自研芯片的话，为我们整个系统创新打造了一个技术底座。我们的盘久超节点服务器，它是我们全栈能力的一个物理载体。做个小小的广告，我们基于真武芯片的盘久服务器的话呢，也刚刚荣获了本届的世界人工智能大会的镇馆之宝，欢迎大家呢去展区去看一看我们的硬件。那实际上呢，这个硬件当中不只有。我们的GPU，有我们的Switch，它也集成了我们的网卡芯片、我们的存储芯片。
高慧 01:08:20
磐久这个服务器的设计的，实际上还是做的非常非常不错的。它以非常灵活的模块化和解耦的系统结构，带来了很多的系统设计的便利。比如说它可以灵活的支持这里面主力芯片的独立演进。如果我们的 GPU 往下去演进一代，在系统不做大的修改的情况下面，它可以去独立的去替换 GPU 芯片。同时呢， CPU 与 GPU 芯片呢，数量也可以做灵活的配比。
高慧 01:08:48
第二点呢，就是我们的 GPU 芯片和我们的 Switch 芯片采用了一个正交互联的架构，这种架构的好处的话呢，是它可以降低高速链路的损耗，同时呢，也减少了 cable 布线，这样整体提高了系统的可靠性和可运维性。这些都是我们在硬件系统层面所做出的一些设计和考量。
高慧 01:09:09
那基于平头哥全栈芯片所搭建十万卡级别的集群架构，结合阿里云完整的AI框架、平台、模型和应用，可以为大模型的训练、推理、 agent 的应用提供高效的算力支撑。我们全栈的芯片实际上已经切实的服务了千行百业的客户，成为了国内应用场景最广泛的 AI 芯片。真武芯片呢，自推出以来到今年的 4 月份，实际上已经出货了 56 万片，服务了 20 多个客行业， 400 多家客户。我想这个部署规模已经充分验证了我们 AI 芯片的稳定性、易用性、业务泛化扩展的能力。我们成为了国内当今应用场景最广泛的AI 芯片。在这个出货量背后，我们积累了不仅是实践经验，我们跟客户也共同打磨了我们的软件栈。我们的软件栈的名字叫 Theadscale 软件栈，我们呢，今天也正式宣布我们的 Theadscale 软件栈开源开放。我们做这个决定，其实很重要的一点是，我们相信我们的硬硬件做的再好，如果没有繁荣的软件生态，没有活跃的开发者社区，没有丰富的模型和工具支撑，算力是没有办法发挥真正的价值的。所以我们选择，我们把和阿里云以及千行百业的客户，在真实的环境中经过了深度的打磨，扛过了大规模的流量，复杂业务场景验证以及 SLA 种种考验的 SEAL 软件栈，开放给整个开发者社区。
高慧 01:10:52
我们开放的其实不是一个简单的代码，是一套从底层驱动计算库、通讯库到推理引擎的完整的软件体系。我们希望以完整的软件栈，让开发者能够零门槛的用上我们的算力，也让更多的合作伙伴。能够基于我们的平台做二次的创新。好，我们接下来看一下我们软件栈的全貌。从底层到上层，实际上我们提供了一个完整的软件工具链，可以给开发者提供一个全能、可靠、开箱即用的开发体验。首先是底层驱动与运行时，它提供了统一的设备与内存管理。是编程语言层，我们可以无缝的支持C、 C++、Python，开发者无需学习新的语言或者编程范式，现有的这些代码。就可以做平滑的迁移。编译器层呢，可以构建起完整的开发与调试的闭环。高性能库层是我们积累的最后的一层，我们有六大的核心数据库支撑大模型的训推，同时呢有编解码库来满足多模态的高吞吐需求，同时有集合通讯库破解分布式训练以及推理的瓶颈。 SoC 软件栈同时呢可以助力开发者实现全链路的掌控，这里面从算子级的精细分析到系统级的全栈总览。从单卡的实时监控，到大模型集群的智能调度， Seal的软件栈全方位的赋能开发运维。好，讲完了我们整个软件栈的技术架构，我想讲一讲我们软件栈背后的一些设计的逻辑和初衷。其实我们从第一行代码的创建开始， Seal 就秉持着以开发者体验为中心的核心理念。我们从一开始就在问，开发者在过去积累的经验和代码能不能在 Seal 上无缝的复用？开发者在 Seal 软件栈用的时候，他上手快不快？它跑的好不好？它调起来顺不顺？所以围绕着这些问题，我们让 Seal 做了三个不用。
高慧 01:13:05
第一个呢叫开发者不用改，所以开发者可以用现有的代码，以极少量的修改，就直接迁移复用。第二点呢，开发者不用等，我们其实所有的人都能感受到整个 AI 技术迭代的速度，每日新月异，主流开发者社区上线新版本后，我们会第一时间适配，开发者无需做额外的适配和等待。我们在短时间内就可以用上行业前沿最新的算子特性以及优化手段。第三点的话呢，是开发者不用绑， SEAL 软件栈广泛的兼容适配，开发者可以灵活的选用工具链，不需要绑定特定的技术路线。那我们举几个例子，让大家有一些更直观的感知。现在呢，在 GitHub 上，就是 Star 大于 10 的主流的 AI 仓库有 3277 个，我们对其中的 3248 个已经完成了适配，也就是说开发者下载代码，基本上直接编译就能在 SEAL 上跑通，这就是我们不用改的底气。第二点呢，在VLM、 SG- Lang 这些主流的 AI 推理框架上，从上游发布新版本到 Seal 完成全量的适配，我们的平均周期不超过一周，这个是我们对开发者不用等的一个承诺。第三点呢， Seal 已经完成了覆盖PyTorch、TensorFlow、VLM、 SG- Lang， 260 多个主流训练推理框架的支撑。开发者用什么框架，我们就支持什么框架，选择权始终我们留给开发者，这个是我们对不用绑的承诺。所以概括一下，我们 Seal 的软件栈实现了全量的兼容。达到了快速的演进，可以为我们的用户和开发者实现生产级的无缝迁移。
高慧 01:14:55
目前呢，我们的开发者官网已经上线，汇聚了全量的开发者文档、软件制品，也同时在在这个官网上提供了高性能的互联工具、性能分析工具、超级点配置与管理工具，这些全套开发者工具。无论是模型的训练、推理、性能调优，还是大规模集群的运维，我们在这里都可以找到一站式的解决方案。希望未来我们的官网可以成为大家可靠的合作伙伴，让开发更加高效，让我们的真武算力更加易用。
高慧 01:15:30
后续呢，我们将持续投入开源社区的建设，很快我们的 AI 框架，开源定制的加速库将上线GitHub，同时也将提供 Docker pip 源的下载。接下来会陆续开放，包括通信库、计算加速库、推理引擎软件。未来我们会上线开发者论坛板块，搭建起平头哥与社区、开发者与开发者常态化交流的平台，大家敬请期待。
高慧 01:16:01
我们今天呢，其实从全栈算力聊到了软件的开源开放，我们共享共建我们的 AI 软件生态。我们这么做是因为我们始终相信，AI 时代的真正爆发，不是来自于某一颗、某两颗真正强的芯片，而会来自一套更开放、更协同、更高效的全栈算力体系。我们希望呢，给行业、给客户提供一套经过验证、开放共享的 AI 算力基础设设施。未来的趋势呢，一定是单个的硬件边界会被全栈的系统协同所打破，软件的壁垒也会被开源开放的生态逐步替代。
高慧 01:16:43
在这里我想分享一个有趣的点，就是我们软件栈的名字为什么叫Seal？其实我们做了很多思考，我们最后选了 Seal 这个名字，它的全称是 Seed of AI Library，就是种子。我们把我们每一行代码都看作一个蕴含无限可能的种子，我们也期待未来这些种子可以长成参天大树，可以蔚然成林。那么我们希望大家可以一起加入我们，我们一起共行致远，谢谢大家！
阿里云数据库负责人杨辛军：云的第一用户正从“人”变为“智能体”，数据成为一个企业AI落地的财富所在
主持人 01:17:16
感谢高慧女士。当云的第一用户从人变成智能体，数据成为 agent 理解世界的燃料与记忆。接下来有请阿里云智能集团数据库负责人杨辛军，分享从服务人到服务agent，打造智能体时代的数据平台。
杨辛军 01:17:40
各位来宾，大家上午好！我是阿里云数据库的负责人杨辛军。很高兴今天有机会和大家分享一下阿里云数据平台在 Agentic Cloud 的时代的一些思考和探索。过去企业做AI，大部分精力是集中在大模型，但是随着 AI 的落地，大家越来越发现数据成为 AI 时代、 AI 落地、 Agentic 时代的一个切分点。所以我们在杰森晃在今年的 GTC 的一个 Keynotes 上面也说到， structure data 就是结构化的数据，是 ground truth。
杨辛军 01:18:29
Unstructured data is context of the AI study.
杨辛军 01:18:34
所以在Pioneer，同时 Pioneer 的最近的 Alex Crabb 也说了一个，数据是 AI 时代的财富，而真正能够保证一个企业的成功，是它的 AI 的数据如何使用。所以，在 AI agentic 时代，数据是非常重要的。这个也是我们看到最近的一些趋势，这个数据随着 AI 的落地，它并没有减少，它在爆发性的增长，每个企业都把它的数据当做它的财富。
杨辛军 01:19:13
来进行复制，所以 在这个 AI 时代，数据是爆发性增长的。同时我们也看到，包括内存，包括存储，都在最近几个月进行爆发性的增长，包括他们的存储量，包括这使用量。和他们的价格都在爆发性的增长，说明数据是越来越成为一个企业 AI 落地的财富所在。
杨辛军 01:19:43
所以同时 Agent 在这个 AI 落地的时代， Agent 成为这个 AI 落地的一个载体，所以我们也看到这个 AI 时代，这个 Agent 在企业的Agent，落地的规模和个人的 Agent 落地的规模都在爆发性的增长。我们的 Token 消耗也在爆发性的增长，在 Token 是变成一个commodity，变成一个通用的算力，但是同时我们需要一个 agent 来做 token 的落地的一个载体，所以越来越多的 agent 成为企业的一个落地 AI 落地的一个财富。所以我们看到当前 agent 在数据库这里也成为越来越重要的一个操作者。
杨辛军 01:20:35
行业数据当中， Databricks 说了 80% 的。它的数据库的实例是由 agentic 创造的，同时 97% 的分支是由 agent 创建的。同时我们阿里云尧池数据库也看到类似的一个趋势，我们的 PostgreSQL 数据库最近是有 80% 是由 agent 创建的。所以我们过去整整 5 年，整个 PostgreSQL 数据库差不多创造了4万个实例，最近我们在过去的几个月当中就看到 agent 创建了差不多 12 万个。这个数据库，所以这个 agent 的爆发对我们的数据库是有非常大的帮助的，所以 agent 自主创的环比也是在 300% 的增长。
杨辛军 01:21:32
所以我们在 AI 时代，在这 agentic cloud 时代， agent 需要什么样的数据库平台？所以这个方面我们有，也有很多的探索，其实我们发现在这 6 个方面， 6 大能力方面，我们需要做很大的提升，其中是资源的弹性， agentic 的时代， agent 创建数据库是非常快的。以前人 ADBA 创建数据库可能会用很长时间，但是现在由 agent 创建， agent试错的能力非常强，它会单个会创建非常多的数据库，所以有资源的弹性，包括它会创建，也会销毁，所以资源的弹性是非常重要的。
杨辛军 01:22:16
还有就是上下文记忆，对吧？这对这个整个 agent 是非常重要的。agent 如果 AI 没有记忆，它是要继续做非常多的重复的计算。所以包括像我们的人的大脑一样，这个 agent 的记忆是非常重要的，所以这些记忆也会存储在数据库里边。还有就是分支试错， agent 会做更多的尝试，它会在单秒之内创建非常多的尝试的 branch sandbox，每个 sandbox 下面都可能有一个数据库。
杨辛军 01:22:53
第四个是我们所谓的多模的探索，多模的搜索，这个多模就数据库不光是说结构化数据，还有非常多的。非结构化数据，所以这个需要他们联合进行搜索，实时的更新。第五个是 agentic 的的成本，成本是非常重要的，因为 agent 它是没有意识的，没有成本的意识的，所以我们要进行成本的观测，进行成本的控制。
杨辛军 01:23:22
第六个当然是权限，我们刚才也说到了，很多 sandbox 会被攻击，所以我们要进行 agent 的安全的控制。所以这个是我们的秒级弹性的一个方向的数据库的一个压力，所以我们也可以看到，刚才说了，可能在 10 秒钟之内，可能创建无数个，就 10 万个agent，这个 agent 的，我们希望是说能够即用即走，所以我们也是看到，在这个场景下，如果要控制成本的话，每个 agent 如果单独一个数据库，它会成本非常高，所以我们现在的考虑是说要多层存储，整个多个 agent 是共享一个存储的，过去我们数据库也是一直在往。高性能的存储发展。但是 agent 的时代，我们发现这个趋势给逆转了，更多的数据库的存储需要放在低成本的硬盘上面，所以我们也会在考虑，大部分的 agent 的数据都放在低成本的 OSS 上面。在这个共同的租户上面，搭建 agent 的所需要的数据库。
杨辛军 01:24:41
所以一个比较合适的一个例子，我们之前可能一个人迁移到一个地方，他他要需要一个自己住一个房间，对吧？住一个旅馆。但是如果突然之间来了 10 万个客人，或者来 100 万个客人，那每个人要租一个旅馆，其实我们也租不到，有可能这次开会的话，我们最近也旅馆这里附近也很难租到。
杨辛军 01:25:07
但是我们在这种情况下，如果有百万人进到一个城市的话，我有可能我们就在一个巨大无比的一个体育馆给大家分发一帐篷，所以这个帐篷呢，又能做到隔离，又能做到，但是即用即毁，使用了以后，就可以扔掉。所以这个是我们的一个想法，但是他在给体育馆里是有个。基本的一个这个底座在里边，所以一个统一的底座，所以这个是我们考虑到的一个所谓的统一底座，多层存储，全面降低这个 agent 的使用成本。后边就是说我们的记忆是非常重要的，我们的人的大脑全是靠着记忆来进行做很多的思考，对吧？所以记忆我们需要是一份数据，我们以前是有不同的数据库来支持不同的数据，有结构化的数据，有 TP 数据库，有非结构化数据，有那些 AP 数据库，但是在这个 agentic 时代，因为需要。这些数据同时进行联合的搜索，所以我们是一份存储，一份数据，进行多模的检索。
杨辛军 01:26:22
可观测性是我们是更重要的一个事情，就是所有 agent 做的事情，我们都需要能够可观测。所以这方面我们也做了非常多的工作，包括我们现在做，在 agent 每做一个操作，我们都可以进行把它打标，都可以进行把它给全量的进行。快照记录，每一个对文件的修改，我们都可以做快照，所以这个对整个快照的压力非常大。之前我们做比如说游戏数据库，这游戏，有可能我们会做一个月一个快照，后来进化到一天多个快照。但是在 agentic 时代，我们要做到 10 万次每秒的一个快照的记录，对于它每一个操作，我们都可以记录下来。这个对数据库是，包括文件系统都是非常大的压力。但是我们也通过我们的改造，做到了 10 万次每秒的快照的能力。所以对 agent 的每个改动，我们都可以进行快照记录，可以回溯，可以滚回，这个都是我们的非常重要的一个能力。
杨辛军 01:27:35
后边第四个是说我们的安全的能力，对安全的四道防线。这个 agent 的时代，大家对 agent 对它的操作。是非常不放心的，所以我们对中各个方面都要对这个数据进行安全的防护，不光是说 agent 是不是给他一个访问的一个密码，还是说我们对所有的数据要进行加密，这个是我们包括所有的数据的扫描，所以我们在这个数据的层面，数据平台的层面，我们做了大量的工作来保证这个数据的安全。因为同时我们刚才说了成本是我们最重要的一个点。但是因为成本的原因，我们可能进行多租，多租了以后，一个问题就是说有没有可能，因为一个租户被突破以后，他会访问到其他的租户的信息。所以这方面我们在多租的能力下边，也要做到更好的租户的隔离。
杨辛军 01:28:36
同时安全这里我们也要有人tracking，对吧？就说每个 agent 他都有可能做一些不同的工作，所以我们对这个上万百万级别的 agent 都能标识到他所做的所有的事情。所以这个对我们的数据库，他对访问的他的数据的所有的这个工作都要进行。标识。这个也是一个非常挑战的一个功能力，所以我们数据库数据平台也做到了这个能力，对于每个 agent 都，它所有访问的数据，所有的操作都进行了标识。
杨辛军 01:29:13
后边我讲几个例子，我们的客户如何使用我们的数据平台。第一个例子是我们的Minimax， Minimax 它有一个它的Toki，它的 Toki 是它情感陪伴类的一个APP。包括情感陪伴类的一个agent，所以他所有的数据，包括他访问的，跟用户交互的所有的数据，都存在我们的数据平台里边。他每次的情感的交互是需要来通过过去的一些经历来进行思考的，所以这个是我们的一个长记忆的一个案例，他所有的每个用户的交互都会在我们的数据库里边，包括他。 Structured data 包括他比如说个人的一些信息，个人的银行账号，也包括一些他的一些图片、视频。所以这个是我们的很好的一个案例，就是说他能够在跟客户交互的时候，能进行通过这些快速的多个数据的联合的查询，来给出更好的一个答案。所以整体上，他的这个读写性能，通过我们的数据平台，在这个千亿级的对话表上，能够做到读写性能的 3 倍的提升。同时我们进行毫秒级的实时的检索、记忆的检索。不光是图数据库，还是说我们的向量数据库，都能进行毫秒级的检索。计算的资源成本我们也下降了50%，我们能做到秒级的扩容，秒级的无感扩容，同时我们的存储成本也下降了75%。
杨辛军 01:31:04
第二个案例是我们的理想汽车，理想的智能座舱，它的屏幕的交互系统是构建在我们的阿里云的数据平台上面的。所以他可以通过用户来进行 vibe coding，他的实时的一些 coding 来改变屏幕上的显示的内容。后边他每一个产生的一个数据后边都是有一个我们阿里云的一个数据库在后边，这个也是存储了所有数据用户数据的这些习惯能力，所以这个是他的通过这习惯能力来衍生出他需要的东西，所以这个我们整体上是也是一个推理加速，能够提升到我们的30%。因为我，他在每次在跟这个屏幕进行交互的时候，我们都有一个 INDV 的一个推理引擎，来帮客户不光是从记忆能力上，也从记忆能力上来把它推断出他需要的一些信息，同时通过这个信息再进行 vibe coding 来产生所需要的界面。整个这个数据库的一体化的能力，把这个 vibe coding 的能力提升了 10 倍。
杨辛军 01:32:19
第三个案例是我们的一个头部的模型公司，也基于我们数据库的 agentic lakebase，构建了它的 agent 的底座。这个也是我们刚才说的，我们能够进行快速的进行弹性扩容和弹性收缩。所以一般 agentic 的他们的头部的模型公司在他的网页上产生的agent，一般是能够同时在支持 20 万个 agent 使用，但是有更多的 agent 它是在休眠的状态。所以我们是能够把它所有的数据，这些休眠的 agent 进行。打包进行，把它放到存储上，在使用的时候把它可以取出来，进行快速的激活，从休眠状态回复到，激活的状态。所以这个我们这个弹性能力提供了，承载了它的流量，能够提高 10 倍。同时我们能够做到它的金融级别，刚才说的数据的安全，金融级别的隔离。所以我们能够把它的所有的用户的数据进行加密，同时进行租户的隔离。同时进行他的同时tracking，每一个 agent 我们都知道他做了些什么。所以整体上。成本降低了70%。好的，我今天的分享就到此为止，谢谢大家。
Andr Pro产品负责人龙东恒：从“生成代码”到“交付价值”，“人可以不懂 Infra，但 Agent 必须更懂”
主持人 01:33:56
感谢杨辛军先生。从应用的生成到价值的交付，智能体正在缩短从创意到产品的整条链路。接下来有请 Andr Pro 产品负责人龙东恒带来分享——Agentic Infra：加速从应用生成到价值交付。
龙东恒 01:34:23
大家好，我叫 Chris，来自 Convergence 团队。今天很高兴能够作为 ADV 的客户代表，来跟大家分享一下 Web Coding 上我的一些判断。
过去一年，AI 已经将应用生成从几个月缩短到了几周、几天，甚至几个小时。但我们知道，真实的业务系统不会因为代码交付了就自动跑起来——我们还需要数据、部署、权限、安全以及可持续的运营。所以今天我想分享的一个核心判断是：vibe coding 的下一个阶段，不只是把应用生成得更快，而是要交付得更加完整。
Enter 正在构建 Agentic Infra，阿里云 ADB 是其中非常关键的组成部分。接下来我会结合 Enter 的业务情况，介绍我们为什么需要 Agentic Infra，以及 ADB 是如何帮助我们从应用生成走向价值交付的。
在介绍 Enter 之前，我先简单介绍一下它背后的主品牌 Converge AI。它是一个很低调但颇具实力的品牌。主办方希望我用一些数字让大家有直观感受，我想了一下——我原本可以讲我们有近百万的用户规模、数十万的构建项目，以及数万核的算力。
龙东恒 01:35:47
但最后我选择了"一"。为什么？因为"一"与我们品牌的契合度最高。Converge，英文含义是"收敛"。我们不是要再做一个孤立的 AI 工具，而是希望用一个平台承载不同领域的智能，让个体的智能最终能够汇聚成组织可以持续使用的能力。一即无限，一即无穷，同时这个"一"也代表着我们想做更大数字的一点野心。
龙东恒 01:36:16
这张图展示了我们现在的产品布局。左侧是创意与营销：Freemian 是我们一体化的创意与营销工作室，Concant 是我们数据驱动的 AI CMO。右侧是软件与游戏：Enter 负责软件的创造与交付，Combos 负责把游戏创意变成可以实际游玩的世界。这些产品看似服务于不同的场景，但本质上我们只关注同一件事——AI 不只是生成单一的内容，而是要把真正有价值的结果交付给用户。
龙东恒 01:36:44
今天因为产品比较多，我们先重点聚焦在 Enter，看它是如何从代码生成的 Coding Agent 转向真正为用户交付价值的 Delivery Agent。
其实 Enter 正在进行一次能力边界的升级。Coding Agent 解决的是代码生成，但忽略了云服务基建以及长期经营所需要的知识，而这些才是业务能够快速冷启动、持续运营的关键。为此，Enter 在代码之上做了更强的延伸，为客户提供了相对完善的企业服务。
龙东恒 01:37:31
Agent 依然是所有交互的起点，但我们会同步配套更多的服务。比如 Infra，我们内部戏称"小阿里云"——所以阿里云如果有好的服务，欢迎拿出来一起用。除了 Infra 以外，我们还会有设计板块，以及面向特定行业可以直接使用的专家知识，比如做电商独立站。
最为关键的是 Solutions——那些已经被沉淀并应用在各个场景中的解决方案，用户是否可以直接拿来用？这一套组合策略决定了，Enter 要做的一定是端到端的价值交付，而不是某条链路中的某个单一环节。
龙东恒 01:38:12
为什么要有这种转变？其实也很简单，因为生成的速度已经足够快了，但交付依然是一个系统性的工程。
第一，我们常开玩笑说，Coding Agent 产品的用户其实不是 Coder。事实就是这样——大家不需要、也不应该被要求深入理解底层 Infra 的细节，在实际操作中我们也做不到让所有人都搞清楚这些。
第二，当资源变得唾手可得的时候，必然会出现爆发式创建的现象。但其中能够真正被交付、真正有价值的需求其实很少，这意味着大量资源被创建出来之后会被闲置，闲置就是浪费，浪费就会推高成本。
龙东恒 01:38:56
第三，先不说如何经营好一个网站，单就交付过程而言，将某些操作行为托付给 Agent，就必然带来异常与错误的风险。
所以，要解决交付的问题，就必须先解决底层服务的易用性与可控性问题。这意味着我们需要把云资源的使用方从"人"转变为"Agent"——人可以不懂 Infra，但 Agent 必须更懂 Infra。同时，Infra 对 Agent 必须是可理解、可调用、可治理以及可审计的。
这一页正是 Enter 作为 Delivery Agent 真正成立的核心逻辑。用户说"帮我做一个点菜系统"，我们要做的不只是把网页做出来，而是把数据库搭起来、域名分配好、网站部署完——这是一套系统性的动作。
那么我们怎么做？第一，表达价值的部分，依然是用户在产品中可见的功能模块。第二，也是最重要的部分，我们的 Enter Agent 要承上启下，掌握最完整的上下文，既最懂业务，也最懂 Infra。第三，向下看，Agentic Infra 的精髓在于：Agent 不是去调用某个单点工具，而是将 Git、Sandbox、Runtime 等服务，以及这些服务下的 Checkpoint、Provision 等特性，统一组织成一条可恢复、可审计的动作序列，全程用户零干预或弱干预。
所以大家看到了吗？Coding Agent 更关注代码，而 Delivery Agent 更关注全局，这是两者最关键的区别。
龙东恒 01:40:41
在 Agentic Infra 里，作为底层的数据服务也必须随之一起演进，才能实现这个目标。为什么？因为用户需要的不是一个"我可以自己操作的数据库实例"，而是一套"能被 Agent 直接调用的数据服务"。用户用的不是数据库，用户用的是 Agent，Agent 再去使用数据库——我认为这一定是个趋势。
龙东恒 01:41:03
项目开始时，Agent 要做 Provision；试错时要拉出一个新的分支；闲置时要进入休眠。所有这一系列动作，都依赖于将背后 Serverless、Sandbox 以及统一存储的复杂能力，封装成稳定的接口服务，开放给 Enter 使用。如此一来，就能实现云资源使用方从"人"转变为"Agent"。
龙东恒 01:41:26
这里不得不说，ADB 向 Agentic 演进的思路，与 Enter 构建 Agentic Infra 的方向高度一致——有一种修行路上终于遇到道友的感觉。
这套体系能给我们带来哪些价值？
第一个价值是安全。 最关键的机制是 Checkpoint。这个 Checkpoint 不是一个简单的 Commit，也不只是一个数据快照，而是某一完整时刻下业务的全量切面——代码层面指向提交文件与依赖，数据层面指向 Schema、Data 和恢复点，逻辑层面有 Function、配置、Runtime 与 Storage。用户在 Enter 里每完成一次需求交付，都可以选择生成一个当前控制面与数据面的切面节点，并在后续任意时间点恢复到该切面。这有点像打游戏的 SL 大法——Save and Load，存档与加载。
龙东恒 01:42:32
当错误修正的成本无限降低时，我们是不是就可以更大力度地鼓励创新，更快地交付、更多地试错，从而更接近成功？
第二个价值是效率。 在我们这类对话式产品里，用户等待的从来不是"一个数据库被创建"，而是"业务系统被交付"。这套能力能让我们创建一个实例不到一秒，唤醒或新开一个沙箱也只需约一秒。这些数字单看可能没什么感觉，但在真实的用户行为数据上我们发现，用户从提出需求到拿到结果，整个过程是没有断点的。作为交付 Agent，我们既要有量，也要有速度——而很多时候，速度才是新用户转化的第一个体验。
第三个价值是成本。 云资源的发展趋势必然是用多少付多少，就像模型按 Token 用量计费一样，灵活是大方向。在 Enter 里，我们一方面要保障用户体验，另一方面要控制成本，因此我们有一套动态策略：免费用户可以先使用多租共享池，进行业务早期的试用；完成探索之后，再无缝迁移到拥有更多规格、更多 Region、具备 SLA 保障的独占资源中。
龙东恒 01:43:52
这一切都得益于 ADB 提供的存储底座、迁移编排以及 Auto Scale 能力，让整体资源成本随业务活跃度动态变化，对我们和用户都有很大的价值。
在这套体系下，我们取得了一些成绩：目前 Enter 已经服务了数十万用户，为他们构建了上百万个 Agent，还有数万核的算力在为他们效命。关键是——成本降低了不少。
龙东恒 01:44:34
通过这些数字，我想说的是，Agentic Infra 不只是一个停留在技术层面的概念，而是一套已经在真实业务中被验证的交付底座。
回到今天的主题，Enter 始终认为代码只是起点。作为 Web Coding 平台，我们真正要交付的是一个能运行、能经营、能持续成长的业务。而做到这一点，Enter 背后需要更快、更安全、更可规模化的数据基础设施。
接下来，我们也希望能与 ADB 在以下几个方向展开更多合作：第一，在 Workflows 与多 Agent 协同上持续合作，提升业务竞争力；第二，完善单租、多租以及无缝迁移这一整套弹性数据底座；第三，探索能否将我们在规模、安全、成本以及 SLA 上积累的经验，沉淀为可复用的最佳实践，在行业中推广。
龙东恒 01:45:32
我们最终希望实现的是：Enter 的用户在这里提出一个目标，我们就把它完整地交付给他。
谢谢大家，我是 Converge 的 Chris，欢迎大家来体验 Enter——非常有意思，值得一试，谢谢！
阿里云智能集团云安全产品负责人祝建跃：机器身份数量已超越人类，近40%AI Agent项目或因安全风险失败
主持人 01:45:52
感谢龙东恒先生。智能体越自主，安全的边界就越重要。接下来有请阿里云智能集团云安全产品负责人祝建跃带来演讲，以 agentic 原生安全构建可信的智能体。
祝建跃 01:46:20
大家上午好，很高兴能在这里给大家分享一下阿里云安全关于 Agent 安全的一些思考和实践。刚刚前面的嘉宾们都介绍了，今天我们的 Agent 其实融入了生活的方方面面。但是当 Agent 快速发展的时候，我们怎么样能够去构建一个可信赖的智能体，让它真正的能帮助业务实现快速的增长以及效率的提升？那首先我们来看一个数字，就今天我们 Agent 快速发展。它今天和我们的真正实现高效的增长之间，它有一个什么样的鸿沟？大家可以看到，今天我们 agent 的机器身份的数量，它已经远超过了人类。
祝建跃 01:47:09
这个数字代表着今天我们和 agent 其实是处在了一个共生的环境，而不是说只是一个辅助品。我们的根据报告也可以看到，其实有 57% 的企业也部署了agent，但是这里面有一个数字， Gartner 来讲，将近 40% 的项目会因为安全风险。管控的问题，导致项目的失败。为什么会的会有这么一个 gap 呢？业务的快速的发展以及我们的安全风险，为什么会项目会导致项目失败？这里面从两方面，我们一起来看一下。第一方面，当 AI 快速发展的同时，它同样在帮助黑客能够以更加高效的方式去找到你业务当中的漏洞。根据 Crossjack 的报告，这里面可以看到。将近就是百，他已经赋能了90%，平均 29 分钟就能导致你的业务系统能够被攻破。第二个呢，大家可以看到，根据统计的漏洞啊， CVE 的漏洞， 2026 年已经有 20 家的 agent 的产生了 20 家的 agent 漏洞，其中有 9 个以上都是一个高危漏洞。什么样叫做高危的漏洞？今天我们可以正在这里就可以把 agent 所运行的环境直接攻破。
祝建跃 01:48:35
最近有一个 langflow 的漏洞啊，它是九点几分的。大家都知道你可以通过 langflow 去搭建你的 agent 的整个的框架。当你它所报的漏洞是它有一个 web UI 里面有一个 RCE 的漏洞。这个漏洞发生，它当时是 20 小时，当它安全漏洞公告发出来的时候， 20 小时在线上就已经产生了真实的攻击成功的样例， 25 小时数据就被窃取了。
祝建跃 01:49:06
大家可以看到，从大家的 agent 的发展到安全的风险，我们的监管机构，它也给了我们非常多的指导啊。比如说我们的网信办，它发了 agent 的指导的框架，以及我们在 OpenCloud 出来的时候，其实会有六要和六不要。这里面可以看到，像欧盟啊，它有 AI 的法案，当你产生了 agent 的风险，最高可能会面临 7% 的营收的处罚。可以说， Agent 今天对于大家来讲，它规模化部署的前提，安全是非常非常必要的，不然它只能是会变成你业务的阻塞器。
祝建跃 01:49:49
围绕这一个风险，我们站在整个今天的 Cloud 阿里云的视角，我们是怎么样来思考，如何来解决这些风险？我们提出了三层统一一体化防护的理念。我们可以看到最底层的云的基础设施层，前面其实各位嘉宾都讲到，我们怎么样把安全融进基础设施，能够更加好的去保障它计算环境的安全。我们的模型的推理服务层，我们怎么样能够更好的保证模型到模型之间的输入输出？它是安全的。
祝建跃 01:50:25
再到现在非常火的，我们去构建 agent 的应用层。 agent 应用层，你去调用工具，你所使用的数据，你的行为，我们怎么样更好的去做到全链路的可观测，以及它安全风险的洞察。只有这三层统一，变成缺一不可。我们来看看，这是我们所讲的理念，它绝对不是停留在 PPT 上的一个理念。我们今天在阿里云上已经真实把它进行了一个落地。我们讲安全理念，其实非常非常核心的一个经典的个框架，其实是叫做，当你安全事件发生前，你事件正在被攻击时，以及你。被攻击后，我们叫事前事中的一个体系。事前你要最核心的，你能够看得清，你是不是能够看到你所有的资产？当你事中的时候，你能不能够实时的发现，去阻断这个风险？当你在事后，你真正发生安全事件之后，你能不能够做到全链路去回溯，去把整个的攻击链路去把它还原出来，找到真正的风险点到底是在哪里？这一套事前事中的体系，我在接下来我们是如何把它落在阿里云安全的产品的体系当中？我介绍一下我们 1 + 2， 1 是什么？是指的是我们 Agent 安全中心产品，我们的一个平台型的产品， Agent 安全中心。在在事前的时候，我们是围绕我们的基础设施、我们的模型、我们的应用，我们进行了全资产的识别。在我们的中间层，除了识别之后，我们会去发现这里面它哪些使用的中间件，它使用的组件有对应的这个风险，我们已经上线了。
祝建跃 01:52:12
150 家的针对于这样漏洞的检测，它是在我们在之前能够去真正的把资产盘点清楚，把风险检测清楚。同时我们也提供了 AI red team 的能力，能够给 agent 持续的去做渗透测试，帮助我们能够更快的去发现你到底有哪些安全风险。这个是 agent 安全中心的事前，在事中围绕 agent 全链路，从用户的输入到上下文，再到它整个的推理意图去执行工具，再到。推理之后，它的输出，我们构建了整个运行时的安全。那核心来讲，今天运行时的安全，一是在你输入的时候，现在有提示词的直接注入，也有提示词的间接的注入。
祝建跃 01:53:00
那前面我讲的在高危漏洞当中，有一个非常高危的漏洞，其实是 LangChain 的漏洞。那它的漏洞是什么呢？用户输入的时候，他输的是一个有带着恶意信息的一个prompt。那当他输给这个 LangChain 执行，他去调用模型的时候，那欺骗了模型，模型返回了一个带着恶意指令的信息。
祝建跃 01:53:24
langchain 执行，它直接直接吐给了攻击者。攻击者拿到这个密钥之后，他可以径直地入侵到他底层的英法层。所以我们从模型，用户接 agent 接收到了输入，到他整个意图的推理去执行哪些工具，再到他输出，我们去了全链路的运行时的检测和做过滤。
祝建跃 01:53:50
当然这一个大家可以看到这里面分了五步，以为用起来其实非常复杂，往往不是，我们已经把这个产品融入了我们的百炼，融入了我们的。 AI 的安全网关，能够让用户更加简单易用的去开启我们这个产品。它全链路的延时，我们也是控制在了 100 毫秒、 120 毫秒以内。
祝建跃01:54:11
有了这个之后，我们其实再来看一下事后。这个其实在我们前面的嘉宾里面也讲到，和云原生的 agentloop 去做整体的一个日志的打通。我们会基于 agentloop 去做全链路的攻击行为的溯源，以及事后的风险的还原，做进一步的深度的检测。这个产品我们除了。
祝建跃 01:54:34
有 agentloop 的日志源之外，我们也提供了一个插件， rust 的插件，你可以直接集成到我们的 agent 里面，做到实时的日志的采集和风险的洞察。这一个是我们前面，当前讲的，从事前、事中、事后，整一个的围绕 agent 来构建的 agent 安全平台。
祝建跃 01:54:58
讲的两个奥，为什么会要讲两个奥？今天面向 agent 的风险，它其实越发的严重，我们必须把安全做在事前。第一个 2 当中的第一个是我们的身份，身份你必须得在事前进行规划，才能够在你真正 agent 上线之后，能够做到每一个 agent 你有对应的身份，你能够针对于 agent 像人一样去做身份权限的管控。核心的来讲，我们所构建的 agent 的 id guard，它会给每个 agent 颁发身份，你可以知道，今天你的应用到底是哪一个人，哪个 agent 今天对你的应用进行了访问和操作。
祝建跃 01:55:43
这里面有一个非常的，当它上线之后，我们的它的凭据，往往刚刚前面讲的例子，它的凭据被盗走了，我们 agent 的 ID Guard，它提供的是一个临时的凭据，进行动态的轮询，它能够做到一段时间就换更新一个凭据，这个是实现了让每个 agent 能够实名上岗，最小权限，能够权责清晰。
祝建跃 01:56:08
第二个我们讲的左移的风险，是围绕大家刚刚前面讲的agent，它能够自己去写自己的代码。你可以想想你能够放心一个 agent 写代码的时候，直接 commit 到你的线上的生产系统。围绕这样的场景，今天我们怎么样去解决呢？我们提供了一个 agentic 的代码安全，它其实是两方面，一，它的整个的代码安全，我们和我们的 Git 和我们的 CICD 的流程进行了打通。第二，我们也是通过 AI 来提升我们整个代码安全的能力，我们相比传统来讲，它的准召率有非常明显的提升。它的修复的时间也可以让你从漏洞到线上能够变成是在代码发布的时刻，尽量多的去发生。昨天呢，其实我们的 Coder 团队啊。也进行了一个联合的发布，我们的产品也可以在 Coder 的里面进行直接的开箱即用，做到了一个真正的一个Native，而不需要说今天你还要额外的去做一个集成。那这里就是我们前面讲的 1 + 2， 1 一个平台， 2 它是两个左移，那这是一个整套的体系，它缺一不可。
祝建跃 01:57:26
那回到我们今天。 agent 的我们自身的产品，怎么样能够让用户更简单、更易用的来用我们的产品？我们原来有 10 多个安全产品，今天我们这 10 多个安全产品都在阿里云的 SKILLS 的官网上面上线了我们的SKILLS。这个 SKILLS 你可以通过自己的agent，也可以通过三方的 agent 来进行提供。我们上线之后，现在已经有 300 家的用户，每天的调用量有 50 多万次。我们也提供了，为中小的用户啊，提供了一个整个的安全运维的 agent 平台，你可以直接在这个平台上面去。去做你的漏洞的分析，去做报告的生成，以及去做持续的安全风险的监测和自动化的响应。
祝建跃 01:58:14
那有了你可以用 agent 去管之后，那今天我们大家可以看到，我们不管是 agent 去管，还是说我们帮助 agent 去提前去做安全的防护，那我们今天它到底是不是一个 PPT 上的呢？那绝对不是，那经过我们的持续阿里云十多年安全的沉淀积累啊，我们也获得了非常多的业界的认可。
祝建跃 01:58:40
首先在我们的英发层，这个是我们积累最深的，不管是我们在我们传统的原型中心WAFF，我们在市场的占有率其实是连续的第一。我们的里面的身份的安全也是整个 Gartner 的魔力象限当中亚太的唯一一家。我们新发展的模型层和我们的 agent 层，在我们的模型层里面，我们也获得了 IDC 里面的，不管是在。技术的数据的分析，内容的生成以及模型的分析，我们是在三个方面获得全面的第一。那在最上层的 agent 的应用啊，我们也获得了在市场和技术能力的第一。所以这一些经过我们前面十多年的积累，它绝对不是一个，就是停留在 PPT 上。今天我们所讲的这些能力，大家都可以在阿里云的官网上持续的可以去获得。
祝建跃 01:59:34
那有了我们的这些经验，我们也非常乐意的把它分享给大家。那我们今天正式的去发布我们的 AI agent 的安全的最佳的实践。大家可以在这个报告里面去获得，我们是怎么样去思考我们的三层防护体系的？我们是怎么样能够把它变成我们 AI native 化，融入到我们各个产品当中的？所以说到最后，我希望大家给我，再给我点时间，我来总结一下，我们今天核心想和大家分享的内容。
祝建跃 02:00:05
第一点是整个 agent 的安全，在当下它不再是一个可选项，它是今天大家业务发展当中的一个必选项，不然你的 agent 只会成为一个定时的炸弹。第二， agent 安全，它是需要从 infra 层、从模型层、从应用层三层防护体系，缺一不可。当你只做到了其中的一项或者是两项，那你也不是一个完整的体，那你的安全的风险敞敞口永远是敞开的。第三，你要去打造这么一个三层的体系，安全的外挂，它在落地上是有非常大的成本的，那我们需要把它以 AI native 原生的方式融入到。我们的infra模型应用当中去，能够让企业来使用安全的时候，它是以最小的成本，又能获得最高的收益。好，谢谢大家，我们一起努力构建可信赖的智能体。
阿里云智能CTO官李飞飞、PyTorch Foundation执行董事：AI SaaS将转向“按结果付费”，模型不再是唯一核心
主持人 02:01:13
感谢祝建跃先生。接下来我们进入精彩的对话环节，有请对话嘉宾阿里云智能集团首席技术官李飞飞。 PyTorch 基金会执行董事， Mark Collier，掌声欢迎。
李飞飞 02:02:21
哈喽，大家好！Mark，非常感谢你来参加我们的论坛。你在中国很有名，因为你领导着 PyTorch 基金会。我们很多人都从 PyTorch 项目中受益匪浅，无论是为 PyTorch 贡献想法，还是使用 PyTorch 的各种项目和模块。
事实上，我们刚才还和 Kai Chao 坐在一起，他是 vLLM 的联合创始人。vLLM 是当今推理领域的核心基础，很多人都知道它。
所以我的第一个问题是：你能简单介绍一下你自己，以及 PyTorch 基金会吗？请概述一下你们的使命是什么，你们关注什么，我们如何贡献力量，以及我们如何共同成长。谢谢。
Mark 02:03:21
非常感谢你们的邀请。自从 2010 年我参与创立 OpenStack 以来，我来中国已经有 16 年了。我从事开源工作大约 20 年了，现在专注于 PyTorch 生态和 PyTorch 基金会，基金会的工作也包括支持其他项目，比如 vLLM。很高兴见到 vLLM 的创始人，几天前我们刚在上海参加了一个非常受欢迎的 vLLM 聚会。
我们的使命是——如果你纵观人工智能的三大支柱：训练、推理和智能体，就会发现，作为一个非营利基金会，我们非常幸运地得到了像阿里巴巴这样的公司的支持，帮助我们构建了这样一个社区。这个社区编写的软件被超过 90% 的实验室和公司用于模型训练。PyTorch 作为开源软件已经存在很长时间，并已被充分证明是目前最好的模型训练软件。
Mark 02:04:24
在推理方面，我们支持 vLLM，它非常流行。当然，我们也会谈到 SGLang。现在有很多开源项目都支持 SGLang，这对解决这类问题至关重要。实际上，我认为有些问题根本无法用其他方式解决，因为这需要大规模的协调，需要让世界各地的人一起工作，任何一家公司都无法独自完成。这就是开源的魅力所在。
Mark 02:04:56
感谢您的概述。我非常认同您所说的，尤其是最后一句——没有哪家公司能够独自完成这项工作，我们需要共同努力、携手合作。我也非常赞同您提到的 AI 的三大支柱：训练、推理和智能体。当然，今天论坛的主题是智能体。但在深入探讨智能体之前，我想先听听您对训练和推理的看法。
Mark 02:05:27
先说说训练。PyTorch 是训练的核心，很多公司，包括我们阿里云，都利用 PyTorch 来构建训练能力。事实上，我们最近非常荣幸地宣布，阿里云成为了 PyTorch 基金会的白金会员。这主要源于我们与 PyTorch 社区的深度合作需求——我们自己的 AI 平台大量使用了 PyTorch 的模块和组件。
Mark 02:06:14
非常感谢 PyTorch 基金会，正是有了你们的支持，我们才能继续为社区做出贡献。我认为这意义非凡，我们非常高兴能得到阿里巴巴更多的支持。那么，您能快速总结一下您观察到的 PyTorch 社区的情况，以及最新的训练趋势是什么吗？
Mark 02:06:44
非常有趣的一点是，AI 加速器正在蓬勃发展。就在几分钟前，我们还听到了关于阿里巴巴最新创新成果的介绍。纵观硬件、数据中心、内存带宽瓶颈以及训练等各个方面，AI 的进步都带来了巨大的挑战。我认为，如果你想拥有一个 AI 加速器并真正用它来训练模型，获得 PyTorch 的良好支持至关重要。为此，我们基金会设立了一个多架构工作组，致力于支持开发更多不同的后端。我的背景是基础设施领域，从硬件到支撑这些硬件的软件，这始终是我的专长。
Mark 02:07:38
当你了解 AI 训练领域正在发生的事情，会发现情况大同小异：人们想要更多选择，也需要更多硬件支持。他们需要能够同时支持训练和推理的替代架构，而能够实现这一点的软件层对整个世界来说都具有非常重要的战略意义——它为人们提供了更多选择，让他们能够以更经济高效的方式进行训练。
Mark 02:08:05
从训练到推理再到智能体，各个阶段对基础设施的压力都大不相同，而拥有这些开放的软件层来支持社区发展就显得尤为重要。
李飞飞 02:08:32
两三年前，当这波 AI 革命浪潮刚刚兴起时，人们都在讨论如何构建统一的训练和推理基础设施。但正如您所说，这种情况越来越少了。人们现在开始意识到，训练和推理对基础设施的需求截然不同。
李飞飞 02:09:02
说到推理，我认为拥有选择权很重要。针对不同的模型架构，组织、公司、开发者可能会想使用不同的推理平台。对于某些模型，也许使用 SGLang 是最佳选择；而对于另一些模型，也许使用 vLLM 才是最佳选择。
李飞飞 02:09:22
刚才我们也聊到了这一点。vLLM 的创始人今天也在这里，他刚离开。我也与 SGLang 的另一位创始人盛寅（Sheng Yin）很熟。所以，我强烈建议推动 SGLang 与 PyTorch 基金会的合作，这对整个社区来说意义非凡。
Mark 02:09:50
PyTorch 基金会与 SGLang 之间确实有很好的合作基础，我也期待长期的合作。让我觉得非常有趣的一点是，我们现在面临的情况是硬件和软件架构同时发生根本性的变革，这非常独特。我们经历了不同的计算发展时代，但现在，我们正试图在全球范围内彻底改变软件架构——新的模型架构不断涌现，与此同时硬件也在发生变化。而实现这一点的唯一途径是通过开源软件进行大规模的协调，例如像 vLLM 这样的项目。
Mark 02:10:26
SGLang 会在新模型发布当天就提供支持。比如 Kimi 3 刚发布，Qwen 模型的下载量已经超过十亿次。为了让这些模型能够成功落地并被用户使用，它们需要这些框架的支持。vLLM 和 SGLang 会在模型发布的当天就发布支持，这是必要的，只有这样才能真正启用推理工作负载。
vLLM 的标准发布节奏是每两周一次，这让我觉得不可思议。OpenStack 最初是每六个月发布一次，也就是一年两次。而现在他们却说，在模型发布间隙，每两周就会发布一次官方版本。这种快速的变化节奏，以及模型架构和硬件方面的各种变化，都在试图同时整合并向前推进，正在造成一种复合加速。这非常复杂，我认为我们需要全世界团结起来，通过开源的方式来应对这一挑战。
李飞飞 02:11:34
是的，变化的速度和复合加速，我们也完全感受到了。现在，即使是同一家公司，每隔一两个月就会发布一款新模型，到处都是开源软件。如果你想抓住新模型的势头并推向市场，就真的需要加快采用速度。就像您提到的，vLLM 对 Kimi 3 的"零日"采用就是一个很好的例子。
我觉得那些开发人员都不睡觉——中国的开发者和美国的开发者正好相隔 12 小时，如果把他们放在一起，就可以实现全天候开发了。
李飞飞 02:12:27
现在我们来谈谈智能体。所有这些努力，包括训练和推理，最终都是为了实现业务工作流程，形成业务飞轮。说到底，总得有人买单。所以，我认为关键在于将智能体融入企业工作流程。那么，您对智能体有什么看法？特别是来自北美市场的最新观察和见解？
Mark 02:13:01
我认为已经发生了真正的转变。今年智能体发展迅猛，真正主导了 token 的生成。之前，你们的一位演讲者谈到了"token 生产力"，我觉得这个说法很好。因为并非所有 token 都一样。人们正在意识到的一个转变是：模型本身不再是唯一的核心。模型固然非常重要，它是智能体的大脑。
Mark 02:13:38
但现在你还需要考虑智能体框架，以及你的数据在哪里。我认为，在美国和世界各地，一个日益增长的趋势是：企业或许应该拥有多个模型，或者训练自己的专用模型，或者进行强化学习，将基于开放权重的模型定制成更小、更大、或更专业的版本，以满足特定业务的需求。这种趋势的兴起原因有很多，成本是其中之一，但更重要的是，使用一系列不同的模型有时确实可以获得更好的质量。
那么，你如何协调所有这些呢？这就是智能体框架的作用所在。在智能体领域，有时你可能拥有多个模型，但作为企业，你需要控制向不同模型暴露的内容，尤其是在混合使用开放模型和专有服务的情况下。我认为企业开始更加谨慎，不仅关注成本，还关注模型的用途。比如，他们业务中涉及专有技术或知识产权的部分，可能不希望上传到第三方 API，因此会制定更细致、更复杂的策略——使用多种模型，并采用类似"混合调度"的方法。
我认为关键点在于：你不仅需要调度智能体本身，还需要让智能体与所使用的模型解耦。也就是说，智能体需要做出"智能决策"，将特定任务分配给不同的模型——你不一定为每个 API 调用都使用最强的模型，而是为给定的任务选择最合适的模型。这正日益成为一个非常重要的趋势。
李飞飞 02:15:10
是的，正如您所观察到的。我们刚才在后台也聊到了这一点。我尝试过一些不同的开源系统，比如 OpenClaw。
Mark 02:15:56
它非常流行。最近我也开始使用 Hermes Agent，只是想尝试一下——创建一些个性化的上下文信息，这些信息可以存储在本地或私有系统中，这非常重要。我认为最终我们会走向这样一个世界：智能体的使用实际上有助于改进整个系统，无论是直接反馈到模型训练中，还是创建更多上下文信息反馈到个人助理中。这有点像 Hermes Agent 背后的理念——你的助理会根据你使用它的方式不断学习，变得越来越智能。随着我们围绕模型本身构建基础设施，学习过程会呈现出不同的层次。AI 系统不仅仅是一个模型，我认为人们现在正在意识到这一点。
李飞飞 02:16:51
好的，那么我的下一个问题是：从我们目前所处的位置，到"智能体无处不在"的未来——假设我们展望两三年后，企业工作流程中大部分工作都将由智能体完成——我们与目标之间的差距是什么？我们需要做些什么才能从现在过渡到那个目标？您对此有何看法？
Mark 02:17:17
以我们目前的发展速度，三年后的未来感觉就像一百年那么漫长，因为各种因素都在叠加、加速发展。但我认为，很多事情都将围绕着一个核心展开——微软的 Satya 最近也谈到了这一点——那就是公司或企业的未来究竟是什么？这实际上是在思考知识型工作的本质：公司的核心价值、目标或功能是什么，以及其中哪些部分可以被智能体替代。
我们必须思考的是：实际成果在哪里？公司需要考虑能够交付什么成果，因为客户最终为成果付费。你们之前邀请的那位来自卡车运输行业的演讲嘉宾非常精彩，他着重强调了赋能不同类型的司机、强调结果导向，并试图建立一个基于实际业绩的市场。一旦有人接受了这种模式，采用率很快就能达到 70% 左右。
所以我认为这或许预示着我们未来在智能体方面的发展方向：将结果置于一切之上——这正是客户一直以来所期望的，而现在我们终于实现了这一点。某种程度上说，这需要找到一种方法，通过不同的评估框架，让各公司建立一套体系来判断哪个模型最有利于实现预期结果。我认为这会推动技术的发展。
李飞飞 02:19:19
从市场角度来看，我认同您的观点。纵观整个 SaaS 行业，企业购买软件服务是按结果付费订阅，而不是按资源消耗量——CPU 周期或内存使用量——来定价的。例如，使用 SAP 解决了什么具体问题，客户愿意为此支付多少，是基于业务价值来定价的。
所以我预测，我们很快就会从现在迁移到智能体服务的模式——这些智能体旨在解决特定任务和特定问题，而客户为最终结果付费。当然，其中一个非常重要的支柱是，基础设施中的推理以及整个模型加推理的实现方式，应该能够为客户和智能体带来规模经济效益，持续降低每百万 token 的成本。但归根结底，你需要这些智能体将数百万个 token 真正转化为业务价值。
Mark 02:20:39
将智能单元转化为对业务成果至关重要的行动，我认为这才是正确的方向。这样做对开源和我们所做的一切工作意味着什么？那就是优化带来的回报是巨大的。因为客户会说：我不在乎成本，我不在乎需要多少 GPU，我只想为结果付费。但总得有人为所有这些 GPU 和数据中心买单。
Mark 02:21:09
最近有一个很好的例子，是关于 DeepSeek 推理的软件优化工作：六个月内，token 成本降低了 60%。根据一项已发表的案例研究，在完全相同的硬件上实现了近三倍的吞吐量——硬件没有改变，但吞吐量却提高了三倍，完全归功于软件优化。这意味着我们所做的工作具有很高的经济价值，因为如果我们能够通过共同努力提高推理效率、实现如此巨大的飞跃，最终客户将会受益匪浅。
李飞飞 02:21:54
经济飞轮会以此为动力继续运转，我们会不断加大投资，并持续优化基础设施各层面的技术栈。
李飞飞 02:22:06
好的。为了节省时间，我想问最后一个问题：您对 PyTorch 基金会目前正在进行的活动有什么介绍？在智能体领域，有哪些非常受欢迎或即将举办的开源项目或活动值得我们关注？
Mark 02:22:30
从基金会的角度来看，PyTorch 基金会确实越来越关注我们如何训练模型、如何使用工具，以及智能体正在突破的极限。
Mark 02:22:51
此外，我们最近还成立了 Agentic AI 基金会，就在几个月前。接下来我们有很多活动：九月初，我们将在上海举办 PyTorch Con，之后还会举办一场 Agent Con；十月份，我们还将在加州圣何塞举办另一场活动，这是 PyTorch 的年度大型峰会，紧接着也会举办一场 Agent Con。
Mark 02:23:23
很明显，MCP 是关键的推动因素，它在过去一年左右的时间里迅速发展，从零到百，极大地激发了人们对 Agentic AI 技术栈的兴趣，尤其是在协议层面。
Mark 02:23:42
我们基金会正在努力通过各种活动将大家聚集在一起。我非常期待九月份能再次来到上海参加我们的大型活动，希望在座的各位都能参与其中。
李飞飞 02:24:07
非常感谢 Mark 分享这些信息。从阿里云的角度来看，我们一定会认真研究您提到的 Agentic AI 基金会，并非常乐意与你们在这个基金会上展开合作。今天到场或在线参加会议的朋友们，请记住 Mark 刚才分享的信息。
李飞飞 02:24:22
九月份在上海，PyTorch Con 和 Agent Con 将会同期举办。我们九月初将回到上海，敬请期待。非常感谢 Mark 抽出时间，我相信现场和线上的观众都能从这次对话中学到很多。期待 PyTorch 基金会、Agentic AI 基金会与阿里云之间建立起非常牢固的合作关系。非常感谢！
主持人 02:24:57
感谢李飞飞博士，感谢 Mark Collier 先生，感谢每一位嘉宾的分享，感谢在座各位的聆听！ Agentic Cloud 智能体时代的基础设施论坛到此圆满结束！阿里云在本届世界人工智能大会上还将有更多精彩内容，欢迎关注！我们在上海世博展览馆 H1 馆 C101 展位打造了沉浸式体验区，欢迎各位参观！再会！