北京
AI 工厂是一种新型基础设施，旨在制造实时运行且不间断的智能。在工业时代，发电厂将能源转化为电力；而在 AI 时代，AI 工厂则将能源转化为 Token——这正是推理模型、智能体以及各类智能系统的基本生产单位。
AI 工厂的经济效益由产出指标来定义：每秒生成的 Token 数量、每瓦特产出的 Token 数、单个 Token 成本，以及资源利用率和系统正常运行时间。在这种模式下，每瓦特性能直接转化为营收，而单个 Token 成本则决定了每一座 AI 工厂的经济效益。
AI 早已不再仅仅是软件，它已成为不可或缺的基础设施。
AI 工厂将超大规模的基础设施转化为源源不断的智能生产力。
AI 工厂能够在响应数十亿次请求的同时，同步调度海量计算资源。这些工厂由软件进行编排，内部运行着不间断工作的自主多智能体系统，全天候生产智能。这些智能体系统结合性能顶尖的 AI 模型（比如 NVIDIA Nemotron 等专有模型及开放模型）进行推理与规划。此外，开放模型能针对企业的特定领域需求进行定制、优化并安全部署——而这一切，都在 AI 工厂内一站式完成。
如今已投入实际生产的 AI 工厂，已在整个技术栈上实现了全面优化——涵盖模型、计算、网络、内存、软件、存储、电力和冷却等各个环节，以确保智能的持续输出。
在 AI 计算领域，每瓦特性能已然成为衡量 AI 工厂竞争力的终极标准。过去，数据中心用于存储文件；如今，AI 工厂则用于生产 Token。对于 AI 提供商而言，这一产出直接决定了其营收；对于企业用户而言，单个 Token 成本则决定了他们能否实现 AI 的规模化盈利。
SemiAnalysis InferenceX 基准测试，用现实应用的指标量化了这一转变。NVIDIA Blackwell Ultra GPU 能够实现目前最低的单个 Token 成本，使得 AI 工厂能够在相同的功耗范围内，以更低的单位成本产出更多的智能。每瓦特产出更多的 Token，意味着在同等的基础设施成本、空间或功耗下，能够获得更高的吞吐量。而更低的单个 Token 成本，则显著改善了大规模推理的经济效益。
基于 NVIDIA Blackwell Ultra 构建的 AI 工厂，每兆瓦的吞吐量提升了高达 50 倍，从而将单个 Token 成本降低至 1/35——在规模化应用中完美平衡了性能、响应速度和能效。NVIDIA Dynamo 框架则有助于编排长上下文推理和海量推理吞吐量，确保在工作负载日益交互化和复杂化的情况下，依然能保持极高的资源利用率。两者结合，充分展现了如今衡量 AI 工厂性能的新标准：即一座工厂能够以多高的效率实时产出智能。
NVIDIA Vera Rubin 平台进一步推高了这条性能曲线。随着推理和智能体 AI 的规模不断扩大，基于 Vera Rubin 的系统旨在通过 LPX 技术，将每瓦特性能最高提升 35 倍，并凭借更深层次的全栈优化进一步降低 Token 成本。其最终成果，就是在工厂层面实现更加高效的智能生产。
AI 工厂可以从小规模起步，支持单一的业务部门或特定工作负载；也可以从零开始进行整体构建，以支持超大规模的高性能 AI 推理与训练。NVIDIA DSX 参考设计将设计、仿真、运营以及生态系统技术进行了统一整合，旨在以最低的每兆瓦 Token 成本来构建十亿瓦级的超大型 AI 工厂。
构建这种十亿瓦级的 AI 工厂，需要的远不止是优化后的计算能力。它还需要一个共享的数字环境，以便在动工建设之前，将设施设计、硬件系统、电力、冷却和运营等环节进行联合建模，并在部署后持续进行优化。NVIDIA Omniverse DSX Blueprint 通过连接设施、硬件和软件的数字孪生技术来支持这一工作流。它利用 Omniverse、OpenUSD 和 SimReady 资产，帮助合作伙伴验证设计方案，并在 AI 工厂的整个生命周期内优化运营。
以上为摘要内容，点击链接阅读完整内容：AI 工厂：智能时代的新型基础设施 | NVIDIA 英伟达博客
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
