网易首页 > 网易号 > 正文 申请入驻

【前沿未来培训】《AI算力基础设施与模型部署》

0
分享至

【前沿未来培训】《AI算力基础设施与模型部署》



一、算力底座:AI芯片的架构原理与选型逻辑

1.1 AI计算的核心硬件:从CPU到专用加速器

1.1.1 为什么通用CPU难以满足大模型算力需求——并行计算与内存带宽瓶颈

1.1.2 AI芯片主流架构概览:GPU、ASIC、FPGA、NPU的技术分野

1.1.3 Scaling Law与Chinchilla Law对算力需求的指数级驱动逻辑

1.2 国内AI算力芯片三大技术路线对比

1.2.1 推理专用SRAM架构:片上存储、低延迟优势与适用场景(曲速科技为代表)

1.2.2 全栈自研架构:端到端自主可控、训推全场景(华为昇腾为代表)

1.2.3 通用GPGPU架构:生态兼容性与训推兼顾(寒武纪、海光信息为代表)

1.3 运营商视角的芯片选型考量

1.3.1 训练 vs 推理场景的芯片需求差异——算力密度、显存带宽与能效比

1.3.2 国产化要求与供应链安全对选型决策的影响

1.3.3 万卡集群场景下的芯片协同与异构计算挑战

二、智算中心:架构设计与运营商实践

2.1 智算中心与传统数据中心的本质差异

2.1.1 从“通用算力资源池”到“AI专用算力集群”的架构跃迁

2.1.2 大模型训练对算力密度、网络带宽、存储性能的刚性需求

2.1.3 运营商智算集群布局的独特优势:网络资源+机房资源+属地化服务

2.2 智算中心核心架构组件

2.2.1 计算层:AI服务器选型与GPU/NPU集群设计

2.2.2 网络层:高速互联组网方案与无损网络技术

2.2.3 存储层:分级存储架构与PB级数据吞吐能力

2.3 运营商智算中心建设实践

2.3.1 中国移动(哈尔滨)算力中心:1.8万架机架、100%国产AI芯片、天池SDN与GSE自主组网

2.3.2 芜湖智算集群:全国首个“五算合一”调度平台、6.4万P智算规模与“三券联动”模式

2.3.3 三大运营商智算布局比较:算力规模、组网方案与商业模式差异

三、模型部署:云边端协同与工程实践

3.1 云边端协同部署架构

3.1.1 云侧:大规模模型训练与重推理——集中化算力池与弹性伸缩

3.1.2 边侧:低时延响应与数据本地化——边缘节点部署与自治服务

3.1.3 端侧:轻量化推理与功耗约束——模型压缩与芯片级优化

3.2 关键技术实践

3.2.1 PD分离架构:Prefill与Decode任务分离部署,提升推理效率

3.2.2 长距跨DC分布式推理:百公里级拉远场景下保持SLA的工程方案

3.2.3 云原生与容器化部署:K8S编排、GPU共享与任务调度

3.3 运营商特有的部署场景

3.3.1 数据不出园区的企业级推理方案——园区部署少量算力+云端弹性扩展

3.3.2 网络即算力:OTN全光网络支撑下的算力调度与协同

3.3.3 从“智算中心建设者”到“智算服务运营者”的角色升级

四、成本与选型:模型落地的经济性分析

4.1 部署模式的成本对比

4.1.1 公有云API模式 vs 开源托管服务 vs 私有化部署的经济性推演

4.1.2 不同推理规模下的TCO(总拥有成本)分析——从轻量应用到重度场景

4.1.3 Dell ESG研究结论:本地化推理经济性较公有云IaaS提升2.1~2.6倍

4.2 推理成本的关键决定因素

4.2.1 模型参数规模 vs 推理延迟 vs Token成本的三角权衡

4.2.2 硬件采购摊销、电力与能耗、专业运维人力的隐性成本

4.2.3 开源模型 vs 闭源模型的成本差异——GLM-5.2推理成本约为Claude Opus 4.8的三分之一

4.3 运营商决策框架:如何为不同场景选择最优方案

4.3.1 场景识别:面向ToC、ToB、ToG的差异化算力需求

4.3.2 决策四维度:性能要求、数据安全、成本预算、国产化合规

4.3.3 运营商的核心竞争力:算力+连接+信任的叠加优势

授课专家:北京前沿未来科技产业发展研究院院长 陆峰博士

联系电话13716300228(微信同号)

(信息来源:北京前沿未来科技产业发展研究院)

北京前沿未来科技产业发展研究院

【重磅推荐】《前沿未来科技产业发展 : 前沿与基础》(人民出版社,2026年6月)







特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
11月22日,人社部与财政部有公布2026年,调整养老金的通知吗?

11月22日,人社部与财政部有公布2026年,调整养老金的通知吗?

小谈食刻美食
2026-11-22 20:02:38
炸锅!俄军缴获乌军无人机!拆开一看,根本不是美国星链终端!

炸锅!俄军缴获乌军无人机!拆开一看,根本不是美国星链终端!

铁锤侃侃而谈
2026-11-22 10:56:14
美联储加息,突传大消息!

美联储加息,突传大消息!

魏家东
2026-11-22 14:29:08
万斯与特朗普之间的差距有多大?就这么说吧,万斯一旦上台,美国很有可能会迎来翻天覆地的变化

万斯与特朗普之间的差距有多大?就这么说吧,万斯一旦上台,美国很有可能会迎来翻天覆地的变化

千年历史老号
2026-11-20 13:13:36
周末紧急加班,救市来了!

周末紧急加班,救市来了!

贩财局
2026-11-22 19:44:04
还有隐私吗?曝部分地区光猫里藏了一串代码,专门记用户看了哪些股票

还有隐私吗?曝部分地区光猫里藏了一串代码,专门记用户看了哪些股票

可达鸭面面观
2026-11-22 09:42:31
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
中国为啥改变了特朗普?

中国为啥改变了特朗普?

虚声
2026-11-22 20:00:52
口碑彻底崩塌,亏损超2亿,年度最惨电影诞生了

口碑彻底崩塌,亏损超2亿,年度最惨电影诞生了

影视高原说
2026-11-22 08:26:11
华为芯片的训练算力,只有英伟达1/15

华为芯片的训练算力,只有英伟达1/15

风向观察
2026-11-22 19:40:39
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

廖保平
2026-11-22 09:20:01
巴萨天崩开局!7分钟连丢2球,费尔明乌龙助攻,布坎南轰世界波

巴萨天崩开局!7分钟连丢2球,费尔明乌龙助攻,布坎南轰世界波

奥拜尔
2026-11-22 21:16:51
周末打虎!谢军被查(附简历)

周末打虎!谢军被查(附简历)

第一财经资讯
2026-11-22 12:36:15
鸡汤见多了,这种鸭汤第一次见!

鸡汤见多了,这种鸭汤第一次见!

廖保平
2026-11-22 09:17:54
倒计时!U17国足vs摩洛哥生死战,中国队变阵,或押宝一人 冲平局

倒计时!U17国足vs摩洛哥生死战,中国队变阵,或押宝一人 冲平局

大秦壁虎白话体育
2026-11-22 19:06:44
特朗普:预计所有主要世界领导人将出席下个月在美举行的G20峰会

特朗普:预计所有主要世界领导人将出席下个月在美举行的G20峰会

天气观察站
2026-11-22 14:39:12
慌啥子嘛,越来越不对劲了

慌啥子嘛,越来越不对劲了

大张的自留地
2026-11-21 13:02:04
外媒:特朗普要求菲律宾停止购买巴西农产品

外媒:特朗普要求菲律宾停止购买巴西农产品

参考消息
2026-11-22 16:52:05
突发!黄仁勋直接掀桌,和英伟达董事会的博弈迎来最激烈一刻

突发!黄仁勋直接掀桌,和英伟达董事会的博弈迎来最激烈一刻

秋风妃
2026-11-22 14:54:09
2026-11-22 22:52:49
陆峰博士 incentive-icons
陆峰博士
新兴产业、数字化转型、企业战略和技术产业经济领域研究国内知名专家北京前沿未来科技产业发展研究院院长
696文章数 58关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

头条要闻

疑因3年前的投诉男子收到辱骂短信 公司建议报警维权

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

房产
本地
旅游
时尚
公开课

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

旅游要闻

沿G219解锁广西边境慢旅行,在明江遇见千年花山岩画

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版