![]()
据投融湾获悉,近日,杭州微珩启元科技有限公司(下文简称:微珩科技)成功完成新一轮融资。本轮融资的投资方有TCL创投、翌马资本、华樟基金等。
微珩科技创立于2025年1月,公司总部位于浙江省杭州市上城区。微珩科技的核心定位是做一款专门用来本地跑大模型推理的专用芯片,行业叫LPU,也就是语言处理单元。它不是用来训练大模型的芯片,只负责推理,也就是接收提问、输出回答,主打低功耗、高带宽内存,解决大模型在边缘设备、本地AI盒子、小型服务器上运行时,内存读取速度跟不上计算速度的瓶颈问题。
创始人李炳博
微珩科技的创始人是李炳博,Nano Labs核心芯片研发骨干,长期从事高性能计算芯片、3D堆叠芯片、存算相关集成电路架构研发工作,拥有多年芯片前端设计、芯片验证、知识产权研发经验。2025年,创立微珩科技,负责公司整体技术路线、芯片架构规划、项目管理以及客户对接,主导Pre-A轮融资工作,统筹LPU芯片研发与软件栈开发。
3D AI端侧推理LPU芯片
微珩科技的核心产品是3D AI端侧推理LPU芯片,搭配完整AI软件栈。普通GPU虽然既能训练模型,又能做推理,功能很全面,但功耗高,价格贵,放在本地小设备里面成本太高。而LPU芯片只做推理这件事,针对大语言模型做了架构优化,搭配3D堆叠内存,把计算单元和内存叠在一起,读取大模型参数的速度更快,耗电更少。
![]()
四大核心技术
微珩科技拥有四大核心技术,其中,3D堆叠异构内存架构,就是把内存芯片和计算芯片垂直叠在一起,中间用极细金属互联。好处是读取数据速度变快,功耗下降,解决大模型推理最大瓶颈“内存墙”。面向大模型推理的LPU芯片架构设计不是为训练设计,硬件计算单元专门针对大语言模型里面大量的矩阵向量运算优化,去掉了训练需要的多余硬件电路。
存算协同调度与算子优化技术,自研阵列调度算法,实时管理内存和计算单元,减少数据反复搬运。同时开发适配大模型的硬件算子库,把大模型常用计算操作固化到硬件,提升推理速度。AI编译器与模型部署软件栈,把Pytorch等框架写出来的大模型代码,翻译成LPU芯片可以执行的指令,自动做量化、算子融合优化,压缩模型体积,提升运行速度。
市场需求增长迅速
目前,云端训练市场规模最大,但长期被海外巨头占据主导,端侧AI推理芯片是高速增长的细分赛道。随着大模型应用下沉,很多行业场景出于数据安全、网络限制、响应延迟要求,需要本地部署大模型,带动边缘、端侧推理芯片需求增长。国内边缘AI芯片整体市场规模持续增长,其中支持大语言模型的端侧推理芯片属于增量市场。
作为一家专注大模型端侧推理芯片研发的集成电路设计企业,未来,微珩科技将完成商业化验证,实现芯片规模化出货,在国产边缘AI推理芯片市场站稳脚跟。
![]()
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.